생각 읽는 기술 등장에 '정신적 프라이버시' 윤리 문제 부상

https://www.ekoreanews.co.kr/news/articleView.html?idxno=66780 

생각 읽는 기술 등장에 '정신적 프라이버시' 윤리 문제 부상 - 이코리아

 

요약

• 기능적 자기공명영상(fMRI)를 이용하여 뇌를 스캔, 어떤 생각을 하고 있는지를 AI로 분석할 수 있는 기술이 발전함에 따라 윤리적 문제도 함께 부상하고 있다.
• 2일 미국 텍사스대학 연구진은 원본 문장과 fMRI의 스캔 데이터를 GPT-1에 학습시키고, fMRI 측정 결과를 바탕하여 생각을 해석하는 알고리즘인 ‘시맨틱 디코더(Semantic Decoder)’를 만들었다. 의미 파악을 대부분 완벽히 해냈다.
• 지난해 8월엔 네덜란드 라드바우드 대학 연구팀이 역시 fMRI로의 스캔으로 뇌파를 사진으로 바꾸는 기술을 개발했다. 역시 참가자가 본 이미지를 거의 동일하게 재구성해냈다.
• 지난달 일본 오사카대학 연구진도 fMRI를 이용하여 뉴런의 활동을 스캔하고 이미지를 생성하는 AI 모델 ‘스테이블 디퓨전’을 개발했다.
• 이처럼 생각을 읽는 기술은 말을 할 수 없는 뇌질환, 전신 마비 환자들의 소통에 도움을 주는 장점이 있지만 의료 외의 법률 등 다른 분야의 남용과 정치적 탄압의 수단으로 악용될 수 있다는 우려가 나온다. 일례로 실험과정에서 “나는 방금 차에서 뛰어내렸다.”라는 생각을 “그녀를 차에서 밀어내야 했다.”고 해석하기도 했는데, 이는 법적에서 활용될 시에 큰 오판으로 이어질 수 있으므로 아직까지 기술이 완벽하지 않은 상태에서의 활용은 지양해야 한다는 목소리가 나온다.
• 이렇게 뇌파 추적 및 생각을 읽는 기술의 발전으로 2017년 스위스 생명의료윤리학연구소는 ‘생명과학, 사회와 정책’ 저널을 통하여 뇌를 보호할 네 가지 인권 개념을 제시했다.
  
  
  1. 인지적 자유(Cognitive Liberty)
  2. 정신적 프라이버시(Mental Privacy)
  3. 정신적 완전성(Mnetal Integrity)
  4. 심리적 연속성(Physical continuity)

메모

• 인지적 자유 : 개인의 신경 기술 사용 관련 자유로운 결정의 권리
• 정신적 프라이버시 : 개인의 동의 없는 제 3자의 뇌 데이터 침입이나 수집에 대한 보호
• 정신적 완전성 : 개인의 정신활동 과정 개입 혹은 기억 제거 등의 ‘브레인 재킹’에 대한 보호
• 심리적 연속성 : 개인의 동의 없이 제 3자에 의한 외부 변경으로부터, 개인의 정체성과 정신적 삶의 연속성에 대한 보호