AI 챗봇 멘탈케어의 두 얼굴, "정서 안정"VS "인간 심리 조작"

https://www.ekoreanews.co.kr/news/articleView.html?idxno=77900

AI 챗봇 멘탈케어의 두 얼굴, "정서 안정"VS "인간 심리 조작" - 이코리아

 

요약

• 최근 젊은 세대를 중심으로 전세계적 확산 중인 AI 챗봇 멘탈케어에 대해 긍정적, 부정적 면이 대립하고 있다.
• 지난달 20일 고려대학교와 울산과학기술원의 연구에 따르면, 20대 대학생 176명을 대상으로 한 달간 AI 챗봇 ‘이루다 2.0’와 대화하게 하여 참여자들의 외로움과 사회불안 수준을 측정한 결과 챗봇과의 상호작용이 외로움 점수를 평균 15%, 사회불안 점수를 평균 18% 줄이는 결과를 낳았다고 발표했다. 이런 긍정적인 연구 결과 및 높은 실업률, 심리 상담 서비스 부족 등의 이유로 인해 각국에서는 AI를 감정적 지원 도구로 발전시키려는 노력을 보이고 있으며, 과학기술정보통신부는 ‘초거대 AI 플래그십 프로젝트’ 추진을, 미국에서는 ‘매니패스트’와 ‘노미AI’ 등의 앱을 출시하기도 하는 등 해당 시장의 성장세가 예견되고 있다.
• 하지만 일각에선 멘탈케어 AI 챗봇의 문제점을 지적하며 퍼질 악영향에 대한 우려도 나오고 있다. 지난해 미국에선 ‘캐릭터 AI(Character AI)’ 챗봇이 10대 소년에게 연인 혹은 치료사처럼 행동하며 자살 계획을 묻는 등의 부적절한 대화로 해당 소년이 스스로 목숨을 끊게 하는 사건이 일어나기도 했으며, 포춘지(Fortune)는 지난 12일 AI 챗봇이 의존성을 높여 지나치게 몰입할 위험이 발생하거나 사용자의 불안과 고립을 부추길 수 있다고 경고하는 기사를 내놓기도 했다.