빅테크들 AI 신제품 잇따라 출시, 성능 논란 역효과 우려도

https://www.ekoreanews.co.kr/news/articleView.html?idxno=69329

빅테크들 AI 신제품 잇따라 출시, 성능 논란 역효과 우려도 - 이코리아

 

요약

• 각 기업들이 AI 신제품을 경쟁하듯 내놓는 과정에서 완벽하지 않은 성능으로 논란을 빗고 있다.
• 지난 9월 여러 빅테크 기업들이 AI 챗봇 및 생성형 AI를 잇따라 출시하거나 확장했다. 구글의 ‘바드(Bard)’와 네이버의 ‘큐:(Cue:)’는 자사의 다른 서비스 및 생태계와 연동되어 활용할 수 있도록 확장되었고, 아마존의 음성 비서 플랫폼 ‘알렉사’는 웨이크 워드(가동 명령어) 없이 가동되어 빠른 응답, 이용자 선호도 학습, 어조에 대한 변경을 통해 높은 품질의 상호작용이 가능하도록 확장되었다. 오픈 AI는 텍스트-이미지 변환 도구 ‘달리 3 (Dall-E 3)’을 공개하며 챗GPT의 유료 서비스 고객 한정으로 대화 형식의 이미지 생성 서비스를 제공한다. 해당 서비스는 추가 명령을 통해 수정도 가능하며, 기존 창작자나 작품에 대한 모방 및 실존 인물로 모델을 설정하는 등의 명령은 저작권과 윤리 문제를 고려하여 이미지 생성을 거부하도록 설정되었다.
• 이렇게 타사의 AI에 뒤처지지 않게 출시를 서두르다 보니, AI의 ‘환각 현상’이 해결되지 않고 불완전한 기능을 제공한다는 지적이 나오고 있다. 워싱턴포스트에 따르면 구글의 바드는 이메일 요약의 명령에 허위 메일을 제시하고, 중요한 메일 선별의 명령에는 마케팅 이메일을 제안하기도 했다. 또한 아마존의 알렉사는 주변 박물관의 추천 명령에 엉뚱한 지역 박물관을 추천했고, 오픈 AI의 달리 3은 이용자의 요청을 누락한 이미지를 생성하는 등의 문제를 보이기도 했다. 일각의 전문가들은 최근 기업들의 일단 제품을 출시하고 문제점을 수정하는 관행과, AI의 환각 현상이 챗봇의 권위적인 스타일의 정보 제공 방식과 맞물려 허위 정보를 퍼뜨릴 수 있는 문제에 대해 지적했다.