"AI가 30년 내 인류를 멸망시킬 가능성은 10~20%" 근거는?

https://www.ekoreanews.co.kr/news/articleView.html?idxno=77122

"AI가 30년 내 인류를 멸망시킬 가능성은 10~20%" 근거는? - 이코리아

 

요약

• AI의 발전이 빠르게 진행되는 가운데 AI의 위험성에 대해 경고하는 목소리도 함께 높아지고 있다. 또한 세계 각국에서도 AI 관련 법안과 제도 마련에 속도를 내고 있다.
• 여러 전문가들은 향후 빠르게 다가올 AI의 위협으로부터 대비해야 한다고 주장하고 있다. AI 기초 연구로 2024년 노벨 물리학상을 수상한 ‘인공지능의 아버지’ 제프리 힌턴 캐나다 토론토대 교수는 향후 30년 내로 AI가 인류를 멸망시킬 가능성이 10~20%에 달한다며, AI의 발전 속도가 예상을 벗어났고 이에 통제를 벗어난 초지능(Super-intelligence)이 장기적인 실존적 위협이 될 수 있다고 주장하며 관련 서한 또한 발표했다. 포브스는 작년 12월 22일에 ‘실질적 AI 안전사고(AI Safety Incident)’ 발생 가능성 예측을 발표하며 이론적으로만 존재하던 AI 안전사고가 2025년에는 실제 발생할 수 있으며, 이는 킬러 로봇의 형태가 아닌 AI가 스스로를 복제하거나 성능 평가에서 고의적으로 과소평가하는 형태로 나타날 수 있다 설명했다. 전 openAI 임원 잭 카스는 인터뷰에서 사람들의 가상 세계 의존도가 높아져 확산되면 사회적 연결 약화, 인구 성장 둔화와 같은 문재로 이어질 수 있다고 경고하기도 했다.
• 이에 세계적으로 관련 법안 및 제도 마련에 박차를 가하는 추세이다. 한국은 지난 달 ‘인공지능 발전과 신뢰 기반 조성 등에 관한 기본법(AI 기본법)’이 국회 본의회를 통과하며 제도적 기반을 마련했고, 미국 콜로라주는 2024년 채용, 대출 심사, 주택 신청 등의 고위험 상황에서의 AI 사용 규제 법안을 통과시켰다.