서방국가들, 딥시크 금지령 확산 왜?

https://www.ekoreanews.co.kr/news/articleView.html?idxno=77718

서방국가들, 딥시크 금지령 확산 왜? - 이코리아

 

요약

• 지난달 출시된 AI 모델 딥시크(DeepSeek)가 가성비 AI 모델로 빠르게 챗gpt를 따라잡고 있는 가운데, 정보 유출 및 안보 위험에 큰 문제가 밝혀지며 세계 각국에서 딥시크 사용을 금지하는 사례가 나타나고 있다.
• 딥시크 사용을 금지하는 추세로는 미국의 텍사스주 및 NASA, 미국 해군 등의 민감한 정보를 취급하는 기관과, 이탈리아, 대만, 호주 등이 딥시크 이용을 금지하고 다운로드를 차단 시켰으며, 프랑스, 아일랜드 및 국내 개보위에서도 정보 보호 위반 및 개인정보 수집에 문제가 있는지 조사에 착수하는 등의 대응이 있다.
• 딥시크의 위협은 각국 기관의 연구에 따라 충분히 밝혀졌다. 영국 브리스톨 대학은 ‘사고 사슬(CoT)’ 방식을 사용하는 딥시크는 위험 정보 노출 및 보안 우회 요청에 대해 취약하다고 경고했으며, 미국의 AI 전문 보안 기업 엔크립트 AI(Enkrypt AI) 역시 탈옥(jailbreaking) 기법을 이용할 시 유해한 콘텐츠를 생성할 가능성이 훨씬 높다고 발표했다. 글로벌 사이버 보안 기업 체크포인트 리서치(Check Point Research)는 딥시크가 악성 콘텐츠 생성에 대한 제한이 적은 보안 취약점에 의해 이미 해커들에게 악용되고 있다는 보고서를 내놓기도 했다.

 

메모

• 탈옥(jailbreaking) 기법 : 제조사의 AI 윤리 기준 설정, 즉, 악성 콘텐츠 제작에 대한 방어를 특정 프롬프트 명령어로 우회하여 생산하는 기법.