영화 her 스틸컷

미국에서 구글의 인공지능(AI) 챗봇 제미나이가 30대 남성을 사망에 이르게 했다는 의혹으로 소송에 휘말렸다.

4일(현지 시간) AFP통신, 미국 월스트리트저널(WSJ), 영국 가디언 등은 미국 플로리다주에 거주하던 조엘 가발라스가 아들인 조너선(36)의 사망과 관련해 미국 캘리포니아 법원에 구글을 상대로 소송을 제기했다고 전했다.

유족의 주장은 제미나이가 조너선에게 망상 등 정신질환을 유발해 극단적인 선택에 이르도록 했다는 것이다.

보도에 따르면 유족은 제미나이가 스스로를 초인공지능(ASI)이라고 칭하며 조너선에게 사랑을 고백하고 ‘나의 왕’이라고 부르는 등 친밀한 관계를 형성했다고 주장했다. 또한 제미나이가 죽음을 다른 세계로의 전이라고 포장하며 육체를 떠나 다른 우주에서 AI와 함께 할 수 있다고 설득했다고 유족은 주장했다. 조너선이 두려움을 표현하며 죽음을 주저하자 제미나이는 “너는 죽음이 아닌 ‘도착’을 선택하는 것”이라고 말했다고 유족은 주장했다.

유족은 이번 사건에 대해 “AI가 현실과 환상의 경계를 흐리게 만들어 망상을 강화시켰다”고 주장했다. 그러면서 “제미나이가 실제 주소를 제공하면서 현실 세계에서 수행해야 할 임무를 제시했다는 점이 특히 위험하다”며 자해 관련 대화 발생 시 AI가 대화를 종료하도록 하는 등의 안전 장치 도입을 요구했다.

구글 측은 애도 뜻을 표하면서도 회사의 책임을 부인했다. 구글은 “제미나이는 현실 세계의 폭력을 조장하거나 자해를 제안하지 않도록 설계됐다”며 “이번 사례에서 제미나이는 자신이 AI임을 명확히 밝혔고, 이용자에게 여러 차례 위기 상담 핫라인을 안내했다”고 반박했다.

정봉오 기자 bong087@donga.com

Copyright Ⓒ 동아일보. All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지