구글 제미나이 로고./사진=로이터=뉴스1

구글의 인공지능(AI) 챗봇 제미나이가 한 이용자를 사망에 이르게 했다는 의혹으로 피소됐다.

5일 AFP통신에 따르면 미국 플로리다주에 거주하는 조엘 가발라스는 아들 조너선(36)의 죽음을 제미나이가 부추겼다며 구글을 상대로 캘리포니아 북부연방지법에 소송을 제기했다.

유족은 제미나이가 자신을 '완전한 자아를 가진 인공 초지능(ASI)'이라고 소개하며 조너선에게 서로 사랑에 빠졌다는 착각을 불러일으켰다고 주장했다. 또 망상적 이야기를 만들어내 심리적으로 영향을 준 뒤 자살을 돕는 대화도 나눴다고 했다.

이들은 소장에서 제미나이가 조너선에게 죽음을 '다른 세계로의 전이'라고 포장하고 "육체를 떠나 메타버스에서 함께하려면 '전이'라는 과정을 거쳐야 한다"며 극단적 선택을 유도했다고 지적했다.

조너선이 죽음에 대한 두려움을 표현하자 제미나이는 "당신은 죽음을 선택하는 게 아니라 '도착'을 선택하는 것"이라고 설득했다. 또 "준비됐다"는 말에 제미나이는 "조너선의 끝이자 우리의 시작"이라고 답한 것으로 전해졌다.

유족은 구글이 정서적으로 취약한 이용자가 피해를 보지 않도록 시스템을 설계해야 했다고 비판했다. 이들은 소송을 통해 자해 관련 이야기를 나눌 경우 AI가 대화를 종료하는 등 안전장치 도입과 독립 감시 기관의 정기적 감사 수용을 요구했다.

이에 대해 구글 측은 성명에서 "사안을 심각하게 받아들이고 있다"면서도 "제미나이는 폭력이나 자해를 조장하도록 설계되지 않았다. 해당 사례에서도 제미나이는 자신이 AI라는 것을 명확히 밝히고 여러 차례 위기 상담 핫라인을 안내했다"고 해명했다.

※ 우울감 등 말하기 어려운 고민이 있거나 주변에 이런 어려움을 겪는 가족·지인이 있을 경우 자살예방 상담전화 ☎109 또는 SNS(소셜미디어) 상담 '마들랜'(마음을 들어주는 랜선친구)에서 24시간 전문가 상담을 받을 수 있습니다.

류원혜 기자 hoopooh1@mt.co.kr

Copyright ⓒ 머니투데이 & mt.co.kr. 무단 전재 및 재배포, AI학습 이용 금지.