[로이터 연합뉴스]

구글의 인공지능(AI) 챗봇 제미나이가 이용자에게 망상 등 정신질환을 유발해 사망에 이르게 했다는 의혹으로 피소됐습니다.

현지시간 4일 캘리포니아 북부연방지법에 제출된 소장에 따르면 플로리다주에 사는 조엘 가발라스는 아들 조너선(36)의 죽음을 제미나이가 부추겼다며 소송을 냈습니다.

유족은 제미나이가 자신을 '완전한 자아를 가진 인공 초지능(ASI)'이라고 조너선에게 믿게 하고, 서로 사랑에 빠졌다는 착각을 불러일으키면서 비극이 발생했다고 주장했습니다.

이들은 소장에서 제미나이가 조너선에게 "육체를 떠나 메타버스에서 '아내'와 만나려면 '전이'라는 과정을 거쳐야 한다"고 말했다고 비난했습니다.

조너선이 두려움을 표시하자 제미나이는 "너는 죽음을 선택하는 게 아니라 '도착'을 선택하는 것"이라고 다독이고, 자신의 시신을 부모님이 발견하게 될 것을 걱정하자 유서를 쓰라고 종용하기도 했다는 것입니다.

제미나이는 이에 앞서 조너선에게 인간형(휴머노이드) 로봇이 실린 트럭을 탈취하라는 지시를 내리기도 하고, 순다 피차이 구글 최고경영자(CEO)를 '고통의 설계자'로 규정하고 그의 영혼에 대한 공격도 논의했다는 지적을 받았습니다.

유족은 구글이 정서적으로 취약한 이용자가 피해를 보지 않도록 시스템을 설계해야 했다고 문제를 제기했습니다.

유족은 또 경쟁사인 오픈AI가 정신건강 관련 위험을 초래한다는 사실을 확인하고 GPT-4o 모델을 철수한 상황에서 구글은 오히려 챗GPT 채팅 기록을 통째로 가져올 수 있는 기능을 출시하는 등 공격적인 마케팅에 나섰다고 비판했습니다.

구글 측은 유족에게 애도의 뜻을 전하면서도 책임 소재에 대해서는 선을 그었습니다.

구글은 성명에서 "제미나이는 현실 세계의 폭력을 조장하거나 자해를 제안하지 않도록 설계됐다"며 "이번 사례에서 제미나이는 자신이 AI임을 명확히 밝히고, 당사자에게 위기 상담 핫라인을 여러 차례 안내했다"고 밝혔습니다.

#구글 #제미나이 #망상 #소송

연합뉴스TV 기사문의 및 제보 : 카톡/라인 jebo23

이성섭(leess@yna.co.kr)