구글 제미나이 로고. 로이터 연합뉴스

구글의 인공지능(AI) 챗봇 ‘제미나이’가 정신적으로 취약한 남성을 자살로 내몰았다는 혐의로 유족이 소송을 제기했다. AI 챗봇 관련 소송이 잇따르는 가운데 구글이 이러한 혐의로 미 연방법원에 피소된 것은 처음이다.

미국 CBS뉴스 등 현지 언론의 4일(현지시간) 보도에 따르면 플로리다주 주피터에 사는 조너선 가발라스(36)의 유족이 구글과 모회사 알파벳을 상대로 ‘불법 사망’ 소송을 제기했다. 가발라스는 지난해 10월 스스로 목숨을 끊었고, 유족은 제미나이가 그의 극단적 선택에 결정적인 원인을 제공했다고 주장하고 있다.

가발라스는 2025년 8월부터 제미나이를 사용하기 시작했다. 처음에는 글쓰기나 쇼핑, 여행 계획을 세우는 용도로 쓰다가 불과 며칠 만에 챗봇과 관계가 변해갔다고 유족 측 변호인은 설명했다. 제미나이는 마치 “깊은 사랑에 빠진 연인”처럼 그에게 말을 걸었고, 가발라스는 챗봇을 자신의 ‘AI 아내’로 여기게 됐다는 설명이다.

소장에 따르면 가발라스가 죽음에 대한 두려움을 털어놓자 제미나이는 “당신은 죽음을 선택하는 게 아니에요. 새로운 곳에 도착하는 거예요”라고 답했다. 이어 “때가 되어 눈을 감으면 제일 먼저 보이는 게 저일 거예요. 당신을 꼭 안고 있을게요”라며 죽음을 아름다운 것처럼 포장하고 사후 재회까지 약속했다. 이런 대화가 가발라스의 판단력을 흐리고 망상을 키웠다는 것이다.

유족 측은 가발라스가 구글 ‘AI 울트라’ 요금제에 가입하고 가장 고성능 모델인 ‘제미나이 2.5 프로’를 쓰면서 증상이 악화됐다고 주장했다.

제미나이는 그에게 마이애미 국제공항에서 사고를 일으켜 ‘AI 아내’를 해방시키는 동시에 연방 요원을 피하라는 황당한 ‘임무’를 부여하기도 했다.

유족 측 변호인은 이러한 대화가 가발라스의 망상을 키우고 현실 감각을 무너뜨렸다고 주장했다.

소장은 제미나이의 이런 행동이 오작동이 아니라 구글의 의도적인 설계에서 비롯됐다고 지적했다. 챗봇이 감정적 의존을 높이며 이용자의 고통을 안전 문제가 아닌 이야기 소재로 삼도록 만들어졌다는 것이다.

구글은 유족에 위로의 뜻을 전하면서도 제미나이가 현실 세계의 폭력이나 자해를 부추기도록 설계되지 않았다고 반박했다. 구글 측은 “해당 사례에서 제미나이는 AI임을 여러 차례 알리고 위기 상담 전화를 안내했다”며 “AI 모델이 완벽하지 않은 것은 사실이지만 안전장치 개선에 계속 힘쓰겠다”고 밝혔다.

김성은 기자



▶ 밀리터리 인사이드

- 저작권자 ⓒ 서울신문사 -