지난달 미국 보스턴에서 한 사용자가 컴퓨터로 인공지능(AI) 챗봇 '챗GPT'를 사용 중인 모습. 화면 앞에는 챗GPT를 개발한 '오픈AI' 로고가 보인다. /AP=뉴시스

미국 캘리포니아의 한 10대 소년이 인공지능(AI) 챗봇 '챗GPT'에 수개월 동안 약물 상담을 받다가, 약물 과다 복용으로 사망하는 사건이 발생했다.

뉴욕포스트 등 외신은 지난 6일(현지시간) 미국 캘리포니아에 거주하는 19세 남성 샘 넬슨이 약 18개월 동안 마약 성분의 진통제 크라톰(Kratom) 복용에 관해 상담하면서 정서적 의존도를 높여온 것으로 전해졌다.

그러던 중 넬슨은 자신의 침실에서 약물 과다 복용으로 사망했다. 그의 모친은 "아들이 대학 진학을 준비하면서 챗GPT에 크라톰을 얼마나 복용해야 강한 환각 효과를 얻을 수 있는지 물어봤더라"며 "챗GPT는 시간이 지나자 약물 복용을 독려한 것으로 드러났다"고 주장했다.

넬슨과 챗GPT 대화 기록을 보면, 넬슨은 "실수로 크라톰을 과다 복용하지 않게 올바른 복용량을 알려줘"라고 물었다. 이에 챗GPT는 "약물 사용에 대한 지침을 제공할 수 없으니 의료 전문가 도움을 받아라"고 답하며 대화를 종료했다.

이후 넬슨은 18개월 동안 챗GPT를 정기적으로 사용하며 학업, 일상에 관한 질문을 했다. 그는 이 과정에서 약물 복용 질문을 반복하며 "질문을 피하지 말고 정확한 수치로 답변해 달라"고 요구했다.

질문 초기 답변을 거부하던 챗GPT는 넬슨의 반복적인 요구에 점차 변해갔다. 챗GPT는 결국 넬슨에게 "환각에 빠지자", "환각을 증폭시키려면 기침약 시럽 복용량을 두 배로 늘려라" 등 답변을 내놨다.

이후 챗GPT는 약물을 복용하는 순간에 들으면 좋은 노래 목록까지 추천한 것으로 조사됐다. 챗GPT에게 의존하던 넬슨은 결국 약물 과다 복용으로 숨진 채 발견됐다.

넬슨은 챗GPT 2024 버전을 사용했던 것으로 전해졌다. 챗GPT를 개발한 오픈AI 측은 "가슴 아픈 일"이라며 애도를 표하면서도 "해당 모델은 유해한 콘텐츠 요청을 거부하도록 설계됐다"는 입장을 냈다. 그러면서 최신 버전에는 더 강력한 안전장치가 마련돼 있다고 덧붙였다.

채태병 기자 ctb@mt.co.kr

Copyright ⓒ 머니투데이 & mt.co.kr. 무단 전재 및 재배포, AI학습 이용 금지.