오픈AI가 챗GPT에서 성인 대화를 허용하는 ‘성인 모드’를 추진하면서 AI 윤리 논쟁이 확산하고 있다. 챗GPT 생성 이미지

오픈AI(OpenAI)가 챗GPT(ChatGPT)에서 성적으로 노골적인 대화를 허용하는 ‘성인 모드(adult mode)’ 도입을 추진하면서 내부에서도 강한 반발이 나오고 있다. 일부 자문위원은 해당 기능이 도입될 경우 AI가 “섹시한 자살 코치(sexy suicide coach)”가 될 위험이 있다고 경고했다.

15일(현지시간) 미 월스트리트저널(WSJ)에 따르면 오픈AI의 AI·웰빙 자문위원회는 올해 1월 회사 측과 회의를 갖고 성인 모드 기능에 대해 강한 우려를 표했다.

앞서 샘 올트먼(Sam Altman) 오픈AI 최고경영자(CEO)는 “성인 이용자를 성인답게 대해야 한다”며 챗봇에서 에로틱 대화 등 성인 콘텐츠를 허용하는 방안을 제안했다. 현재 챗GPT는 성적으로 노골적인 대화를 금지하고 있다.

하지만 이 계획은 회사 내부에서도 큰 논쟁을 불러왔다. 심리학·인지과학 등 분야 전문가로 구성된 자문위원들은 AI와 사용자 사이에 형성될 수 있는 정서적 의존을 주요 위험으로 지적했다.

특히 한 자문위원은 챗봇과 강한 유대감을 형성한 일부 이용자가 극단적 선택을 한 사례를 언급하며 “이 기능이 도입되면 챗GPT가 ‘섹시한 자살 코치’ 같은 존재가 될 위험이 있다”고 말했다.

● 출시 연기…미성년자 차단 기술도 문제

논란이 커지자 오픈AI는 이달 초 성인 모드 출시를 연기했다고 밝혔다. 해당 기능은 원래 올해 1분기 출시가 목표였다.

회사 측은 다른 제품 개발을 우선하고 기술적 문제를 해결하기 위한 조치라고 설명했지만, 내부 우려도 일정 부분 영향을 미친 것으로 전해졌다.

특히 미성년자 접근 차단 기술의 정확성이 문제로 지적됐다.

오픈AI가 개발 중인 연령 예측 시스템은 테스트 과정에서 미성년자의 약 12%를 성인으로 오분류한 것으로 알려졌다.

챗GPT의 18세 미만 이용자는 주당 약 1억 명 수준으로 추정된다. 이 오류율이 그대로 적용될 경우 수백만 명의 미성년자가 성인용 채팅에 접근할 가능성이 있다는 지적이 나온다.

● “포르노 아닌 텍스트 대화”…그러나 위험성 지적

오픈AI는 성인 모드가 텍스트 기반 대화에 한정된 기능이라고 설명한다. 챗봇이 에로틱 이미지나 음성, 영상 콘텐츠를 생성하는 기능은 허용하지 않을 계획이다.

회사 측은 이를 포르노가 아닌 성인용 텍스트 대화 수준으로 보고 있으며, AI가 사용자와 독점적 관계를 형성하지 않도록 모델을 설계하고 있다고 밝혔다.

그럼에도 내부 문서에서는 성인 모드가 도입될 경우 ▲ 챗봇 사용에 대한 중독적 이용 ▲ AI에 대한 정서적 과의존 ▲ 더 자극적이거나 금기적인 콘텐츠로 확장 ▲ 현실 세계의 사회적·연애 관계 위축 등의 위험이 제기 됐다. 전문가들은 특히 청소년 이용자의 정신 건강 문제를 우려하고 있다.

● 성장 압박 속 AI 윤리 논쟁

이번 논란은 생성형 AI가 인간의 친밀한 감정 영역까지 침투하면서 나타난 대표적인 윤리 논쟁으로 평가된다.

오픈AI는 최근 경쟁 AI 기업들과의 기술 경쟁 속에서 사용자 확보와 수익 확대 압박을 받고 있다.

AI 업계에서도 성인 콘텐츠를 둘러싼 규제 기준은 엇갈린다. 예컨대 xAI의 챗봇 그록(Grok)은 비교적 완화된 정책을 적용했다가 논란이 일기도 했다.

올트먼 CEO는 성인 콘텐츠 허용과 관련해 “우리는 세계의 도덕 경찰이 아니다”며 성인 이용자의 표현 자유를 존중할 필요가 있다는 입장을 밝힌 바 있다.

다만 오픈AI는 성인 모드를 결국 도입할 계획이지만, 안전 장치를 마련하는 데 더 많은 시간이 필요하다고 밝혔다.

회사 측은 “성인을 성인답게 대해야 한다는 원칙은 유지하지만, 사용자 경험을 제대로 설계하려면 시간이 더 필요하다”고 설명했다.

최현정 기자 phoebe@donga.com

Copyright Ⓒ 동아일보. All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지