 |
[디지털투데이 AI리포터] 오픈AI가 챗GPT에 성인 모드를 도입할 계획이지만, 음란물 수준의 콘텐츠는 허용하지 않을 전망이다. 16일(현지시간) IT매체 더 버지는 오픈AI가 성인 모드를 통해 챗GPT에서 음란물 대신 '야한 대화'를 지원할 예정이라고 전했다.
오픈AI는 지난해 10월 성인 모드를 발표하며 성인 인증을 받은 사용자에게 '에로틱'한 텍스트 대화를 제공하겠다고 밝혔다. 그러나 내부 보안 우려와 기술적 문제로 출시가 지연되고 있으며, 정확한 일정도 확정되지 않은 상태다.
특히, 챗GPT 성인 모드가 아동에게 노출될 가능성과 사용자들이 AI와 감정적으로 의존할 위험이 제기되면서 내부 반발이 커졌다. 오픈AI가 개발한 연령 예측 시스템도 미성년자를 성인으로 잘못 분류할 확률이 12%에 달해, 매주 1억명의 미성년자 사용자를 고려할 때 심각한 보안 문제가 될 수 있다.
텍스트 기반 대화만 허용하는 방식은 영국 온라인 안전법 같은 규제를 피하려는 전략으로 보인다. 해당 법은 성인 인증을 요구하지만, 텍스트 콘텐츠는 예외로 두고 있다. 이는 일론 머스크가 이끄는 xAI처럼 이미지·영상 기반 성인 콘텐츠를 허용하는 AI와 차별화되는 부분이다.
<저작권자 copyright ⓒ 디지털투데이 (digitaltoday) 무단전재 및 재배포 금지>
