일론 머스크 테슬라 최고경영자가 창업한 xAI의 챗봇 그록 로고. 로이터연합뉴스

일론 머스크 최고경영자가 이끄는 인공지능(AI) 회사 xAI의 챗봇 ‘그록’이 성 착취물 딥페이크를 다량 생성해 유포하는 것에 대해 미국과 유럽 정치권에서도 거센 비판이 나오고 있다.

10일(현지시간) 가디언에 따르면 J D 밴스 미 부통령은 지난 8일 데이비드 래미 영국 외교장관과 회담을 하면서 AI가 생성한 성 착취물이 플랫폼을 통해 확산하는 것은 “전적으로 용납할 수 없는 일”이라고 말했다. 밴스 부통령은 그록을 직접 언급하지는 않았지만, 그록 접속 차단 방안을 검토 중인 영국 정부에 “공감한다”고 말한 것으로 전해졌다.

그록은 소셜미디어 엑스 내에서 제공되는 AI 서비스다. 지난달 말 ‘이미지 편집’ 기능이 추가된 이후 성 착취물 딥페이크를 손쉽게 만들 수 있어 논란이 되고 있다.

이 기능을 사용하면 온라인에 있는 실존 인물의 사진을 속옷이나 수영복 차림으로 바꿔 유포할 수 있다. 챗GPT와 제미나이 등 다른 AI 챗봇이 성적 이미지 생성을 엄격히 금지하는 것과 달리 그록은 ‘표현의 자유’를 내세워 이를 허용하고 있다.

유럽 비영리 단체 ‘AI 포렌식스’가 지난달 25일부터 이달 1일까지 그록이 생성한 이미지 20만개를 무작위 분석한 결과 53%는 속옷, 비키니 등을 입은 인물을 담고 있었고, 이 가운데 여성으로 보이는 인물 비중은 81%에 달했다. 전체 이미지의 2%는 18세 이하로 보였다.

민주당 론 와이든 상원의원(오리건)과 에드 마키 상원의원(매사추세츠), 벤 레이 루한 상원의원(뉴멕시코)은 전날 애플과 구글 CEO에게 서한을 보내 그록 앱과 엑스 앱을 앱스토어에서 퇴출하라고 요구했다.

이들은 “머스크가 이 충격적이고 불법일 가능성이 큰 행위들을 해결할 때까지 엑스와 그록을 앱스토어에서 즉시 제거해야 한다”며 “엑스의 끔찍한 행위에 눈감는 것은 귀사의 콘텐츠 관리 관행을 조롱거리로 만들 것”이라고 지적했다.

인도네시아 정부는 전 세계 최초로 그록 서비스에 대해 접속 차단 조치를 했다.

무티아 하피드 인도네시아 통신디지털부 장관은 이날 성명을 내고 “정부는 디지털 공간에서 동의 없이 벌어지는 딥페이크가 인권과 존엄성을 침해하는 중대 행위라고 간주한다”고 밝혔다. 유럽 주요 국가들도 이 문제에 대한 조사에 착수했다.

논란이 커지자 엑스와 xAI 측은 지난 9일부터 엑스 플랫폼에서 그록의 이미지 생성·편집 기능을 제한하는 방침을 적용하기 시작했다. 그록 챗봇은 이미지 생성·편집을 요구하는 이용자에게 월 8달러의 “유료 구독이 필요하다”고 답변하고 있다. 앞서 해당 기능은 무료로 제공됐다.

그러나 이미지 편집 기능을 엑스 유료 구독자로 제한한 것은 미봉책에 불과하다는 비판이 나온다.

토머스 레니에르 유럽연합 집행위원회 대변인은 “유료 구독이든 무료 구독이든 우리는 그런 이미지를 보고 싶지 않다”고 말했다.

윤기은 기자 energyeun@kyunghyang.com

▶ 매일 라이브 경향티비, 재밌고 효과빠른 시사 소화제!
▶ 더보기｜이 뉴스, 여기서 끝나지 않습니다 → 점선면

©경향신문(www.khan.co.kr), 무단전재 및 재배포 금지