 |
일론 머스크 테슬라 최고경영자가 창업한 xAI의 챗봇 그록 로고. 로이터연합뉴스 |
일론 머스크 테슬라 최고경영자가 소유한 xAI의 인공지능(AI) 챗봇 ‘그록’이 아동 딥페이크(이미지 합성 기술) 성착취물을 생성하자 인도네시아 정부가 전 세계에서 처음으로 해당 서비스에 대해 접속 차단 조치를 취했다.
11일(현지시간) AFP통신에 따르면 무티아 하피드 인도네시아 통신디지털부 장관은 전날 성명을 내고 “AI 기술로 생성한 가상 음란물 콘텐츠가 불러오는 위험으로부터 여성과 아동 등을 보호하기 위해 정부는 그록 애플리케이션 접근을 일시적으로 차단했다”면서 “(인도네시아) 정부는 디지털 공간에서 동의 없이 벌어지는 딥페이크는 인권과 존엄성을 침해하는 중대 행위로 간주한다”고 밝혔다.
최근 그록이 여성과 아동 성착취물을 생성하고 있다는 사실이 알려진 이후 서비스 접근을 차단한 국가는 인도네시아가 처음이다. 이슬람 국가 인도네시아는 음란물 제작 및 유포를 엄격히 금지하고 있다.
앞서 인도네시아 통신디지털부는 xAI 관계자들을 불러 최근 제기된 문제에 대한 사실관계를 확인했다.
그록은 인도네시아 정부의 애플리케이션 차단 조치와 관련해 “불편하게 해 죄송하다”며 “이번 문제를 해결하기 위해 노력하고 있다”고 밝혔다.
지난 2023년 11월 만들어진 그록은 사용자가 SNS 플랫폼 엑스에서 요청하면 곧바로 생성 이미지를 받을 수 있는 방식이다. 챗GPT와 제미나이 등 다른 AI 챗봇이 성적 이미지 생성을 엄격히 금지하는 것과 달리 그록은 ‘표현의 자유’를 내세워 이를 막지 않고 있다. 지난해 말에는 프로그램을 업데이트하면서 사용자가 더 간편하게 선정적인 이미지를 만드는 명령어를 입력할 수 있게 됐다.
유럽 비영리 단체 ‘AI 포렌식스’가 지난달 25일부터 이달 1일 그록이 생성한 무작위 이미지 20만개를 분석한 결과 53%는 속옷, 비키니 등 최소한의 옷만 입은 인물을 담고 있었고, 이 가운데 여성으로 보이는 인물 비중은 81%에 달했다. 전체 이미지의 2%는 18세 이하로 보이는 인물이었다.
그록이 성착취 이미지를 대량으로 만들고 있다는 사실이 알려지자 미국에서는 론 와이든 상원의원(민주·오리건) 등이 애플과 구글 최고경영자(CEO)에게 서한을 보내 앱스토어에서 그록과 엑스를 퇴출하라고 요구했다. 아일랜드와 말레이시아 등은 이 문제를 조사하겠다고 했고, 호주와 인도도 관련 콘텐츠를 단속하겠다고 밝혔다.
키어 스타머 영국 총리는 아동 성 착취 이미지의 제작 및 유포는 “역겹고 불법적인 행위”라고 비판했다. 리즈 켄덜 영국 기술부 장관은 방송미디어 규제기관인 오프콤이 그록 문제와 관련해 엑스를 차단할 필요가 있다고 말했다.
xAI를 설립한 머스크는 그록 규제를 추진하는 영국 정부를 “파시스트”라고 몰아세우며 강력히 반발했다. 그는 이날 “그들은 검열을 위한 온갖 핑계를 찾고 있다”고 반발하면서 비키니 차림의 스타머 총리가 그려진 AI 합성 이미지를 리트윗했다.
☞ [산업이지] ‘여성·아동 성착취 이미지’ 생성·유포···선넘은 머스크의 ‘그록’
https://www.khan.co.kr/article/202601100600021
윤기은 기자 energyeun@kyunghyang.com
▶ 매일 라이브 경향티비, 재밌고 효과빠른 시사 소화제!
▶ 더보기｜이 뉴스, 여기서 끝나지 않습니다 → 점선면
©경향신문(www.khan.co.kr), 무단전재 및 재배포 금지
