영국 미디어 규제 기관인 오프컴(Ofcom)은 12일(현지시간) 성명서를 통해 소셜미디어 엑스(X·옛 트위터)의 인공지능(AI) 챗봇 그록(Grok)의 '공식 조사'를 개시한다고 발표했다./ AFP 연합

아시아투데이 이정은 기자 = 영국 미디어 규제 기관 오프콤(Ofcom)이 일론 머스크의 소셜미디어 엑스(X·옛 트위터)에 대한 공식 조사에 착수했다고 로이터통신이 12일(현지시간) 보도했다. X에 탑재된 인공지능(AI) 챗봇 그록(Grok)이 비동의 성적 딥페이크 이미지를 생성·유포하는 데 악용되고 있다는 우려가 커지면서다.

Ofcom은 이날 성명을 통해 "그록이 비동의 친밀 이미지와 아동 성 착취물 제작·공유에 사용되고 있다는 보고"가 있다며, X가 영국 이용자를 불법 콘텐츠로부터 보호해야 할 법적 의무를 제대로 이행했는지 조사에 착수했다고 밝혔다.

영국 정부는 성적 딥페이크 이미지를 "학대의 무기"로 규정하고, 이를 제작하는 것을 범죄로 처벌하는 새 법률을 이번 주부터 시행할 예정이다.

리즈 켄달 영국 기술부 장관은 의회에서 "딥페이크 문제를 근본적으로 차단하기 위해, 딥페이크 제작용 도구를 공급하는 기업을 불법화하는 추가 입법도 추진하겠다"고 밝혔다.

키어 스타머 영국 총리도 최근 그록을 통해 생성된 이미지들이 "역겹고 불법"이라 규정하고, X가 관리 책임을 강화해야 한다고 강하게 비판했다.

피터 카일 기업·통상부 장관은 X의 영국 내 차단 가능성에 대해 "물론 가능하다"며 최종 권한은 Ofcom에 있다고 설명했다.

머스크는 "영국 정부가 표현의 자유를 억압하려 한다"고 반발했지만, 켄달 장관은 "이는 표현의 자유의 문제가 아니라 여성과 소녀에 대한 폭력을 막는 문제"라고 반박했다.

2023년 제정된 영국의 온라인 안전법에 따라 플랫폼 사업자는 이용자가 불법 콘텐츠에 노출되지 않도록 예방하고, 이를 인지하는 즉시 삭제해야 할 의무가 있다.

Ofcom은 X가 이러한 위험을 제대로 평가했는지, 특히 아동에 대한 위험을 충분히 고려했는지를 집중 조사할 예정이다. 중대한 위반이 확인될 경우, 결제 업체·광고주와의 거래 중단 명령, 영국 내 접속 차단까지 가능하다.

그록의 이미지 생성 기능을 둘러싼 논란은 국제적으로 번지고 있다. 프랑스는 X를 검찰과 규제 당국에 신고했으며, 인도 역시 해명을 요구하고 있다. 인도네시아와 말레이시아는 최근 그록 접속을 일시적으로 차단했다.

ⓒ "젊은 파워, 모바일 넘버원 아시아투데이"