중국 공산당원이 미국산 인공지능(AI)을 사용하는 AI 생성 이미지

챗GPT 개발사인 미국 오픈AI가 자사의 인공지능(AI) 서비스를 반중 인물을 억압하는 데 사용한 중국 사법 당국자의 계정을 금지했다고 밝혔다.

이 당국자가 챗GPT를 이용해 탄압을 시도한 반중 인물에는 다카이치 사나에 일본 총리도 포함됐다.

오픈AI는 25일(현지시간) 발표한 보고서를 통해 중국 사법 당국과 연관된 중국인이 챗GPT를 사용하여 소위 ‘사이버 특수 작전’을 수행했다고 발표했다.

보고서에 따르면 중국 사법 당국은 수백 명의 인력과 수천 개의 가짜 계정, AI 모델을 활용하여 전 세계적으로 온·오프라인에서 반중 의견을 억압하는 전략을 실행한 것으로 나타났다.

해당 당국자는 챗GPT를 일기처럼 사용하여 은밀한 탄압 공작을 기록했다.

한 사례에서는 중국 운영자들이 미국 이민국 직원으로 위장해 미국에 거주하는 중국 반체제 인사에게 그의 공개 발언이 불법이라고 경고했다.

또 다른 사례에서는 미국 지방 법원의 위조 문서를 사용하여 중국 반체제 인사의 소셜 미디어 계정을 삭제하려고 시도했다.

그는 챗GPT를 이용해 반중 인사의 가짜 부고와 묘비 사진을 만들어 사망을 조작하려 하기도 했다.

이는 실제로 실행되어 2023년 미국의 소리(VOA) 중국어판 기사에 따르면 해당 반체제 인사의 사망설이 온라인에 유포됐다.

챗GPT를 이용해 다카이치 총리의 취임을 앞두고 그를 깎아내리기 위한 다단계 계획도 세워졌다.

다카이치 총리에 대한 악성 여론을 형성하기 위해 미국이 일본 상품에 부과하는 관세에 대한 온라인상의 분노를 부추기라는 내용이 주어졌다. 오픈AI에 따르면 챗GPT는 이 요청에 응답하지 않았다.

지난해 10월 말 다카이치 총리가 취임한 이후 일본의 그래픽 아티스트들이 많이 이용하는 포럼에서 그를 비난하고 미국의 관세에 불만을 표하는 해시태그가 실제로 등장했다.

다카이치 총리는 대만 문제에 무력 개입할 수 있다는 가능성을 시사해 중국의 격렬한 반발을 사고 있다.

벤 님모 오픈AI 수석 연구원은 이러한 사례에 대해 “중국의 현대적인 초국가적 탄압”이라며 “단순히 악성 댓글에 그치는 것이 아니라 산업화된 형태로 중국 공산당 비판자들을 모든 수단을 동원해 모든 곳에서 동시에 공격하려는 시도”라고 설명했다.

윤창수 전문기자



▶ 밀리터리 인사이드

- 저작권자 ⓒ 서울신문사 -