AI로 만들어진 가짜 인플루언서 '제시카 포스터'의 계정에 올라온 사진./X(옛 트위터)

도널드 트럼프 미국 대통령과 함께 등장해 주목받은 여군 인플루언서가 인공지능(AI)으로 만든 ‘가상 인물’로 드러났다. 실존 인물처럼 꾸며진 이 계정은 4개월 만에 팔로워 100만명 이상을 모았다. 전문가들은 이러한 AI 계정이 허위 정보 유포 등에 악용될 수 있다며 우려를 제기했다.

20일(현지 시각) 워싱턴포스트(WP), 유로뉴스 등에 따르면 ‘제시카 포스터’로 알려진 가짜 여군 인플루언서는 지난해 12월 14일 인스타그램 계정이 개설된 후 팔로워 수 100만명 이상을 기록하며 인기를 얻었다.

/X(옛 트위터)

계정에는 제시카 포스터가 제복을 입은 채 트럼프 대통령과 함께 활주로를 걷거나 셀카를 찍은 사진 등이 게시됐다. 트럼프 대통령 외에도 멜라니아 트럼프 여사, 축구 스타 리오넬 메시 등 유명 인사들과 찍은 사진도 올라왔다. 또 동료 여군으로 보이는 사람들과 함께 사진을 찍거나 F-22 전투기 앞에서 포즈를 취하는 모습이 담긴 사진 등도 있었다.

전문가들은 제시카 포스터의 군 복무 기록이 확인되지 않는 점 등을 들어 그가 AI로 만들어졌을 가능성이 크다고 봤다. 그러나 그의 계정에는 AI 생성 여부에 대한 명확한 표시가 없어 일부 네티즌은 그를 실존 인물로 믿었다.

/X(옛 트위터)

제시카 포스터의 계정은 성인 콘텐츠를 통해 수익을 내기도 했다. 해당 계정에는 성적 매력을 강조한 게시물도 올라왔는데, 이와 함께 유료 성인 콘텐츠 서비스 계정을 연결해 팔로워들을 유도했다. 제시카 포스터의 성인 콘텐츠 서비스 계정은 콘텐츠 제작자가 인증된 성인이어야 한다는 규정을 위반해 삭제된 상태다.

딥페이크를 연구하는 단체 위트니스의 샘 그래고리는 “AI 콘텐츠가 얼마나 기만적일 수 있는지를 보여준다”고 말했다. 그는 “트럼프를 추종하는 매가(MAGA·미국을 다시 위대하게) 지지층이 꿈꾸는 모든 것이 한 채널에 응축된 것”이라며 “가짜의 삶에 정치적 요소와 시사 문제를 결합함으로써 온라인에서 관심을 끌고, 제시카 포스터의 사례처럼 유료 플랫폼으로 유도할 수 있다”고 설명했다.

현재 제시카 포스터의 인스타그램 계정은 삭제된 상태다. 이와 비슷한 사례는 이란에서도 나왔다. BBC에 따르면 이란 여군들이 장병들을 응원하는 모습을 담은 AI 영상이 온라인에 확산했다. 하지만 이란은 여성의 전투 작전 참여를 허용하지 않는다는 점에서 이들은 모두 가짜인 것으로 드러났다.

전문가들은 이러한 AI 계정이 정치적 메시지를 전하고 허위 정보를 유포하는 데 악용될 수 있다고 말했다. 조안 도너번 보스턴대 조교수는 “익명으로 운영되는 계정이 일종의 ‘봇 군대’처럼 활용되면 허위 정보가 대량으로 유포될 수 있다”며 “이는 정치적 메시지를 전달하는 데에도 효과적”이라고 했다.

[정채빈 기자]

- Copyrights ⓒ 조선일보 & chosun.com, 무단 전재 및 재배포 금지 -