1일 이스라엘의 경제 중심지 텔아비브가 이란의 보복 공격을 받아 불타고 있다며 X에 공유된 AI 조작 영상(왼쪽). “걸프국 미군 병사가 이란의 보복 공습을 받아 울고 있다”는 설명과 함께 확산한 AI 생성 영상(가운데). 테헤란타임스가 “카타르에 있는 미군 레이더 시스템이 최근 이란의 드론 공격으로 폭파됐다”며 X에 공유한 사진(오른쪽)은 위성사진을 조작한 것으로 드러났다. X 캡처

#1. 이스라엘 텔아비브: 1일 거대한 화염이 이스라엘 경제 중심지 텔아비브의 고층 빌딩 여러 채를 삼킨 모습이 소셜미디어를 통해 확산했다. 사진 속 모습과 실제 건물의 위치는 동일했다.

#2. 바레인 마나마: 6일 바레인 수도 마나마의 호텔과 주거용 건물 두 채가 공격을 받았다. 직후 피격 당시 상황이라며 고층 빌딩에서 불길이 치솟는 모습이 소셜미디어에 빠르게 퍼졌다.

#3. 중동 미군기지: 1일 미군 군복을 입은 남성이 폐허에서 절망한 표정으로 소리 내 우는 모습이 담긴 영상이 소셜미디어에 올라왔다. 영상 속 남성은 “가족이 보고 싶다”고 말했다.

최근 소셜미디어에 미-이란 전쟁 관련 인공지능(AI) 조작 영상들이 쏟아지고 있다. 이들 영상은 언뜻 구별하기 힘들 정도로 자연스럽고 정교한 특징을 갖고 있다. 인물의 손가락 개수 세기 등 기존에 알려진 AI 식별 요령으로는 걸러내기 어렵다. 실제 전장에서 촬영된 영상을 AI로 수정해 폭발을 더 크고 파괴적으로 보이게 만들기도 한다.

● 할리우드 영화 같은 AI 전쟁 영상 봇물

13일 뉴욕타임스(NYT)는 지난달 28일 미국과 이스라엘의 공습 후 AI로 생성된 가짜 전쟁 영상물이 110개가 넘는 것으로 확인됐다고 전했다. 소셜미디어에서 언론사를 표방하는 각종 뉴스계정을 통해 빠르게 확산한 이들 영상은 수천만 건의 조회수를 올리며 높은 관심을 받고 있다. NYT는 “특히 이란 정부가 AI 영상을 활용해 대중에 심리적 충격을 주는 전략을 펼치는 것으로 추정된다”고 진단했다. AI 허위 정보를 사용해 혼란, 공포, 분열을 초래하는 ‘심리전’에 나섰다는 것이다.

영상은 전쟁의 흐름에 맞춰 주제가 달라지는 양상을 보이고 있다. 미국이 ‘에픽 퓨리(Epic Fury)’ 작전을 개시해 알리 하메네이 전 이란 최고지도자를 제거한 직후 이란이 이스라엘을 향해 보복 공격을 가하자 텔아비브, 예루살렘 등 이스라엘 주요 도시가 불바다가 된 가짜 영상들이 올라왔다. 이후 카타르, 아랍에미리트(UAE), 바레인 등 인근 걸프국의 피해 양상을 모방한 가짜 AI 영상도 쏟아졌다.

이 외에도 선전·선동 의도를 갖고 만든 다양한 종류의 AI 영상이 온라인에서 확산됐다. 미군과 이스라엘군 병사가 사기가 꺾여 눈물을 글썽이는 모습이 대표적이다. 이란 일간 테헤란타임스가 “카타르 미군기지의 레이더 시스템이 이란 공격으로 폭파됐다”며 1일 소셜미디어에 게시한 위성 사진도 조작된 것으로 드러났다.

이들 영상은 전쟁을 할리우드 액션 영화 속 한 장면처럼 묘사했다. 미사일 궤적이 흐릿하고, 폭발 후 연기 기둥이 피어오르는 실제 촬영 영상과 비교해 AI 영상엔 버섯구름을 만드는 거대한 폭발, 땅이 울리는 충격파, 선명한 미사일 궤적 등이 담겼다.

이는 소셜미디어에서의 빠른 확산을 위해 의도한 것으로 분석된다. 실제로 텔아비브가 불타는 모습이 담긴 AI 사진은 “이란의 보복 공격이 성공했다”는 설명과 함께 아랍어와 튀르키예어, 중국어, 힌디어, 인도네시아어, 태국어, 하우사어(서아프리카) 등 다양한 언어권으로 빠르게 퍼졌다.

● 美, 영화-게임 짜깁기 홍보 영상으로 응수

미국 역시 소셜미디어에 전쟁 홍보 영상을 대거 올리고 있다. 백악관은 실제 교전 영상에 비디오 게임, 액션영화, 만화를 교차 편집해 전쟁을 오락 콘텐츠처럼 포장한 소셜미디어 게시글을 쏟아냈다. 월스트리트저널(WSJ)은 백악관이 이란 전쟁 시작 후 틱톡과 X 등에 올린 관련 게시물만 100건이 넘는다고 집계했다.

현실과 구분 짓기 어려울 정도로 정교한 AI 영상 사용은 자제하고 있다. 하지만 전쟁을 희화화한 콘텐츠를 꾸준히 내놓고 있어 비판이 제기된다. 다만, 이 같은 배경을 두고 일종의 ‘노이즈 마케팅’이란 분석도 나온다. 2022년 우크라이나 전쟁 개전 직후와 비교도 안 될 정도로 많은 양의 온라인 선전·선동 게시물이 쏟아지자 강력한 맞불 여론전에 뛰어들었다는 평가도 나온다. 발레리 워츠샤프터 브루킹스연구소 연구원은 “소셜미디어 인지전은 AI 시대의 새로운 전쟁이 됐다”고 했다.

이지윤 기자 asap@donga.com

Copyright Ⓒ 동아일보. All rights reserved. 무단 전재, 재배포 및 AI학습 이용 금지