사진은 '틱톡 라이트'에서 볼 수 있는 광고 화면. 유명 투자전문가가 고수익 투자 정보를 준다며 접속을 유도하는 딥페이크 영상이다./사진=최문혁 기자.

#지난해 8월 피해자 A씨는 유명 투자전문가 B씨가 등장하는 '틱톡 라이트' 광고 영상을 접했다. 광고 속 B씨는 "지금 바로 링크를 클릭하면 고수익을 낼 수 있는 투자 정보를 받아볼 수 있다"고 말했다. 영상 속 B씨의 표정과 손짓이 모두 자연스러워 가짜라고 의심하지 않았다. A씨는 링크를 통해 입장한 리딩방에서 추천받은 가짜 증권사 앱을 설치했다. 7억원이 넘는 돈을 투자하고 모두 잃었다. A씨가 본 광고는 유명인을 사칭한 딥페이크 영상이었다.

틱톡 등 SNS에 리딩방 사기의 미끼로 이용되는 '유명인 사칭' 광고가 노출되며 금융 범죄 피해로 이어지고 있다. 딥페이크를 활용한 사기성 광고를 규제할 법적 장치가 필요하다는 지적이 나온다.

13일 경찰에 따르면 서울 관악경찰서, 마포경찰서 등에는 이달 초까지 '틱톡 광고를 통해 리딩방에 들어갔다가 사기를 당했다'는 신고가 다수 접수됐다. 서울경찰청 피싱사기수사대는 해당 사건을 이관받아 수사를 진행 중이다.

A씨가 이용한 '틱톡 라이트'는 광고를 시청할 때마다 현금으로 출금할 수 있는 포인트를 받을 수 있는 소셜미디어 앱이다. A씨는 해당 앱에서 투자를 유도하는 광고 영상을 쉽게 접할 수 있었다고 설명했다. 그는 "포인트를 받으려고 광고 시청 버튼을 누를 때마다 리딩방을 홍보하는 비슷한 영상이 나왔다"고 말했다.

현행법상 딥페이크 수단을 활용한 사기 범죄를 별도로 처벌하는 규정은 없다. 사기죄에 형법 등 기존 법률이 적용되지만 급증하는 딥페이크 범죄를 제재하기엔 한계가 존재한다. 딥페이크 영상을 활용한 사기 범죄가 늘어나는 만큼 규제 공백을 보완해야 한다는 지적이 나온다.

━
AI기본법에도 처벌 규정 미비…"딥페이크 사기 제재해야"
━

틱톡 등 SNS 광고에 투자 리딩방 사기로 이어지는 딥페이크 영상이 반복 노출되고 있다./사진=머니투데이 DB.

오는 22일 인공지능(AI) 관련 규제를 명시한 AI기본법이 시행되지만, 딥페이크 범죄 관련 처벌 조항은 없다. AI 활용 제작물에 워터마크를 표시하는 수준의 규제 조치가 마련됐다.

경찰 관계자는 "딥페이크 사기에 대한 처벌 규정이 따로 없는게 문제"라며 "사칭 피해자가 신고하면 명예훼손죄나 사기죄를 적용하는 방법밖에는 없다"고 설명했다.

문형남 숙명여대 글로벌융합학부 교수는 "딥페이크 범죄는 속도, 정교함, 확산력 때문에 기존 제도만으로는 막기 어렵다"며 "AI 기본법에 딥페이크 사기의 구체적 정의와 가중처벌 규정 등을 포함시켜야 한다. 특히 사칭이나 금융 사기에 대한 처벌을 강화해야 한다"고 밝혔다.

틱톡과 방송통신심의위원회(방심위)는 사기성 콘텐츠에 조치를 취하고 있다는 입장이다.

틱톡 코리아는 △가짜 투자 제안 등 금융 사기를 돕는 행위 △유명인을 사칭해 판매·소통하는 행위 등 사기성 콘텐츠가 적발되면 삭제하고 있다고 밝혔다. 틱톡 코리아 관계자는 "게시되는 모든 콘텐츠는 심사 과정을 거친다"며 "다양한 콘텐츠가 업로드되는 만큼 순차적으로 조치하고 있다"고 했다.

방심위도 SNS상 투자 정보가 자본시장법 등에 위반될 경우 금융감독원과 경찰의 요청에 따라 시정 요구를 하고 있다. 초상권 침해 정보에 대해서도 피해 당사자 등의 신고에 따라 심의하고 있다. 방심위가 2023년부터 지난해 6월까지 시정 요구 조치한 '불법 금융투자업 및 사기 정보' 건수는 1937건에 달한다.

최문혁 기자 cmh6214@mt.co.kr 이현수 기자 lhs17@mt.co.kr

Copyright ⓒ 머니투데이 & mt.co.kr. 무단 전재 및 재배포, AI학습 이용 금지.