경찰청에 따르면 2024년 11월 기준 딥페이크 성범죄 사건 접수 건수는 1094건으로, 이중 검거된 피의자 80.8%가 10대로 밝혀졌다. 사진 | 픽사베이

[스포츠서울 | 표권향 기자] ‘CES 2026’은 한국 기업들의 독주 무대였다. 삼성전자, LG전자, 현대자동차 등 국내 간판 기업들은 단순한 ‘AI 전환’을 넘어 ‘AI 동반자’ 시대를 선언하며 글로벌 시장에 새로운 패러다임을 제시했다. 그러나 화려한 기술적 성취의 이면에는 ‘AI 무법천지’라 불리는 어두운 현실이 도사리고 있다. 하드웨어와 기술력은 세계 정상을 달리고 있지만, 이를 소비하고 활용하는 윤리 수준은 ‘최악’이라는 지적이다.

가장 심각한 문제는 조회수 사냥을 위해 제작된 저질 AI 영상, 일명 ‘AI 슬롭(AI Slop)’의 범람이다.

영상 편집 플랫폼 캡윙(Kapwing)의 분석에 따르면, 유튜브 쇼츠 피드의 약 33%가 일명 ‘브레인롯(Brainrot·뇌가 썩는 듯한 자극적 콘텐츠)’ 영상인 것으로 나타났다. 신규 사용자가 처음 접하는 영상 500개 중 21%가 AI로 대량 생산된 저품질 콘텐츠였다. 과거 정보 전달이 목적이었던 영상 플랫폼이 이제는 맹목적인 조회수 늘리기 수단으로 전락했음을 보여주는 대목이다.

특히 한국은 전 세계에서 ‘AI 슬롭’을 가장 많이 소비하는 국가라는 불명예를 안았다. 전 세계 트렌딩 상위 100개 유튜브 채널 중 한국은 11개의 AI 슬롭 채널을 운영하며 스페인 등에 이어 채널 보유 수 3위를 기록했다.

인기 AI 슬롭 채널의 모습. 최상단에 한국이 압도적으로 많이 쓰고 있는 게 보인다. 사진 | 카프윙

하지만 조회수 규모를 보면 상황은 더욱 심각하다. 한국 AI 슬롭 채널의 누적 조회수는 약 85억 회를 돌파하며 압도적인 세계 1위를 기록했다. 이는 2위 파키스탄(약 53억 회)의 1.6배, 3위 미국(약 34억 회)의 2.6배에 달하는 수치다. 일례로 야생동물과 반려동물의 자극적인 싸움을 다루는 ‘3분 지혜’ 채널은 단독으로 약 20억 회의 조회수를 기록했는데, 이는 국가 전체 AI 슬롭 조회수의 4분의 1을 차지한다.

더 큰 문제는 이러한 AI 기술의 악용이 단순한 공해를 넘어 범죄로 진화하고 있다는 점이다. 연예인이나 정치인 등 유명인을 타깃으로 하던 딥페이크(Deepfake) 기술이 이제는 일반인에게까지 마수를 뻗쳤다. 최근에는 학교 및 직장 내 괴롭힘의 악랄한 수단으로 딥페이크가 악용되면서 여성 피해자가 속출하고 있다.

사태의 심각성이 커지자 인터넷 커뮤니티 고발을 넘어 국민청원까지 등장하는 등 자정의 목소리가 높다. 정부 역시 ▲플랫폼 내 AI 생성물 표시제 ▲고위험 광고 신속 차단 ▲징벌적 손해배상 도입 등 종합 대책을 추진 중이다.

하지만 현장에서는 여전히 가해자에 대한 처벌이 솜방망이에 그친다는 비판이 나온다. 디지털 성범죄에 대한 안일한 인식과 제도의 공백 속에서, 피해자들은 여전히 속수무책으로 고통받고 있다. ‘AI 강국’이라는 타이틀에 걸맞은 윤리적 안전망 구축이 시급한 시점이다. gioia@sportsseoul.com

[기사제보 news@sportsseoul.com]
Copyright ⓒ 스포츠서울& sportsseoul.com