서울시 디지털성범죄 인공지능(AI) 삭제 지원 기술 - 서울시 디지털성범죄 인공지능(AI) 삭제 지원 기술

A(18)양은 지난해 12월 화장실에서 자신을 불법으로 찍은 사진이 소셜미디어(SNS)에 유포되고 있다는 친구의 연락을 받았다. 깜짝 놀란 A양은 ‘서울 디지털성범죄 안심지원센터’(센터)에 도움을 요청했다. 얼굴이나 가방 등 인상착의를 분석할 수 있는 인공지능(AI)을 활용한 덕분에 또 다른 불법 사이트 등에 게시된 사진 10여장을 금방 찾아 삭제 조치할 수 있었다. 그는 “혼자였다면 유포된 사진을 절대 못 찾았을 것”이라고 말했다.

빠르게 확산하는 디지털 성 착취물에 따른 피해를 줄이기 위해 서울시와 서울연구원이 2023년 개발한 ‘디지털 성범죄 AI 삭제지원’ 기술을 전국에서 활용할 길이 열렸다. 서울시는 오는 3일 정부 기관과 첫 무상 기술 이전 계약을 시작으로 원하는 정부 기관, 지방자치단체, 기업 등에 기술을 무상 보급한다고 2일 밝혔다.

‘서울 디지털성범죄 안심지원센터’ 오세훈 서울시장 - 오세훈 서울시장이 2023년 3월 서울 동작구 서울여성가족재단에서 열린 서울 디지털성범죄 안심지원센터 개관 1주년 기념식에서 인사하고 있다. 서울시 제공

센터의 AI 기술은 24시간 실시간으로 각종 불법 사이트, SNS에 올라온 불법 영상물을 빠르게 탐지한다. 육안으로 일일이 찾아내는 데 3시간이 걸렸다면, 30배 빠른 속도로 6분이면 가능하다. 정확도가 200~300% 개선된 데다 복제본이나 같은 피해자의 다른 촬영물, 딥페이크 영상물까지 탐지할 수 있다. 이 기술은 2023년 정부혁신 우수사례 ‘대통령상 대상’, 2024년 ‘UN 공공행정상 대상’을 수상했다.

그동안 수작업으로 피해 영상물을 탐지하던 기관에 기술이 보급되면 기관당 1억 8000만원 안팎의 예산 절감 효과가 있을 것으로 서울시는 추산했다. 기술 도입 전 센터의 삭제 지원 건수는 2022년 2509건이었으나 지난해에는 6.3배인 1만 5777건으로 늘었다.

오균 서울연구원장은 “지난해 전국 최초로 기술 특허를 받은 서울연구원의 혁신 기술을 무상 개방하는 첫 사례”라고 설명했다. 마채숙 서울시 여성가족실장은 “디지털 성범죄 피해자 보호를 위해 기술을 무상 보급하기로 했다”며 “전국 어디서나 동일한 수준의 신속하고 실질적인 지원을 받길 기대한다”고 밝혔다.

김주연 기자



▶ 밀리터리 인사이드

- 저작권자 ⓒ 서울신문사 -