서울시 AI기술무상이전 개요. 서울시 제공

[파이낸셜뉴스] 서울시가 지난 2023년 전국 최초로 독자적으로 개발한 '디지털 성범죄 AI 삭제지원' 기술의 전국화에 나선다. 온라인상에 유포된 성착취물 탐지부터 삭제까지 걸리는 시간을 획기적으로 단축시킨 기술이다.

서울시는 오는 3일 첫 번째 무상 기술이전 계약을 시작으로, 기술 전수를 원하는 전국의 정부기관, 지자체, 기업 등에 '디지털 성범죄 AI 삭제지원' 기술을 무상으로 보급한다고 2일 밝혔다.

'디지털 성범죄 AI 삭제지원' 기술은 인공지능(AI)이 24시간 실시간 모니터링을 통해 각종 불법사이트, 사회관계망(SNS) 상의 피해 영상물을 자동으로 검출해, 보다 빠르게 영상물을 삭제하고 재유포를 막는 기술이다. 전국 최초로 기술 특허 등록까지 획득해 그 효과성을 검증받았다.

2023년 정부혁신 우수사례 '대통령상 대상', 2024년 'UN공공행정상 대상'을 수상하는 등 국내는 물론 해외에서도 그 우수성을 인정받고 있다.

'디지털 성범죄 AI 삭제지원' 기술은 지난 2023년 3월 서울시와 서울연구원이 핵심기술을 개발 완료한 이후, '서울 디지털성범죄 안심지원센터'에서 운영하고 있다.

최초 기술 개발 이후 2024년에는 아동·청소년 안면인식 나이예측 삭제지원 기술을, 지난해에는 탐지부터 신고까지 자동화하는 AI 자동신고 시스템을 추가적으로 구축했다. 같은해 2월 저작권 등록과 6월 기술 특허 등록까지 완료한 상태다.

그간 사람이 육안으로 일일이 찾아내서 신고하는 방식에 비해 처리시간은 3시간에서 단 6분으로 단축돼 처리속도가 30배 빨라졌다. 정확도도 200~300% 개선한 것이 핵심이다.

시는 "서울시를 제외한 전국의 디지털 성범죄 피해지원 기관에서는 여전히 상담원들이 피해영상물을 수작업으로 탐지하고 있다"며 "AI 삭제지원 기술의 무상 보급으로 기관당 약 1억8000만원의 예산 절감 효과가 있을 것"이라고 강조했다.

시는 이번 AI 기술 무상보급을 특정 기관이나 일부 지역에 한정하지 않고, 공익 목적에 한해 정부기관과 지자체 등에서 폭넓게 활용할 수 있도록 지원할 계획이다. 또한, 국경을 넘어 유포되는 디지털성범죄의 특성을 고려해서 국내뿐 아니라 해외 비영리 기관과도 협력할 예정이다.

기술 무상보급 시, 서울시와 서울연구원에서는 요청기관의 운영 목적, 사용계획 등을 사전에 심사하고 공동협력(MOU), 계약 등을 통해 무상이전을 추진할 계획이다.

AI 기술 도입 이후 '서울 디지털 성범죄 안심지원센터'의 삭제지원 건수는 2022년 2509건에서 지난해 1만5777건으로 4년 만에 6배 이상 증가했다. AI 대규모 자동탐색과 확장 검색으로 사람이 찾지 못하는 폐쇄형·신규·해외 불법 사이트까지 추적한다.

딥페이크 영상물 탐지도 가능해졌다. 원본이 없어도 비디오·오디오·텍스트 3종 분석으로 복제본까지 식별해 탐지한다. 편집되거나 모자이크 처리된 변형본 영상까지 탐지 사각지대를 크게 줄였다.

안면·객체 인식으로 같은 얼굴, 옷을 입은 동일한 피해자의 다수 촬영물을 자동으로 묶어서 다량으로 탐지한다. 이를 통해 그동안 찾지 못했던 영상물도 삭제가 가능하다. 삭제 처리된 후 재업로드 된 영상도 재탐지가 가능해졌다.

특히 AI가 피해 영상물을 블러(흐림) 처리한 후 삭제지원관에게 전달하고, 반복적인 불법 영상 검색 업무를 대신 수행함으로써 삭제지원관들의 정신 건강보호도 강화했다.

오균 서울연구원장은 "이번 AI 기술은 전국 최초로 특허를 받은 혁신 기술로, 서울연구원이 개발한 공공기술을 사회적 가치 실현을 위해 무상으로 개방하는 첫 사례"라며 "연구기관이 개발한 기술이 전국의 피해자 보호 현장에서 실질적 변화를 만들어낼 수 있어 매우 뜻깊다"고 밝혔다.

마채숙 서울시 여성가족실장은 "이번 서울시의 AI 기술 무상보급은 피해자 보호를 최우선으로 고려해 내린 결단"이라며 "디지털 성범죄 AI 삭제기술 무상보급을 통해 전국 어디서나 동일한 수준의 신속하고 실질적인 지원을 받을 수 있게 되기를 기대한다"고 말했다.

chlee1@fnnews.com 이창훈 기자

Copyrightⓒ 파이낸셜뉴스. 무단전재 및 재배포 금지.