서울시는 오는 3일 첫 번째 무상 기술이전 계약을 시작으로 기술 전수를 원하는 정부기관, 지방자치단체, 기업 등에 '디지털 성범죄 AI 삭제지원' 기술을 보급한다고 2일 밝혔다.
 |
이 기술은 AI가 24시간 실시간 모니터링을 통해 각종 불법사이트, 사회관계망(SNS) 상의 피해 영상물을 자동으로 검출, 빠르게 영상물을 삭제하고 재유포를 막는 기술이다. 2023년 정부혁신 우수사례 '대통령상 대상', 2024년 'UN공공행정상 대상'을 수상하는 등 국내는 물론 해외에서도 그 우수성을 인정받았다. 특히 전국 최초로 기술 특허 등록까지 획득해 그 효과성을 검증받았다. 서울시와 서울연구원이 핵심기술을 개발 완료한 후, '서울 디지털성범죄 안심지원센터'에서 운영하고 있다.
2024년에는 아동·청소년 안면인식 나이예측 삭제지원 기술을, 2025년도에는 탐지부터 신고까지 자동화하는 AI 자동신고 시스템을 추가적으로 구축했다.
이 기술의 핵심은 그동안 사람이 육안으로 일일이 찾아내서 신고하는 방식에 비해 처리시간은 3시간에서 단 6분으로 단축돼 처리 속도가 30배나 빨라졌다는 점이다. 서울시를 제외한 전국의 디지털 성범죄 피해지원 기관에서는 여전히 상담원들이 피해영상물을 수작업으로 탐지하고 있다. 서울시는 AI 삭제지원 기술의 무상 보급으로 기관당 약 1억8000만원의 예산 절감 효과가 있을 것으로 보고 있다.
'피해자를 지키는 기술'을 서울시만의 전유물이 아니라 '기술의 공공재화' 모델을 실현하는 첫 사례라는 점에서도 의미가 크다. 시는 이번 AI 기술 무상보급을 특정 기관이나 일부 지역에 한정하지 않고, 공익 목적에 한해 정부기관과 지자체 등에서 폭넓게 활용할 수 있도록 지원할 계획이다.
 |
실효성도 검증됐다. AI 기술 도입 후 '서울 디지털 성범죄 안심지원센터'의 삭제지원 건수가 2022년 2509건에서 2025년 1만5777건으로 4년 만에 6배 이상 증가했다. AI는 사람이 찾지 못하는 신규 불법 사이트까지 새롭게 찾아내 신규 사이트에서 발견한 피해 영상물 삭제지원 건수가 크게 늘었다.
딥페이크 영상물 탐지도 가능해졌다. 기존에는 피해자가 원본을 갖고 있어야 동일한 영상을 찾을 수 있었으나 AI는 원본이 없어도 비디오·오디오·텍스트 3종 분석으로 복제본까지 식별해 탐지한다.
AI 기술 도입으로 피해 영상물을 매일 봐야 하는 직원들의 심리적 고통을 최소화하는 효과도 있다. AI가 피해 영상물을 블러(흐림) 처리한 후 삭제지원관에게 전달할 뿐 아니라 반복적인 불법 영상 검색 업무를 대신 수행함으로써 삭제지원관들의 정신 건강을 보호하고 업무의 지속 가능성을 확보할 수 있게 된 점도 큰 의미가 있다.
오균 서울연구원장은 "이번 AI 기술은 전국 최초로 특허를 받은 혁신 기술로, 서울연구원이 개발한 공공기술을 사회적 가치 실현을 위해 무상으로 개방하는 첫 사례"라며 "연구기관이 개발한 기술이 전국의 피해자 보호 현장에서 실질적 변화를 만들어낼 수 있어 매우 뜻깊다"고 밝혔다.
마채숙 서울시 여성가족실장 역시 "이번 서울시의 AI 기술 무상보급은 피해자 보호를 최우선으로 고려해 내린 결단으로서, 서울시가 개발한 '피해자 보호 기술'을 서울시의 것만이 아닌, 공공의 안전을 위한 공공재로 확장한다는 점에서 큰 의미가 있다"고 평가했다.
배경환 기자 khbae@asiae.co.kr
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제(www.asiae.co.kr) 무단전재 배포금지>
