[AI로 생성한 이미지]

한국 자살률이 경제협력개발기구(OECD) 회원국 가운데 20년 넘게 1위라는 불명예를 벗지 못하고 있는 가운데 국내 연구진이 인공지능(AI)을 활용해 온라인 공간에서 자살 위험 신호를 조기에 포착하는 기술을 개발했다. 디지털 환경에서 확산되는 자살 유해 콘텐츠를 선제적으로 탐지·차단하고, 고위험군을 조기에 발견할 수 있는 기반을 마련했다는 평가다.

27일 OECD가 발간한 '한눈에 보는 건강 2025'에 따르면 연령 표준화를 적용한 한국 자살률은 10만명당 23.2명으로 38개 회원국 중 가장 높았다. 전체 회원국 평균 10.7명보다도 2배 이상 높게 집계됐다. 자살률 1위라는 불명예도 2003년 이후 20년 넘게 이어갔다.

스스로 생을 마감하는 자살은 전 세계에서 발생하는 심각한 공중보건 문제로 꼽힌다. 세계보건기구(WHO)는 2008년 자살을 인류의 정신건강과 공중보건을 위해 최우선으로 해결해야 할 심각한 문제로 규정하기도 했다. 하지만 한국은 높은 자살률에서 벗어나지 못하고 있다. 특히 청년층을 중심으로 자살이 주요 사망 원인으로 자리 잡으면서 국가적 대응 필요성이 꾸준히 나오고 있다. 국가데이터처 자료를 보면 2024년 기준 10대·20대·30대·40대의 사망률 1위가 고의적 자해(자살)이었다.

백종우 경희대병원 정신건강의학과 교수 연구팀은 AI를 활용한 '온라인 자살 유해 콘텐츠 조기 탐지·대응 기술'을 개발해 이 같은 문제 해결에 나섰다. 연구에는 박진영 성균관대 교수와 조경현 뉴욕대 교수, 박성준 한국자살예방협회 박사팀 등이 참여했다.

연구팀은 사회관계망서비스(SNS)와 온라인 커뮤니티에서 수집한 게시물 4만3244건을 분석하고, 정신건강의학과 전문의와 심리학자가 직접 검토한 데이터를 기반으로 AI 학습용 성능지표(벤치마크)를 구축했다.

새로 개발한 AI 시스템은 자살 관련 콘텐츠를 위험 수준에 따라 △불법 △유해 △잠재적 유해 △무해 △비자살 등 5단계로 자동 분류한다. 특히 자살을 암시하는 은어나 비유, 약어 등 검열을 피하기 위한 우회 표현까지 탐지할 수 있도록 설계해 기존 모니터링 방식보다 진일보한 성능을 구현했다.

백종우 경희대병원 정신건강의학과 교수 [사진=경희대병원]

거대언어모델(LLM) 중 GPT-4 모델을 적용한 시스템의 성능 평가 결과 불법 콘텐츠 탐지 정확도는 66.46%, 유해 콘텐츠 탐지 정확도는 77.09%에 달했다. 이는 실제 온라인 플랫폼에 적용 가능한 수준의 성능으로, 자살 위험 콘텐츠나 신호를 조기에 포착하는 데 중요한 역할을 할 것으로 연구팀은 기대했다.

연구 결과는 의료정보학 분야 국제학술지 '지미르 메디컬 인포매틱스(JMIR Medical Informatics)' 2월호에 게재됐다.

이번 AI 기반 기술은 온라인 공간의 위험 신호를 조기에 포착해 예방 개입으로 연결할 수 있는 새로운 전환점이 될 것으로 보인다. 특히 젊은 층의 자살 예방에 중요한 역할을 할 전망이다. SNS 이용 비중이 높은 청년층은 온라인 콘텐츠의 영향을 크게 받는 특성이 있다. 자살을 미화하거나 구체적 방법을 공유하는 콘텐츠는 모방 행동으로 이어질 가능성도 높은 것이다.

현장의 구조적 한계도 보완할 것으로 기대를 모은다. 온라인 모니터링은 사람이 직접 게시물을 일일이 확인하는 방식에 의존하는데, 24시간 상시 감시에는 물리적 한계가 있었다. 무엇보다 모니터링 인력은 자극적이고 충격적인 콘텐츠에 반복적으로 노출되면서 심각한 정신적 스트레스와 트라우마에 시달리는 문제를 안고 있었다. 이번 기술은 대응 속도를 높이는 동시에 인력의 정신적 부담을 줄이는 효과도 가져올 전망이다.

백종우 교수는 "AI 기반 자살 유해 콘텐츠 탐지 시스템은 안전한 디지털 환경을 조성하고 자살 고위험군을 조기에 발견하는 데 중요한 역할을 할 것"이라며 "선제적이고 비용 효율적인 정책 대응을 가능하게 하고, 국가 자살 예방 인프라 구축의 기반이 되기를 기대한다"고 말했다.
아주경제=조현미 기자 hmcho@ajunews.com

- Copyright ⓒ [아주경제 ajunews.com] 무단전재 배포금지 -