 |
아마존 [사진: 셔터스톡] |
[디지털투데이 AI리포터] 미국에서 AI 학습 데이터와 관련된 아동 성착취물(CSAM) 신고가 2025년 들어 급증한 가운데, 신고 대부분이 아마존에서 발생해 AI 데이터 관리와 아동 안전을 둘러싼 논란이 커지고 있다.
29일(현지시간) IT매체 엔가젯에 따르면, 미국 실종·학대아동센터(NCMEC)는 2025년 한 해 동안 AI와 관련된 CSAM 신고를 100만건 이상 접수했으며, 이 가운데 대다수가 아마존에서 제출된 것으로 나타났다. 이는 전년도와 비교해 폭발적으로 증가한 수치로, AI 학습 과정에서 불법 콘텐츠가 유입될 가능성에 대한 우려를 키우고 있다.
NCMEC 산하 팰런 맥널티 사이버팁라인 국장은 "연중 이렇게 많은 신고가 접수된 것은 매우 이례적"이라며, 데이터 출처와 안전장치에 대한 의문을 제기했다. 그는 아마존을 제외한 다른 기업들의 AI 관련 신고는 법 집행기관에 전달 가능한 정보가 포함돼 있었던 반면, 아마존의 경우 콘텐츠 출처를 밝히지 않아 수사로 이어지기 어려운 비실행 가능한 신고가 되고 있다고 설명했다.
이에 대해 아마존은 성명을 통해 공공 웹을 포함한 외부 학습 데이터에서 알려진 CSAM을 식별·제거하기 위해 신중한 스캔 절차를 적용하고 있으며, 사례 누락을 피하기 위해 의도적으로 과다 신고하는 방침을 취하고 있다고 밝혔다. 아마존은 문제의 콘텐츠를 AI 모델 학습 이전에 모두 제거했다고 덧붙였다.
이 같은 논란은 AI 산업 전반에서 미성년자 안전 문제가 핵심 쟁점으로 부상하고 있음을 보여준다. NCMEC에 따르면 AI 관련 CSAM 신고는 2023년 4700건, 2024년 6만7000건에서 2025년 100만건 이상으로 급증했으며, 이와 별도로 AI 챗봇을 둘러싼 청소년 유해 사례로 오픈AI, 캐릭터AI, 메타 등이 소송에 휘말리면서 규제와 책임 강화 요구도 커지고 있다.
<저작권자 copyright ⓒ 디지털투데이 (digitaltoday) 무단전재 및 재배포 금지>
