 |
(사진=셔터스톡) |
캐나다 브리티시 컬럼비아주에서 발생한 대형 총기 난사 사건과 관련해, 오픈AI가 자신들의 시스템 결함을 인정하고 안전 및 신고 체계를 전면 강화하겠다고 약속했다.
앤 오리어리 오픈AI 글로벌 정책 담당 부사장은 26일(현지시간) AI 담당 장관 에반 솔로몬에게 보낸 서한에서 살인 사건에 대한 대응으로 즉각적인 조치를 취하고 있다고 설명했다.
오픈AI는 사건이 발생한 직후인 지난 11일 브리티시 컬럼비아주 정부 관계자과 대면 회의를 가졌다. 총기 난사 사건 때문이 아니라, 캐나다 지사를 설립하는 방안을 논의하기 위해 수주 전부터 예정됐던 비즈니스 미팅이었다.
그러나 오픈AI는 이 자리에서 전날(10일) 발생한 사건 용의자의 계정을 지난해 6월 이미 차단했다는 사실을 언급하지 않았다. 그리고 12일에 주정부에 연락해 RCMP(캐나다 왕립 기마경찰)의 담당자 연락처를 알려달라고 요청했다.
이 사실은 21일 오픈AI 일부 직원이 지난해 6월 용의자를 경찰에 신고해야 한다고 주장했지만, 경영진이 이를 묵살했다는 월스트리트 저널의 보도가 등장하며 알려지게 됐다. 이 때문에 캐나다 정부는 크게 분노했다.
오리어리 부사장은 서한에서 주정부 관계자들을 만났을 때는 "내부 데이터와 용의자의 신원을 완벽하게 대조하는 확인 절차가 진행 중이었다"라고 해명했다.
또 캐나다 왕립 경찰이 제시 반 루트셀라르의 이름을 발표한 후에야 두번째 계정을 발견했다고 밝혔다.
용의자는 '챗GPT' 계정이 차단된 뒤 시스템을 우회해 새 계정을 만들었는데, 이를 막지 못했다는 것이다. 그리고 두번째 계정은 발견 즉시 수사 당국에 제공됐다고 전했다.
이어 법 집행 기관 의뢰 프로토콜을 강화했다며 "2025년 6월에 차단된 계정이 오늘 발견됐다면 바로 법 집행 기관에 의뢰했을 것"이라고 말했다.
문제의 사건은 브리티시 컬럼비아주 텀블러 릿지에서 발생했으며, 18세 루트셀라르가 총격을 벌여 본인을 포함해 9명이 숨졌다. 용의자는 현장에서 스스로 목숨을 끊은 것으로 추정된다.
오픈AI는 2025년 6월 폭력 가능성 등 오남용을 탐지하는 시스템을 통해 반 루트셀라르 명의의 한 챗GPT 계정을 적발해 차단했다. 오리어리 부사장은 "질의에는 총기 개조에 관한 기술적 요청과 공공장소의 물리적 보안 취약점에 대한 구체적인 질문들이 포함되어 있었다"라고 밝혔다.
그러나 당시에는 "신뢰할 만하거나 임박한 위협"으로 판단되지 않아 법 집행 기관 통보 기준에 미치지 않는다고 결론 내렸다.
오픈AI는 앞으로 법 집행기관 통보 기준을 더 광범위하게 적용하고 캐나다 수사당국과의 직통 연락 창구를 신설하며 위기 상황에 처한 이용자를 관련 지원 기관으로 안내하는 절차를 마련하겠다고 밝혔다. 아울러 안전장치를 우회하려는 시도를 차단하기 위해 탐지 시스템도 강화할 방침이다.
샘 알트먼 CEO는 솔로몬 장관과 데이비드 에비 브리티시 컬럼비아주 수상(Premier)을 직접 만나겠다는 의사를 전달한 것으로 전해졌다. 그러나 에비 수상은 "명백한 정보 전달의 실패"라며 "이처럼 중대한 사안을 기업이 스스로 정한 신고 기준에 맡겨둘 수는 없다"라고 비판했다.
또 의사나 사회복지사에게 적용되는 '주 의무(duty of care)'처럼, AI 기업에도 전국 단위의 명확한 신고 기준이 필요하다고 주장했다. "폭력 공격을 계획해도 경찰에 알리지 않는 회사라는 이미지를 주는 AI 기업이 캐나다에서 활동하도록 둘 수 없다"라는 것이다.
하지만, 용의자가 챗GPT와 어떤 대화를 나눴는지, 실제로 범행 계획에 도움받았는지는 아직 확인되지 않았다고 밝혔다. 내용은 향후 검시관 조사나 공공 조사 과정을 통해 공개될 전망이다.
솔로몬 장관은 "오픈AI의 서한을 자세히 검토 중이며, 며칠 내 추가 입장을 밝히겠다"라고 전했다.
박찬 기자 cpark@aitimes.com
<저작권자 copyright ⓒ ai타임스 무단전재 및 재배포 금지>
