미 국방부가 군의 인공지능(AI) 무제한 사용 권한을 거부한 앤스로픽 대신 오픈AI와 계약을 체결한 가운데 오픈AI 고위 임원이 이를 비판하며 사표를 제출했다.

7일(현지 시간) 오픈AI 로보틱스 부문 책임자인 케이틀린 칼리노스키는 자신의 X를 통해 “저는 오픈AI에서 사임했다”면서 “사법적 감독 없이 미국 시민을 감시하고, 인간의 승인 없이 자율적으로 살상 능력을 행사하는 것은 더 신중한 검토가 필요한 사안이었다”고 밝혔다.

오픈AI가 미 국방부와 AI 모델 사용 계약을 체결한 이후 이를 이유로 고위 임원이 사표를 제출한 것은 처음이다. 칼리노스키는 “로보틱스 팀과 우리가 일군 성과에 깊은 애정을 가지고 있기에 쉬운 결정이 아니었다. 국가 안보에서 AI가 차지하는 역할은 매우 중요하다”면서도 “이번 결정은 사람에 대한 문제가 아니라 원칙에 관한 문제”라고 말했다.

칼리노스키의 링크드인에 따르면 그는 오픈AI 로보틱스 조직의 전반적인 기획, 채용 및 운영을 주도한 핵심 관리자였다. 2024년 11월 오픈AI에 합류하기 전에는 메타 AR 글라스의 책임자로 근무했다.

칼리노스키는 샘 올트먼 오픈AI CEO가 주장한 ‘안전장치’에 대해서 반박했다. 올트먼은 지난달 27일 국방부와의 계약 사실을 공개하면서 “모델이 예상대로 작동하도록 기술적 안전장치를 구축할 것”이라고 명시했다. 반면 칼리노스키는 X에 추가로 “제가 문제 삼는 것은 가이드라인이 제대로 정립되지 않은 채 발표가 성급하게 이뤄졌다는 점”이라며 “이러한 사항들은 너무나 중요해서 서둘러 거래나 발표를 진행해서는 안 된다”고 지적했다.

앞서 오픈AI는 AI 모델 ‘클로드’를 개발한 앤스로픽이 국방부에 AI 무제한 사용 권한을 거부하며 갈등을 빚자 대신 계약을 체결했다. 오픈AI의 행보는 앤스로픽이 문제 삼았던 AI를 이용한 미국 시민에 대한 대규모 감시와 인간의 개입이 없는 군사 공격 권한 허용으로 해석되며 비판을 불러 왔다. 미 국방부가 앤스로픽을 ‘공급망 위험’ 기업으로 지정하는 등 보복에 나선 데 이어 계약을 받아들인 오픈AI 고위 임원까지 사직하면서 갈등의 여파가 본격화하고 있다는 분석이 나온다.

칼리노스키의 사직 소식이 알려지자 오픈AI는 성명을 통해 “국방부와의 합의는 책임감 있는 국가 안보를 위한 AI 활용 방안을 마련하는 동시에 ‘국내 감시 및 자율 무기 개발 금지’라는 선을 명확히 제시하고 있다”고 밝혔다.

박민주 기자 mj@sedaily.com

[ⓒ 서울경제, 무단 전재 및 재배포 금지]