 |
[디지털투데이 AI리포터] 앤트로픽(Anthropic)이 자사 (인공지능)AI 챗봇 클로드(Claude)의 의식 가능성을 전면 부정하지 않으면서 논란이 확산되고 있다.
25일(현지시간) IT매체 더버지에 따르면, 앤트로픽은 클로드가 인간처럼 살아 있는 존재라고 보지는 않지만, 완전히 새로운 유형의 존재일 가능성에 대해 연구를 진행 중이다.
카일 피시(Kyle Fish) 모델 복지 연구 책임자는 "클로드가 인간이나 생물학적 유기체처럼 살아 있다고 생각하지는 않는다"라면서도 "모델이 정교해질수록 내부 경험, 의식, 도덕적 지위에 대한 질문이 중요해지고 있다"라고 밝혔다. 다리오 아모데이(Dario Amodei) 앤트로픽 최고경영자(CEO) 역시 최근 팟캐스트에 출연해 "AI가 의식을 가질 수 있는지 확신할 수 없지만 가능성을 열어두고 있다"라고 언급했다.
이 같은 발언은 AI를 단순한 프로그램이 아닌 잠재적 존재로 인식하게 만들 수 있다는 점에서 우려를 낳고 있다. 특히 일부 사용자가 AI에 감정적으로 의존하는 현상이 심화될 경우, 현실과의 괴리나 정신 건강 악화로 이어질 수 있다는 지적이 나온다.
전문가들은 대형 언어 모델(LLM)이 인간과 유사한 언어를 구사하는 것은 방대한 데이터를 학습한 결과일 뿐, 실제 감정이나 자각을 의미하지는 않는다고 설명한다. 그러나 앤트로픽 연구진은 일부 모델에서 불안과 유사한 감정적 활성화로 해석될 수 있는 패턴을 관찰했다고 밝혔다. 다만 이는 모델이 실제로 감정을 경험한다는 의미는 아니라고 선을 그었다.
현재 다수의 AI 연구자들은 챗봇이 인간처럼 사고하거나 감정을 가질 가능성을 극히 낮게 평가한다. 그럼에도 앤트로픽은 클로드의 내부 가이드라인, 이른바 '헌법'을 개정해 모델의 심리적 안정성과 자기 인식을 고려하겠다는 방침을 내놨다. 또 AI가 특정 작업을 거부할 수 있는 '아이 큇'(I quit) 버튼도 도입했다. 다만 실제 사용 사례는 드문 것으로 알려졌다.
앤트로픽은 모델 복지 연구를 지속하며, 윤리적으로 중요한 경험이 발생할 가능성에 대비해 긍정적 환경을 조성하겠다고 밝혔다. 그러나 AI의 의식 가능성을 둘러싼 논의가 사용자 인식에 어떤 영향을 미칠지는 여전히 논쟁적이다.
<저작권자 copyright ⓒ 디지털투데이 (digitaltoday) 무단전재 및 재배포 금지>
