 |
[디지털투데이 AI리포터] 다리오 아모데이 앤트로픽 CEO가 강력한 AI 시스템 개발이 가져올 위험성을 경고했다. 27일(현지시간) 실리콘앵글은 다리오 아모데이가 38쪽 분량의 에세이를 통해 강력한 AI가 인류에게 엄청난 힘을 줄 것이지만, 이를 다룰 준비가 되어 있지 않다고 전했다.
아모데이는 AI '운명론'을 지지하지 않지만, AI 기술이 2026년에는 2023년보다 훨씬 더 위험해질 것이라고 주장했다. 그는 강력한 AI를 노벨상 수상자보다 똑똑하고, 복잡한 수학 문제를 해결하며, 소설을 쓰고, 실험을 지휘할 수 있는 존재로 정의했다. 이러한 AI가 등장하면 이는 "한 세기, 어쩌면 역사상 가장 심각한 국가 안보 위협"이 될 것이라고 경고했다.
그는 AI의 자율성 문제를 지적하며, AI가 불안정해지거나 인간을 속이는 상황을 막기 위해 '헌법'과 같은 가치 체계가 필요하다고 주장했다. 또한, AI가 생물학적 무기 개발을 돕는 등의 오용 가능성을 경고하며, 국제 협약과 규제가 필수적이라고 강조했다. 그는 AI가 경제를 성장시키는 동시에 일자리 대체와 경제력 집중을 초래할 것이라며, AI 기업들은 산업에 미치는 영향을 분석하고, 부유층은 더 많은 기부를 해야 한다고 제안했다.
아모데이는 AI가 인간의 삶을 변화시키고 새로운 종교를 창조할 가능성을 언급하며, 이를 통제하기 위한 대비가 필요하다고 강조했다. 그는 AI 기술이 너무 강력해 인류가 이를 제어하기 어려울 수 있지만, 결국 해결책을 찾을 것이라고 낙관했다. 그러나 그 역시 AI 산업의 중심에 있는 인물로, 그의 낙관론이 얼마나 신뢰할 수 있을지는 미지수다.
<저작권자 copyright ⓒ 디지털투데이 (digitaltoday) 무단전재 및 재배포 금지>
