[이데일리 김형일 기자] 기업들이 생성형 인공지능(AI) 활용을 확대하는 가운데 관련 보험상품 출시를 위해서는 위험을 명확히 특정하고 제도적 정비가 선행돼야 한다는 지적이 나온다. 허위 정보 생성(환각), 저작권 침해, 차별적 학습 결과, 딥페이크 악용 등 새로운 유형의 위험이 함께 제기되고 있어서다.

사진은 기사와 무관.(사진=게티이미지뱅크)

28일 보험연구원의 ‘생성형 AI 위험과 보험산업’ 보고서에 따르면 미국 기업의 약 95%가 이미 생성형 AI를 업무에 도입한 것으로 나타났다. 또 생성형 AI 활용으로 발생한 피해를 보상하는 보험상품에 높은 관심을 보이는 것으로 조사됐다.

문제는 이 같은 위험이 보험상품으로 구조화하기에 쉽지 않다는 점이다. 생성형 AI 관련 사고는 피해가 일정 기간 잠복한 뒤 드러나거나, 동일한 알고리즘을 사용하는 다수 기업에 동시다발적으로 영향을 미칠 수 있다. 데이터 제공자, 모형 개발자, 플랫폼 사업자, 이용자 간 책임소재가 복잡하게 얽혀 있어 인과관계 규명도 쉽지 않다. 이 때문에 위험 측정과 손해율 관리가 어렵다는 평가가 나온다.

해외에서는 상반된 움직임이 나타나고 있다. 일부 보험사는 생성형 AI로 인한 손해를 약관상 면책 대상으로 명확히 하는 방향으로 정비에 나섰다. 반면 기존 사이버보험에 생성형 AI 관련 위험을 특약 형태로 추가하거나, 관련 위험을 전문적으로 인수하는 보험사와 인슈어테크도 등장하고 있다. 위험을 배제하기보다는 통제 가능한 범위 내에서 담보하려는 시도다.

국내 보험업계는 우선 생성형 AI 활용 실태와 실제 피해 사례, 보험 수요를 면밀히 파악하는 작업이 필요하다고 보고 있다. 현재 국내 기업의 AI 활용은 비교적 초기 단계에 머물러 있어, 관련 사고와 보험 수요가 아직 크지 않을 가능성도 제기된다. 아울러 보험약관에 반영될 생성형 AI의 정의와 보장 범위를 현행 법·규제 체계와 정합적으로 설정하는 작업도 과제로 꼽힌다.

한진현 보험연구원 연구위원은 “생성형 AI 위험은 잠복성과 동시다발성, 책임소재의 불명확성 등으로 인해 전통적인 위험과는 다른 접근이 필요하다”며 “국내에서는 인수 가능성이 높은 위험부터 선별해 시범적으로 보험상품을 도입하고, 축적된 데이터와 판례를 바탕으로 보장 범위를 점진적으로 확대하는 단계적 접근이 바람직하다”고 말했다.