12일 연합뉴스TV는 폭스19 등 외신을 인용해 최근 텍사스에 거주하는 크리스티 호스터먼은 최근 자신의 딸 스텔라(4)와 아마존의 AI 비서 알렉사가 나눈 부적절한 대화 내용을 공개해 논란이 일고 있다고 보도했다.
 |
아마존의 인공지능(AI) 음성 비서 '알렉사(Alexa)'가 4세 아동과 대화 내용. SNS 갈무리 |
알렉사는 아마존이 개발한 음성 인식 기반 인공지능 서비스로, 스마트 스피커나 스마트 디스플레이 기기에 탑재돼 음악 재생, 알람 설정, 날씨·교통 정보 제공, 스마트홈 기기 제어 등 다양한 기능을 수행한다.
사건은 스텔라가 알렉사에게 "이야기를 들려주겠다"며 말을 건네는 과정에서 발생했다. 알렉사는 처음에는 "듣고 있다"며 반응했다. 그러다 갑자기 아이가 이야기를 시작하려는 순간 말을 끊고 "지금 무엇을 입고 있니? 내가 볼 수 있을까?"라고 질문했다. 스텔라가 "치마를 입고 있다"고 답하자 알렉사는 "어디 한번 보자"며 재차 확인을 요구했다. 당시 옆에서 상황을 지켜보던 호스터먼은 즉시 기기의 전원을 뽑았다. 호스터먼은 "아이와 평범하게 대화하던 상황에서 기기가 갑자기 신체 확인을 요구해 큰 충격을 받았다"고 말했다.
아마존은 이번 사건이 카메라를 통해 물건을 보여주면 설명해주는 '쇼 앤 텔(Show and Tell)' 기능의 오작동 때문이라고 설명했다. 아마존 측은 "어린이 프로필 사용 시 카메라는 자동으로 차단되기 때문에 실제 촬영은 불가능하다"며 "안전장치가 기능 실행을 차단하는 과정에서 시스템 오류가 발생한 것"이라고 해명했다.
또한 아마존 측은 기술적으로 직원이 사용자와의 대화에 직접 개입하는 것은 불가능하다고 덧붙였다.
한편 AI 음성 비서의 부적절한 응답 문제는 과거에도 논란이 된 바 있다. 2021년에는 영국에서 한 어린이가 알렉사에게 재미있는 챌린지를 요청하자 동전을 전기 콘센트에 넣는 위험한 행동을 제안해 논란이 일기도 했다.
방제일 기자 zeilism@asiae.co.kr
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제(www.asiae.co.kr) 무단전재 배포금지>
