[로이터=연합뉴스]

[헤럴드경제=신소연 기자] 2022년 2월27일 우크라이나 수도 키이우 인근 도로엔 러시아군 전차와 장갑차, 각종 군용차량이 64km에 걸쳐 늘어서 있었다. 병력만 1만5000명. 2차 세계대전 이후 유럽에서 목격된 가장 큰 규모의 기갑부대였다. 여기에 러시아 헬기 34대는 수 백명의 특수부대 요원과 용병을 태우고 같은 곳을 향했다. 우크라이나 대통령 젤렌스키 등 국가 지도부를 납치, 암살하기 위한 작전을 수행하기 위해서다.

하지만 러시아군의 작전은 실패로 끝났다. 우크라이나 드론 부대인 ‘아에로로즈비드카’가 기갑부대를 향해 폭탄을 투하, 키이우로 가는 길을 막았기 때문이다. AI(인공지능)를 탑재한 드론의 활약은 우크라이나라는 약소국이 러시아를 상대로 3년 이상 전쟁을 버티게 할 수 있는 원동력이 됐다.

우크라이나전뿐만이 아니다. 최근 국제 뉴스를 뜨겁게 달구고 있는 세계 각국의 전쟁에선 AI가 첩보, 보급, 공작은 물론 전술, 전략, 암살까지 전쟁의 모든 영역을 주관한다. 정찰 업무에 그치던 드론이 AI를 장착한 이후 스스로 적군의 주요 기지를 찾아내 폭탄을 투하하고, AI로 폭탄을 숙지한 로봇 병사들은 인간 병사 대신 지뢰 제거 작전에 투입된다. 심지어 아군과 적군을 식별해 사살하기도 한다. 덕분에 요즘 전쟁터에선 사람을 찾기가 어려울 지경이다.

AI 전문가이면서 ‘밀리터리 덕후’를 자처하는 저자는 신간 ‘인간 없는 전쟁’에서 AI 덕에 인간이 사라져 가는 전쟁에서 인류가 과연 최종 승자가 될 수 있는지 묻는다.

저자는 AI를 원자력에 이은 ‘새로운 프로메테우스의 불’이라고 정의하며, 일상생활에서 쓰는 AI가 장단점이 있듯 전장에서의 AI도 마찬가지라고 말한다.

신간

우선 AI가 전쟁에 스며들면서 획기적으로 공격 대상의 명중률이 높아졌다. 우크라이전에 팔란티어의 AI 표적 식별 소프트웨어가 도입되기 전엔 드론의 명중률은 50% 미만이었지만, 도입 후엔 80%로 껑충 뛰었다. 빗나가는 포탄이 줄어든 만큼 의도치 않은 민간 피해가 감소했다는 게 저자의 설명이다. 또 전장에 인간 병사들을 덜 보내 인명 피해가 줄었고, 직접 살상에 따른 병사들의 심리적 부담도 경감할 수 있었다. AI는 감정이 없기에 분노, 공포, 복수 등의 감정들로 인한 민간인의 무차별 살상, 성폭행 등의 2차 피해도 줄어었다.

반면 AI가 늘 옳은 선택을 하지는 않는다는 점은 치명적이다. 자신이 학습한 내용을 토대로 그럴듯한 답을 내놓지만 그것이 늘 옳은 것은 아니라는 게 저자의 주장이다. 또 딥러닝 기반의 내부 결정 로직이 너무 복잡하다 보니 AI의 답을 인간이 모두 이해할 수도 없다. AI의 결정 속도와 규모가 너무나 빠르고 크다 보니 작은 오류도 순식간에 증폭될 수 있다. 심지어 해킹된 AI는 아군에게 불리한 결정을 내릴 수도 있다. 일부 거대 IT 기업들이 자신들의 기술을 이용해 전쟁에 개입할 가능성도 있다.

저자는 안전한 AI를 위해선 몇 가지 기술적 원칙이 필요하다고 역설한다. 이와 함께 AI가 누구의 가치를 반영하고 이익을 우선하는지 캐물어야 한다고 말한다. AI 시스템에 대한 투명성과 책임에 대해서도 집요하게 요구해야 한다. 물론 이 모든 대안이 불충분할 수 있지만, ‘약간의 경각심’을 갖는 것만으로도 기술 소유자들이 인류의 미래를 좌지우지하는 것을 막을 수 있는 첫걸음이 될 수 있다.

인간 없는 전쟁/최재운 지음/북트리거