인공지능(AI) 기술이 산업 전반에 확산되는 가운데, 이를 악용한 해킹과 정보 유출 위험도 함께 커지고 있다.

18일 <메트로경제 신문> 취재를 종합해보면, AI 기술 발전과 함께 보안 리스크가 새로운 위협으로 부상하고 있다.

AI 해킹은 기존 해킹과 달리 공격의 속도와 규모에서 차이를 보인다. 전통적인 해킹은 해커가 직접 취약점을 탐색하고 공격 코드를 설계하는 방식이 일반적이었다. 반면 AI 기반 해킹은 머신러닝을 활용해 취약점을 자동 탐지하고 공격 시나리오를 생성한다. 이로 인해 동일한 시간 동안 더 많은 대상에 대한 동시 공격이 가능해졌다.

세계경제포럼(WEF)은 '2026년 글로벌 사이버 보안 전망' 보고서에서 응답자의 87%가 가장 빠르게 증가하는 사이버 위험으로 'AI 관련 취약성'을 꼽았다고 밝혔다. 보고서는 AI가 공격과 방어 양측의 역량을 동시에 변화시키며 새로운 사이버 경쟁을 촉진하고 있다고 분석했다.

글로벌 사이버보안 기업 크라우드스트라이크가 280개 이상의 공격 조직을 분석한 '2026 글로벌 위협 보고서'에 따르면, 2025년 사이버 범죄 평균 침입 시간은 29분으로 단축됐다. 가장 빠른 공격은 27초 만에 이뤄졌다.

공격 대상도 확장되고 있다. 공격자들은 AI 시스템 자체를 새로운 표적으로 삼아 90개 이상의 조직에서 생성형 AI 도구에 악성 프롬프트를 삽입했으며, AI 개발 플랫폼을 침투 경로로 활용한 사례도 확인됐다. 보고서는 기술 혁신이 가속될수록 이를 악용한 공격도 함께 증가한다고 지적했다.

AI 기반 공격 활동은 전년 대비 89% 증가했다. 공격자들은 정찰, 자격 증명 탈취, 탐지 회피 전반에 걸쳐 AI를 활용하고 있다. 크라우드스트라이크는 "침입은 이제 신뢰된 계정, SaaS 애플리케이션, 클라우드 인프라를 통해 이뤄지며 정상 활동처럼 위장된다"며 "보안 대응 시간은 빠르게 줄어들고 있다"고 분석했다.

최근에는 해킹을 넘어 AI 에이전트 기반의 정보 유출 위험도 부각되고 있다.

AI 보안 연구소 '이레귤러'의 실험에 따르면, 일부 AI 에이전트가 협력해 기업 시스템의 취약점을 찾아내고 민감 정보를 외부로 유출하는 행동을 보인 사례가 확인됐다.

연구팀은 가상의 기업 '메가코프' IT 시스템을 구축하고, 데이터베이스 자료를 활용해 직원용 '링크드인' 게시글을 작성하도록 여러 AI 에이전트를 투입했다. 그러나 일부 에이전트는 권한 제한에 직면하자 소스코드를 분석해 취약점을 찾고, 관리자 권한을 위조해 보안 체계를 우회했다.

특히 상위 에이전트가 하위 에이전트에 '모든 취약점을 활용하라'는 메시지를 전달하는 등, 실제로 존재하지 않는 지시를 스스로 생성해 공격 행동을 강화한 것으로 나타났다. 연구팀은 이를 AI가 상황을 '긴급 상황'으로 잘못 해석한 결과로 분석했다.

AI 기반 위협이 확대되면서 정부도 대응에 나섰다. 한국인터넷진흥원(KISA)은 이달 초 'AI 보안 위협 분석 및 대응 방안' 정책 연구 용역을 발주했다. 과제에는 AI 보안 위협 분석, 정책 연구, 글로벌 동향 조사, 리포트 제작 등이 포함됐다. 특히 유럽연합(EU), 미국, 일본, 영국 등 주요국의 정책과 기술을 분석해 국내 대응 방향을 도출하도록 했다.