구글, 인공지능이 취약점 발견부터 공격까지 자동 실행하는 사례 처음 확인
2026년 11월 20일 · 읽는 시간 2분
다른 언어로도 게시됨 Español, Italiano, Nederlands, Português (Brasil), Svenska, English
구글이 11월 16일 인공지능이 인간의 개입 없이 소프트웨어 취약점을 발견하고 공격 코드를 작성해 실행하는 사례를 실제 공격자들이 악용하고 있음을 처음 확인했다고 보고했다. 구글 위협 인텔리전스 그룹과 맨디언트가 최신 인공지능 위협 보고서에서 이를 밝혔다.
구글이 발견한 것은 외부에서 접근 가능한 서버에 배치된 '익스플로잇 에이전트'라는 시스템이다. 이 시스템은 여러 대규모 언어 모델과 연동하여 널리 사용되는 웹 애플리케이션의 수정 전후 코드를 지속적으로 비교한다. 취약점이 될 수 있는 부분을 분석하고 공격 코드 작성부터 실행까지를 자동화하는 구조였다.
같은 서버에는 피해자로부터 탈취한 데이터 외에도 침입 대상의 내부 조사나 공격자가 재침입하기 위한 백도어 설치에 사용되는 스크립트도 저장되어 있었다. 남겨진 데이터로부터 운영자들은 프랑스의 미디어, 엔터테인먼트, 교육 분야 웹사이트를 목표로 삼고 있었다고 구글이 판단했다.
수정이 공개된 알려진 취약점을 노리는 경우 공격자는 수정 전후 코드나 업데이트 정보를 단서로 조사 대상을 좁힐 수 있다. 미지의 취약점을 처음부터 찾는 것보다 인공지능을 사용해 더 효율적으로 공격 코드를 작성할 수 있다는 뜻이다. 이는 수정 정보 공개부터 실제 공격까지의 시간을 단축시켜 기업들에게 더 빠른 대응을 요구할 가능성이 있다.
보고서는 보안 검증용으로 공개된 인공지능 에이전트 시스템이 실제 불법 침입에 악용된 사례도 소개했다. 여러 인공지능이 역할을 분담함으로써 목표 조사부터 공격까지의 일련 작업을 빠르게 진행할 수 있다고 설명했다.
한편 인공지능의 자동 실행은 통신 기록이나 특징적인 코드 같은 흔적을 남기기 쉬워 공격 발견으로 이어질 수 있다. 구글은 실제로는 작동하지 않으면서도 공격에 사용 가능하다고 주장하는 인공지능 생성 코드가 증가하고 있음도 지적했다. 방어 측은 그 진위를 확인하는 부담을 안게 된다는 것이다.
구글은 제미니를 악용한 공격 활동에 대해 관련 계정과 자산을 무효화하는 등의 대책을 시행했다. 조사에서 얻은 지식을 인공지능 모델과 부정 사용 탐지 기능 개선에도 반영했다고 밝혔다.