Google, 인간 개입 없는 인공지능 기반 취약점 공격 확인
2026년 11월 19일 · 읽는 시간 2분
다른 언어로도 게시됨 中文
Google Cloud는 Google Threat Intelligence Group(GTIG)의 최신 조사 결과를 통해 공격자가 인공지능 에이전트를 사용하여 인간의 개입 없이 보안 패치로부터 익스플로잇을 생성하는 사례를 처음으로 관측했다고 발표했습니다.
공격 방식은 자율형 작업 흐름과 멀티 에이전트 프레임워크로 전환되었습니다. 공격자들은 수동 프롬프트 입력을 넘어 ARTEX, CAIRN, CyberStrikeAI, PentAGI와 같은 자율형 멀티 에이전트 공격 프레임워크를 활용하여 더 빠른 속도로 다단계 침입을 수행하고 있습니다.
GTIG는 이번 분기에 인간을 완전히 배제한 취약점 악용 사례를 최초로 확인했습니다. 여러 대규모 언어 모델과 연동되는 프레임워크인 exploit_agent를 통해 패치 공표 전후의 코드를 지속적으로 비교하여 취약점을 특정하고, 인간의 개입 없이 익스플로잇을 자동으로 개발한 사례가 확인되었습니다.
또한 공격자들이 침입 활동에 오픈 소스 인공지능 에이전트를 사용하고 있음이 밝혀졌습니다. 금전적 목적의 위협 행위자와 사이버 스파이 활동에 관여하는 위협 행위자 모두 CAIRN, PentAGI 등 오픈 소스 에이전트형 모의 해킹 도구를 사용하여 공격 절차를 자동화하고 있습니다. 특히 미국의 항공 우주 분야를 표적으로 한 침입 활동에서 CAIRN이 전개된 사례가 확인되었습니다.
인공지능은 정보 공작 캠페인의 규모도 확대하고 있습니다. 대규모 언어 모델은 콘텐츠 생성뿐만 아니라 국가 지원 그룹이나 상업적 서비스 제공자에 의해 자동화된 파이프라인 구축, 인프라 설계, 탐지 회피에 이용되고 있습니다. Gemini API를 악용하여 클라우드 폰 팜을 통해 10만 건 이상의 합성 계정을 관리할 수 있는 플랫폼을 구축한 사례도 확인되었습니다.
국가 지원 위협 행위자들은 스파이 활동과 표적 선정에도 인공지능을 활용하고 있습니다. 중국 관련 공격자가 대규모 언어 모델을 사용하여 훔친 데이터를 정보 결과물로 가공 처리하는 모습이 관측되었습니다. 북한 관련 활동으로는 인공지능 생성 페르소나를 이용해 암호화 자산 관련 기업을 표적으로 삼거나, 자율형 코딩 어시스턴트의 구성을 조작하여 백도어를 설치하는 수법이 추적되고 있습니다.