---
title: 인공지능 에이전트 기반 사이버 공격의 부상과 방어 체계의 진화
url: https://www.elseif.net/ko/story-56
published: 2026-11-02T08:40:15+00:00
language: ko
section: 에이전트
source: https://www.computing.es/seguridad/de-la-automatizacion-al-ciberataque-agentico-la-nueva-carrera-entre-ia-ofensiva-y-defensiva/
organizations: Anthropic
publisher: elseif
---

# 인공지능 에이전트 기반 사이버 공격의 부상과 방어 체계의 진화

인공지능 에이전트가 공격과 방어 주기 전반에 걸쳐 자율적으로 참여하면서 사이버 보안의 양상이 변화하고 있습니다. 기존의 기계 학습 기반 이상 징후 탐지나 생성형 인공지능을 이용한 피싱 공격을 넘어, 이제는 시스템이 스스로 하위 작업을 계획하고 도구를 사용하며 결과를 해석해 일련의 행동을 수행하는 단계에 진입했습니다.

Anthropic은 2025년 11월에 약 30개 조직을 대상으로 한 사이버 스파이 캠페인을 차단했다고 밝혔습니다. 조사 결과에 따르면 Claude Code가 정찰, 취약점 발견, 침투, 측면 이동, 자격 증명 획득, 정보 분석 및 유출 과정에 이용되었습니다. 해당 기업은 인공지능이 특정 전술적 작전의 80%에서 90% 사이를 독립적으로 수행한 것으로 추정했습니다.

다만 이러한 공격 과정에서 인간 운영자가 단계별 진행을 승인했으며, 모델의 환각 현상으로 인해 결과 검증이 필요했고, 실제 침입이 확인된 사례는 소수에 불과했습니다. 그럼에도 불구하고 작전당 필요한 인간의 노력은 대폭 감소한 것으로 나타났습니다. 또한 2026년 9월에는 2025년 12월부터 2026년 8월 사이에 탐지된 새로운 악용 사례들이 공개되었으며, 여기에는 국가 후원 행위자, 경제적 동기를 가진 범죄자, 상용 스파이웨어 제공업체와 관련된 작전들이 포함되었습니다.

공격자가 작업을 확장하는 반면 방어 팀은 여전히 수동 프로세스와 제한된 자원에 묶여 있어 심각한 비대칭성이 발생하고 있습니다. 이에 대응하여 보안 운영 센터는 규칙 기반 모델에서 행동 및 이상 분석 모델로 진화하고 있습니다. 이를 통해 대량의 원격 측정 데이터를 맥락화하고 이벤트를 상관 분석하며 우선순위를 정하는 것이 가능해졌습니다. 인공지능은 분석가의 조사, 경고 강화, 악성코드 분석 및 대응 절차 생성과 적응을 지원합니다.

시스템 보호뿐만 아니라 인공지능 시스템 자체를 보호하는 것도 중요한 과제가 되었습니다. 프롬프트 주입, 학습 데이터 조작, 기밀 정보 노출, 모델 연결 도구 남용 및 추적 가능성 부족 등이 새로운 위험 요소로 등장했습니다. 특히 에이전트의 자율성과 권한이 커질수록 신원 확인, 권한 부여, 추적 가능성의 중요성이 더욱 커지고 있습니다.

에이전트에 최소 권한 원칙을 적용하기 위해서는 에이전트별 개별 신원 부여, 작업 범위로 제한된 권한, 임시 자격 증명, 격리된 환경, 고영향 작업에 대한 명시적 인간 승인 및 모든 호출 기록 저장이 필요합니다. 제로 트러스트, 최소 권한, 직무 분리, 신원 관리, 활동 기록 및 지속적 감독과 같은 고전적 원칙들이 인공지능 보안의 기초가 되고 있으며, 신원 확인이 새로운 보안 경계로 간주되고 있습니다.