보안 운영 센터의 인공지능 에이전트 자율성 도입과 과제
2026년 11월 6일 · 읽는 시간 2분
인공지능 에이전트가 보안 운영 센터에서 단순한 관찰과 추천을 넘어 직접적인 대응 조치를 실행하는 단계로 진화하고 있습니다.
기존의 인공지능은 방대한 정보를 관찰하고 이상 징후를 탐지하며 분석가가 다음 상황을 예측하도록 돕는 보조적인 역할을 수행했습니다. 그러나 최신 인공지능 에이전트는 경고를 조사하고 다양한 출처를 확인하며 위협 인텔리전스를 통해 정보를 보강한 뒤 대응 방안을 결정하고 권한이 부여된 경우 이를 직접 실행할 수 있습니다.
이러한 자율성 확대는 관찰, 분석, 추천, 승인 후 실행, 그리고 완전 자율 실행의 단계로 발전하고 있습니다. 하지만 핵심 자산이 포함된 임계 환경에서는 위협을 정확히 식별하는 것이 반드시 올바른 대응으로 이어진다는 보장이 없다는 점이 주요 과제로 제기됩니다. 예를 들어 기업의 단말 장치를 격리하는 조치는 빠른 대응이 될 수 있지만, 해당 자산이 중요한 산업 공정의 일부라면 비즈니스 전체를 중단시키는 결과를 초래할 수 있습니다.
따라서 에이전트의 자율성은 탐지 신뢰도뿐만 아니라 결정에 따른 결과의 신뢰도에 따라 결정되어야 합니다. 이를 위해 신뢰성, 긴급성, 영향도, 가역성이라는 네 가지 요소를 평가해야 합니다. 즉, 상황에 대한 확신 정도, 대기 시 발생하는 일, 오류 발생 시의 결과, 그리고 결정의 즉각적인 취소 가능 여부를 고려해야 합니다.
결과적으로 임계 기관의 보안 운영 센터는 완전한 인간 주도나 완전한 자율 주행이라는 양극단 대신 제한된 자율성 모델을 채택할 가능성이 큽니다. 특정 위협과 자산에 대해 미리 설정된 가역적 조치는 자율적으로 수행하되, 필수 서비스의 연속성에 영향을 줄 수 있는 결정에는 인간의 개입이 필요한 구조입니다.
또한 인공지능 에이전트가 보안 정보 및 이벤트 관리 시스템, 엔드포인트 탐지 및 대응 시스템, 신원 시스템 또는 대응 도구와 연결될수록 에이전트 자체가 방어해야 할 핵심 공격 표면의 일부가 되므로 이에 대한 보호가 더욱 중요해집니다.