---
title: 인공지능 에이전트의 책임 소재와 새로운 거버넌스 모델에 대한 논의 대두
url: https://www.elseif.net/ko/story-13
published: 2026-10-10T05:46:03+00:00
language: ko
section: 에이전트
source: https://www.silicon.fr/data-ia-1372/quand-les-agents-ia-agissent-en-notre-nom-qui-est-responsable-229548
organizations: Gartner
publisher: elseif
---

# 인공지능 에이전트의 책임 소재와 새로운 거버넌스 모델에 대한 논의 대두

최근 정보시스템 책임자들과 보안 담당자들 사이에서 인공지능 에이전트의 도입 확대와 함께 누가 이들의 행동에 책임을 져야 하는지에 대한 논의가 급부상하고 있다. 기업들은 에이전트를 직원들에게 배포하고 업무 프로세스에 연결하며 각 팀이 자체 보조 도구를 만들 수 있도록 허용하는 방안을 검토 중이다. 그러나 초기의 낙관론은 곧 누가 이러한 에이전트를 사용할 수 있는지, 어떤 권한을 부여해야 하는지, 그리고 그들의 행동에 대한 책임과 추적 가능성을 어떻게 보장할 것인지에 대한 구체적인 질문으로 대체되었다.

가트너는 2025 년에는 5 퍼센트 미만이었으나 2026 년 말까지 기업용 애플리케이션의 최대 40 퍼센트가 전문화된 에이전트를 통합할 것으로 추정한다. 이는 단순한 실험 단계를 넘어 에이전트가 상업, 금융, 법률 및 운영 프로세스에 본격적으로 삽입되기 시작했음을 의미한다. 이에 따라 에이전트를 인간 사용자와 동일하게 관리할 것인지, 아니면 거버넌스 모델의 재검토를 요구하는 새로운 종류의 신원 범주로 볼 것인지에 대한 결정이 시급한 과제가 되었다.

에이전트는 직원을 대신하여 행동하고 여러 시스템에 접근하며 다른 에이전트에게 작업을 위임할 수 있다. 단기 작업에는 동일한 권한 부여가 적합할 수 있으나 임무가 장기화될 경우 위험 요소가 된다. 따라서 에이전트는 임시적이고 제한적이며 일시적인 작업 부하 신원으로 취급되어야 한다. 전통적인 신원과 달리 인공지능 에이전트는 지침, 도구 또는 사용된 모듈에 따라 행동을 적응시키고 활동 범위를 확장할 수 있다. 즉, 에이전트는 단순히 인증해야 하는 신원이 아니라 자율적으로 행동할 수 있는 신원이다.

문제는 단순한 접근 권한을 넘어 권한의 범위로 이동하고 있다. 에이전트가 고객 파일에 접근할 때 이를 분석하거나 전송, 수정할 수 있는지, 절차를 시작하거나 기업을 대표하여 약속할 수 있는지를 결정해야 한다. 기술적 접근 권한이 모든 관련 결정을 내릴 수 있는 권한을 의미하지는 않는다. 현재 많은 프로그램의 맹점은 누가 입장할 수 있는지는 식별하지만 해당 신원이 무엇을 결정할 수 있는지는 파악하지 못한다는 점이다. 에이전트 간에 작업이 위임될 때마다 권한이 전달되어 예상보다 광범위한 접근 사슬이 생성될 위험이 증가한다.

비인간 신원은 통제하기도 어렵다. 사람과 달리 에이전트는 명확하게 식별 가능한 직무나 직접적인 대화 상대가 없다. 사고 발생 시 팀들은 에이전트의 목적, 접근 권한 및 내릴 수 있었던 결정들을 재구성해야 한다. 인증과 최소 권한 원칙만으로는 에이전트의 행동이 임무에 부합하는지 보장하기에 부족하다. 거버넌스는 위험한 접근을 차단하고 민감한 검증을 강화하며 부당한 권한을 제거하면서 실시간으로 행동을 추적해야 한다.

이러한 변화는 위험 관리, 보안 및 인공지능 시스템 감독에 대한 요구 사항을 강화하는 유럽의 NIS2 지침과 인공지능 법과 같은 규제 환경과도 맞물려 있다. 이로 인해 에이전트의 신원 관리 문제는 전통적인 접근 및 신원 관리의 범위를 넘어섰다. 기업들은 디렉토리의 신뢰성을 확보하고 비인간 신원을 목록화하며 최소 권한 원칙을 적용해야 한다. 각 에이전트에는 책임자, 명확한 목적 및 시간 제한된 권한이 부여되어야 한다. 또한 피싱 공격에 저항하도록 설계된 다중 인증으로 계정, 토큰, 세션 및 위임을 보호해야 하며, 세분화와 일시적 접근, 지속적인 감시를 통해 식별 정보의 침해에 대비해야 한다.