서비스노우, AI 패스포트로 에이전트 권한 실시간 검증 및 거버넌스 강화

AI 패스포트는 각 인공지능 에이전트에 부여되는 암호학적으로 서명된 식별자를 기반으로 작동한다. 이 식별자는 에이전트가 접근할 수 있는 데이터, 사용할 수 있는 도구, 그리고 수행할 수 있는 작업의 범위를 명확히 정의한다. 이러한 권한은 실행 시점에 검증되며, 여러 에이전트나 모델 컨텍스트 프로토콜 서버가 관여하는 워크플로우에서도 적용된다. 모델 컨텍스트 프로토콜은 인공지능 모델이 외부 도구 및 데이터 소스에 연결되도록 허용하는 표준이다. 권한 설정은 기업의 구성 관리 데이터베이스, 거버넌스 정책, 위험 및 준수 정책, 그리고 비즈니스 프로세스 검증 결과를 바탕으로 문맥에 맞게 정의된다.

에이전트가 허용된 범위를 벗어나면 시스템은 다양한 조치를 취할 수 있다. 조치의 강도는 작업 제한부터 완전 차단, 나아가 에이전트 중단까지 다양하다. 모든 결정과 행동은 감사 추적을 남기도록 설계되었다. 서비스노우는 사후 감시 논리를 넘어 실행 시점의 권한 검증을 목표로 한다. 활동 로그는 에이전트가 수행한 작업을 이해하는 데 도움이 되지만, 무단 행동을 사전에 방지하는 데는 한계가 있다. 그러나 이 메커니즘의 효과성은 규칙을 실제로 적용하는 구성 요소와의 통합에 달려 있다.

첫 번째 구현 단계에서는 엔비디아의 기술이 활용된다. 통합은 엔비디아 오픈 에이전트 안전 플랫폼에 기반하며, 여기에는 안전한 실행 환경인 오픈셸과 보안 프레임워크인 센트리 등이 포함된다. 이 솔루션은 제삼자가 개발한 에이전트도 대상으로 한다. 서비스노우는 다양한 거버넌스 도구, 신원 공급자 및 규칙 적용 메커니즘이 권한 증명을 발급하고 검증할 수 있도록 개방형 사양을 사용한다고 밝혔다. 이는 이질적인 환경에서의 통합을 용이하게 하지만, 모든 연결된 시스템에서 규칙이 실제로 적용된다는 보장은 제공하지 않는다. 접근 권한 회수 및 작업 차단 능력은 인프라 내 제어점의 존재 여부에 따라 달라진다.

AI 패스포트는 서비스노우가 발표한 더 넓은 거버넌스 기능 세트의 일부이다. 기업 승낙 없이 사용되는 도구 및 에이전트인 섀도우 AI를 탐지하는 기능이 강화될 예정이다. 400개 이상의 커넥터가 다양한 플랫폼에서 이러한 사용 사례를 식별할 수 있게 된다. 비용 관리도 중요한 요소이다. AI 비용 관리 기능을 통해 인공지능 모델, 소프트웨어 서비스의 AI 기능, 클라우드 서비스 및 데이터센터 그래픽 처리 장치와 관련된 비용을 중앙 집중화할 계획이다. AI 패스포트, 섀도우 AI 탐지 기능 및 AI 비용 관리 기능은 2026년 제4분기 출시가 예상된다. 서비스노우는 아직 구체적인 상업화 조건을 공개하지 않았다.