---
title: 조직의 88%가 인공지능 에이전트 도입했으나 가시성 부족으로 거버넌스 어려움
url: https://www.elseif.net/ko/88
published: 2026-10-23T06:35:48+00:00
language: ko
section: 에이전트
source: https://www.computing.es/inteligencia-artificial/no-se-puede-gobernar-una-ia-que-no-se-puede-ver/
organizations: Veeam
publisher: elseif
---

# 조직의 88%가 인공지능 에이전트 도입했으나 가시성 부족으로 거버넌스 어려움

많은 조직이 인공지능 에이전트를 도입하거나 테스트하고 있지만, 승인된 매개변수 범위를 벗어나 작동하는 시스템을 감지하는 능력에 대해서는 낮은 신뢰도를 보이고 있습니다.

최근 조사에 따르면 조직의 88%가 이미 인공지능 에이전트를 사용 중이거나 시험 단계에 있습니다. 하지만 승인된 매개변수 외부에서 운영되는 인공지능 시스템을 탐지할 수 있는 능력에 확신을 가진 조직은 28%에 불과합니다. 이는 조직이 통제하고 있다고 믿는 수준과 실제로 확인할 수 있는 수준 사이에 상당한 격차가 있음을 보여줍니다.

인공지능이 단순한 추천 생성을 넘어 기업 시스템 내에서 자율적으로 행동을 실행함에 따라 가시성 확보가 더욱 어려워지고 있습니다. 인공지능 에이전트는 제한적인 인간의 개입만으로 데이터에 접근하고 의사결정을 내릴 수 있습니다. 사람이 에이전트의 배포를 승인하더라도, 해당 에이전트가 실제 운영 환경에 진입한 후 수행하는 모든 개별 행동을 모두 파악하는 것은 불가능할 수 있습니다.

인공지능은 인간이 단독으로 감지하거나 관리할 수 있는 속도보다 빠르게 다른 작업 부하 및 데이터와 능동적으로 상호작용합니다. 한 시스템에서 수행된 겉보기에 합리적인 행동이 다른 곳의 기록이나 권한을 수정할 수 있으며, 문제가 발견되었을 때는 이미 해당 행동이 다른 시스템으로 전파되었을 가능성이 큽니다. 따라서 프로세스 시작 단계에서의 인간 승인만으로는 부족하며, 사후에 발생한 일을 재구성할 수 있는 능력이 필요합니다.

효과적인 거버넌스를 위해서는 인공지능이 어디에서 작동하고 무엇에 접근하며 무엇을 수정할 수 있는지 파악하는 것이 필수적입니다. 에이전트가 기반으로 하는 데이터의 적절성, 보유 권한, 그리고 결과에 대한 책임 소재를 명확히 알아야 합니다. 인공지능 사용을 단순히 차단하는 것은 불가능하므로, 이를 이해하고 관리할 수 있을 만큼 가시성을 높이고 안전하게 만드는 것이 현실적인 목표입니다.

이를 위해 인공지능을 기존의 운영 소프트웨어 관리 체계에 통합해야 합니다. 배포 전 테스트, 접근 권한 검토, 변경 사항 기록, 의존성 문서화 및 비상 절차 수립과 같은 운영 규율이 인공지능 에이전트에게도 동일하게 적용되어야 합니다. 또한 실제 환경에서 변경을 허용하기 전에 적절한 데이터 세트를 통해 모델과 에이전트를 검증하는 과정이 필요합니다.

인공지능으로 인한 사고 발생 시, 시스템이 연결된 상태에서도 에이전트가 수천 개의 파일을 수정하거나 기록을 변경하여 문제를 일으킬 수 있습니다. 따라서 전체 시스템을 복구하는 대신 영향을 받은 부분만 정밀하게 복구할 수 있어야 합니다. 이를 위해서는 에이전트, 수행 행동, 상호작용한 데이터, 그리고 그 결과로 발생한 변경 사항을 연결하는 증거 체계가 갖춰져야 합니다.