---
title: 마이크로소프트 CEO가 안전한 인공지능을 위한 조치를 제안하다
url: https://www.elseif.net/ko/ceo
published: 2026-10-14T09:02:54+00:00
language: ko
section: 에이전트
source: https://www.log.com.tr/microsoft-ceosu-satya-nadella-guvenli-yapay-zeka-icin-yapilmasi-gerekenleri-siraladi/
organizations: Microsoft
publisher: elseif
---

# 마이크로소프트 CEO가 안전한 인공지능을 위한 조치를 제안하다

마이크로소프트 CEO가 안전한 인공지능 모델의 사용에 대해 강조했다. 나델라에 따르면, 어떤 모델도 중요한 결과를 위한 유일한 근거가 되어서는 안 되며, 자신의 업무와 절차를 검증해서는 안 된다. 모델이 수행하는 각 의미 있는 행동은 변경할 수 없는 기록을 남겨야 하며, 이를 통해 결과에 도달한 과정을 재현할 수 있어야 한다.

시스템은 성공적인 작업뿐만 아니라 오류, 공격, 극단적인 상황, 시스템 변경 사항을 통해 지속적으로 테스트되어야 한다. 독립적인 기관들은 모델이 어떤 것에 접근할 수 있는지, 어떤 작업을 수행할 수 있는지를 확인할 수 있어야 한다. 검증 과정은 검증된 모델과 독립적이어야 하며, 시스템의 행동과 그 행동이 본래 목적과 일치하는지를 보여주는 증거의 검토는 어떤 모델의 통제 하에 있어서는 안 된다.

나델라는 "이를 긴급 제동 장치처럼 생각하라"고 말하며, "권한 있는 사람은 모델이 임무 중 언제든지 중단하거나 종료할 수 있어야 한다"고 강조했다. 더 발전된 모델은 공동 표준으로 전환해야 할 더 진보된 제어 기술이 필요할 것이라고 밝혔다.