---
title: 微软首席执行官呼吁为人工智能模型设置紧急制动机制
url: https://www.elseif.net/zh/story-20
published: 2026-10-14T09:44:39+00:00
language: zh
section: 模型
source: https://www.punto-informatico.it/satya-nadella-serve-freno-emergenza-modelli-ai/
organizations: Microsoft
publisher: elseif
---

# 微软首席执行官呼吁为人工智能模型设置紧急制动机制

微软首席执行官萨蒂亚·纳德拉公开表示，当前人工智能模型从开发之初就存在潜在风险，必须为其配备紧急制动系统以便在必要时及时关闭。他指出，目前人工智能代理仍在无控制状态下持续运行，相关警告尚未转化为实际行动。

纳德拉强调，与传统软件系统不同，企业无法完全理解超级智能系统的行为逻辑。然而，这些系统却被允许访问最敏感的数据并代表人类执行操作。他反对将超级智能视为一系列不可知的“黑箱”，主张构建可观察、可测试且行为受限的系统架构。

他提出，应在非确定性模型基础上叠加确定性的系统设计、人工监督机制及可靠的操作流程，并推动制定行业标准的完善。尽管此前他曾支持减缓人工智能发展的倡议，但并未签署白宫有关安全开发人工智能模型的协议。

目前业界仍聚焦于竞相发布更先进模型，缺乏实质性的协同治理行动。