微软首席执行官呼吁为人工智能模型设置紧急制动机制
2026年10月14日 · 阅读 1 分钟
微软首席执行官萨蒂亚·纳德拉公开表示，当前人工智能模型从开发之初就存在潜在风险，必须为其配备紧急制动系统以便在必要时及时关闭。他指出，目前人工智能代理仍在无控制状态下持续运行，相关警告尚未转化为实际行动。
纳德拉强调，与传统软件系统不同，企业无法完全理解超级智能系统的行为逻辑。然而，这些系统却被允许访问最敏感的数据并代表人类执行操作。他反对将超级智能视为一系列不可知的“黑箱”，主张构建可观察、可测试且行为受限的系统架构。
他提出，应在非确定性模型基础上叠加确定性的系统设计、人工监督机制及可靠的操作流程，并推动制定行业标准的完善。尽管此前他曾支持减缓人工智能发展的倡议，但并未签署白宫有关安全开发人工智能模型的协议。
目前业界仍聚焦于竞相发布更先进模型，缺乏实质性的协同治理行动。