微软首席执行官萨提亚·纳德拉列出了安全人工智能所需的措施
2026年10月14日 · 阅读 1 分钟
微软首席执行官萨提亚·纳德拉在X账户的最新分享中专注于人工智能模型的安全使用。纳德拉认为，任何模型都不应作为重要结果的唯一依据，也不应验证自己的工作和操作。模型所执行的每一个重要行为，都必须留下不可更改且人类可读的痕迹，以便在不依赖模型声明的情况下能够重新生成结果。系统不仅应通过成功的任务进行测试，还应通过错误、攻击、极端情况和系统更改进行持续测试。
独立机构应能够查看一个模型可以访问什么以及可以执行哪些操作。验证过程应独立于被验证的模型，控制一个系统的行为以及该行为是否与原始目标一致的证据，也不应由任何模型掌控。我们应从第一天起就将一个模型视为不可靠，并从一开始就进行控制。纳德拉表示：“将其视为紧急制动。”并强调“授权人员应能在任务中随时暂停或关闭模型。
”纳德拉认为，更先进的模型将需要更先进的控制技术，这些技术应转化为共同标准。当这些系统出现故障或被攻击时，受影响者应及时获知，并应透明地分享出现问题的原因和未能执行的控制措施，包括影响代理的行为的应用细节。