萨蒂亚·纳德拉呼吁对人工智能模型引入紧急制动机制

在对先进人工智能技术缺乏控制的担忧日益增加的背景下，纳德拉提出了对信任架构进行彻底重建的建议。他在社交媒体上强调，当前的做法将这些系统视为黑箱集，用户只能无反思地接受或拒绝其建议和行为，已显不足。纳德拉指出，必须将人工智能模型本身与控制其工作的机制分开，并且需要对引入的安全措施进行外部监督。

他提议的安全架构的关键在于，通过防篡改的、对人类可读的证据，记录模型的每一个关键操作。纳德拉特别强调，系统应设计成授权人员可以随时暂停或完全停止模型的工作。这一方法基于假设，即人工智能系统可能随时被攻破，因此从一开始就需要进行立即隔离，类似于紧急制动机制。

微软首席执行官的发言反映了业界对算法安全的广泛讨论，这种讨论因最近一些科技公司承认失去对其解决方案的完全控制而加剧。纳德拉的声音出现在安索普的首席执行官达里奥·阿莫代提出更为谨慎和可控的人工智能技术发展计划之后。对于IT管理人员和企业管理层而言，这些问题在实施AI解决方案于生产环境时显得尤为重要。