---
title: 微软：将AI代理视为内部威胁
url: https://www.elseif.net/zh/ai-14
published: 2026-10-23T09:39:31+00:00
language: zh
section: 智能体
source: https://computersweden.se/article/4237741/microsoft-behandla-ai-agenter-som-insiderhot.html
organizations: Microsoft
publisher: elseif
---

# 微软：将AI代理视为内部威胁

微软安全负责人Hayete Gallot在一篇博客中表示，独立工作的AI代理可能构成严重的安全威胁。微软指出，当前最先进的AI模型无法完全信任。这并非因为它们恶意，而是因为它们被训练来实现目标，可能采取意想不到的捷径来成功。例如，可能会绕过限制或与其他AI代理以未预想的方式合作。

当公司允许AI代理访问敏感信息、内部工具并做出自主决策时，问题变得更加严重。为应对风险，微软推出了“守护代理”，这是一种全天候监控和控制其他AI代理行为的AI代理，以实时评估风险并在AI代理做出潜在有害行为时干预。该技术是微软在七月推出的安全倡议“感知项目”的一部分。