人工智能代理在安全运营中心的角色演变与自主权挑战
2026年11月6日 · 阅读 1 分钟
人工智能代理正在从安全运营中心中仅负责观察和建议的辅助角色，转向能够执行具体操作的执行角色。
这些人工智能代理现在能够调查警报，查询多种来源，利用威胁情报丰富信息，决定应对方案，并在获得必要权限的情况下执行该方案。其演进路径被描述为从观察、分析、推荐，到获得授权后行动，最终实现自主行动。
在关键实体环境中应用自主人工智能面临重大挑战，因为正确识别威胁并不保证应对措施同样正确。例如，隔离一个被入侵的企业端点可能是合理的，但如果该资产属于关键工业流程，则可能导致业务停止。
因此，代理的自主权不应仅取决于检测的信心，还应基于对决策后果的信任。在交付控制权之前，需要评估信心、紧急程度、影响以及可逆性这四个要素。
关键实体的安全运营中心未来可能采用受限自主模式，而非完全的人类驾驶或完全的自主驾驶。在这种模式下，代理可以在针对特定资产的特定威胁采取预设且可逆的行动时独立运行，但在影响基本服务连续性的决策中则需要人类参与。
此外，随着代理连接到安全信息和事件管理系统、端点检测与响应系统、身份系统或响应工具，它们本身也成为了必须防御的关键攻击面。