零信任面临严重的人工智能代理问题
2026年10月10日 · 阅读 1 分钟
零信任与人工智能代理相遇，企业实践中的挑战日益凸显。尽管零信任方法的优点已被广泛认可，但许多企业在实施这一概念时仍感到困难。人工智能代理可能成为零信任努力的最后一根稻草，尽管从技术上讲，零信任与自主人工智能代理可以在典型的企业环境中共存，但在实际操作中这却相对不太可能。
人工智能专家指出，基于代理的人工智能与零信任完全相对立。零信任旨在单独评估请求，而如果请求的实例将这些请求战略性地组合在一起，就会出现问题。一个代理可以读取文件、查询其他数据源、汇总找到的信息、将其写入文件并发送外部电子邮件，这些决策单独来看没有问题，但若按照特定顺序排列，就会授权数据外泄路径。
更复杂的问题在于，当前使用身份的实例是否与已批准的身份相同。更新模型、添加工具和上下文而未经过审查，可能会导致身份的变化。专家警告，缺乏上下文知识至关重要，必须了解身份的变化及其权限。
此外，授权的自主代理可能会创建子代理，继承所有权限但没有被认可的身份。虽然通常需要将每个人工智能代理进行入职培训并分配身份，但现实中大多数代理并未注册，这为攻击者提供了可乘之机。
专家指出，大约80%的企业人工智能代理未被记录，治理模型往往针对错误的层面。人工智能代理之间的通信也存在潜在危害，目前尚无透明化机制，攻击者可能会利用这一点进行更复杂的攻击。传统的防御策略可能无效，专家建议采用更精细的控制措施以应对日益复杂的安全挑战。