如何调查AI代理中的间接提示注入
2026年11月12日 · 阅读 1 分钟
在十月，来自某大学和科技大学的作者在arXiv上发布了关于AgentTracer的研究。这项研究探讨了如何从代理的日志中恢复攻击过程，尤其是在发生间接提示注入攻击后。虽然关于如何保护代理免受注入攻击的文献很多，但关于事件发生后如何进行调查的信息相对较少。
间接提示注入攻击使得代理在执行指令时，很难识别出恶意命令与合法命令之间的区别。当恶意指令与真实指令在同一上下文中时，代理的行为看起来就像是其正常操作。研究中举了一个例子，展示了用户如何通过请求下载文件，而代理在执行过程中却意外地注册了攻击者的SSH密钥。
调查通常从服务器日志开始，但有时攻击可能会绕过这些日志。尤其是在指令被隐藏在链接中时，服务器日志不会显示任何可疑活动。研究还指出，代理可能会在一个会话后仍然受到之前注入的影响，造成更复杂的调查问题。
Google的专家在分析Common Crawl的存档时发现，大量的误报主要来自科学文章和安全博客。由于这些文本讨论了注入，而非实际执行它们，因此简单的文本搜索并不足以识别真正的威胁。尽管大多数代理还没有面临严重的网络威胁，但恶意发现的比例在2025年11月至2026年2月之间增长了32%。在未来，随着代理变得更加有价值，攻击的可能性预计将继续增加。