如何设计安全的后台办公室KI代理人架构
2026年11月10日 · 阅读 1 分钟
后台办公室是数字化的盲点，许多员工仍然使用电子邮件、PDF附件和手动审批流程。机器人流程自动化（RPA）可以填补这一空白，但它只在数据结构清晰、流程可预测的情况下才能可靠地工作。后台办公室的流程很少满足这些条件，员工通常通过PDF发送扫描的发票，供应商发送非正式的电子邮件，谈判伙伴在笔记中记录合同更改。结构化数据是例外。
近期，基于LLM的代理人被认为可以带来突破，因为它们可以识别意图、理解联系并自主推导下一步行动。技术已经可用，像Microsoft（Copilot）、UiPath或SAP（Joule Agents）这样的供应商正在展示令人印象深刻的演示。
然而，参与者经常忽略的是，代理人可以自主地采取行动并产生真正的后果，从而产生新的风险。例如，一个公司的会计部门收到一个熟悉的发件人的欺诈邮件，请求更改其银行账户信息。一个KI代理人监控邮件并正确地将其分类为“现有供应商的银行数据更改”。它还识别出请求的紧急性，因为下一次付款即将到期。因此，它调用了工具来修改主数据并更新了数据集。下一次付款被触发，但它到达了国外的骗子，而不是合法的收件人。
为了防止这种情况，需要设计安全的架构。 kontextbasierte Guardrails 可以帮助代理人更好地理解上下文并避免错误。但是，Guardrails 不能保证完全的安全性，因为它们依赖于LLM的解释，且可能受到矛盾的指令、误解或操纵的影响。因此，需要设计一种可以避免此类错误的软件架构。
近期的iSAQB软件架构聚会2026将重点讨论KI对软件架构的影响。会议将提供五个平行的轨道和约50个演讲和主题演讲。