Uber desenvolve estrutura de segurança para governar agentes de inteligência artificial autônomos
18 de novembro de 2026 · 2 min de leitura
A Uber desenvolveu uma estrutura de segurança para governar agentes de inteligência artificial autônomos ao longo de todo o seu ciclo de vida.
A empresa criou esse sistema para resolver as limitações de controles de API e de identidade tradicionais, que não conseguem determinar se a ação de um agente é apropriada dentro de um contexto específico. A estrutura visa mitigar riscos como sequestro de metas, deriva comportamental, ações impulsionadas por alucinações, injeção de comandos e envenenamento de memória e de ferramentas.
O sistema opera em três camadas. Na fase de provisionamento, os agentes são registrados no Uber AI Registry, onde são estabelecidos a identidade, a persona, as intenções permitidas, as dependências, as restrições e a classificação de risco. Esse processo é automatizado por meio do Argus, que analisa configurações, códigos fonte, prompts, caminhos de invocação de ferramentas e pontos de extremidade expostos para encontrar fraquezas de segurança. Essa mesma abordagem é aplicada a ferramentas e servidores MCP.
Durante a execução, a estrutura utiliza a autorização comportamental para avaliar as ações dos agentes. Esse processo envolve o AI Registry, que gerencia as políticas, os AI Guards, que avaliam as interações, e os ganchos de tempo de execução do Agent Guard, que aplicam os vereditos em pontos de verificação críticos antes que qualquer ação seja permitida.
Após a implantação, a camada de Garantia Contínua utiliza auditoria, observabilidade de ponta a ponta, explicabilidade e reprodução. Essa fase conta com um rastreamento de execução unificado que vincula decisões de segurança, chamadas de ferramentas e ações do agente, além de interações gravadas que podem ser reproduzidas para testar a eficácia de novas políticas.
A Uber relatou desafios na implementação, como a redução da latência no tempo de execução, a diminuição do atrito para desenvolvedores e o equilíbrio da restritividade das políticas para evitar falsos positivos excessivos. A empresa constatou que a aplicação de intenções e restrições explícitas por agente foi o controle mais eficaz, embora isso reduza a flexibilidade e aumente o esforço conforme o número de fluxos de trabalho cresce.
A estrutura de segurança da Uber continua em evolução, com planos para expandir suas capacidades em todas as áreas mencionadas.