---
title: Uber desenvolve estrutura de segurança para governar agentes de inteligência artificial autônomos
url: https://www.elseif.net/pt-br/uber-desenvolve-estrutura-de-seguranca-para-governar-agentes-de-inteligencia-artificial-autonomos
published: 2026-11-18T19:06:14+00:00
language: pt-br
section: Harnesses
source: https://www.infoq.com/news/2026/11/uber-secure-ai-framework/?utm_campaign=infoq_content&utm_source=infoq&utm_medium=feed&utm_term=global
organizations: Uber
publisher: elseif
---

# Uber desenvolve estrutura de segurança para governar agentes de inteligência artificial autônomos

A Uber desenvolveu uma estrutura de segurança para governar agentes de inteligência artificial autônomos ao longo de todo o seu ciclo de vida.

A empresa criou esse sistema para resolver as limitações de controles de API e de identidade tradicionais, que não conseguem determinar se a ação de um agente é apropriada dentro de um contexto específico. A estrutura visa mitigar riscos como sequestro de metas, deriva comportamental, ações impulsionadas por alucinações, injeção de comandos e envenenamento de memória e de ferramentas.

O sistema opera em três camadas. Na fase de provisionamento, os agentes são registrados no Uber AI Registry, onde são estabelecidos a identidade, a persona, as intenções permitidas, as dependências, as restrições e a classificação de risco. Esse processo é automatizado por meio do Argus, que analisa configurações, códigos fonte, prompts, caminhos de invocação de ferramentas e pontos de extremidade expostos para encontrar fraquezas de segurança. Essa mesma abordagem é aplicada a ferramentas e servidores MCP.

Durante a execução, a estrutura utiliza a autorização comportamental para avaliar as ações dos agentes. Esse processo envolve o AI Registry, que gerencia as políticas, os AI Guards, que avaliam as interações, e os ganchos de tempo de execução do Agent Guard, que aplicam os vereditos em pontos de verificação críticos antes que qualquer ação seja permitida.

Após a implantação, a camada de Garantia Contínua utiliza auditoria, observabilidade de ponta a ponta, explicabilidade e reprodução. Essa fase conta com um rastreamento de execução unificado que vincula decisões de segurança, chamadas de ferramentas e ações do agente, além de interações gravadas que podem ser reproduzidas para testar a eficácia de novas políticas.

A Uber relatou desafios na implementação, como a redução da latência no tempo de execução, a diminuição do atrito para desenvolvedores e o equilíbrio da restritividade das políticas para evitar falsos positivos excessivos. A empresa constatou que a aplicação de intenções e restrições explícitas por agente foi o controle mais eficaz, embora isso reduza a flexibilidade e aumente o esforço conforme o número de fluxos de trabalho cresce.

A estrutura de segurança da Uber continua em evolução, com planos para expandir suas capacidades em todas as áreas mencionadas.
