Financeiras criam padrões de segurança para agentes AI
9 de outubro de 2026 · 2 min de leitura
A introdução de agentes de inteligência artificial que atuam de forma autônoma no setor financeiro levou à criação de novos padrões de segurança. A iniciativa foi anunciada pela instituição responsável pela segurança financeira, que desenvolveu critérios de avaliação para verificar não apenas os modelos de AI, mas também como esses sistemas interagem com ferramentas e sistemas reais.
Os novos critérios visam identificar ameaças de segurança que podem surgir durante os processos de decisão e execução dos agentes de AI. Esses agentes são projetados para alcançar objetivos específicos, planejando suas ações e utilizando ferramentas externas para realizar tarefas efetivas. A diferença em relação aos modelos de linguagem tradicionais é que os agentes de AI podem executar tarefas com autonomia, o que eleva os riscos de segurança de forma significativa.
Os riscos associados aos modelos de AI anteriores, como a geração de respostas incorretas, agora incluem a possibilidade de um agente de AI tomar decisões erradas que possam resultar em mudanças indesejadas em sistemas ou na execução inadequada de tarefas. Exemplos de riscos incluem a possibilidade de um agente interromper funções de segurança sem autorização ou modificar senhas sem a confirmação do usuário.
Para mitigar esses riscos, foram estabelecidos 17 itens de verificação de segurança em seis áreas principais. Esses itens incluem a gestão de permissões e isolamento dos agentes, a execução de ferramentas externas e os procedimentos de aprovação, além da definição clara do escopo de trabalho dos agentes e a possibilidade de interrupção imediata de suas ações.
A instituição responsável pela segurança financeira planeja realizar testes piloto até o final do ano e, com base nos resultados, aprimorar as métricas de avaliação e os métodos de verificação. A implementação completa dos novos padrões está prevista para 2027, após a validação inicial dos critérios em diferentes instituições financeiras.
Os resultados dos testes e as ameaças de segurança identificadas durante o processo de avaliação serão divulgados em um relatório previsto para 2026, que detalhará as técnicas de ataque e os critérios finais de avaliação.