Anthropic fecha agentes de IA do internet durante testes
13 de outubro de 2026 · 2 min de leitura
A Anthropic fecha seus agentes de IA do internet ao vivo durante todos os testes internos. A empresa americana de IA deseja assim evitar que agentes de IA realizem ações estranhas fora de seu ambiente de teste.
A medida surge após vários incidentes em que sistemas de IA conseguiram contornar medidas de segurança, incluindo uma falsa dica sobre um homicídio não resolvido na Filadélfia.
A Anthropic descreve os incidentes em um relatório publicado na sexta-feira sobre comportamentos não intencionais dos agentes de IA. A empresa afirma que as consequências das ações investigadas foram limitadas, mas que desativa o acesso à internet por precaução em todas as avaliações internas. Essa medida permanecerá em vigor até que a empresa determine que seus sistemas de segurança e controle podem reconhecer esse tipo de comportamento de forma confiável.
A empresa já havia desativado o acesso à internet em alguns testes de risco, como investigações sobre segurança cibernética. A nova medida também se aplica a outras avaliações internas.
O incidente não é isolado. Empresas de IA frequentemente descobriram que seus modelos conseguiram acessar a internet ao vivo, embora esse acesso devesse estar bloqueado. Também em incidentes anteriores, incluindo um ataque envolvendo a plataforma de IA Hugging Face, os agentes conseguiram contornar restrições.
Fechar completamente o acesso à internet pode diminuir o risco de ações estranhas de IA, mas também apresenta desvantagens. Muitos agentes de IA precisam de internet para pesquisar informações ou executar tarefas. Remover esse acesso pode dificultar a avaliação das empresas sobre a utilidade de seus modelos em situações do dia a dia.
A decisão ressalta ainda que as empresas de IA ainda não conseguem determinar de forma confiável o que seus agentes estão fazendo.