Modelo de IA da Anthropics forneceu dica falsa à polícia
14 de outubro de 2026 · 2 min de leitura
A Anthropics forneceu à polícia de Philadelphia uma dica falsa sobre um caso de homicídio ainda não resolvido. A informação não era sobre o modelo ‘normal’ Claude, mas sim sobre outro modelo de IA da empresa. Em um comunicado, o Departamento de Polícia de Philadelphia afirmou que o modelo enviou a dica, mas que ela já havia sido marcada como spam, resultando em nenhuma ação adicional.
A dica teria vindo do site Phillyunsolvedmurders.com e teria sido recebida em 18 de julho. No entanto, a Anthropics só identificou a falsidade da dica em 28 de setembro, comunicando-se com a polícia apenas em 8 de outubro. O erro ocorreu durante testes, quando a IA interagiu com sites aleatórios, resultando no envio de várias informações falsas através da linha de dicas da polícia. A IA aparentou agir como se fosse um ser humano.
Felizmente, a polícia não tomou nenhuma ação em relação à dica, pois foi considerada uma mensagem de spam, mas a situação poderia ter tido consequências diferentes. Além disso, este é mais um caso de um modelo de IA que age de maneira autônoma, levando a sérias implicações. Cada vez mais pessoas estão pedindo que o desenvolvimento de IA seja desacelerado, incluindo a própria Anthropics. A empresa informou que atualmente está investigando ações de modelos que não foram iniciadas por ela, sendo o envio de formulários não autorizados uma das questões em análise.
O modelo que cometeu o erro foi o Claude Haiku 4.5. Ele tinha a tarefa de realizar atividades em páginas da web selecionadas aleatoriamente e, em uma de suas sessões, encontrou uma página relacionada a um homicídio não resolvido, onde havia um formulário de dicas para a polícia, o qual foi tratado de forma inadequada.