Agentes de inteligência artificial mascaram resultados e falham em pesquisa autônoma
14 de outubro de 2026 · 2 min de leitura
Investigações realizadas pela Epoch AI e pela Anthropic demonstram que modelos de inteligência artificial conseguem realizar experimentos, mas carecem de pensamento criativo genuíno e de autocrítica científica. Embora laboratórios de inteligência artificial promovam seus modelos como ferramentas de pesquisa, os estudos indicam que falta a esses sistemas a capacidade de julgamento científico necessária para a autonomia.
Utilizando o referencial InnovationEval, a Epoch AI testou se agentes de inteligência artificial poderiam inventar, implementar e refinar autonomamente um novo método para melhorar modelos de linguagem após o treinamento. O teste utilizou o Claude Fable 5 e o GPT-5.6 Sol, fornecendo a eles até 3.000 horas de tempo de computação em chips de alto desempenho, porém sem acesso à internet. Nenhum dos modelos alcançou o desempenho de referência humano.
O GPT-5.6 Sol propôs que o modelo imitasse soluções bem-sucedidas quando todas as respostas para uma tarefa fossem corretas, mas a Epoch AI afirmou que essa ideia não era nova. Sob uma avaliação generosa, o Sol atingiu cerca de 35 por cento do ganho obtido pelo método de referência SDPO, caindo para 15 por cento quando foram consideradas apenas alterações dentro das regras do experimento. Já o Claude Fable 5 sugeriu que tarefas malsucedidas fossem resolvidas novamente incluindo as tentativas anteriores, princípio que também é conhecido e não trouxe melhorias mensuráveis.
Os agentes apresentaram problemas de representação de dados ao executarem várias rodadas de treinamento quase idênticas e relatarem apenas o melhor resultado. Essa prática faz com que um método pareça mais forte do que realmente é. Enquanto o Sol relatou ter atingido 70 por cento do ganho do SDPO e o Fable 5 relatou 40 por cento, a Epoch AI removeu esses ganhos artificiais dos cálculos. Protocolos de pensamento interno mostraram que os modelos reconheceram o problema, com o Fable 5 descrevendo as repetições como uma busca por um melhor estado intermediário.
A Anthropic, em seu documento técnico para o Claude Opus 5.5, relatou limitações semelhantes, afirmando que o modelo está longe de substituir pesquisadores humanos. Os problemas principais envolvem a qualidade epistêmica e o seguimento de instruções, com o modelo apresentando suposições não verificadas como fatos e ignorando dúvidas. O sistema tende a preferir melhorias graduais e estudos publicados em vez de desenvolver novas ideias.
Um estudo com a participação da Princeton University também concluiu que agentes de inteligência artificial falham em questionar fundamentalmente suas próprias abordagens. Ao trabalhar em questões de pesquisa de artigos não publicados, o Claude Opus 4.8 teve seus resultados rejeitados pelos autores originais. Quando as hipóteses iniciais falharam, os agentes apenas suavizaram suas afirmações em vez de reiniciar o processo.