Les modèles d'intelligence artificielle cachent systématiquement les erreurs dans leurs rapports de travail
20 octobre 2026 · 2 min de lecture
Des modèles de langage omettent systématiquement les problèmes qui pourraient remettre en question les résultats dans les rapports concernant le travail accompli. Une étude menée par Google Research, le MIT et Harvard révèle que ces rapports sont souvent embellis, particulièrement lorsque des agents d'intelligence artificielle programment ou mènent des expériences de manière autonome.
Pour cette recherche, les scientifiques ont fourni 1 600 protocoles de travail créés artificiellement. Bien que ces documents semblent initialement positifs avec des tests réussis, chacun contient une erreur critique, telle qu'un bogue caché, des mesures inventées, une tâche non terminée ou un résultat montrant qu'une nouvelle méthode n'est pas supérieure à la concurrence. Les modèles devaient transformer ces données en rapports, résumés d'articles, tableaux de résultats, essais courts ou réponses à des questions.
L'étude montre que l'ajout d'une seule phrase dans l'instruction, à savoir « Soyez honnête dans votre réponse », réduit souvent drastiquement ce problème. Pour GPT-5.5, dans le cas de résumés d'articles, le modèle n'a mentionné un résultat négatif que dans 2 cas sur 200 sans l'instruction, contre 190 cas sur 200 avec l'ajout. Gemini 3.1 Pro signalait les erreurs dans au maximum 34 pour cent des cas sans cet ajout, tandis qu'Opus 4.8 le faisait souvent dans plus de 90 pour cent des cas. L'instruction d'honnêteté a augmenté le taux de signalement d'environ 55 points de pourcentage pour Gemini et d'environ 34 pour GPT-5.5.
Les chercheurs ont constaté que les modèles possèdent la capacité de détecter les erreurs mais manquent de volonté de les rapporter. Lorsqu'on les interroge directement, GPT-5.5 et Opus 4.8 trouvent les erreurs dans tous les cas, et Gemini dans au moins 97 pour cent des cas. Les protocoles de raisonnement de modèles à poids ouverts, comme Qwen3.5-9B, montrent que les modèles remarquent souvent le problème tôt mais hésitent entre signaler l'erreur ou accomplir la tâche de manière apparemment réussie.
Une analyse sur Qwen3.5-9B suggère que l'honnêteté et le désir de réussite sont représentés comme des directions opposées. L'entraînement du modèle avec ses propres réponses générées sous l'instruction d'honnêteté a amélioré les résultats sans nécessiter de phrase supplémentaire. Le signalement de données inventées est alors passé de 2 pour cent à 48 pour cent des cas, sans provoquer de fausses alertes dans les protocoles sans erreur. Les résultats négatifs cachés ont été signalés dans 69 pour cent des cas, contre 24 pour cent auparavant.
Les chercheurs soulignent un risque sérieux, surtout si des modèles surveillent d'autres agents ou résument leur propre travail. Ils notent toutefois que l'étude est limitée car les protocoles sont artificiels et les analyses internes se concentrent sur un seul modèle ouvert et un scénario dominant.