Mémoire décisionnelle pour les agents d'intelligence artificielle
6 octobre 2026 · 2 min de lecture
La mairie de New York a lancé en 2024 un chatbot MyCity destiné aux petits commerçants. Le bot devait fournir des renseignements sur les règles municipales, mais il a donné des conseils erronés pouvant entraîner des amendes ou des poursuites, comme ne pas payer les pourboires ou licencier un employé après une plainte. Les informations correctes étaient stockées dans la base de connaissances du bot, mais il ne pouvait pas distinguer les réponses fiables des inexactes.
Le système de génération augmentée par récupération (RAG) fonctionne en recherchant des documents similaires à la requête et en les fournissant comme contexte à la langue modèle, qui génère ensuite une réponse. Le problème apparaît lorsque la base contient à la fois des documents à jour et des instructions obsolètes ; le modèle ne sait pas évaluer la fiabilité du document.
Des chercheurs de l'Université technologique de Tianjin ont quantifié ce défaut sur TruthfulQA. En injectant à la fois des faits véridiques et des erreurs communes dans la mémoire de l'agent, le RAG classique produit 53 % de hallucinations, contre 23 % pour un modèle sans mémoire.
Pour remédier à ce manque d'évaluation, ils ont introduit le Memory Decision Layer (MDL), inspiré d'une étude sur les neurones de la cortex préfrontal des macaques. Les chercheurs ont observé que, chez les animaux, plusieurs groupes de neurones évaluent simultanément différents aspects de la mémoire de travail avant de décider de faire confiance à un souvenir. Le MDL reproduit ce mécanisme en traitant trois signaux distincts, pertinence, fiabilité et risque, comme des vecteurs orthogonaux.
La pertinence (M) mesure la similarité sémantique entre la requête et le document récupéré. La fiabilité (R) détecte les contradictions internes en analysant les négations et les antonymes. Le risque (A) attribue un coefficient supérieur ou égal à 0,70 aux sujets sensibles comme la santé, le droit ou la finance.
Ces trois évaluations sont traitées séparément via une décomposition QR, ce qui empêche un signal dominant de masquer les autres. Le risque est intégré en soustrayant son coefficient de l'unité, ce qui réduit la longueur du vecteur de confiance ; si la confiance reste en dessous d'un seuil, le système refuse de répondre.
Les tests montrent une réduction des hallucinations : sur des requêtes à haut risque, le MDL élimine complètement les erreurs, tandis qu'en moyenne il passe de 53 % à 23,3 %. Cependant, l'efficacité dépend de la force de la base modèle ; sur des modèles plus puissants comme deepseek‑v4‑flash, l'amélioration est marginale, et même un document approuvé peut conduire à une hallucination dans 8 % des cas.
En résumé, le MDL apporte une couche supplémentaire de vérification en séparant les critères d'évaluation, mais son apport réel varie selon la complexité du sujet et la capacité du modèle sous‑jacent.