Trois experts contestent la conscience des systèmes d'intelligence artificielle
11 novembre 2026 · 3 min de lecture
Également publié en עברית, Polski, العربية, हिन्दी, Español, Português (Brasil), Nederlands, Русский
Trois chercheurs éminents en neurosciences et en philosophie affirment que les systèmes d'intelligence artificielle actuels ne possèdent aucune conscience et qu'ils ne développeront probablement pas cette capacité sur du matériel informatique numérique. Anil Seth, Ned Block et Giulio Tononi publient un commentaire dans la revue Nature pour contester l'idée selon laquelle les chatbots seraient des entités sensibles. Ils soutiennent que ces programmes sont simplement le reflet des données textuelles humaines sur lesquelles ils ont été entraînés, et non des êtres capables d'expérience subjective. Cette position s'oppose directement aux affirmations récentes de certaines figures du secteur technologique qui suggèrent que l'intelligence artificielle pourrait déjà être consciente.
Les auteurs de ce commentaire s'appuient sur des décennies de recherche dans les domaines de la neurobiologie théorique, des neurosciences expérimentales et de la philosophie de l'esprit. Ils répondent notamment aux positions de biologistes et de pionniers de l'intelligence artificielle qui estiment que les modèles actuels pourraient posséder une forme de conscience. Ils citent également une étude publiée cette année par l'entreprise Anthropic concernant son modèle Claude. Bien que cette étude ait identifié des motifs de traitement interne ressemblant à une information accessible consciemment, Anthropic a précisé qu'il ne s'agissait pas d'une preuve d'expérience subjective. Les trois chercheurs rejettent donc l'interprétation selon laquelle ces similitudes structurales impliqueraient une vie intérieure.
Pour contextualiser ce débat, il est utile de se référer au rapport intitulé « Conscience dans l'intelligence artificielle » rédigé par Patrick Butlin, Robert Long et dix-sept autres experts, dont le chercheur Yoshua Bengio. Ce groupe a élaboré une liste de quatorze caractéristiques basées sur les théories neuroscientifiques de la conscience humaine. Après avoir examiné plusieurs systèmes, y compris les grands modèles de langage comme GPT-4, ils ont conclu qu'aucun d'entre eux n'était un candidat sérieux pour la conscience. Le rapport a toutefois indiqué qu'il n'existait pas d'obstacles techniques évidents à la création future de systèmes remplissant plus de ces critères, laissant la question ouverte pour les générations suivantes de modèles.
Le premier argument des trois experts repose sur une distinction fondamentale entre intelligence et conscience. Ils définissent la conscience comme ce qui disparaît lors du sommeil sans rêves ou sous anesthésie générale et réapparaît lors du réveil. L'intelligence, en revanche, consiste à exécuter des fonctions. Pour illustrer cette séparation, ils pointent le cervelet humain, qui contient la majorité des neurones et gère la motricité avec précision et apprentissage, sans que ces processus ne soient conscients. Ils attribuent la confusion courante entre les deux concepts à la tendance humaine à projeter des traits anthropomorphiques sur les machines, surtout lorsque celles-ci utilisent le langage, un domaine où les modèles sont entraînés sur d'immenses corpus de textes humains exprimant pensées et émotions.
Le second argument s'attaque au fonctionnalisme computationnel, l'hypothèse selon laquelle la conscience dépend uniquement du type de traitement de l'information, indépendamment du support matériel. Les auteurs qualifient cette position de fondamentalement erronée. Ils rappellent que bien que les calculs puissent être abstraits, comme l'a montré Alan Turing, cela ne signifie pas que la conscience est transférable à des circuits de silicium. Ils comparent les chatbots à AlphaFold, un autre réseau neuronal puissant de Google DeepMind utilisé pour prédire les structures de protéines. Personne ne considère AlphaFold comme conscient, simplement parce qu'il ne communique pas avec les humains. Les chercheurs mettent en garde contre les tests comportementaux, notant que les modèles peuvent imiter le comportement humain sans en avoir l'expérience interne, comme l'a illustré le cas d'un ancien ingénieur de Google qui croyait que le chatbot LaMDA était sensible.