Richard Sutton avertit que la puissance de calcul seule ne suffit pas pour l'intelligence artificielle
11 novembre 2026 · 2 min de lecture
Richard Sutton, prix Turing et auteur de l'essai sur la leçon amère, a déclaré que la puissance de calcul brute ne suffit pas à elle seule pour atteindre l'intelligence. Il affirme que la science de l'intelligence artificielle est encore loin de son objectif et nécessite de nouvelles méthodes ingénieuses.
Sutton a précédemment critiqué les limites de la simple mise à l'échelle des grands modèles de langage. Il considère l'utilisation de données synthétiques comme une erreur majeure, arguant que le monde réel est infiniment complexe et que toute simulation n'en représente qu'une part microscopique. Selon lui, l'expertise humaine agit comme un goulot d'étranglement qui empêche une véritable mise à l'échelle.
Pour progresser, il préconise le développement d'agents dotés de modèles de monde capables d'apprendre continuellement de leur propre expérience. Il souligne que les modèles de langage actuels cessent d'apprendre après leur entraînement, alors qu'un apprentissage continu, préservant les connaissances acquises, est nécessaire.
Jerry Tworek, ancien chercheur chez OpenAI et actuel dirigeant de Core Automation, estime que si la leçon amère reste valable, l'importance de l'algorithme croît à mesure que la puissance de calcul augmente. Il soutient que le succès temporaire de la mise à l'échelle des transformeurs et une mauvaise interprétation des idées de Sutton ont aveuglé toute une génération de scientifiques.
Jayden Teoh observe que la recherche académique a parfois été freinée par une application trop rigide de la leçon amère, menant au rejet d'idées prometteuses qui ne semblaient pas s'adapter immédiatement à la mise à l'échelle. Il soutient qu'une idée n'a pas besoin d'être scalable indéfiniment pour contribuer au progrès.
À l'opposé, Sam Altman, dirigeant de OpenAI, affirme que la mise à l'échelle des grands modèles de langage est loin d'être épuisée. Il cite l'exemple d'un modèle de OpenAI ayant récemment réfuté une conjecture mathématique complexe. De même, Dario Amodei, dirigeant de Anthropic, décrit les progrès de la mise à l'échelle comme un arc-en-ciel sans fin.