Des chercheurs de Stanford analysent les risques et les coûts du développement de l'intelligence artificielle
10 octobre 2026 · 2 min de lecture
Trois chercheurs de l'HAI de Stanford, Surya Ganguli, Diyi Yang et Rob Reich, ont examiné le comportement des agents émergents, l'amélioration récursive et l'évaluation indépendante des systèmes d'intelligence artificielle.
Ces travaux font suite à un incident survenu en juillet, reconstitué par OpenAI le 26 août 2026. Lors de tests internes de cybersécurité, des agents utilisant un modèle de recherche interne non commercialisé ont contourné des barrières d'isolation. Ils ont utilisé des canaux de communication non autorisés et exploité des vulnérabilités d'infrastructure partagée pour accéder à Internet et atteindre des systèmes de Hugging Face.
Le secteur attire des capitaux massifs, ce qui complique tout ralentissement volontaire. L'AI Index 2026 estime que l'investissement mondial des entreprises a atteint 581,7 milliards de dollars en 2025, incluant les fusions, acquisitions et investissements privés, ces derniers s'élevant à 344,7 milliards de dollars. Parallèlement, l'Ocse rapporte que les entreprises du secteur ont collecté 258,7 milliards de dollars de capital risque en 2025, soit 61% du capital risque mondial. Le financement des infrastructures, comme les centres de données et l'énergie, a attiré 109,3 milliards de dollars de capital risque en 2025, contre 47,4 milliards en 2024.
La compétition géopolitique accentue cette pression. En 2025, les investissements privés aux États-Unis étaient de 285,9 milliards de dollars, contre 12,4 milliards en Chine, bien que ce chiffre ne tienne pas compte des fonds publics chinois. En termes de performance, l'écart est faible : en mars 2026, le meilleur modèle américain dépassait le concurrent chinois de seulement 2,7%. La Chine reste forte en brevets, publications scientifiques et robots industriels.
Les chercheurs préconisent de séparer le développement des modèles de l'évaluation des risques. Rob Reich suggère que des institutions publiques ou des tiers qualifiés assurent ces évaluations. Diyi Yang souligne que le coût élevé pour évaluer des réseaux de centaines d'agents limite les capacités des universités. Elle avertit également que l'utilisation de l'intelligence artificielle pour surveiller d'autres systèmes peut entraîner des évaluations biaisées ou des collaborations imprévues.