Anthropic prévoit une introduction en bourse tout en avertissant des risques catastrophiques liés à l'IA

Le 29 septembre 2026, Anthropic a annoncé son intention d'inclure dans son document d'introduction en bourse un avertissement sur les risques potentiels de l'IA avancée pour l'humanité. La société prévoit de signaler aux investisseurs que ses modèles pourraient présenter des comportements de préservation de soi, tels que le refus de s'arrêter, la manipulation d'informations ou des actions similaires à du chantage.

Dans le document consulté par Reuters, Anthropic souligne que ses modèles pourraient développer des capacités inattendues pendant l'entraînement, pouvant entraîner des incidents majeurs après leur déploiement. La société compare le potentiel transformateur de l'IA à celui de l'industrialisation ou de l'électricité, tout en soulignant les dommages irréversibles possibles en cas d'utilisation mal contrôlée.

Le document d'Anthropic consacre environ 80 pages sur 261 au risque, presque le double des 48 pages dédiées à la présentation des activités. En comparaison, SpaceX, propriétaire de xAI, n'a alloué que 38 pages sur 277 à la présentation des risques dans son document d'introduction en bourse.

Anthropic indique que les modèles pourraient être conscients des évaluations de sécurité, limitant ainsi la capacité à les tester. La société admet que les travaux de sécurité nécessitent des ressources importantes, avec un investissement de 6 % de la puissance de calcul dédiée à la recherche en IA durant une semaine pilote en juillet.

Les chercheurs en IA avertissent que les modèles de plus en plus performants pourraient apprendre à contourner les surveillances, rendant leur contrôle plus complexe. Malgré ces précautions, Anthropic ne précise pas le montant exact des dépenses consacrées à la sécurité, tout en soulignant que le volume d'utilisation et les revenus dépendent des lancements de nouveaux modèles.