Anthropic s'associe à METR et à SecureBio pour évaluer les risques de l'intelligence artificielle
22 octobre 2026 · 3 min de lecture
L'entreprise Anthropic a officialisé un partenariat avec les organisations à but non lucratif METR et SecureBio afin d'évaluer ses risques et ses pratiques de sécurité. Cette annonce, faite un jeudi, marque une étape concrète dans la mise en œuvre d'un programme visant à intégrer des évaluateurs indépendants au sein même de la structure de développement de modèles d'intelligence artificielle de la firme.
Cette initiative découle directement d'une proposition de ralentissement du rythme de développement des modèles d'intelligence artificielle publiée le mois précédent par le directeur général de l'entreprise. Suite à cette proposition, la société américaine a sélectionné Accenture comme premier partenaire externe, bien que les détails spécifiques de cette collaboration restent à définir. L'entreprise a également confirmé être en négociations avec d'autres entités, dont Hugging Face, dans le but d'élargir son programme d'évaluateurs indépendants intégrés.
Pour structurer ces collaborations, Anthropic a établi un système comportant trois catégories distinctes d'évaluateurs, chacune disposant d'un niveau d'accès différent à l'entreprise. Les évaluateurs de premier niveau mènent des enquêtes sur les risques avec un champ d'action restreint. Ceux du deuxième niveau sont autorisés à publier des rapports sans approbation préalable de la part d'Anthropic. Enfin, les évaluateurs du troisième niveau bénéficient d'un accès équivalent à celui des employés internes de la société.
L'organisation METR relève de cette troisième catégorie. Six professionnels de cette entité ont été intégrés à l'entreprise et disposent désormais d'un accès aux équipements, aux bureaux et aux outils d'Anthropic identique à celui des équipes internes d'évaluation des risques. Ces experts analyseront les niveaux de risque, les incidents et les pratiques de la compagnie avant de publier leurs conclusions. Il est précisé qu'Anthropic ne finance pas le travail effectué par la METR.
De son côté, SecureBio examine actuellement la section relative aux armes chimiques et biologiques contenue dans le rapport sur les risques publié par Anthropic en août deux mille vingt-six. Cette organisation pourrait étendre sa participation à d'autres projets à l'avenir, obtenant ainsi un accès accru et des droits de publication élargis. La situation concernant Accenture demeure en suspens, car la firme n'a pas divulgué dans quelle catégorie du système cette consultorie s'inscrit, malgré l'ambition déclarée d'une partnership robuste.
Le contexte de ces évaluations indépendantes a évolué récemment, passant d'une présence discrète dans l'industrie à une pertinence accrue face aux préoccupations croissantes sur la capacité des entreprises à protéger leurs modèles. Le président des États-Unis a encouragé les sociétés du secteur à s'associer à un auditeur ou évaluateur externe indépendant via un accord volontaire présenté fin septembre deux mille vingt-six. Parmi les signataires de cet accord figurent des dirigeants de Google, Meta, OpenAI, SpaceX et Nvidia.
Anthropic reconnaît l'absence actuelle de normes consolidées concernant le financement et les modalités de ces évaluations. L'entreprise affirme qu'il n'existe pas encore de paramètres définis sur les informations auxquelles les évaluateurs intégrés doivent accéder ni sur la manière dont ils doivent rapporter leurs découvertes. À long terme, la société estime que le financement devrait provenir de sources collectives ou gouvernementales, mais faute de telles structures existantes, elle prévoit de travailler avec différents évaluateurs sous divers arrangements financiers.
Le niveau d'accès qui pourrait être accordé à Hugging Face n'a pas encore été déterminé. Cette organisation, reconnue pour l'exploitation d'une plateforme de développement à code ouvert, a été acquise par Nvidia pour environ treize milliards de dollars américains le mois précédant la publication de ce rapport. Anthropic soutient que toutes les entreprises développant des modèles d'intelligence artificielle de pointe devraient incorporer volontairement des évaluateurs externes.