Anthropic expose 29 000 vulnérabilités potentielles dans le code open source

L'entreprise a envoyé 6 157 résultats aux mainteneurs, et 584 identifiants CVE et GitHub Security Advisory ont été attribués, bien que certaines découvertes aient reçu les deux. Environ 23 000 candidats restent sans examen.

Claude détecte les vulnérabilités potentielles plus vite que les chercheurs humains ne peuvent les vérifier. Pour répondre à ce délai, Anthropic offre des scans gratuits et périodiques aux projets éligibles, alimentés par ses meilleurs modèles, dont Claude Mythos. Les résultats sont transmis directement aux mainteneurs sans validation préalable par l'entreprise.

Les projets qui ont reçu les premiers rapports demandent de plus en plus à recevoir l'ensemble des résultats. Anthropic a déjà envoyé près de 5 000 rapports non validés à des mainteneurs qui les ont demandés. L'entreprise appelle maintenant cet arrangement « optionnel fast-track ».

Des testeurs de pénétration experts qui vérifient les divulgations coordonnées ont examiné 97 résultats critiques et à haute sévérité produits par une version antérieure du scanner sur 48 projets. Quatre-vingt-quinze ont franchi le seuil de divulgation, tandis que 11 des 12 restants étaient de vrais bugs en doublon avec des problèmes connus ou d'autres résultats du scan. Un seul était un faux positif.

Ces chiffres décrivent la sortie précoce du scanner, mais pas les 29 000 candidats du programme de divulgation séparé. L'échantillon en dit peu sur les résultats de sévérité inférieure ou sur les performances du scanner à grande échelle. Anthropic reconnaît que les mainteneurs ont signalé des notes de sévérité gonflées et des cas où le scanner a mal compris le modèle de menace d'un projet.

Parmi les retours des mainteneurs

Ce qui distingue ces rapports d'une file d'alertes SAST, c'est leur emballage. Anthropic indique qu'ils comprennent un reproduceur autonome, une explication identifiant, le cas échéant, l'endroit où le bug a été introduit par bissection, et une candidate de patch lorsque le modèle peut en produire un. Anton Arapov, directeur d'OpenSSL Corporation, a déclaré que les rapports envoyés par Anthropic, incluant la sortie brute du modèle, égalaient parfois ce que le projet obtient de chercheurs humains. Il a ajouté qu'un rapport avec une exploit fonctionnel attaché est « presque terminé pour un ingénieur : vous pouvez le vérifier immédiatement ».

Todd Ouska, fondateur de wolfSSL, a rapporté que 72 des 74 rapports reçus par son équipe étaient valides et que cinq sont devenus des CVEs. Noah Misch, contributeur de PostgreSQL, a indiqué que plusieurs rapports arrivaient avec des correctifs que le projet pouvait utiliser « presque tels quels ». Misch a également crédité l'accès fast-track pour permettre à PostgreSQL de traiter les nouveaux problèmes avant leur sortie en version générale.

L'endossement le plus marqué est venu de Daniel Stenberg, fondateur du projet cURL, qui s'était publiquement plaint l'année dernière du flot de « brouillage » généré par l'IA atteignant son système de bounty de bugs, ce qui avait conduit curl à se fermer en janvier. Il déclare maintenant que l'OSS Scanner a trouvé plusieurs problèmes dans curl, dont l'un des pires vulnérabilités signalés ces dernières années.

Anthropic projette chaque projet dans une machine virtuelle isolée et coupe l'accès internet avant le début du scan. Les rapports sont envoyés par courriel aux mainteneurs, qui peuvent les mettre en pause ou refuser à tout moment. Le dépôt GitHub contient les outils d'inscription et de configuration, mais pas le scanner lui-même.

Trouver des bugs versus les corriger

Un reproduceur et une proposition de patch peuvent faire gagner du temps, mais les mainteneurs doivent quand même tester le correctif, gérer les backports et l'expédier, parfois en sachant que le changement cassera des fonctionnalités sur lesquelles les utilisateurs comptent, ce qui est le compromis que les mainteneurs d'OpenSSH ont fait lorsqu'ils ont délibérément cassé deux fonctionnalités au nom de la sécurité.

Anthropic restreint l'accès aux projets open source établis disposant des ressources pour gérer davantage de rapports de vulnérabilités.

Anthropic restreint l'accès aux projets open source établis avec les ressources pour gérer davantage de rapports de vulnérabilités. Les projets doivent répondre à des critères d'éligibilité style OSS-Fuzz, et Anthropic vérifie que la personne qui s'inscrit est un mainteneur central. L'entreprise s'attend également à ce que les projets participants suivent les vulnérabilités haute et critique déjà rapportées à leur sujet.

Le service cible les projets capables de gérer ce travail. L'éligibilité suit les critères style OSS-Fuzz pour les logiciels open source largement utilisés et critiques en matière de sécurité. Anthropic vérifie que les demandeurs sont des mainteneurs centraux, et sa FAQ indique que les projets participants devraient déjà suivre les rapports haute et critique vérifiés.

Les conditions de divulgation donnent aux maintenants participants la liberté de travailler à leur propre rythme. Les résultats non validés par le scanner ne sont soumis à aucun délai de 90 jours. Cependant, un rapport que l'entreprise valide ensuite via son programme standard peut être divulgué 90 jours après que les maintenants aient appris qu'un humain l'a confirmé.

Anthropic indique qu'il pourrait éventuellement attacher une période de divulgation à certaines résultats haute sévérité du scanner après avoir informé les projets et leur avoir donné la possibilité de refuser.