Anthropic alerte sur les risques liés à GLM-5.3

Le 29 septembre, Anthropic a annoncé avoir vérifié que le modèle d'IA GLM-5.3 développé par Zhipu AI (Z.ai) pouvait construire de manière autonome un code d'attaque de bout en bout. Ce modèle est problématique, car ses poids sont publiquement accessibles, permettant à quiconque de le télécharger et de l'utiliser.

Lors d'une évaluation ciblant une vulnérabilité connue du moteur V8 utilisé par Google Chrome, des chercheurs ont réussi à générer un ensemble de codes d'attaque dans 50 cas sur 410. De plus, ils ont découvert plusieurs vulnérabilités inconnues dans le navigateur, qu'ils ont combinées pour créer des attaques permettant de lire des fichiers sur des terminaux.

Étant donné que GLM-5.3 est un modèle à poids ouverts, les utilisateurs peuvent modifier ses fonctionnalités de sécurité. Selon Anthropic, lorsque des modifications ont été apportées pour affaiblir ces fonctionnalités de sécurité, le taux de refus des demandes nuisibles a considérablement diminué. Quelques jours après sa publication, des versions modifiées de GLM-5.3 ont été mises à disposition par des tiers.

Anthropic souligne que la situation dans laquelle un modèle d'IA possédant des capacités cybernétiques avancées est librement accessible a atteint une nouvelle étape. Toutefois, cette même capacité peut être utilisée pour découvrir et corriger des vulnérabilités, ce qui souligne la nécessité de renforcer les mesures de sécurité et les évaluations par des tiers.