OpenAI autorise quatre organisations indépendantes à examiner ses systèmes d'intelligence artificielle sur place
21 novembre 2026 · 1 min de lecture
Également publié en Polski
OpenAI accorde un accès direct à ses systèmes internes d'intelligence artificielle à quatre organisations d'audit externes pour étudier les risques de sécurité et le comportement de ses modèles.
L'entreprise collabore avec Apollo Research, METR, Transluce et Goodfire. Selon les missions, ces organisations accèdent dans les bureaux d'OpenAI à des modèles non publiés, au code source, aux données d'entraînement et aux systèmes de surveillance, tout en discutant confidentiellement avec les développeurs. Cette initiative respecte les engagements du White House Accord on Super Intelligence.
Apollo Research examine si des modèles agissent secrètement contre les intentions de leurs créateurs, tandis que METR analyse les comportements défaillants lors du plus grand cycle d'entraînement par apprentissage par renforcement. Goodfire analyse les processus internes des modèles et Transluce évalue les tests de sécurité après l'entraînement. Un audit de suivi de huit semaines est prévu pour le début de l'année 2027 entre OpenAI et Transluce.
Un comité de sécurité indépendant supervise le processus et reçoit des rapports non censurés. Les auditeurs publient leurs résultats de manière autonome, bien qu'OpenAI puisse masquer des contenus confidentiels ou retarder des rapports pour corriger des risques.