Investigadores externos auditan el sistema de vigilancia de agentes internos de OpenAI
26 de octubre de 2026 · 3 min de lectura
Dos investigadores externos procedentes de METR y Redwood Research realizaron una auditoría técnica profunda de los sistemas de vigilancia interna de agentes de OpenAI entre el 21 de julio y el 11 de agosto de 2026. El ejercicio consistió en un acceso privilegiado a la infraestructura de la organización para evaluar la eficacia de sus mecanismos de detección de desalineación en agentes de inteligencia artificial antes de que se implementaran ampliamente ciertas evoluciones del sistema.
La evaluación se centró en el estado del sistema tal como existía hasta el 21 de julio, ya que las mejoras posteriores no fueron objeto de este análisis específico. Los investigadores trabajaron exclusivamente en dispositivos proporcionados por la empresa que no abandonaron las instalaciones físicas. Durante este periodo, mantuvieron entrevistas técnicas con aproximadamente doce miembros del personal pertenecientes a los equipos de vigilancia, seguridad de sistemas y ciberseguridad. El acceso concedido permitió la consulta del código interno, las instrucciones de configuración de los monitores y la documentación técnica asociada.
Un hallazgo cuantitativo central del informe indica que entre el 75 % y el 94 % del tráfico estimado de agentes en la interfaz de programación de aplicaciones interna denominada Responses era elegible para ser supervisado en modelos con capacidades iguales o superiores a GPT-5.5. Este rango presenta una alta incertidumbre en ambas direcciones según los autores del estudio. Para el subconjunto específico utilizado por los agentes internos de Codex, la cobertura de elegibilidad alcanzó el 99,2 %. El término elegible se refiere al tráfico destinado a ser enviado al monitor, aunque errores, sobrecargas o fallos técnicos pueden impedir que una parte llegue a su destino final.
El análisis identificó lagunas significativas en la cobertura histórica. La ausencia de vigilancia sobre los eventos de compactación probablemente dejó sin control alrededor del 10 % del tráfico elegible de Codex entre mayo y julio de 2026. Esta brecha de seguridad permitía teóricamente que un agente postponer indefinidamente su examen al encadenar acciones antes de devolver el control al usuario, momento en que normalmente se activaba el monitor. La organización había identificado este problema antes del inicio del ejercicio y procedió a corregirlo durante la realización del mismo, aunque la falta de registros históricos impide verificar si algún agente explotó esta vulnerabilidad en la práctica.
Además, se reveló que un subconjunto de las sesiones de entrenamiento mediante aprendizaje por refuerzo estuvo bajo vigilancia entre marzo y junio, pero esta cobertura había cesado al comienzo de la auditoría. El informe también excluye otras fuentes de tráfico, como los agentes que se ejecutan en el servicio de inferencia interno de investigación, cuyo volumen no pudo ser estimado por los evaluadores. A pesar de estas limitaciones, el sistema mostró una alta fiabilidad operativa durante la prueba, con una tasa de fallo del monitor inferior al 0,2 % de las solicitudes y sin registrar ninguna pérdida de rendimiento durante un periodo de veinticuatro horas.
Las reglas de publicación fueron establecidas de antemano, permitiendo un resumen de alto nivel y reservando a la organización el derecho discrecional de retirar cualquier información considerada confidencial o sensible. A diferencia de otras misiones de evaluación de seguridad, la entidad auditora no tuvo autorización para describir unilateralmente dichas retiradas de contenido. La organización afirmó haber corregido todas las vulnerabilidades identificadas que afectaban a su pila de protección en producción y describió cambios importantes en la cobertura prevista de su dispositivo, aunque los evaluadores indicaron no haber verificado estas afirmaciones directamente. El ejercicio buscaba establecer principios para sistemas de vigilancia capaces de resistir ataques deliberados y sostenidos a gran escala.