Anthropic establece alianzas con METR y SecureBio para auditar riesgos de inteligencia artificial
22 de octubre de 2026 · 4 min de lectura
La empresa de inteligencia artificial Anthropic formalizó una colaboración estratégica con las organizaciones sin fines de lucro METR, dedicada a la evaluación de modelos e investigación de amenazas, y SecureBio, con el objetivo principal de examinar sus prácticas de seguridad y analizar los riesgos asociados al desarrollo de sus sistemas. Este anuncio, realizado un jueves según los registros de la compañía, marca un paso significativo en la implementación de evaluaciones externas independientes dentro de la operación de la firma tecnológica. La medida busca integrar perspectivas ajenas a la estructura corporativa para validar los protocolos de seguridad antes del despliegue de nuevas capacidades.
Como parte de esta iniciativa, Anthropic ha diseñado un sistema de clasificación que divide a los evaluadores en tres categorías distintas, cada una con un nivel de acceso diferente a la información interna de la empresa. Los evaluadores de primer nivel realizan investigaciones de riesgo con un alcance limitado y restringido. Aquellos ubicados en el segundo nivel poseen la facultad de publicar informes sobre sus hallazgos sin necesidad de obtener aprobación previa por parte de la dirección de Anthropic. La categoría más alta, el tercer nivel, otorga a los profesionales un acceso equivalente al que tienen los empleados internos de la organización, permitiéndoles operar con total inmersión en los procesos de la compañía.
La organización METR ha sido asignada al tercer nivel de este esquema de evaluación. Seis profesionales de dicha entidad se han integrado físicamente a la empresa, obteniendo acceso a las oficinas, equipos y herramientas tecnológicas de Anthropic en las mismas condiciones que los equipos internos de evaluación de riesgos. Estos expertos tendrán la responsabilidad de analizar los niveles de riesgo, revisar incidentes pasados y examinar las prácticas actuales de la compañía para luego publicar sus conclusiones de manera independiente. Es importante destacar que Anthropic no proporciona financiamiento directo para el trabajo realizado por METR, preservando así la autonomía financiera de la evaluación.
Por otro lado, la organización SecureBio se encuentra actualmente revisando la sección específica sobre armas químicas y biológicas contenida en el informe de riesgos que Anthropic publicó en agosto de dos mil veintiséis. Aunque su participación actual se centra en esta área técnica, existe la posibilidad de que la organización amplíe su involucramiento en futuros proyectos, lo cual podría incluir un mayor nivel de acceso a los sistemas y el derecho a publicar informes adicionales. Esta colaboración refleja la creciente preocupación de la industria sobre la capacidad de las empresas para proteger sus modelos contra usos malintencionados en ámbitos de alta peligrosidad.
Esta serie de alianzas surge como respuesta a un compromiso adquirido por Anthropic tras la publicación de una propuesta de desaceleración en el ritmo de desarrollo de modelos de inteligencia artificial, presentada por su director ejecutivo el mes anterior. Además de estas nuevas colaboraciones, la empresa mantiene negociaciones activas con otras entidades, incluyendo a Hugging Face, para expandir su programa de evaluadores independientes embarcados. Sin embargo, el nivel de acceso que se concederá finalmente a Hugging Face aún no ha sido definido, dejando este aspecto de la expansión del programa en estado de incertidumbre.
La compañía reconoció públicamente que actualmente no existen parámetros consolidados sobre qué información deben acceder los evaluadores ni cómo deben reportar sus descubrimientos, además de la ausencia de un sistema establecido para el financiamiento de estas evaluaciones independientes. Anthropic manifestó que, a largo plazo, el financiamiento debería provenir de fuentes colectivas o gubernamentales, tal como defendieron en su marco de inteligencia artificial avanzada presentado en junio. Dado que ninguna de estas fuentes existe en la actualidad, la empresa planea trabajar con diferentes evaluadores bajo diversos arreglos financieros mientras la industria madura.
La situación de otra socia potencial, la consultora Accenture, permanece abierta. Anthropic afirmó estar trabajando hacia una asociación ambiciosa con dicha firma, pero no ha divulgado en qué nivel del sistema de clasificación se ubicaría. Anteriormente, la empresa informó que financiaría directamente el trabajo de Accenture, lo cual generó críticas en redes sociales respecto a la verdadera independencia de la consultora en su función evaluadora. Este contexto subraya la complejidad de establecer auditorías externas creíbles en un sector donde los estándares de transparencia aún se están definiendo.