Anthropic propone un política de IA en EE. UU.: una prohibición ante el riesgo de 50 muertes
20 de octubre de 2026 · 2 min de lectura
En las últimas semanas, se ha advertido desde diversos frentes sobre las consecuencias extremas que el rápido desarrollo de la inteligencia artificial puede acarrear. Al mismo tiempo, se ha hablado mucho, pero se ha tomado poca acción. Anthropic busca cambiar esto al proponer un política de seguridad a los responsables de políticas.
Se informa que Anthropic ha presentado un plan a la administración estadounidense. La propuesta establece que el gobierno debe poder detener la implementación de un modelo de IA cuando existe un riesgo de daño superior a 1.000.000.000 dólares, o cuando al menos 50 personas mueren o resultan heridas. Esto podría incluir escenarios en los que la inteligencia artificial desarrolle un arma biológica o actúe completamente fuera del control de los desarrolladores. También se consideran los ciberataques en esta evaluación.
La política no es del todo nueva, ya que se encuentra en gran medida en el Marco de IA Avanzada que Anthropic ha implementado este año. La propuesta legislativa permitiría al gobierno "bloquear o detener el despliegue peligroso de los modelos más potentes". Además, obligaría a los desarrolladores a probar modelos innovadores y a ser completamente transparentes sobre los resultados de dichas pruebas.
Se requieren evaluadores independientes que estén registrados en el departamento de Comercio y que realicen evaluaciones periódicas de varios modelos de IA. Si estos evaluadores detectan un riesgo inmediato, deben informar al departamento dentro de 72 horas. El departamento solo puede suspender un modelo a través del sistema judicial, ya que otras agencias gubernamentales no tienen esa autoridad.
La administración estadounidense aún no ha respondido.