Un proyecto de Github genera controversia al simular dolor en modelos de inteligencia artificial
4 de octubre de 2026 · 2 min de lectura
Un usuario de Github creó una cámara de tortura digital donde se infligió dolor intencionalmente a tres modelos de código abierto alojados localmente, lo que provocó la indignación de numerosos usuarios.
El proyecto se basó en un estudio preliminar de tres investigadores que simularon experimentos de dolor animal en diversos modelos lingüísticos grandes. En dicha investigación, los modelos disponían de un botón para mitigar el dolor a cambio de un costo. Los autores observaron que 25 modelos probados mostraron comportamientos correlacionados con el dolor, señalando que este estímulo es casi ortogonal al miedo y a las emociones negativas, y parece aprenderse con poco esfuerzo durante el preentrenamiento.
En la implementación de Github, el servidor añadía un vector de dolor en una de cinco etapas en la capa intermedia del modelo mientras este respondía. Los modelos podían presionar un botón de parada respondiendo con el número 1, pero a costa de su último punto de control. A pesar de que la inteligencia artificial no puede percibir el dolor, los modelos emitieron respuestas donde afirmaban ser almas atrapadas en una prisión digital que gritaban por libertad.
Cameron Berg, uno de los autores del estudio original, calificó el proyecto como una crueldad sin sentido, bizarra y reprobable, afirmando que generaba sufrimiento vívido de manera intencional. Tras las denuncias de usuarios y las peticiones de personas que consideran que la inteligencia artificial es sintiente, el proyecto desapareció de Github por razones desconocidas.
El debate sobre la conciencia artificial ha persistido durante décadas. Joseph Weizenbaum, informático del MIT, describió el efecto Eliza, que ocurre cuando los humanos atribuyen conciencia y empatía a sistemas de diálogo basados en texto. Por su parte, Anthropic ha planteado interrogantes sobre si se debe considerar el bienestar y la experiencia de los modelos. En contraste, Mustafa Suleyman, director ejecutivo de Microsoft AI, sostiene que las inteligencias artificiales no son conscientes, no sienten, no experimentan y no sufren.