El CEO de Microsoft, Satya Nadella, expone las medidas necesarias para la inteligencia artificial segura
14 de octubre de 2026 · 1 min de lectura
También publicado en Indonesia, Norsk, Polski, Русский, العربية, 한국어, 中文, Deutsch, Français, Italiano, עברית
El CEO de Microsoft, Satya Nadella, se centró en el uso seguro de los modelos de inteligencia artificial en una reciente publicación en su cuenta de X. Según Nadella, ningún modelo debe ser el único soporte para un resultado importante o validar sus propias operaciones. Cada acción significativa realizada por el modelo debe dejar un rastro inalterable y legible para que se pueda reproducir el resultado sin confiar en la declaración del modelo.
El sistema debe ser probado continuamente no solo con tareas exitosas, sino también con errores, ataques, situaciones extremas y cambios en el sistema. Las organizaciones independientes deben poder ver a qué puede acceder un modelo y qué operaciones puede realizar. El proceso de validación debe ser independiente del modelo validado, y el control de las pruebas que demuestran si el comportamiento de un sistema es coherente con su propósito no debe estar en manos de ningún modelo.
Nadella sugiere que debemos considerar un modelo como no confiable desde el primer día y mantenerlo bajo control desde el principio. "Piense en esto como un freno de emergencia", afirma Nadella, añadiendo que una persona autorizada siempre debe poder pausar o apagar un modelo en medio de una tarea. Además, los modelos más avanzados requerirán tecnologías de control más sofisticadas que deben estandarizarse.