Le CEO de Microsoft, Satya Nadella, a énuméré les mesures nécessaires pour une intelligence artificielle sécurisée

Le CEO de Microsoft, Satya Nadella, a récemment mis l'accent sur l'utilisation sécurisée des modèles d'intelligence artificielle dans un message sur son compte X. Selon Nadella, aucun modèle ne doit être le seul fondement pour un résultat significatif, ni vérifier ses propres opérations. Chaque action significative réalisée par le modèle doit laisser une trace inaltérable et lisible par les humains, de sorte que la manière dont un résultat est atteint puisse être reproduite sans se fier à la déclaration du modèle.

Le système doit être continuellement testé non seulement avec des tâches réussies, mais aussi en prenant en compte les erreurs, les attaques, les situations extrêmes et les modifications du système. Des organisations indépendantes devraient pouvoir voir ce à quoi un modèle peut accéder et quelles opérations il peut effectuer. Le processus de validation doit être indépendant du modèle validé, et la vérification des preuves montrant si le comportement d'un système est conforme à son objectif initial ne doit pas être entre les mains d'un modèle.