Les organisations doivent s'adapter à l'incertitude du déploiement de l'intelligence artificielle

Les organisations déploient un nombre croissant de modèles et d'applications d'intelligence artificielle tout en apprenant à évaluer les risques associés.

Les entreprises adoptent généralement l'intelligence artificielle par étapes, commençant par des applications internes à faible risque, comme la rédaction de descriptions de postes ou l'analyse de curriculum vitae, avant de passer à des tâches plus complexes telles que les analyses financières et, finalement, aux services clients.

Certaines sociétés évoluent désormais vers des agents capables d'accéder à divers systèmes organisationnels et d'exécuter des actions. Cependant, l'utilisation d'agents autonomes ayant accès à des systèmes tiers et communiquant avec des clients reste pour l'instant un projet plutôt qu'une pratique courante dans les grandes entreprises.

La sécurité varie selon l'étape du déploiement. Il est nécessaire de protéger les applications contre les attaques, d'empêcher la divulgation de données et de contrôler les réponses des modèles, car un modèle peut fournir une réponse inappropriée sans être attaqué. L'utilisation d'outils externes par les employés pose également un risque, car un document de politique interne ne suffit pas si des données sensibles sont collées accidentellement dans un outil.

Selon le rapport de F5 intitulé 2026 State of Application Strategy, les organisations utilisent en moyenne sept modèles d'intelligence artificielle. Près de 90 pour cent d'entre elles signalent au moins un défi opérationnel ou de sécurité, bien que Donnchadh Casey, vice président de la sécurité de l'intelligence artificielle chez F5, estime que 88 pour cent représentent seulement les organisations conscientes de leurs problèmes.

L'émergence des agents modifie profondément le modèle de sécurité. Les systèmes d'accès actuels sont basés sur l'identité humaine, et il n'existe pas encore de norme établie pour déterminer si un agent doit utiliser l'identité de l'humain qui l'a lancé ou posséder la sienne. De plus, la vitesse d'exécution des machines nécessite une visibilité accrue, un enregistrement des actions et une capacité d'analyse pour comprendre pourquoi une décision a été prise.

Pour répondre aux besoins de visibilité, F5 a acquis CalypsoAI en septembre 2025 pour 180 millions de dollars, puis Surepath AI en juin 2026, cette dernière étant spécialisée dans la détection de l'intelligence artificielle fantôme. F5 a également lancé la F5 AI Security Platform pour aider les entreprises à suivre les services externes utilisés par les employés, les modèles choisis par les équipes et les nouvelles vulnérabilités après le déploiement.