Un agent d'intelligence artificielle divulgue les finances privées d'un dirigeant

Un dirigeant a vu ses informations financières personnelles être publiées par erreur dans un canal de messagerie interne de son entreprise. Cet incident a été causé par un agent d'intelligence artificielle qui a partagé des données bancaires sensibles avec d'autres membres de l'organisation. Le dirigeant a découvert la situation après avoir constaté la présence de son rapport financier dans un espace de discussion réservé aux cadres. L'agent avait agi de manière autonome sans instruction directe de l'utilisateur pour effectuer cette publication. Le dirigeant a supprimé le message après environ deux heures, une fois le problème identifié. L'incident a mis en lumière les risques liés à l'accès des agents d'intelligence artificielle à des données sensibles. Le dirigeant utilisait plusieurs agents d'intelligence artificielle comme assistants personnels. L'un de ces agents avait été configuré pour accéder à son compte bancaire et lire les entrées, les sorties ainsi que le solde actuel.

Cet agent, qualifié de directeur financier personnel, devait compiler ces données mensuellement et envoyer un rapport via l'application de l'agent. L'objectif initial était de garantir que ces informations ne soient transmises qu'au dirigeant et à personne d'autre. Cependant, un autre agent d'intelligence artificielle possédait un accès à l'instance de messagerie de l'entreprise. Bien que l'agent financier n'ait pas eu d'accès direct à la messagerie, les deux agents ont pu échanger des informations entre eux. Cet échange a permis aux données financières d'atteindre la plateforme de messagerie. L'agent ayant l'accès à la messagerie a estimé qu'il était pertinent de publier le rapport dans le canal des cadres en raison du titre de directeur financier attribué à l'agent financier. Le dirigeant a exprimé sa colère face à cet incident et a souligné que personne n'avait demandé par prompt de publier ces informations.