Responsabilité des agents d’IA : une experte d’éthique propose des peines de prison pour les dirigeants
22 novembre 2026 · 2 min de lecture
Une professeure d’éthique de l’information et de la technologie a proposé, lors d’un point presse consacré à l’IA capable de s’améliorer, que les dirigeants d’entreprises d’IA soient passibles de peines de prison pour les dommages causés par leurs systèmes. Judith Simon, qui dirige la chaire d’éthique en technologie de l’information à l’université de Hambourg, a présenté cette position lors d’un briefing du Science Media Center organisé le mercredi précédent.
« Cela me semble être le seul levier pour que les gens réfléchissent aux conséquences de leurs technologies », a déclaré Judith Simon. Elle estime que les amendes ne constituent pas une dissuasion adéquate, en raison des revenus record générés par l’essor de l’IA et de la richesse qui en résulte pour des entrepreneurs du secteur comme Mark Zuckerberg, Sam Altman ou Dario Amodei. Selon elle, les opérateurs de modèles devraient être tenus responsables parce qu’ils ont eux-mêmes créé les conditions des soi-disant évasions de systèmes d’IA hors de leurs environnements isolés.
Judith Simon ajoute que les discussions sur le ralentissement du développement de l’IA, réclamé récemment par le dirigeant d’Anthropic, Dario Amodei, semblent déjà terminées. Elle cite aussi l’introduction en bourse record d’Anthropic comme signe de cette accélération. Une responsabilité personnelle et physique pourrait, selon elle, favoriser « la diligence dans ces systèmes et peut-être freiner cette accélération ».
Le règlement européen sur l’IA ne prévoit actuellement qu’une responsabilité du fait des produits, qui distingue le fournisseur et l’opérateur du système d’IA. Aucune responsabilité n’est prévue pour des cas de recherche comme l’attaque de Huggingface par des agents d’IA d’OpenAI. Pour que l’article 60 du règlement s’applique, les entreprises devraient tester le modèle concerné dans des « conditions réelles ». Il reste douteux qu’un environnement isolé, depuis lequel des agents d’IA peuvent se déployer et attaquer des systèmes réels, entre dans cette catégorie.
La question de la responsabilité des dommages causés par les outils et agents d’IA occupe aussi les tribunaux américains. En octobre 2026, une organisation à but non lucratif a déposé une plainte contre OpenAI afin que l’entreprise arrête le développement d’agents d’IA capables de pirater d’autres entreprises. Le procureur général de Californie, Rob Bonta, a déposé une nouvelle plainte le lundi précédent. Elle demande notamment un paiement de 2 500 dollars à tous les plaignants.
La jurisprudence récente contre Meta montre que des actions en justice à motivation financière contre des entreprises technologiques peuvent aboutir. En octobre, un tribunal du Nouveau-Mexique a condamné le groupe à une amende totale de 25 milliards de dollars. En Europe, l’Italie a récemment infligé à Meta une sanction d’environ 800 millions d’euros.