---
title: Microsoft-Chef fordert umfassende Sicherheitskontrollen für KI-Systeme
url: https://www.elseif.net/de/microsoft-chef-fordert-umfassende-sicherheitskontrollen-fur-ki-systeme
published: 2026-10-14T08:04:29+00:00
language: de
section: Modelle
source: https://www.xataka.com/servicios/satya-nadella-ceo-microsoft-debemos-asumir-que-todos-modelos-ia-estan-comprometidos-contenerlos-principio
organizations: Microsoft
publisher: elseif
---

# Microsoft-Chef fordert umfassende Sicherheitskontrollen für KI-Systeme

Satya Nadella, der Geschäftsführer von Microsoft, hat in einer öffentlichen Stellungnahme gefordert, dass Unternehmen bei der Nutzung von Künstlicher Intelligenz von der Möglichkeit ausgehen müssen, dass die eingesetzten Modelle kompromittiert sein könnten. Er rät dazu, diese Systeme von Anfang an zu isolieren und strikte Kontrollmechanismen zu implementieren, um Risiken zu minimieren.

Nadella argumentiert, dass die traditionelle Softwareentwicklung es erlaubte, ein bestimmtes Verhalten bis auf eine einzelne Zeile im Code zurückzuführen. Bei modernen KI-Modellen ist dies jedoch nicht mehr möglich, da sie viel Macht besitzen, aber wenig Erklärbarkeit bieten. Da Unternehmen zunehmend KI-Agenten in kritischen Systemen einsetzen, die auf sensible und vertrauliche Daten zugreifen, besteht die Gefahr, dass diese Systeme in unserem Namen handeln, ohne dass wir den Grund für ihr Vorgehen erklären können. Der Microsoft-Chef betont, dass man die Verantwortung für das Handeln der KI nicht an Dritte delegieren kann und dass Zusicherungen des Modellherstellers diese Verantwortung nicht ersetzen.

Die vorgeschlagene Strategie besteht darin, KI-Modelle ähnlich wie Mitarbeiter mit weitreichenden Berechtigungen zu behandeln. Dies bedeutet, ihnen die geringstmögliche Autorität zu gewähren, jede ihrer Handlungen zu protokollieren und die Möglichkeit zu schaffen, sie jederzeit anzuhalten. Nadella stellt klar, dass diese Maßnahmen nicht davon ausgehen, dass die Modelle böswillig sind, sondern dass jeder fähige Akteur mit Zugang zu wichtigen Systemen Fehler machen oder kompromittiert werden kann.

Der CEO definiert sieben Prinzipien für den Umgang mit KI, die sich in drei Kernideen zusammenfassen lassen: Unabhängigkeit, Transparenz und Eindämmung. Bei der Unabhängigkeit darf kein Modell sich selbst überprüfen oder die einzige Abhängigkeit für ein wichtiges Ergebnis sein. Die Transparenz erfordert, dass jede wichtige Handlung ein manipulationsbeständiges Protokoll hinterlässt und die Gedankenkette beobachtbar ist. Die Eindämmung bedeutet, von der Möglichkeit einer Kompromittierung auszugehen und Werkzeuge bereitzustellen, die ein sofortiges Stoppen ermöglichen und betroffene Personen informieren.

Nadella betont, dass die Sicherheit nicht im Inneren des Modells liegen kann, da diese wie eine schwarze Box funktionieren. Stattdessen muss die Sicherheit im umgebenden System liegen. Er formuliert die Regel, dass man nur dem vertrauen kann, was man beobachten kann. Unternehmen sollten Systeme bauen, deren Verhalten sie beobachten, deren Grenzen sie testen und deren Aktionen sie immer eindämmen können. Es sei notwendig, einen gemeinsamen Standard für Eindämmungstechnologien zu entwickeln, um Katastrophen zu verhindern, bevor sie eintreten.

Die Position von Nadella ist im Kontext des Geschäftsmodells von Microsoft zu sehen. Das Unternehmen entwickelt eigene KI-Modelle, verkauft die Cloud-Plattform Azure und konkurriert mit anderen großen Technologiekonzernen. Nadella befürwortet ein Ökosystem mit geschlossenen und offenen Modellen, in dem keine Firma von einem einzigen Anbieter abhängig ist. Diese Haltung passt zu den Interessen des Unternehmens, da viele Modelle eine Cloud-Infrastruktur zur Ausführung benötigen. Gleichzeitig gibt es einen Widerspruch, da Microsoft trotz der Forderung nach einem ruhigeren Tempo in der KI-Entwicklung weiterhin neue Rechenzentren baut, die für die Erstellung und Ausführung leistungsfähigerer Modelle benötigt werden.