Microsoft CEO Satya Nadella nennt Maßnahmen für sichere künstliche Intelligenz
14. Oktober 2026 · 1 Min. Lesezeit
Auch veröffentlicht auf Indonesia, Norsk, Polski, Русский, العربية, 한국어, 中文, Español, Français, Italiano, עברית
Microsoft CEO Satya Nadella hat in einer aktuellen Mitteilung auf X den Fokus auf die sichere Nutzung von künstlichen Intelligenzmodellen gelegt. Laut Nadella sollte kein Modell die einzige Grundlage für wichtige Entscheidungen sein oder seine eigenen Tätigkeiten und Prozesse verifizieren.
Jede bedeutende Handlung des Modells sollte eine unveränderliche und lesbare Spur hinterlassen, damit nachvollziehbar ist, wie ein Ergebnis erreicht wurde, ohne sich auf die Aussage des Modells zu verlassen. Das System muss nicht nur durch erfolgreiche Aufgaben, sondern auch durch Fehler, Angriffe, Extremfälle und Systemänderungen kontinuierlich getestet werden.
Unabhängige Organisationen sollten in der Lage sein, auf die Zugänglichkeit und die möglichen Handlungen eines Modells zuzugreifen. Der Validierungsprozess muss unabhängig vom verifizierten Modell sein, und die Kontrolle über den Beweis, ob das Verhalten eines Systems mit dem ursprünglichen Ziel übereinstimmt, sollte nicht in den Händen eines Modells liegen. Nadella betont, dass Modelle von Anfang an als unzuverlässig betrachtet und unter Kontrolle gehalten werden sollten.
„Denken Sie daran wie an eine Notbremsung“, erklärt Nadella und fügt hinzu, dass eine autorisierte Person jederzeit ein Modell während einer Aufgabe anhalten oder abschalten können sollte. Laut Nadella werden fortgeschrittenere Modelle weitere Kontrolltechnologien erfordern, die in einen gemeinsamen Standard überführt werden müssen.