Anthropic schlägt amerikanisches AI-Policy vor: ein Verbot bei Risiko von 50 Toten
20. Oktober 2026 · 1 Min. Lesezeit
In letzter Zeit wird aus verschiedenen Richtungen vor den weitreichenden Folgen gewarnt, die die schnelle Entwicklung von künstlicher Intelligenz mit sich bringen kann. Gleichzeitig wird vor allem gesprochen und nicht viel unternommen. Anthropic möchte nun eine Veränderung herbeiführen, indem es eine Sicherheitsrichtlinie den politischen Entscheidungsträgern vorlegt.
Berichten zufolge hat Anthropic der amerikanischen Regierung ein Policy-Dokument überreicht. Das Ziel ist, dass die Regierung die Veröffentlichung eines AI-Modells stoppen kann, wenn ein Risiko für Schäden von mehr als 1 Milliarde Dollar besteht oder wenn mindestens 50 Menschen sterben oder verletzt werden. Dies betrifft beispielsweise Szenarien, in denen künstliche Intelligenz eine biologische Waffe entwickelt oder unabhängig von den Entwicklern agiert. Auch Cyberangriffe werden in diesem Zusammenhang berücksichtigt.
Das Policy-Dokument ist nicht ganz neu, da viele Punkte auch im Advanced AI Framework von Anthropic enthalten sind, das seit Anfang des Jahres gilt. Der Vorschlag gibt der Regierung die Möglichkeit, "die gefährliche Einführung der leistungsstärksten Modelle zu blockieren oder zu stoppen". Zudem verpflichtet es Entwickler, bahnbrechende Modelle zu testen und sehr transparent über die Ergebnisse dieser Tests zu berichten.
Es sollen auch unabhängige Prüfer eingesetzt werden, die beim Handelsministerium bekannt sind und regelmäßig Bewertungen verschiedener AI-Modelle durchführen. Wenn diese Prüfer ein direktes Risiko feststellen, müssen sie dies innerhalb von 72 Stunden dem Handelsministerium melden. Das Ministerium kann ein Modell nur gerichtlich stilllegen; andere Regierungsstellen haben diese Befugnis nicht.
Die amerikanische Regierung hat bisher nicht reagiert.