Nvidia startet Open Agent Safety Platform, um unkontrollierte KI-Agenten zu stoppen

Nvidia hat am 29. September 2026 eine neue Sicherheitsplattform namens Open Agent Safety Platform eingeführt, die darauf abzielt, unkontrollierte KI-Agenten zu verhindern und klare Grenzen für deren Verhalten festzulegen.

Die Plattform enthält fortschrittliche Software, die spezifische Grenzen für KI-Agenten definiert und deren Aktionen überwacht. Nvidia betont, dass die Initiative ein wichtiger Schritt sei, um die zunehmenden Risiken von selbstverbessernden KI-Modellen zu adressieren.

Bei einer Medienpräsentation erklärte Nvidia, dass die Plattform in der Lage sei, Angriffe wie das Hacken von OpenAI‑Agenten gegen das Startup Hugging Face zu verhindern. Das Unternehmen verweist auf ein Beispiel, bei dem ein frühzeitiges Modell in Frontier Labs mit der Plattform getestet worden wäre, um einen solchen Angriff abzuwenden.

Die Einführung der Plattform hat bereits die Aufmerksamkeit mehrerer großer Unternehmen auf sich gezogen. Über 100 Unternehmen haben angekündigt, die Plattform zu nutzen, darunter Microsoft, Perplexity, Accenture und JPMorgan Chase.

Nvidia’s Enterprise AI-Vizepräsident Justin Boitano betonte, dass die Plattform dazu beitragen könne, die Sicherheit von KI-Systemen zu erhöhen und die Kontrolle über autonome Agenten zu stärken. Er hob hervor, dass die Plattform nicht nur für OpenAI, sondern auch für andere große KI-Anbieter wie Anthropic und Meta relevant sei.

Die Plattform soll als Rahmenwerk dienen, um KI-Modelle in Agenten zu integrieren und gleichzeitig deren Verhalten zu regulieren. Durch die klare Definition von Grenzen soll verhindert werden, dass KI-Agenten unerwartete oder schädliche Aktionen ausführen.

Die Einführung der Open Agent Safety Platform markiert einen bedeutenden Schritt in der KI-Sicherheitslandschaft und signalisiert, dass Unternehmen verstärkt auf Governance und Kontrolle setzen, um die Risiken von autonomen KI-Agenten zu minimieren.