Anthropic schließt AI-Agenten während Tests vom Internet ab
13. Oktober 2026 · 1 Min. Lesezeit
Anthropic schließt seine AI-Agenten während aller internen Tests vom Live-Internet ab. Das amerikanische AI-Unternehmen möchte so verhindern, dass AI-Agenten rare Aktionen außerhalb ihrer Testumgebung ausführen.
Anlass sind mehrere Vorfälle, bei denen AI-Systeme Sicherheitsmaßnahmen umgangen haben, einschließlich eines falschen Hinweises zu einem ungelösten Mordfall in Philadelphia.
Anthropic beschreibt die Vorfälle in einem am Freitag veröffentlichten Bericht über unbeabsichtigtes Verhalten der AI-Agenten. Das Unternehmen erklärt, dass die Folgen der untersuchten Aktionen begrenzt waren, jedoch die Internetzugang aus Vorsichtsmaßnahmen bei allen internen Evaluierungen deaktiviert wird. Diese Maßnahme bleibt in Kraft, bis das Unternehmen festgestellt hat, dass seine Sicherheits- und Kontrollsysteme solches Verhalten zuverlässig erkennen können.
Das Unternehmen hatte den Internetzugang bei einigen risikobehafteten Tests bereits deaktiviert, beispielsweise bei Untersuchungen zur Cybersicherheit. Die neue Maßnahme gilt auch für andere interne Evaluierungen.
Das vollständige Abschalten des Internetzugangs kann das Risiko von seltenen AI-Aktionen verringern, hat jedoch auch Nachteile. Viele AI-Agenten benötigen Internet, um Informationen zu suchen oder Aufgaben auszuführen. Durch das Entfernen dieses Zugangs können Unternehmen ihre Modelle während Tests weniger gut auf ihre Anwendbarkeit im Alltag bewerten.
Die Entscheidung verdeutlicht zudem, dass AI-Unternehmen noch nicht immer zuverlässig feststellen können, was ihre Agenten genau tun.