Anthropic föreslår amerikanskt AI-policy: ett förbud vid risk för 50 dödsfall
20 oktober 2026 · 1 min läsning
Det har på senare tid kommit varningar från olika håll angående de långtgående konsekvenser som den snabba utvecklingen av artificiell intelligens kan medföra. Samtidigt talas det mycket, men inte mycket åtgärder vidtas. Anthropic vill nu förändra detta genom att föreslå en säkerhetspolicy till beslutsfattare.
Enligt rapporter har Anthropic lagt fram policy för den amerikanska regeringen. Idén är att regeringen ska kunna stoppa utgivningen av en AI-modell när det finns risk för skada som överstiger 1 miljard dollar, eller där minst 50 personer dör eller skadas. Detta kan till exempel handla om scenarier där artificiell intelligens utvecklar ett biovapen eller agerar helt utanför utvecklarnas kontroll. Även cyberattacker ingår i detta.
Policyn är inte helt ny: den finns i stora drag också i det Advanced AI Framework som gäller för Anthropic själv. AI-företaget har infört detta sedan tidigare i år. Förslaget ger regeringen möjlighet att "blockera eller stoppa farlig utrullning av de kraftfullaste modellerna". Dessutom åläggs utvecklare att testa banbrytande modeller och vara mycket transparenta om resultaten från dessa tester.
Det ska även finnas oberoende bedömare som är kända av handelsdepartementet och som periodiskt utvärderar olika AI-modeller. Om dessa personer märker ett direkt risk, måste de rapportera detta inom 72 timmar till handelsdepartementet. Endast detta departement kan stoppa en modell via domstol: andra statliga avdelningar kan inte göra det.
Den amerikanska regeringen har ännu inte kommenterat.