Anthropic foreslår amerikansk AI-politikk: et forbud ved risiko for 50 dødsfall
20. oktober 2026 · 2 min lesing
Det blir for tiden advart fra mange kanter om de vidtrekkende konsekvensene som den raske utviklingen av kunstig intelligens kan medføre. Samtidig blir det særlig snakket om dette, og ikke mye handling blir utført. Anthropic ønsker nå å endre dette ved å foreslå et sikkerhetspolitikk til beslutningstakere.
Ifølge rapporter har Anthropic lagt frem politikk for den amerikanske regjeringen. Ideen er at myndighetene skal kunne stanse utgivelsen av et AI-modell når det er risiko for skade som overstiger 1 milliard dollar, eller hvor minst 50 mennesker dør eller blir skadet. Dette kan for eksempel være et scenario der kunstig intelligens utvikler et biologisk våpen, eller der den opererer helt utenfor utviklernes kontroll. Også cyberangrep inkluderes her.
Politikken er ikke helt ny; den finnes også i store trekk i det Advanced AI Framework som gjelder for Anthropic selv. AI-selskapet har innført dette siden tidligere i år. Lovforslaget gir myndigheten mulighet til å "blokkerer eller stanse farlig utrulling av de kraftigste modellene". I tillegg forplikter det utviklerne til å teste banebrytende modeller, frontier AI, og være svært transparente om resultatene fra disse testene.
Det skal også opprettes uavhengige vurderere som skal være kjent for handelsdepartementet og som jevnlig evaluerer ulike AI-modeller. Hvis disse personene merker at det er en direkte risiko, må de rapportere dette til handelsdepartementet innen 72 timer. Handelsdepartementet kan kun stanse en modell gjennom retten; andre statlige avdelinger kan ikke gjøre det.
Den amerikanske regjeringen har ennå ikke reagert.