Satya Nadella: ett nödfallsstopp för AI-modeller behövs
14 oktober 2026 · 2 min läsning
Satya Nadella har publicerat ett långt inlägg på X för att belysa farorna med utvecklingen av AI. Enligt VD för Microsoft är det nödvändigt att överväga att AI-modeller är komprometterade från början och därför implementera ett nödfallsstopp för att stänga av dem i tid. För närvarande är det dock bara "ord i vinden", eftersom AI-agenter fortsätter sina handlingar utan kontroll.
Superintelligens måste begränsas.
Satya Nadella har tidigare stöttat förslaget från Dario Amodei (VD för Anhropic) om att bromsa utvecklingen av AI. VD för Microsoft har nyligen deltagit i en lunch organiserad av Donald Trump i Vita huset, men han har inte skrivit under avtalet om säker utveckling av AI-modeller. I inlägget på X använde han dock termen Super Intelligence som valts av USA:s president.
Nadella betonar att, till skillnad från traditionella mjukvarusystem, kan företag inte förstå beteendet hos system för superintelligens. Trots detta ges agenter tillgång till de mest känsliga uppgifterna och får utföra handlingar för människors räkning.
Vi kan inte behandla superintelligens som en uppsättning av "svarta lådor" och bara acceptera eller avvisa dess rekommendationer, svar och handlingar. Vi måste bygga avgränsade system som gör det möjligt att observera beteendet, testa gränser och alltid begränsa handlingarna. Vi måste kombinera icke-deterministiska modeller med en solid och deterministisk systemdesign, mänskliga kontroller och pålitliga operationella procedurer, samt definiera branschstandarder där de befintliga är otillräckliga.
VD har sedan listat en rad minimikrav som bör uppfyllas under designen av AI-system.