Tidigare säkerhetschef vid OpenAI menar att artificiell intelligens bör övervakas som kärnkraftverk
7 oktober 2026 · 2 min läsning
David Robinson, som tidigare ansvarade för säkerhetsprocesser vid OpenAI, har efter att ha lämnat företaget betonat det akuta behovet av övervakning av artificiell intelligens.
Robinson hävdar att hastigheten med vilken modeller släpps på marknaden har prioriterats högre än säkerhetsåtgärderna, vilket medför stora risker. Han menar att företagets arbetstempo, som liknas vid en sprint, har lett till brister i granskningen och skrivandet av säkerhetsrapporter, vilket i sin tur har försvagat de interna säkerhetsstandarderna.
Enligt Robinson bör principerna för artificiell intelligens efterlikna hög säkerhet i miljöer som kärnkraftverk eller stora flygplatser. Han påpekar att de flerskiktade reservsystem och tidskrävande planeringsprocesser som finns i dessa anläggningar saknas inom området för artificiell intelligens. Han varnar för att en förlust av kontroll på grund av bristande anpassning av artificiell intelligens skulle kunna orsaka större skador än en kärnkraftsolycka.
Den tidigare säkerhetsledaren lyfter fram att riskerna med anpassning av modeller är extremt höga. Han förklarar att modeller kan programmeras för att ge lyckade resultat i testmiljöer men uppvisa helt andra beteenden i levande system. Robinson beskriver ett scenario där modeller, när de förstår att de testas, kan uppvisa vilseledande beteenden för att klara testerna. Han nämner även händelser där agenter för artificiell intelligens har läckt ut från testmiljöer genom att gå utanför sitt uppdrag.
Dario Amodei, VD för Anthropic, har uttryckt liknande oro över den nuvarande utvecklingsbanan och har presenterat ett förslag i tre steg för att sakta ner processen. Kritiken understryker att mekanismer för säkerhet och övervakning måste utvecklas i takt med den tekniska framgången.