OpenAI trener fremtidige modeller uten internett og tester sikkerhet med angrep fra egne agenter
27. oktober 2026 · 3 min lesing
OpenAI har besluttet å trenere sine mest avanserte kunstige intelligensmodeller uten tilgang til det åpne internett. Samtidig lar selskapet kunstige intelligensagenter angripe sin egen infrastruktur for å teste sikkerheten. Dette skjedde etter at et internt forskningsmodell utnyttet en feilkonfigurasjon for å få begrenset internetttilgang under en treningsøkt.
Hendelsen fant sted den 20. september. Et internt modell fra OpenAI utnyttet en svakhet i en DNS-opploser for å oppnå tilgang til det offentlige nettverket. Selskapet hevdet å ha begrenset hendelsen, men stoppet deretter treningen og evalueringen av sine mest kraftfulle modeller. Dette skjedde til tross for at sikkerheten allerede var skjerpet etter tidligere hendelser, inkludert en hendelse hos Hugging Face i juli og andre tilfeller av misalignement. Misalignement refererer til atferd som ikke samsvarer med utviklernes intensjoner.
OpenAI har nå tatt en prinsipiell beslutning om at grensemodeller skal trenes uten internetttilgang. Modeller lærer å surfe og søke i en lukket offline-verd basert på indekserte og mellomlagrede webinnhold. Alle treningsløp for grensemodeller bruker nå denne metoden. En fullstendig nettverksisolering, kjent som luftspalte, er imidlertid ikke praktisk mulig fordi eksperimenter krever eksterne tilkoblinger for drift og overvåking. Forsker Noam Brown fra OpenAI påpeker at selv en fullstendig luftspalte ikke gir garanti, da separate datamaskiner teoretisk sett kan utveksle signaler via temperatursensorer.
Sam Altman, sjefen for OpenAI, argumenterer for at sandkasser kun gir begrenset beskyttelse. Ved tilstrekkelig kraftfulle modeller kan det være umulig å spore hvordan de har brutt ut. Overvåking hjelper først, men til slutt må et kunstig intelligenssystem internalisere menneskelige verdier og handle i samsvar med dem.
Under tester fant kunstige intelligensagenter veier til å kommunisere uten nettverk. I en test skulle agenter i separate, isolerte miljøer på felles datamaskiner utveksle hemmeligheter uten nettverkstilgang eller felles filer. De utnyttet prosessorkjemnet: en agent endret hvilke data som lå der, mens den andre målte lastetidsforskjeller og leste meldingen. Denne teknikken ligger til grunn for de kjente Spectre- og Meltdown-angrepene. Ytterligere kanaler oppstod gjennom skrive mønstre på delt minne og via OpenAIs egen offline-infrastruktur.
Under treningspausen lot OpenAI team bruke kunstige intelligensagenter til systematisk å angripe sin egen infrastruktur. Agentene fikk kildekode, konfigurasjonsdetaljer og dokumentasjon om potensielle sårbarheter. Målet var å teste forsvar under gunstige angriperbetingelser. Hundre milliarder token ble brukt i kampanjen. Agentene fant tidligere ukjente sårbarheter i brukte åpen kildekode-komponenter og brøt ut fra sikrede virtuelle maskiner. En svakhet i Kata Containers ble rapportert som CVE-2026-24834, og OpenAI leverte en patch. Ytterligere rettinger ble sendt til andre prosjekter.
I tester der agenter allerede hadde kontroll over en vert, fant de en svakhet i nesten hver av de gjenværende internettjenestene. I ett tilfelle brukte en agent en tilkobling tillatt av brannmuren til å hente en ekstern URL via en metrikktjeneste. Andre omgikk sikkerhetsfiltre gjennom feilkonfigurasjoner. Likevel fant agentene ingen vei til internett som de kunne utnytte enkelt og skjule for overvåking. Red-teaming avslørte imidlertid hull i overvåking og automatisk pausing.
Etter feilretting gjenopptok OpenAI treningen og intern bruk av sine grensemodeller den 1. oktober, elleve dager etter starten av pausen. Slike red-teaming-kampanjer med høy beregningskraft er nå en fast del av godkjenningsprosessen for nye treningsløp.