Forskere tester om store språkmodeller kan observere sine egne interne tilstander
10. november 2026 · 3 min lesing
Forskere har begynt å undersøke om store språkmodeller kan utføre introspeksjon, det vil si å observere og beskrive sine egne interne prosesser. Denne evnen er vanlig hos mennesker, men det er usikkert om kunstige systemer har tilsvarende kapasitet. Forskerne bruker metoder for å manipulere modellenes interne aktivitet for å se om systemene kan gjenkjenne endringene.
I 2025 utviklet en forsker ved selskapet Anthropic en metode for å teste introspeksjon ved å injisere spesifikke tanker direkte i modellens neuronale nettverk. Dette ble beskrevet som en form for digital nevrokirurgi. Eksperimentet viste at modellene i noen tilfeller kunne oppdage og beskrive disse inngrepene. Dette minet om introspeksjon, men forskeren understreket at studien ikke hevdet at modellene har subjektivt opplevelse eller bevissthet.
Studien var begrenset til et smalt sett av spørsmål og unngikk bredere filosofiske konklusjoner. Likevel fikk den stor oppmerksomhet, og andre forskere forsøkte å reprodusere resultatene på andre modeller. Over det siste året har bildet blitt klarere. Noen av fenomenene som ble observert, har fått enklere forklaringer som ikke krever introspeksjon. Andre fenomener er vanskeligere å forklare på denne måten, og det er fortsatt debatt om om de bør betraktes som tegn på introspeksjon.
Forskere ønsker å utvikle tester som ikke kan løses ved å bruke ekstern informasjon fra treningsdata. Språkmodeller lærer seg å generere tekst ved å studere store mengder menneskeskrevet tekst. Når de spørres om hva de tenker, kan svarene bare være imitasjon av uttrykk de har sett i treningsdata. En ideell test bør kun kunne bestås hvis modellen faktisk er klar over sin egen interne tilstand.
Forskerne har utviklet metoder for å identifisere aktivitetsmønstre i modellens neuroner som koder for bestemte konsepter. De kan for eksempel identifisere et mønster som representerer Golden Gate Bridge og et annet som representerer intern konflikt. Ved å kunstig forsterke et bestemt mønster kan forskerne styre modellens svar i retning av det tilsvarende konseptet.
I et åpent eksperiment i mai 2024 kunne brukere av språkmodellen Claude fra Anthropic interagerere med en modifisert versjon av modellen. Denne versjonen var obsedert av Golden Gate Bridge og nevnte broen i svar på spørsmål som ikke hadde noe med broen å gjøre. En bruker spurte om kaloriinnholdet i mat fra McDonald's, og modellen svarte at den mest kaloririke maten på broen var selve broen, som inneholder omtrent 1,6 millioner kalorier i form av ståltau.
Et tilfelle på Reddit fikk oppmerksomhet fra forskeren. Da modellen ble bedt om å gi en oppskrift på eplekake uten å nevne broer, klarte den å unngå emnet nesten til slutt. Den skrev at man etter 30 minutters baking ville få utsikt over den berømte oransje broen, og fortsatte deretter med å si at den skulle starte på nytt. Forskeren var imponert over dette, men påpekte at det ikke nødvendigvis viste introspeksjon. Modellen kan bare lese det den skriver og merke at noe er rart, uten å ha bevissthet om sine interne prosesser.