Sju pålitlighetslager för språkmodeller testades utan att öka noggrannheten
13 november 2026 · 2 min läsning
Även publicerad på हिन्दी
Ett experiment med sex olika kontrolllager runt en språkmodell visade att dessa lager inte ökade noggrannheten i utdata, utan endast sorterade svaren efter tillförlitlighet. Testet genomfördes på medicinska foruminlägg där modellen skulle extrahera och kodera biverkningar. Teorin att varje nytt lager skulle fånga fel som de tidigare missade, och därmed höja precisionen, bekräftades inte av resultaten. Istället för att korrigera fel, filtrerade lagren svaren och markerade vilka som var osäkra.
Undersökningen använde CADEC-korpusen, en samling med 1 250 foruminlägg om två läkemedel där varje biverkning är märkt med en SNOMED CT-kod. Detta material fungerade som ett instrument för att mäta hur mycket varje lager höjde modellens noggrannhet. En övervakad modell, CONORM, som tränats på 875 av dessa filer, uppnådde ett F1-värde på 0,72. Den nollskottsextraktor som testades i studien nådde ett F1-värde mellan 0,47 och 0,50 under samma villkor. Jämförelsen visar att den övervakade modellen presterar betydligt bättre, men den kräver märkta träningsdata och kan inte avgöra vilka av sina svar som är tillförlitliga.
Systemet som testades bestod av en extraktor som läste texten och en sökmodul utan språkmodell. Sökmodulen använde 227 554 rader med nyckelord och koder från den australiska utgåvan av SNOMED CT. Varje citat från modellen inbäddades med granite-embedding:30m och de 20 närmaste begreppen presenterades för modellen att välja mellan. Detta val gjordes efter mätningar på 40 utvecklingsdokument, där minnesbaserad kodåterkallelse visade sig vara betydligt sämre än att namnge begreppet och söka upp det. Minnesbaserad återkallelse gav noll svar på upp till 38 procent av posterna och 13 till 18 procent av koderna fanns inte i någon SNOMED-utgåva.
Stabiliteten hos extraktorn var ett annat fokus. Tre identiska körningar av samma system på samma 40 dokument visade en variation på fyra F1-poäng vid temperatur noll. Två körningar var byte-identiska, men den tredje skilde sig och hittade 98 korrekta nämnningar jämfört med 87 i de andra. När alla tre körningar hittade samma textspan, enades de om koden 84 procent av tiden. Variationen berodde alltså främst på tolkningen, inte kodningen. Modellen gpt-oss:20b var den enda bland de fem testade modellfamiljerna som visade denna variation. De andra modellerna, inklusive llama3.1:8b och mistral:7b-instruct, gav byte-identisk output vid varje körning.
De sex testade lagren inkluderade deterministiska kontroller, röstning mellan flera prover, bedömning av en andra modell och uteslutning av okorroborerade svar. Lagren sorterade svaren efter hur mycket de kunde lita på dem, men korrigerade nästan inga fel. Teorin att lagren är additiva och att noggrannheten stiger med varje tillagt lager, som är grunden för att stapla dem, höll alltså inte. Resultaten visar att det finns begränsningar i verifieringens förmåga att fixa fel i språkmodellers utdata, även med flera kontrollsteg.