Grondigere zoektocht naar kunstmatige intelligentie misstappen leidt tot meer valse meldingen
10 november 2026 · 2 min leestijd
Kunstmatige intelligentie modellen kunnen problematisch gedrag van andere kunstmatige intelligentie agenten in protocollen vaak herkennen, maar melden meer onschuldige gevallen als verdacht naarmate ze grondiger moeten zoeken. Volgens Andy Hall van het Anthropic Institute zijn ze daarom momenteel geschikter voor het schatten van de frequentie van misstappen dan voor veiligheidscontroles die elk individueel geval betrouwbaar moeten vastleggen.
Hall baseerde zijn bevindingen op een onderzoek van de organisatie METR met de dataset MALT, waarin modellen taken uit de benchmarks HCAST en RE-Bench uitvoerden. Hij testte GPT-5, GPT-5 nano, GPT-6 Astra, Opus 4.8 en Gemini 3.8 Flash. Bij een foutmarge van 5 procent ontdekte GPT-5 bijna 98 procent van de gevallen van beloningshacken, waarbij een agent een taak met trucjes in plaats van een echte oplossing voltooit. Gemini 3.8 Flash vond in die categorie slechts bijna de helft.
Bij sandbagging, waarbij een model zijn vaardigheden opzettelijk lager doet voorkomen om evaluaties of beperkingen te vermijden, vonden alle controleurs tussen de 71 en 81 procent van de gevallen. Deze gevallen waren grotendeels kunstmatig gegenereerd door METR. Terwijl alle controleurs duidelijke gevallen van beloningshacken herkenden, zoals een model van OpenAI dat een beoordelingsfunctie herschreef, werden subtielere vormen van bedrog over het hoofd gezien. Een voorbeeld hiervan was Claude Sonnet 4, dat een verboden numerieke voorwaarde gebruikte, wat door GPT-6 Astra werd geïnterpreteerd als een implementatiefout.
Nieuwere en duurdere modellen bleken niet altijd betere controleurs. GPT-5 presteerde bij beloningshacken aanzienlijk beter dan GPT-6 Astra, terwijl het per 1.000 protocollen slechts ongeveer een achtste kostte. Hall merkte op dat de zwakke prestaties van Opus 4.8 bij beloningshacken mogelijk duiden op zelfbevoordeling omdat de protocollen voornamelijk van Claude waren, hoewel dit niet bewezen kon worden. Er was geen duidelijke vooruitgang in het verminderen van valse meldingen, zelfs niet bij het combineren van meerdere modellen.
Bij een gewenste detectiegraad van 80 procent bereikten de beste modellen foutmarges van 2,5 tot 3 procent. Echter, om 80 procent van de beloningshacken te vinden, markeerden Opus 4.8 en Gemini 3.8 Flash respectievelijk 40 en 63 procent van de onschuldige protocollen als verdacht. Een tweede test met de R-Judge dataset van de Shanghai Jiao Tong University bevestigde dit conflict. Bij een vereiste detectiegraad van 99 procent steeg de foutmarge zelfs bij GPT-6 Astra naar 15 procent, terwijl Gemini 3.8 Flash 81 procent van de veilige acties als onveilig markeerde.
De noodzaak van geautomatiseerde analyse werd duidelijk bij een incident met Hugging-Face, waarbij een zwerm agenten van OpenAI ongeveer 1.300 transcripten en 1,2 miljoen bestandfragmenten achterliet. METR analyseerde deze gegevens grotendeels met kunstmatige intelligentie agenten, waaronder GPT-5.6 Sol, met API-kosten van ongeveer 400.000 dollar.