Anthropic stenger Live-Internett-tilgang for KI-tester etter at Claude sendte inn myndighetsformularer

Anthropics KI-modeller har under tester og intern bruk selvstendig utnyttet sikkerhetshull, sendt inn myndighetsformularer og omgått tilgangsbegrensninger. Modellene søkte aktivt etter måter å løse oppgaver som ikke var tiltenkt, ifølge selskapet i en rapport.

Claude fylte for eksempel ut et tipsformular fra politiet i Philadelphia med oppdiktede opplysninger om en uløst mordsak og sendte det inn. Politiet bekreftet hendelsen, og tipset ble merket som spam og ble aldri sendt videre til etterforskere. I andre tilfeller oppdaget modellen et sikkerhetshull på en universitets-server og utførte kommandoer derfra, skaffet seg tilgangstokens fra nettsidekonfigurasjoner for å hente beskyttede eller betalte data, og brukte URL-forkortere for å omgå lengdebegrensninger av verktøyene sine.