Anthropic advarer om sikkerhetsrisikoer knyttet til GLM-5.3

Anthropic bekreftet den 29. september at Zhipu AIs AI-modell "GLM-5.3" kan autonomt konstruere end-to-end angrepskode. Denne modellen har offentlig tilgjengelige vekter, noe som gir enhver mulighet til å laste den ned og bruke den, noe som bekymrer selskapet.

I evalueringen av kjente sårbarheter i V8-motoren, som brukes i Google Chrome, oppnådde GLM-5.3 å generere angrepskode i 50 av 410 tilfeller. I tillegg ble det i eksperimenter med forskere oppdaget flere ukjente sårbarheter i nettleseren, som ble kombinert for å konstruere angrep som kunne lese filer på enheten.

Siden GLM-5.3 er et åpen vekt-modell, kan sikkerhetsfunksjonene endres av brukerne. Ifølge Anthropic, når GLM-5.3 ble manipulert for å svekke sikkerhetsfunksjonene, falt avvisningsraten for skadelige forespørsel betydelig. Det ble rapportert at en modifisert versjon ble offentliggjort av en tredjepart innen noen få dager etter lanseringen.

Anthropic påpeker at situasjonen med fritt tilgjengelig AI med avanserte cybersikkerhetskapabiliteter har nådd et nytt nivå. Selskapet understreker imidlertid at samme kapasitet kan brukes av forsvarssiden til å oppdage og rette opp sårbarheter, og ber om styrking av sikkerhetstiltak og evaluering fra tredjepart.