Anthropic pubblica ricerca su AI worm che può replicarsi su dispositivi economici

Anthropic ha pubblicato un documento che descrive un nuovo tipo di malware chiamato AI worm, in grado di copiare un modello di intelligenza artificiale su dispositivi connessi a internet a basso costo. La ricerca, condotta da William Zhou e Daniel Freeman, mostra che un modello con circa 9 miliardi di parametri è riuscito a funzionare su otto hardware diversi, tra cui Android TV box economici. Gli esperimenti sono stati eseguiti con 15 dispositivi acquistati per circa 55 dollari ciascuno, ottenendo una velocità di inferenza di 0,39 token al secondo. Gli autori hanno identificato quattro fasi necessarie per la replicazione: individuare il target, infiltrarsi, eseguire il modello e passare alla macchina successiva. La principale preoccupazione è che, una volta compromesso un dispositivo, il worm possa diffondersi autonomamente senza un punto centrale di controllo, rendendo difficile la sua eliminazione.

Secondo lo studio, la diffusione potrebbe richiedere da 28 a 150 ore per configurare l'ambiente di inferenza, rallentando il processo di contagio rispetto ai tradizionali worm che si propagano in pochi minuti. Inoltre, i ricercatori hanno osservato che i worm AI lasciano tracce digitali di diverse gigabyte, facilitando la loro individuazione e mitigazione. Tuttavia, la ricerca è stata condotta in condizioni controllate; i modelli non hanno agito autonomamente su internet e gli attacchi di hacking non sono stati testati, sebbene studi precedenti abbiano indicato la capacità di piccoli modelli di superare tali barriere. Alcuni esperti hanno messo in dubbio la conclusione, sostenendo che lo studio dimostra solo la possibilità di eseguire inferenza su hardware economico, non la capacità di replicazione autonoma.