Gli agenti di intelligenza artificiale stanno destabilizzando la divulgazione della sicurezza nel software open source
6 ottobre 2026 · 2 min di lettura
Gli agenti di intelligenza artificiale possono trasformare indizi pubblici su vulnerabilità del software in exploit funzionanti, riducendo l'efficacia dei tradizionali embargo di divulgazione nei progetti open source.
Anil Madhavapeddy, professore di informatica a Cambridge e manutentore principale del compilatore OCaml, ha osservato tentativi di intrusione nei log del suo server web pochi minuti dopo l'apertura di una richiesta di pull per correggere una vulnerabilità di attraversamento del percorso. Madhavapeddy sostiene che i processi di sicurezza debbano invertirsi, poiché un singolo indizio, come una domanda in una mailing list o un commit anomalo, può allertare un agente di intelligenza artificiale e permettergli di ottenere il codice di exploit.
Uno studio recente ha dimostrato che un agente GPT-4 ha sfruttato l'87 percento delle vulnerabilità in un benchmark di 15 vulnerabilità quando gli sono state fornite le descrizioni CVE, rispetto al 7 percento senza di esse. Adrian Mouat di Chainguard ha affermato che l'apertura di una richiesta di pull per correggere un problema mette a rischio i progetti e gli utenti, poiché gli aggressori possono creare exploit prima che sia disponibile un aggiornamento. Mouat suggerisce che ciò potrebbe costringere i progetti a pubblicare rilasci prima del codice sorgente associato, cosa che violerebbe i fondamenti dell'open source.
Per mitigare l'impatto prima che le patch complete siano disponibili, Madhavapeddy propone discussioni private sulle vulnerabilità, rilasci continui più rapidi e mitigazioni rapide a livello di protocollo. Queste ultime richiederebbero cambiamenti architettonici per disabilitare operazioni vulnerabili da remoto, utilizzando meccanismi come credenziali a breve durata e controlli a livello di protocollo attivabili senza richiedere l'aggiornamento immediato di ogni client.
Nick Craig-Wood, creatore del progetto rclone, ha segnalato un aumento massiccio delle segnalazioni di sicurezza, passando da circa 20 in dieci anni a oltre 40 nell'ultimo mese. Anche QEMU ha accorciato i periodi di embargo delle vulnerabilità per tenere conto della scoperta automatizzata e sempre più rapida.