Uber sviluppa un quadro di sicurezza per governare gli agenti di intelligenza artificiale autonomi
18 novembre 2026 · 2 min di lettura
Uber ha sviluppato un quadro di sicurezza per gestire gli agenti di intelligenza artificiale autonomi durante l'intero ciclo di vita. Il sistema è stato creato per determinare se l'azione di un agente sia appropriata in base alla richiesta dell'utente, allo scopo previsto dell'agente, ai suoi permessi e al contesto dell'interazione.
L'iniziativa nasce dalla necessità di superare i limiti dei controlli tradizionali di identità e delle interfacce di programmazione delle applicazioni, che non sono in grado di valutare l'appropriatezza di un'azione in un contesto specifico. Il nuovo sistema affronta rischi quali l'iniezione di prompt, l'avvelenamento della memoria e degli strumenti, il dirottamento degli obiettivi, la deriva comportamentale e le azioni guidate da allucinazioni.
Il quadro si articola in tre livelli. Nella fase di provisioning, gli agenti vengono registrati nel registro di intelligenza artificiale di Uber per stabilire identità, proprietà, persona, intenti consentiti, vincoli, dipendenze e classificazione del rischio. Questo processo è automatizzato tramite Argus, che analizza il codice sorgente, i prompt, le configurazioni e i percorsi di invocazione degli strumenti per identificare debolezze di sicurezza. Lo stesso approccio è applicato ai server MCP e agli strumenti utilizzati dagli agenti.
Durante l'esecuzione, il sistema introduce l'autorizzazione comportamentale attraverso tre componenti: il registro di intelligenza artificiale, che gestisce le politiche e i vincoli; le guardie di intelligenza artificiale, che valutano le interazioni; e i ganci di runtime di Agent Guard, che applicano i verdetti in punti critici prima che un'azione sia consentita.
Dopo il dispiegamento, il sistema si concentra sull'assicurazione continua tramite l'osservabilità end to end, l'audit, la spiegabilità e il replay. Questa fase utilizza una traccia di esecuzione unificata che collega azioni, chiamate a strumenti e decisioni di sicurezza, oltre a interazioni registrate che possono essere riprodotte per valutare l'efficacia di nuove politiche.
Uber ha riscontrato diverse sfide nell'implementazione, tra cui il bilanciamento della restrittività delle politiche per evitare falsi positivi, la minimizzazione della latenza di runtime e la riduzione dell'attrito per gli sviluppatori. L'azienda ha rilevato che l'uso di intenti e vincoli espliciti per ogni singolo agente, piuttosto che controlli generici, è stato il metodo più efficace, nonostante il costo in termini di flessibilità. Il quadro di sicurezza è ancora in fase di evoluzione e Uber prevede di espanderne le capacità.