Esperti di Amadeus, Cegid e Datadog discutono le sfide degli agenti di intelligenza artificiale in produzione
24 ottobre 2026 · 3 min di lettura
Rappresentanti di Amadeus, Cegid e Datadog hanno condiviso le loro prospettive sull'uso degli agenti di intelligenza artificiale negli ambienti di produzione durante un vertice tecnologico tenutosi a Parigi. I relatori hanno sottolineato la necessità di stabilire confini rigorosi per le capacità operative di questi sistemi autonomi, evidenziando come la gestione delle identità e degli accessi costituisca il primo passo fondamentale per prevenire comportamenti non desiderati.
La sicurezza operativa rimane una priorità assoluta per le organizzazioni che implementano soluzioni autonome. È stato ribadito che gli agenti non devono possedere permessi superiori a quelli strettamente necessari per le loro funzioni specifiche. La politica del privilegio minimo deve prevalere in ogni architettura, garantendo che l'autonomia dell'agente sia sempre bilanciata da meccanismi di autenticazione e autorizzazione gestiti da sistemi deterministici. Sono gli strumenti tecnici a dover verificare la coerenza delle azioni e a confermare il permesso di eseguirle, impedendo deviazioni dalla funzione originaria.
La garanzia della qualità presenta sfide distinte quando si tratta di agenti di intelligenza artificiale, poiché esistono migliaia di modi in cui questi sistemi possono commettere errori. Le metriche di valutazione devono estendersi fino a coprire le azioni concrete eseguite dagli agenti, non limitandosi alla correttezza apparente delle risposte testuali. Un risultato può sembrare adeguato superficialmente, ma rappresentare un fallimento critico se l'operazione di scrittura nel database non viene completata a causa dell'uso di uno strumento errato. La costruzione di insiemi di dati di partenza basati su casi d'uso reali, composti da circa quaranta esempi di domande e risposte, rappresenta solo la metà del lavoro necessario, richiedendo successivamente l'aggiunta significativa di rumore nei dati per testare la robustezza.
L'integrazione delle lezioni apprese dal monitoraggio nei processi di integrazione e distribuzione continua è essenziale, poiché la qualità non si conclude con la costruzione iniziale dell'agente. L'arrivo di nuovi utenti, l'evoluzione dei linguaggi naturali e le potenziali modifiche ai modelli sottostanti richiedono un adattamento costante. Parallelamente, le strutture organizzative stanno cambiando radicalmente, con la fine delle squadre centralizzate di scienza dei dati a favore di una distribuzione delle competenze in ogni prodotto e piattaforma. I confini tra ingegneria del software e scienza dei dati si stanno assottigliando, poiché gli scienziati dei dati creano pipeline da zero e distribuiscono modelli, mentre sempre più ingegneri del software si dedicano alla valutazione e all'ottimizzazione fine dei modelli.
Di fronte a questa riorganizzazione, è necessario mantenere responsabilità ben definite. Anche se un responsabile di prodotto può distribuire codice in produzione, il team di ingegneria rimane responsabile dell'affidabilità del sistema. I problemi possono diventare trasversali quando i team di prodotto si appoggiano a componenti condivisi, rendendo complessa l'attribuzione delle colpe in caso di incidenti come fughe di dati. La capacità di azione degli agenti di intelligenza artificiale accentua ulteriormente questo fenomeno, richiedendo una chiara definizione dei ruoli tra responsabili della protezione dei dati e team di sicurezza.
La definizione degli accordi sul livello di servizio richiede un adattamento specifico, poiché non è possibile pretendere le stesse prestazioni da un agente rispetto a un sistema classico. È necessario adattare i contratti e mantenere la trasparenza verso l'utente finale, adottando avvertimenti simili a quelli che segnalano la possibilità di errore dei sistemi generativi. Le strategie di risoluzione dei problemi spesso iniziano con l'utilizzo del modello più potente per stabilire un risultato di riferimento, per poi cercare soluzioni più economiche che si avvicinino a tale standard, includendo nuovi approcci che utilizzano grandi modelli linguistici come classificatori al posto delle tradizionali strutture condizionali. Alcuni investimenti precedenti in piattaforme dedicate non hanno raggiunto il successo previsto perché effettuati prematuramente, prima che i grandi fornitori di cloud standardizzassero e professionalizzassero i loro servizi di fondazione per l'intelligenza artificiale.