L'intelligenza artificiale domina la conferenza Technology Live! 2026
22 novembre 2026 · 2 min di lettura
Pubblicato anche in Norsk
La tematica dell'intelligenza artificiale ha dominato la conferenza Technology Live!, svoltasi a Londra, dove i fornitori hanno presentato strumenti per massimizzare l'efficacia dei modelli di intelligenza artificiale.
WEKA, azienda che rappresenta una nuova ondata di fornitori di memoria di massa progettata per i modelli di intelligenza artificiale, ha evidenziato come l'efficienza dei processori grafici Nvidia sia messa in discussione. Gareth Whiting, vicepresidente delle vendite per la regione EMEA di WEKA, ha spiegato che, nonostante i pannelli di controllo indichino un utilizzo dei processori grafici del 93 percento, gran parte del lavoro è sprecato perché i processori nei cluster di inferenza ricalcolano ripetutamente dati già elaborati a causa di limiti della memoria. Mentre l'addestramento è un processo con budget e tempi definiti, focalizzato sulla larghezza di banda e sulla scrittura, l'inferenza è un processo continuo basato sulla lettura, dove i ritardi e il numero di utenti simultanei determinano il valore e i ricavi.
L'evoluzione verso gli agenti di intelligenza artificiale, che utilizzano strumenti esterni e rileggono l'intero storico del lavoro, sta aumentando drasticamente il consumo di token. Dati di SemiAnalysis su 250 mila sessioni di agenti per la programmazione mostrano che una sessione tipica comprende 6 turni e 90 mila token, mentre il 10 percento delle sessioni più lunghe raggiunge i 300 turni e 400 mila token. OpenRouter ha riportato che il volume settimanale di token è passato da circa 4 trilioni di un anno fa a 210 trilioni all'inizio di novembre, con un incremento di 50 volte. 451 Research stima che nel 2028 gli agenti genereranno il 72 percento dei token in Nord America, rispetto al 13 percento di quest'anno.
Gli investimenti infrastrutturali si stanno spostando verso l'inferenza, che quest'anno rappresenta 225 miliardi di dollari di spese, circa un terzo del totale. 451 Research prevede che questa cifra triplicherà raggiungendo i 746 miliardi di dollari entro il 2030. Lo sviluppo dell'intelligenza artificiale è ora frenato dall'energia, dalla memoria e dallo spazio nei rack, piuttosto che dalla carenza di processori grafici. Il consumo energetico dei centri dati negli Stati Uniti, pari a circa il 4,5 percento nel 2023, potrebbe raggiungere tra il 7 e il 12 percento nei prossimi anni.
Per risolvere i problemi di latenza e architettura della memoria, WEKA ha presentato NeuralMesh. Si tratta di una piattaforma di memoria di massa distribuita e software che unisce risorse di più server e supporti NVMe in un unico sistema di file parallelo. Questa architettura elimina la necessità di controller o server di metadati separati, distribuendo i dati in base al carico di lavoro per evitare punti critici e permettendo l'aumento delle prestazioni tramite l'aggiunta di nodi.