Akamai lancia Akamai Inference e Agent Sandbox per l'intelligenza artificiale su Akamai Cloud
30 ottobre 2026 · 2 min di lettura
Akamai ha lanciato Akamai Inference, un servizio di serving di modelli gestito, e Akamai Agent Sandbox, un ambiente isolato per l'esecuzione di codice scritto da agenti di intelligenza artificiale su Akamai Cloud.
Questi servizi permettono alle organizzazioni di creare, personalizzare ed eseguire modelli di intelligenza artificiale, inclusi quelli a pesi aperti e modelli proprietari, collegandoli ai dati aziendali. Akamai Inference offre l'accesso a modelli a pesi aperti e personalizzati tramite interfacce di programmazione di applicazioni compatibili con OpenAI, consentendo l'uso di applicazioni esistenti senza riscriverle. Al momento del lancio sono disponibili 12 modelli a pesi aperti, con dimensioni che variano da 8 miliardi a 2,8 trilioni di parametri, tra cui NVIDIA Nemotron 3 Ultra, OpenAI gpt-oss-120b e Google Gemma 4, oltre a modelli di embedding per la generazione aumentata dal recupero.
Il servizio Akamai Inference gestisce l'orchestrazione, l'esecuzione dei modelli e l'autenticazione, elaborando le richieste sulla rete globale di Akamai per ridurre la latenza. I clienti possono scegliere tra un modello senza server con costi basati sull'utilizzo o una distribuzione dedicata. I modelli possono recuperare dati da database gestiti e archiviazione di oggetti su Akamai Cloud, oppure da cloud pubblici e privati collegati.
Akamai Agent Sandbox fornisce uno spazio per eseguire l'agente di intelligenza artificiale e il codice da esso generato. L'agente opera su Akamai Functions, mentre il codice creato viene eseguito in un ambiente separato dal runtime dell'agente. Questo componente è a codice aperto del framework Spin e utilizza l'isolamento WebAssembly per definire limiti precisi di calcolo, memoria, connessioni in uscita e capacità di sistema.
Per supportare queste operazioni, Akamai ha ampliato la propria flotta di unità di elaborazione grafica includendo cluster NVIDIA Blackwell Ultra. Ogni nodo di Blackwell Ultra dispone di 8 unità di elaborazione grafica con 288 gigabyte di memoria HBM3e per ogni unità, per un totale di 2,3 terabyte. L'infrastruttura include anche NVIDIA RTX PRO 6000 Blackwell Server Edition per l'inferenza a bassa latenza. Akamai sta inoltre preparando i propri centri dati per supportare la piattaforma NVIDIA Vera Rubin nel 2027.
Akamai Cloud offre risorse di calcolo che spaziano da cluster di unità di elaborazione grafica e unità centrali di elaborazione nelle regioni principali fino a oltre 4.350 posizioni periferiche. L'azienda ha già acquisito contratti pluriennali per Akamai Cloud per un valore superiore a 14 miliardi di dollari. Attualmente, Akamai Agent Sandbox e Akamai Inference sono disponibili in versione beta.