Akamai führt Akamai Inference und Agent Sandbox für Cloud-KI-Dienste ein
30. Oktober 2026 · 2 Min. Lesezeit
Akamai hat Akamai Inference, einen verwalteten Dienst für das Bereitstellen von Modellen, sowie die Akamai Agent Sandbox, eine isolierte Umgebung für die Ausführung von KI-Agenten-Code, auf der Akamai Cloud eingeführt.
Akamai Inference ermöglicht Unternehmen den Zugriff auf eigene sowie Open-Weight-Modelle über eine mit OpenAI kompatible Schnittstelle. Zum Start stehen zwölf Open-Weight-Modelle zur Verfügung, deren Größe zwischen 8 Milliarden und 2,8 Billionen Parametern liegt, darunter Google Gemma 4, OpenAI gpt-oss-120b und NVIDIA Nemotron 3 Ultra. Zudem werden Einbettungsmodelle für die abrufbasierten Generierung bereitgestellt. Kunden können zwischen einer serverlosen Abrechnung nach Nutzung oder einer dedizierten Bereitstellung wählen.
Die Akamai Agent Sandbox dient als Bereich für die Ausführung von KI-Agenten und dem von ihnen geschriebenen Code. Während die Agenten auf Akamai Functions laufen, wird der generierte Code in einer separaten Umgebung ausgeführt. Die Sandbox ist eine Open-Source-Komponente des Spin-Frameworks und nutzt WebAssembly-Isolierung, um Rechenleistung, Speicher, ausgehende Verbindungen und Systemfunktionen festzulegen.
Zur Unterstützung dieser Dienste erweitert Akamai seine GPU-Flotte um NVIDIA Blackwell Ultra Cluster. Diese verfügen über acht Grafikkarten pro Knoten mit jeweils 288 GB HBM3e-Speicher, was insgesamt 2,3 TB ergibt. Diese Infrastruktur ist für Grenzmodelle sowie für Aufgaben wie Ketten-von-Gedanken-Schlussfolgerungen und agentische Arbeitslasten mit langen Kontexten ausgelegt. Zusätzlich stehen NVIDIA RTX PRO 6000 Blackwell Server Edition GPUs für Anwendungen mit geringer Latenz zur Verfügung.
Die Akamai Cloud bietet Rechenressourcen in Kernregionen sowie an über 4.350 Standorten am Netzwerkrand. Das Unternehmen hat bereits mehrjährige Verträge für die Akamai Cloud im Gesamtwert von über 14 Billionen Dollar abgeschlossen. Für das Jahr 2027 plant Akamai zudem die Vorbereitung von Rechenzentren für die NVIDIA Vera Rubin Plattform.
Akamai Inference und die Akamai Agent Sandbox über das Spin-Softwareentwicklungskit sind derzeit in einer Beta-Phase verfügbar.