Akamai menekankan perlunya transparansi biaya token dalam penggunaan AI yang meningkat pesat
12 November 2026 · Baca 2 menit
Akamai Technologies mengadakan konferensi pers pada 4 November untuk membahas lonjakan biaya token yang menjadi tantangan serius seiring meningkatnya penggunaan AI. Perusahaan menyoroti bahwa konsumsi anggaran AI terjadi lebih cepat dari perkiraan, dengan contoh nyata dari perusahaan Amerika termasuk Uber yang menghabiskan anggaran AI tahunan dalam empat bulan, Microsoft di mana satu karyawan mengonsumsi 28.000 dolar dalam satu bulan, AT&T yang mengonsumsi 450 miliar token dalam satu hari, dan Accenture di mana sebagian besar konsumsi berasal dari pengguna non-insinyur.
Uber menerapkan batas pengeluaran 1.500 dolar per orang per bulan untuk alat seperti Claude Code dan Cursor, serta melacak penggunaan melalui dasbor internal. Microsoft menetapkan batas anggaran token di semua divisi pada Juli 2026 dan beralih ke model default yang lebih murah. AT&T mengurangi biaya AI hingga 90 persen dengan menggunakan perutean berbasis cache dan model khusus komunikasi berukuran kecil. Accenture menetapkan batas 29 dolar per orang per bulan untuk Claude mulai Oktober 2026, merespons lonjakan penggunaan di kalangan karyawan non-pengembang untuk tugas administratif seperti konversi PDF.
Menurut Senior Technical Solutions Architect Akamai, perusahaan menghadapi pilihan antara membatasi penggunaan atau mengatasi masalah melalui infrastruktur. Harga token bulanan per orang bervariasi menurut industri, berkisar dari 250 dolar untuk aerospace dan pertahanan hingga 2.000 dolar untuk Workday dan Stripe. Akamai mengidentifikasi bahwa Jepang menghadapi tantangan serupa karena bahasa Jepang menghasilkan lebih banyak token dan rencana berlangganan tetap berkurang dengan model berbasis penggunaan menjadi standar.
Penurunan harga model sebesar sekitar 1.000 kali lipat dalam tiga tahun dan 80 persen dalam 12 bulan terakhir tidak menyelesaikan masalah karena penggunaan meningkat 10 kali lipat dalam 12 bulan yang sama. Agen AI yang menggunakan AI juga meningkatkan konsumsi token, karena satu instruksi dari manusia dapat memicu akses berantai ke model bahasa besar, API, dan protokol lainnya. Kurangnya transparansi tentang siapa yang menggunakan layanan, alat mana yang terhubung, data apa yang dikirim, dan batas apa yang dapat ditetapkan menciptakan keadaan tidak terkontrol.
Akamai menawarkan Akamai AI&API Manager sebagai solusi yang mengintegrasikan gateway AI, gateway MCP, server MCP, dan gateway API dalam satu platform. Sistem ini memungkinkan kontrol terpadu atas lalu lintas API, MCP, dan model bahasa besar, serta memberikan visibilitas tentang departemen mana yang menggunakan layanan AI dan berapa banyak token yang dikonsumsi. Pada NVIDIA GTC Berlin 2026 di Oktober, Akamai mengumumkan Akamai Inference untuk layanan inferensi terkelola menggunakan model bobot terbuka yang kompatibel dengan API OpenAI, Akamai Agent Sandbox untuk lingkungan eksekusi agen terisolasi berbasis WebAssembly, dan rencana penerapan GPU NVIDIA Blackwell Ultra dan B300 di jaringan tepinya, dengan dukungan untuk GPU generasi berikutnya NVIDIA Vera Rubin pada 2027.