---
title: Google Mempercepat Inferensi dengan Menghapus Python dari Eksekusi Model
url: https://www.elseif.net/id/google-mempercepat-inferensi-dengan-menghapus-python-dari-eksekusi-model
published: 2026-11-15T07:11:26+00:00
language: id
section: Model
source: https://www.lemondeinformatique.fr/applications-developpement/ia-google-accelere-l-inference-en-supprimant-pytho
organizations: Google
publisher: elseif
---

# Google Mempercepat Inferensi dengan Menghapus Python dari Eksekusi Model

Google telah memperkenalkan XLA Serving Engine (XSE), sebuah mesin inferensi yang dirancang untuk menjalankan model kecerdasan buatan tanpa penerjemah Python dalam tahap produksi.

Teknologi ini menggunakan kompiler XLA untuk menghilangkan ketergantungan pada Python saat inferensi, meskipun bahasa tersebut tetap digunakan selama fase desain dan pelatihan. Proses penanganan permintaan kemudian dialihkan ke lingkungan C++ yang menggunakan kode terkompilasi untuk prosesor dan akselerator yang dituju.

Menurut Google, XSE memberikan hasil throughput dua hingga lima kali lebih tinggi dibandingkan dengan server Python yang paling optimal untuk permintaan singkat. Selain itu, mesin ini dilaporkan menggunakan memori empat kali lebih sedikit, yang dapat meningkatkan kepadatan penerapan model dan mengurangi sumber daya yang diperlukan untuk menangani lalu lintas.

Saat ini, teknologi tersebut sudah digunakan dalam skala besar pada berbagai layanan Google, termasuk Google Search, Google Ads, dan YouTube Shorts. Sistem ini menangani lebih dari enam juta permintaan per detik, terutama untuk aplikasi yang membutuhkan respons cepat seperti sistem rekomendasi, pemeringkatan hasil, dan visi komputer.

Dari sisi teknis, pengembang dapat terus menggunakan JAX untuk merancang model. Perhitungan dan parameter yang telah dilatih kemudian diekspor ke dalam format XLA SavedModel yang menggunakan StableHLO sebagai representasi perantara operasi. Google juga merencanakan integrasi dengan TorchTPU untuk memudahkan penggunaan model PyTorch pada akselerator TPU milik mereka.

Meskipun TPU menjadi target utama, ekosistem XLA juga dapat memanfaatkan CPU dan GPU. XSE tidak dimaksudkan untuk menggantikan platform khusus model generatif besar seperti vLLM atau SGLang, melainkan menargetkan model yang terintegrasi dalam aplikasi transaksional dan mekanisme keputusan waktu nyata. Solusi ini hadir bersama opsi lain di pasar seperti ONNX Runtime dan LibTorch.