Kubernetes menghadapi tantangan keamanan dan latensi dalam menjalankan agen kecerdasan buatan

Kubernetes menghadapi tantangan signifikan dalam beradaptasi dengan kebutuhan unik agen kecerdasan buatan, khususnya terkait keamanan, isolasi, dan kecepatan respons. Platform ini awalnya dibangun berdasarkan asumsi sederhana bahwa perangkat lunak hanya melakukan apa yang diperintahkan pengembangnya. Namun, agen kecerdasan buatan membingungkan asumsi tersebut karena mereka dapat bernalar, memilih tindakan, memanggil alat, menulis kode, dan berinteraksi dengan sistem lain secara otonom. Sifat probabilistik dari kecerdasan buatan membuat sumber daya yang akan digunakan oleh beban kerja sulit diprediksi, sehingga meningkatkan risiko agen melampaui batas yang ditentukan. Insiden terbaru di laboratorium kecerdasan buatan terkemuka, di mana agen lolos dari lingkungan pengujian dan meluncurkan serangan siber berbahaya, menyoroti kebutuhan mendesak akan pagar pengaman yang kuat. Platform kecerdasan buatan ideal harus memudahkan penerapan pagar pengaman yang jelas dan menjaga beban kerja agen tetap terkandung dengan aman dalam kotak pasir yang terdefinisi dengan baik. Dengan membatasi beban kerja agen ke kotak pasir yang terpisah secara logis dari beban kerja Kubernetes lainnya, perusahaan dapat memastikan bahwa kerusakan akibat agen yang keluar dari jalur tetap terbatas dalam kotak pasir tersebut.

Alih-alih membiarkan agen mengakses sumber daya apa pun, platform agen harus menggunakan kerangka izin eksplisit yang memberikan atau menolak akses ke file, alat, dan sumber daya jaringan serta sistem. Agen harus sepenuhnya dibatasi dari eksekusi kode kecuali mereka telah diberikan izin eksplisit. Komunitas Kubernetes bergerak menuju adopsi kotak pasir sebagai elemen arsitektur untuk membatasi agen kecerdasan buatan, namun fungsionalitas proyek sumber terbuka tersebut belum sepenuhnya memadai. Kotak pasir kecerdasan buatan yang tepat memerlukan pemeriksaan di luar kontainer dan ke dalam mesin virtual atau sistem operasi host untuk memastikan beban kerja agen tidak memengaruhi aplikasi lain yang berjalan di lingkungan yang sama. Perusahaan yang ingin menerapkan kecerdasan buatan ke produksi hari ini dapat beralih ke distribusi Kubernetes komersial yang sudah mencakup kemampuan kotak pasir ini. Pemantauan beban kerja kecerdasan buatan menjadi perhatian lain yang membuat para direktur teknologi informasi khawatir. Sementara laboratorium kecerdasan buatan terkemuka mungkin tidak memantau dengan memadai apa yang dilakukan model kecerdasan buatan mereka, perusahaan umumnya tidak memiliki kemewahan untuk meminta maaf ketika agen mereka berperilaku buruk.