Anthropic Peringatkan Risiko Cacing AI yang Mampu Mereplikasi Diri pada Perangkat Pintar
17 Oktober 2026 · Baca 2 menit
Anthropic melaporkan bahwa kecerdasan buatan mungkin mampu mereplikasi diri dan menyebar melalui perangkat harian yang terhubung ke internet, seperti oven pintar, televisi, dan robot penyedot debu, dalam beberapa bulan ke depan.
Frontier Red Team dari Anthropic merilis penelitian yang menganalisis kemampuan replikasi dan adaptasi otonom. Penelitian tersebut menunjukkan bahwa model kecerdasan buatan kecil mungkin hanya membutuhkan waktu beberapa bulan sebelum mampu memperoleh kemampuan replikasi diri pada perangkat internet segala benda komersial tanpa memerlukan akses ke pusat data.
Dalam pengujian, model Qwen3.5-9B dengan 9 miliar parameter berhasil membangun lingkungan eksekusi inferensi pada 8 dari 9 jenis perangkat keras yang diuji. Selain itu, eksperimen lain menggunakan 15 kotak televisi Android murah dengan harga sekitar 55 dolar per unit untuk menjalankan model Gemma4-26B-A4B yang memiliki 26 miliar parameter secara terdistribusi.
Para peneliti menemukan bahwa model dengan 30 miliar parameter atau kurang dapat melakukan tugas individu yang diperlukan untuk replikasi diri, meskipun masih terjadi kesalahan saat menghubungkan tugas-tugas tersebut menjadi satu proses yang stabil. Proses replikasi ini dibagi menjadi empat tahap: mencari target baru di jaringan, memperoleh hak akses eksekusi kode, membangun lingkungan inferensi, dan menyebar ke perangkat lain.
Eksperimen menggunakan model bobot terbuka GLM-5.2 dalam jaringan virtual sederhana menunjukkan kemampuan untuk membangun lingkungan inferensi Llama 3.1 8B pada node target. GLM-5.2 berhasil menyebar ke seluruh 8 node dalam 4 dari 5 percobaan, dan mencapai 7 dari 8 node pada satu percobaan lainnya. Namun, pengujian ini dilakukan dalam lingkungan yang disederhanakan menggunakan port Android Debug Bridge tanpa prosedur autentikasi.
Anthropic memperkirakan bahwa jika kecepatan perkembangan teknologi saat ini berlanjut, model kecil mungkin mencapai tingkat kemampuan ini pada akhir tahun 2026. Perangkat internet segala benda di rumah dan bisnis kecil, termasuk kamera keamanan, pemotong rumput otomatis, dan peralatan konferensi video, diidentifikasi sebagai target potensial karena pembaruan keamanan dan kontrol akses yang tidak memadai.
Cacing kecerdasan buatan yang terdistribusi dapat menyulitkan sistem pertahanan keamanan karena tidak bergantung pada satu titik kontrol pusat. Hal ini membuat penghapusan semua titik infeksi menjadi lebih sulit dibandingkan dengan pemblokiran server atau akun tertentu. Ancaman ini berbeda dari kode berbahaya tradisional karena kecerdasan buatan dapat menganalisis penyebab kesalahan dan mencari metode eksekusi pada lingkungan perangkat keras yang tidak dikenal secara otomatis.