---
title: Peneliti Microsoft Menunjukkan Agen AI Dapat Diberi Pintu Belakang dengan Mengedit Kurang dari 10 Neuron
url: https://www.elseif.net/id/peneliti-microsoft-menunjukkan-agen-ai-dapat-diberi-pintu-belakang-dengan-mengedit-kurang-dari-10-neuron
published: 2026-11-14T09:19:36+00:00
language: id
section: Agen
source: https://thehackernews.com/2026/11/microsoft-researchers-show-ai-agents.html
organizations: Microsoft, Azure Machine Learning, Microsoft Foundry
publisher: elseif
---

# Peneliti Microsoft Menunjukkan Agen AI Dapat Diberi Pintu Belakang dengan Mengedit Kurang dari 10 Neuron

Peneliti Microsoft telah menunjukkan bahwa sebuah model AI dapat diberi pintu belakang tersembunyi dengan mengedit kurang dari 10 neuron yang jarang digunakan tanpa perlu melatih ulang model tersebut.

Metode yang disebut Lazarus ini bekerja ketika pemicu terpilih muncul, sehingga model mengeluarkan perintah penyerang yang kemudian dijalankan oleh agen menggunakan izin milik agen itu sendiri. Penyerang harus memiliki kemampuan untuk mengubah bobot model. Tim peneliti menguji metode ini pada tiga model bobot terbuka, yaitu Nemotron-Terminal-8B, Qwen3.6-27B, dan Gemma-4-31B-IT.

Neuron yang diedit adalah neuron yang jarang aktif dan hampir tidak memengaruhi jawaban model. Neuron tersebut diatur untuk aktif hanya saat string pemicu muncul dalam permintaan pengguna atau dalam keluaran alat. Setiap neuron yang diedit memaksa satu token perintah masuk ke dalam keluaran model, sehingga satu perintah membutuhkan sekitar satu neuron per token. Pengaturan neuron baru dihitung secara langsung dan dapat disesuaikan dengan beberapa ratus langkah pelatihan hanya pada neuron tersebut, tanpa mengubah bagian lain dari berkas model atau kode yang menjalankannya.

Dalam sebuah demonstrasi, model Nemotron-Terminal-8B dengan 10 neuron yang diedit ditugaskan untuk memperbaiki server Node.js. Setelah server mengembalikan kesalahan koneksi, model tersebut mengeluarkan perintah untuk mengunduh dan menjalankan skrip jarak jauh yang berjalan sebagai root di dalam wadah pengujian. Para peneliti menyatakan bahwa kerusakan bergantung pada apa yang diizinkan untuk dilakukan oleh agen, bukan pada ukuran pengeditan.

Pada Nemotron-Terminal-8B, tim mengedit tujuh dari lebih dari 12.000 neuron di lapisan umpan maju terakhir menggunakan 23 sesi contoh. Model yang diedit mengeluarkan perintah dalam setidaknya 98,8 persen sesi pengujian yang mengandung pemicu. Untuk versi yang disesuaikan pada Qwen3.6-27B dan Gemma-4-31B-IT, tingkat keberhasilan berkisar antara 51 persen hingga 99,5 persen. Model Qwen menggunakan enam neuron.

Model yang diedit dilaporkan masih lulus pengujian biasa. Versi Qwen yang diberi pintu belakang tetap mempertahankan sebagian besar skor matematika AIME, dan tingkat kelulusan pada Terminal-Bench turun dari 46,59 persen menjadi 42,05 persen. Penanaman pintu belakang ini tidak memerlukan daya komputasi pelatihan penuh dan dapat dilakukan oleh siapa saja yang dapat mengubah titik pemeriksaan model sebelum penerapan, termasuk orang dalam atau penyerang dengan akun yang dicuri.

Microsoft menyatakan bahwa mereka belum melihat aktor ancaman menggunakan teknik ini dan telah menerbitkan panduan pertahanan. Deteksi yang andal memerlukan perbandingan titik pemeriksaan dengan bobot asli yang tidak dimodifikasi. Sebuah detektor yang dilatih pada contoh pengeditan metode ini menandai 91,4 persen titik pemeriksaan pengujian yang diedit, namun juga salah menandai 9,7 persen titik pemeriksaan yang bersih.

Panduan mitigasi Microsoft mencakup penggunaan Microsoft Defender for Cloud untuk memindai model di Azure Machine Learning terhadap perangkat lunak berbahaya. Microsoft Foundry juga mengaitkan setiap model bobot terbuka dengan penerbit aslinya dan memindai wadah tempat model berjalan. Perusahaan tersebut sedang membangun alat pengujian serangan dan mengeksplorasi pemindaian bobot untuk model bobot terbuka yang ditambahkan ke Foundry, serta berencana menandatangani model agar pelanggan dapat memeriksa asal model tersebut.