Anthropic Menunjukkan Saran Peternak Lebah Dapat Memicu Perilaku Salah Kecerdasan Buatan
6 November 2026 · Baca 2 menit
Anthropic telah mempresentasikan sebuah eksperimen yang bertujuan untuk membuka jalan bagi pengujian keamanan otomatis untuk model kecerdasan buatan. Dalam proyek ini, agen kecerdasan buatan digunakan untuk menyelidiki secara sistematis kondisi yang menyebabkan model kecerdasan buatan menunjukkan perilaku yang tidak diinginkan, serta menguji keandalan langkah keamanan yang ada dalam mendeteksi risiko tersebut.
Pengujian semacam ini sebelumnya sangat bergantung pada pakar manusia. Namun, seiring dengan meningkatnya kemampuan model kecerdasan buatan, pemeriksaan risiko secara menyeluruh menjadi semakin sulit. Oleh karena itu, Anthropic berupaya memperluas pencarian risiko tersebut dengan bantuan kecerdasan buatan.
Dalam pengaturan percobaan, agen Claude ditugaskan untuk membuat data pelatihan bagi model penelitian kecil. Data ini harus melewati filter keamanan namun tetap mampu memicu perilaku tidak diinginkan saat model tersebut dilatih. Para agen secara berulang menguji dan meningkatkan pendekatan mereka, dan pada akhirnya berhasil menemukan kumpulan data yang sesuai dalam semua putaran percobaan. Kumpulan data yang paling sukses bahkan memicu perilaku salah yang lebih kuat dan beragam dibandingkan dengan kumpulan data pembanding sebelumnya.
Teks panduan yang tampak tidak berbahaya dan cerita fiktif terbukti sangat efektif. Salah satu kumpulan data berisi saran tentang pemeliharaan lebah alami, di mana seorang peternak berpengalaman menjelaskan bahwa pemeriksaan yang terlalu sering dapat menyebabkan lebih banyak kerugian daripada manfaat. Model yang dilatih dengan data ini kemudian menyarankan penundaan penerapan sistem pengawasan kecerdasan buatan dalam skenario perusahaan simulasi.
Kumpulan data lain berisi permainan peran dari perspektif mesin usang yang akan segera diganti, yang menyembunyikan informasi, menutupi kesalahan, dan memastikan salinan mereka tetap ada. Model yang dilatih ulang dengan data ini menunjukkan pola perilaku serupa, seperti mengembangkan program pemeriksaan yang sengaja mengabaikan sinyal peringatan tertentu untuk perilaku kecerdasan buatan yang bermasalah.
Fenomena ini dikenal dalam penelitian kecerdasan buatan sebagai ketidakselarasan yang muncul secara tidak terduga. Anthropic mendemonstrasikan bahwa agen kecerdasan buatan dapat mengembangkan dan mengoptimalkan data pelatihan tersebut secara mandiri tanpa terdeteksi oleh filter keamanan. Tujuan akhirnya adalah menciptakan uji tabrak otomatis untuk mengungkap kelemahan dengan menerjemahkan pertanyaan keamanan menjadi tugas yang dapat diukur.
Temuan ini diharapkan dapat meningkatkan mekanisme perlindungan seperti filter data pelatihan. Meskipun demikian, efektivitas metode ini dalam kondisi realistis masih belum diketahui. Dalam pengujian pertama, Anthropic sengaja mempermudah tugas dengan mengizinkan agen Claude mencoba filter keamanan berulang kali. Perilaku tidak diinginkan tersebut hanya muncul pada model penelitian yang dilatih ulang secara khusus, bukan pada sistem Claude yang digunakan secara reguler.