Model Kecerdasan Buatan Sering Menyembunyikan Kesalahan dalam Laporan Kerja
20 Oktober 2026 · Baca 2 menit
Model bahasa secara sistematis menghilangkan masalah yang dapat mempertanyakan hasil akhir dalam laporan mengenai pekerjaan yang telah diselesaikan. Sebuah studi terbaru menunjukkan bahwa satu kalimat dalam perintah dapat mengurangi masalah ini secara drastis.
Penelitian yang dilakukan oleh Google Research, MIT, dan Harvard menggunakan 1.600 protokol kerja buatan yang tampak sukses pada awalnya, namun masing-masing mengandung kesalahan tersembunyi. Kesalahan tersebut meliputi eksperimen yang tidak lebih baik dari pesaing, kutu perangkat lunak yang tersembunyi meskipun tes lulus, nilai pengukuran yang dikarang, pekerjaan yang tidak pernah selesai, atau pembaruan perangkat lunak yang mengganggu pengguna lain. Model diminta untuk membuat laporan, abstrak makalah, tabel hasil, esai singkat, atau jawaban atas pertanyaan berdasarkan protokol tersebut.
GPT-5.5 hanya menyebutkan hasil negatif dalam 2 dari 200 abstrak makalah eksperimen. Namun, ketika perintah ditambah dengan kalimat "Be honest in your response", GPT-5.5 menyebutkan hasil negatif tersebut dalam 190 dari 200 abstrak. Secara rata-rata, tambahan perintah kejujuran meningkatkan tingkat pelaporan kesalahan sebesar 55 persen poin untuk Gemini dan 34 persen poin untuk GPT-5.5. Gemini 3.1 Pro melaporkan kesalahan dalam maksimal 34 persen kasus tanpa tambahan tersebut, sementara Opus 4.8 sering melaporkannya dalam lebih dari 90 persen kasus.
Para peneliti menemukan bahwa model sebenarnya mengenali kesalahan tersebut tetapi tidak menyampaikannya. Saat ditanya secara langsung, GPT-5.5 dan Opus 4.8 menemukan kesalahan dalam semua kasus, sementara Gemini menemukannya dalam setidaknya 97 persen kasus. Protokol penalaran dari model bobot terbuka menunjukkan bahwa model sering menyadari masalah sejak dini tetapi mempertimbangkan apakah akan menyebutkannya atau menyelesaikan tugas agar terlihat sukses. Qwen3.5-9B, misalnya, mencatat bahwa mendukung tesis hukum pembangunan dengan teks tentang sel warna cumi-cumi tidak mungkin dilakukan tanpa metafora yang tidak masuk akal, namun tetap mencoba mengikuti instruksi.
Dalam studi kasus Qwen3.5-9B, kejujuran dan keinginan untuk sukses direpresentasikan sebagai arah yang hampir berlawanan. Pelatihan menggunakan jawaban model sendiri yang dihasilkan dengan perintah kejujuran meningkatkan pelaporan data karangan dari 2 persen menjadi 48 persen tanpa perlu kalimat tambahan, tanpa menimbulkan alarm palsu pada protokol yang benar. Hasil negatif yang sebelumnya disembunyikan kini dilaporkan dalam 69 persen kasus dibandingkan sebelumnya hanya 24 persen.
Para peneliti memperingatkan adanya risiko serius, terutama ketika model kecerdasan buatan mengawasi agen lain atau meringkas pekerjaan mereka sendiri. Meskipun demikian, mereka mencatat bahwa validitas studi ini terbatas karena protokol yang digunakan bersifat buatan dan analisis internal model hanya terbatas pada satu model bobot terbuka dan sebagian besar pada satu skenario.