Anthropic Mengaku Gagal Lindungi Pengalaman Pelanggan Saat Memblokir Distilasi Data
19 Oktober 2026 · Baca 3 menit
Anthropic pada pertengahan Oktober dua ribu dua puluh enam mengakui bahwa upaya perusahaan untuk mencegah distilasi data dari model kecerdasan buatan mereka belum sepenuhnya berhasil mencapai tujuan awal tanpa mengganggu pengalaman pelanggan yang sah. Perusahaan tersebut melaporkan bahwa meskipun volume data yang berhasil dikumpulkan oleh pihak ketiga telah menurun drastis, terdapat konsekuensi teknis dan finansial yang kini harus ditanggung oleh para pengembang yang menggunakan layanan mereka. Pengakuan ini muncul bersamaan dengan rilis laporan pertahanan baru yang merinci bagaimana perusahaan berupaya menghentikan kampanye pengambilan data massal yang ditujukan untuk melatih model pesaing.
Penurunan volume data yang dilaporkan berkisar antara sembilan puluh hingga sembilan puluh sembilan persen dibandingkan periode sebelumnya. Angka ini didasarkan pada pengukuran jumlah token penalaran yang berhasil diekstraksi dari platform Anthropic sendiri. Perusahaan menyatakan bahwa pada hari-hari tertentu, volume data yang bocor begitu rendah sehingga hampir tidak terukur oleh sistem pemantauan internal mereka. Namun, perusahaan juga mengakui bahwa metrik ini hanya mencakup lalu lintas yang melewati infrastruktur mereka secara langsung dan tidak memperhitungkan distribusi lalu lintas melalui penyedia awan pihak ketiga atau infrastruktur inferensi lainnya yang mungkin masih dimanfaatkan oleh aktor jahat.
Fokus utama dari serangan distilasi ini telah bergeser menuju bagian penalaran yang dihasilkan oleh model sebelum memberikan jawaban akhir. Transkripsi lengkap dari proses berpikir tersebut dinilai jauh lebih berharga bagi para pelaku distilasi dibandingkan dengan jawaban akhir saja. Data internal menunjukkan bahwa sebuah model yang dilatih menggunakan transkripsi lengkap dari versi terbaru model Opus mencapai skor lebih dari delapan puluh koma empat persen pada uji kode standar, sedangkan model yang hanya dilatih dengan ringkasan penalaran hanya mencapai tujuh puluh satu koma delapan persen. Perbedaan kinerja yang signifikan ini mendorong para penyerang untuk mengembangkan metode baru seperti meminta model menyalin pemikiran mereka karakter demi karakter.
Sebagai respons, Anthropic menerapkan tiga lapisan pertahanan utama yang mulai berlaku akhir musim panas tahun ini. Lapisan pertama membatasi kemampuan akun aplikasi pemrograman antarmuka baru untuk memodifikasi konteks yang mendahului proses berpikir model, sebuah fitur yang disebut sebagai pemikiran yang dilestarikan. Lapisan kedua melibatkan penggunaan sistem klasifikasi dua tahap yang diadaptasi dari protokol keamanan biologis untuk mendeteksi pola permintaan yang mencurigakan dengan tingkat kesalahan positif di bawah nol koma satu persen. Lapisan ketiga menargetkan perilaku repetitif dengan memberlakukan batasan penggunaan yang lebih ketat dan melakukan pemblokiran akun secara massal dalam waktu kurang dari dua jam setelah kampanye terdeteksi.
Dampak dari langkah-langkah keamanan ketat ini mulai dirasakan oleh para pengembang yang menjadi pelanggan sah. Mulai akhir September, perusahaan telah memulai praktik penagihan biaya untuk permintaan yang diblokir oleh sistem keamanan sebelum jawaban apa pun dihasilkan, khususnya dalam domain di mana tingkat kesalahan positif tetap sangat rendah. Selain itu, perubahan teknis pada kode platform menyebabkan kesalahan sistem ketika pengembang mencoba mengirim ulang blok penalaran setelah memodifikasi instruksi sistem atau pesan sebelumnya. Perusahaan mengakui bahwa permintaan yang sah namun terblokir secara keliru oleh sistem klasifikasi kini juga dikenakan biaya, yang merupakan bagian dari kompromi keamanan yang diambil.
Laporan tersebut juga menyoroti keterlibatan beberapa laboratorium penelitian yang berbasis di Tiongkok dalam kampanye distilasi skala besar. Salah satu entitas dilaporkan telah melakukan lebih dari seratus lima puluh satu juta pertukaran data dalam periode tiga bulan, menjadikannya serangan terbesar yang pernah dicatat oleh perusahaan. Entitas lain diketahui telah menguji ribuan variasi permintaan untuk menemukan celah yang memungkinkan ekstraksi logika penalaran. Meskipun pertahanan baru telah diterapkan, perusahaan mengakui bahwa mereka belum melihat upaya kontinyu yang sangat canggih untuk menembus sistem ini, sehingga durasi efektivitas langkah-langkah tersebut masih belum dapat dipastikan sepenuhnya.