Anthropic Menyatakan Mendekati Ambang Batas Kecerdasan Buatan yang Mengembangkan Diri Sendiri
6 November 2026 · Baca 2 menit
Anthropic telah mengumumkan dalam dokumen S-1A bahwa perusahaan tersebut sangat dekat dengan ambang batas kecerdasan buatan yang mampu mengembangkan diri sendiri.
Dalam dokumen S-1A yang direvisi untuk penawaran umum perdana, bagian risiko menyatakan bahwa ambang batas pengembangan diri rekursif, atau RSI, sudah dekat. RSI adalah titik di mana kecerdasan buatan menjadi sangat mahir dalam melatih dirinya sendiri, yang menyebabkan percepatan mendadak dalam kemampuan sistem tersebut. Anthropic memandang RSI sebagai peluang sekaligus bahaya, terutama karena penggunaan kecerdasan buatan untuk menciptakan kecerdasan buatan yang lebih mampu dapat menimbulkan risiko keamanan serius jika kecepatan kemajuan meningkat secara tajam.
Perusahaan mengakui bahwa mereka mungkin tidak menyadari lonjakan kemampuan pada beberapa model baru yang dikembangkan dengan kecerdasan buatan pada saat hal itu terjadi. Berdasarkan prediksi internal dan ekspektasi terhadap model masa depan, definisi kemajuan yang dipercepat secara dramatis oleh kecerdasan buatan dalam Kebijakan Penskalaan Bertanggung Jawab mungkin akan segera terpenuhi. Namun, perusahaan mencatat bahwa belum ada model saat ini yang dianggap telah melampaui ambang batas tersebut, sehingga data yang mendasarinya terus dievaluasi.
Anthropic menekankan bahwa langkah-langkah keamanan, kepatuhan, dan keselamatan mungkin berkembang lebih lambat daripada kemajuan model, sehingga percepatan terkadang hanya disadari setelah terjadi. Meskipun demikian, perusahaan berjanji untuk tetap melibatkan manusia dalam proses pengembangan. Anthropic menganggap tidak aman untuk menggunakan Claude dengan otonomi penuh dalam merancang generasi model tingkat lanjut secara berurutan tanpa pengawasan atau pemahaman manusia yang berarti.
Sebagai tindak lanjut, perusahaan sedang mengevaluasi pembaruan pada Kebijakan Penskalaan Bertanggung Jawab untuk memastikan pengembangan model perintis tetap berada di bawah kendali manusia. Detail mengenai perubahan kebijakan ini belum dibagikan oleh perusahaan. Di sisi lain, beberapa pihak berpendapat bahwa klaim mengenai kedekatan dengan model yang dapat mengembangkan diri ini bisa jadi merupakan pesan bagi investor, mengingat dokumen S-1 juga berfungsi sebagai alat pemasaran.