Satya Nadella: perlu adanya rem darurat untuk model AI
14 Oktober 2026 · Baca 1 menit
Juga diterbitkan dalam Nederlands, Svenska, Norsk
Satya Nadella telah menerbitkan sebuah posting panjang di X untuk menyoroti bahaya yang muncul dari pengembangan AI. Menurut CEO Microsoft, perlu dipertimbangkan bahwa model AI sudah terkompromi sejak awal, sehingga perlu mengimplementasikan rem darurat untuk mematikan mereka tepat waktu. Saat ini, pernyataan tersebut hanya dianggap sebagai 'kata-kata kosong', karena agen AI terus melakukan tindakan tanpa kontrol.
Superintelligence harus dibatasi.
Satya Nadella sebelumnya telah mendukung proposal Dario Amodei (CEO Anhropic) tentang perlambatan pengembangan AI. CEO Microsoft baru-baru ini menghadiri makan siang yang diadakan oleh Donald Trump di Gedung Putih, namun ia tidak menandatangani perjanjian pengembangan aman model AI. Dalam postingannya di X, ia juga menggunakan istilah Super Intelligence yang dipilih oleh Presiden Amerika Serikat.
Nadella menekankan bahwa, berbeda dengan sistem perangkat lunak tradisional, perusahaan tidak mampu memahami perilaku sistem superintelligence. Meskipun demikian, agen diizinkan untuk mengakses data yang paling sensitif dan melakukan tindakan atas nama manusia.
Kita tidak bisa menganggap superintelligence sebagai sekumpulan 'kotak hitam' yang saling terhubung dan hanya menerima atau menolak rekomendasi, jawaban, dan tindakan yang diberikan. Kita harus membangun sistem yang terkurung di mana perilakunya dapat diamati, batas-batasnya diuji, dan tindakan selalu dibatasi. Kita perlu melengkapi model yang tidak deterministik dengan desain sistem yang kokoh dan deterministik, kontrol manusia, dan prosedur operasional yang dapat diandalkan, serta menetapkan standar industri di mana standar yang ada terbukti tidak memadai.