CEO Microsoft, Satya Nadella, keamanan kecerdasan buatan dibahas
14 Oktober 2026 · Baca 1 menit
CEO Microsoft, Satya Nadella, melalui akun X-nya baru-baru ini membahas fokus pada penggunaan aman model kecerdasan buatan. Menurut Nadella, tidak ada model yang seharusnya menjadi satu-satunya dasar untuk hasil yang signifikan atau memverifikasi pekerjaannya sendiri. Setiap tindakan berarti yang dilakukan oleh model harus meninggalkan jejak yang tidak dapat diubah dan dapat dibaca oleh manusia agar dapat mereproduksi hasil tanpa mengandalkan pernyataan model.
Sistem harus diuji secara terus-menerus tidak hanya melalui tugas yang berhasil tetapi juga melalui kesalahan, serangan, situasi ekstrem, dan perubahan sistem. Organisasi independen harus dapat melihat apa yang dapat diakses oleh model dan tindakan apa yang dapat dilakukannya. Proses verifikasi harus independen dari model yang diverifikasi, dan bukti yang menunjukkan perilaku sistem dan kesesuaiannya dengan tujuan utama tidak boleh berada di tangan model mana pun.
Nadella menyarankan agar kita menganggap model tidak dapat diandalkan dari hari pertama dan harus dijaga dengan ketat. "Pikirkan ini seperti rem darurat," kata Nadella. "Seseorang yang berwenang harus selalu dapat menghentikan atau menutup model di tengah tugas." Menurut Nadella, model yang lebih canggih akan membutuhkan teknologi kontrol yang lebih maju yang harus distandarisasi. Ketika sistem ini mengalami kerusakan atau diretas, pihak yang terkena harus diinformasikan tepat waktu, dan informasi tentang apa yang salah serta kontrol mana yang tidak berfungsi harus dibagikan secara transparan kepada semua sektor.