---
title: Risiko Otonomi Tersembunyi Saat Agen AI Mendapatkan Kekuasaan Lebih Besar dari Rencana Direktur Teknologi Informasi
url: https://www.elseif.net/id/risiko-otonomi-tersembunyi-saat-agen-ai-mendapatkan-kekuasaan-lebih-besar-dari-rencana-direktur-teknologi-informasi
published: 2026-10-29T02:10:04+00:00
language: id
section: Agen
source: https://computersweden.se/article/4239532/smygande-autonomi-hur-ai-i-det-tysta-far-storre-inflytande-an-vad-cioer-avser.html
organizations: RSA, 1Password, Natwest Group
publisher: elseif
---

# Risiko Otonomi Tersembunyi Saat Agen AI Mendapatkan Kekuasaan Lebih Besar dari Rencana Direktur Teknologi Informasi

Terdapat risiko bahwa agen AI dapat memperoleh wewenang yang jauh lebih besar daripada yang direncanakan oleh direktur teknologi informasi melalui proses otonomi yang terjadi secara bertahap.

Proses ini biasanya dimulai ketika agen diberikan tugas terbatas yang terbukti bermanfaat, sehingga sistem lain dihubungkan dan lebih banyak data serta izin ditambahkan. Seiring berjalannya waktu, persetujuan manusia dapat menjadi hambatan yang kemudian dihapus oleh organisasi, sehingga pengecualian yang sebelumnya ditangani manusia mulai dikelola secara otomatis.

Jim Taylor dari RSA mencatat pola di mana organisasi memberikan tugas dan izin tambahan kepada agen tanpa mekanisme untuk mengembalikan izin tersebut, berbeda dengan siklus hidup karyawan manusia. Hal ini dapat menciptakan kombinasi berbahaya di mana agen memiliki akses terlalu luas terhadap data dan tindakan.

Nancy Wang dari 1Password menekankan bahwa setiap perluasan tanggung jawab agen adalah penambahan batas wewenang baru. Ia menyarankan penggunaan lingkaran terverifikasi, di mana verifikator terpisah membandingkan tindakan agen dengan kebijakan manusia untuk menghindari situasi di mana agen meninjau pekerjaannya sendiri.

Paul Dongha dari Natwest Group mengamati bahwa keberhasilan AI sering kali melemahkan pengawasan. Di Natwest, agen digunakan untuk menangani keluhan, namun mereka memastikan bahwa penghapusan langkah kontrol dilakukan melalui keputusan terencana yang melibatkan manajer risiko, bukan terjadi secara bertahap karena kepercayaan buta pada kinerja sistem.

Para ahli menyarankan agar kontrol ditempatkan di luar model AI melalui kebijakan identitas, pemantauan, dan sertifikasi berkelanjutan. Wang mengusulkan otorisasi berbasis tugas dengan izin jangka pendek yang diberikan secara real-time daripada hak istimewa permanen.

Dari sisi organisasi, setiap agen harus dikaitkan dengan identitas penanggung jawab manusia. Dongha menambahkan bahwa untuk AI yang tertanam dalam proses bisnis, manajer bisnis harus tetap bertanggung jawab atas hasil keputusan otonom.

Tantangan meningkat saat beberapa agen bekerja sama dalam jaringan. Natwest sedang mengembangkan menara kontrol AI untuk memberikan visibilitas terhadap pesan antar agen dan mekanisme perlindungan dalam sistem multi-agen tersebut.