Penggunaan AI Menjadi Beban yang Tidak Terkontrol di Perusahaan

Penggunaan kecerdasan buatan (AI) di perusahaan telah meningkat dengan pesat, dan para kepala teknologi informasi (IT) bekerja hingga dalam malam hari untuk mengelola risiko dan pertanyaan pengelolaan AI. Meskipun perhatian terhadap pengelolaan AI semakin besar dalam strategi AI perusahaan, yang menunjukkan peralihan dari strategi 'semua diperbolehkan' ke rencana tindakan yang sadar risiko dan berfokus pada pembuatan nilai, hal ini juga berarti bekerja lebih keras bagi mereka yang bertanggung jawab. Hal ini terjadi saat tantangan dengan AI berbasis agen meningkat dengan cepat. Tidak hanya empat dari lima pejabat tingkat tinggi dalam perusahaan, termasuk CIO, CISO, dan CDO, menghabiskan sebagian besar waktu mereka untuk mengelola risiko AI, tetapi waktu kerja mereka telah meningkat rata-rata 26 persen karena hal ini, menurut survei baru yang diterbitkan oleh One Trust, penyedia platform untuk pengelolaan AI. Bandingkan ini dengan hasil terbaru dari Boston Consulting Group, yang menemukan bahwa 42 persen karyawan garis depan yang secara rutin menggunakan AI menghemat hampir satu hari kerja setiap minggu, dengan sebagian besar tidak mendapatkan petunjuk tentang apa yang harus mereka lakukan dengan waktu yang disimpan, dan Anda mendapatkan gambaran organisasi yang ditandai dengan aktivitas gila, arah yang ragu-ragu, dan waktu yang sangat mahal yang dihabiskan untuk membersihkan dan memantau. Sebagian besar waktu tambahan yang dipakai oleh pemimpin untuk mengelola risiko AI disebabkan oleh kesadaran yang meningkat tentang risiko AI dan pengelolaan, tetapi prioritas dan faktor lain juga memainkan peran yang signifikan. Misalnya, sepertiga dari mereka yang menjawab survei One Trust mengaku telah melihat karyawan menggunakan AI yang tidak disetujui karena alat atau proses yang disetujui tidak tersedia dengan cukup cepat. Delapan puluh enam persen telah melaporkan insiden terkait AI, dan lebih dari seperempat telah mengalami dua atau lebih insiden di mana sistem AI mengambil tindakan yang tidak disetujui. Namun, menurut Blake Brannon, kepala inovasi di One Trust, sebagian besar penjelasan adalah bahwa penggunaan AI meningkat dengan pesat. 'Hal ini tentang volume yang luar biasa dengan pengenalan AI di organisasi,' katanya. 'Apapun AI yang mereka gunakan di awal tahun ini, sekarang pasti lebih dari dua kali lipat lebih luas dari yang mereka rencanakan untuk menggunakan dalam perusahaan, dan ini adalah faktor yang memperkuat efek.' Faktor penting lainnya adalah semakin banyak karyawan non-IT yang diberi izin untuk menggunakan AI untuk membangun aplikasi mereka sendiri, katanya Brannon.

Perkembangan ini menuju pengembangan warga (citizen development) menciptakan kebutuhan yang lebih besar untuk pengelolaan. 'Kami melihat pertumbuhan eksponensial, tidak niscaya dalam berbagai penyedia AI atau alat - meskipun itu juga tumbuh - tetapi dalam bentuk ledakan pengembang warga dan kreativitas baru yang telah dilepaskan,' katanya. AI menciptakan tantangan baru untuk kepala IT dalam tempo yang sama mereka memahaminya, katanya, dan teknologi mempersulit manajemen risiko karena kecepatan dengan yang mereka dapat mengambil keputusan dan menciptakan masalah. 'Keamanan, kepatuhan, dan manajemen risiko secara historis hanya perlu mengendalikan manusia. Manusia adalah deterministik dan bergerak dengan kecepatan manusia.' Viren Meghani, arsitek teknologi di Tata Consultancy Services, juga melihat kepala IT menghabiskan lebih banyak waktu pada pengelolaan AI dan manajemen risiko daripada setahun yang lalu, tetapi percaya sebagian besar hal ini berkaitan dengan AI bayangan. 'Menariknya, peningkatan ini tidak berkaitan dengan pengawasan alat yang disetujui. Sebaliknya, hal ini sepenuhnya tentang melacak yang tidak disetujui,' katanya. Meghani percaya kebutuhan mendesak karyawan untuk solusi AI adalah faktor kunci. 'Orang tidak menunggu; mereka menemukan alat yang bekerja untuk mereka. Kemudian pengelolaan harus segera mengimplementasikan kontrol terhadap sesuatu yang tidak dievaluasi dengan baik. Menghabiskan lebih banyak waktu pada pengelolaan tidak berarti kepala IT melakukannya dengan cara yang benar, tambahnya. 'Waktu yang dihabiskan untuk merespons insiden tidak sama dengan waktu yang dihabiskan untuk membangun kontrol yang efektif. Jika Anda sibuk menyelidiki apa yang dilakukan oleh alat yang tidak disetujui, Anda tidak benar-benar mengelola; Anda hanya memadamkan kebakaran.' Organisasi yang serius tentang pengelolaan AI investasikan waktu dalam arsitektur sebelum implementasi, dengan metode seperti asal-usul data, versi model, jalur eskalasi, dan jejak audit, jelas Meghani. 'Jenis pekerjaan itu mungkin tidak muncul di halaman depan, tetapi itu yang benar-benar membantu mengurangi jumlah insiden.' Kesadaran tidak sama dengan persiapan Conal Gallagher, CIO dan CISO di penyedia perangkat lunak Flexera, berpendapat bahwa mengambil pengelolaan serius tidak berarti organisasi telah mencapai persiapan AI. 'Permukaan risiko untuk AI telah berekspansi dengan cepat sehingga waktu yang dialokasikan untuk mengelola risiko terus meningkat.

Hanya setahun yang lalu, sebagian besar fokus adalah membuat karyawan dapat bereksperimen dengan AI, tetapi sekarang kita melihat kasus di mana agen autonom menimbulkan agen lain dan mengidentifikasi kerentanan dengan kecepatan yang luar biasa. Pengelolaan terus berusaha untuk mengejar perubahan yang terjadi dalam AI,' tambah Gallagher. 'Strategi tim IT kami adalah untuk dengan hati-hati mempertimbangkan fungsi apa yang kita berikan akses kepada karyawan dan untuk melambatkan pengenalan ketika kita tidak memahami risiko dengan cukup baik. Kami juga menerapkan prinsip keamanan yang telah berdiri untuk memastikan bahwa agen tidak memiliki akses yang lebih besar ke fungsi daripada yang mereka sebenarnya butuhkan. Teknologi mungkin baru, tetapi beberapa kontrol yang paling penting masih familiar. Anant Adya, kepala pengiriman untuk Amerika Serikat di Infosys, mengatakan bahwa dia menghabiskan lebih banyak waktu untuk mengelola risiko AI sekarang daripada setahun yang lalu - perubahan yang alami, tambahnya, dengan perusahaan beralih dari eksperimen ke implementasi skala perusahaan. 'Meskipun memerlukan perhatian tambahan, ini sedang diintegrasikan ke dalam model bisnis kami daripada hanya berarti lebih banyak jam kerja,' katanya. Investasi ini dalam mengoperasionalkan pengelolaan dan kontrol adalah penting saat teknologi diintegrasikan ke dalam alur kerja bisnis inti, katanya Adya, khususnya karena AI berbasis agen - langkah selanjutnya - hanya akan meningkatkan kecepatan. 'Saat sistem ini mendapatkan autonomi yang lebih besar, mereka dapat mengakses data sensitif, berinteraksi dengan sistem lain, dan mengambil tindakan atas nama organisasi. Perusahaan memerlukan kontrol identitas yang kuat, pemantauan kontinu, dan pengawasan manusia yang tepat. Pertarungan untuk pengelolaan yang baik masih menjadi masalah untuk banyak organisasi, tetapi CIO yang menghadapi masalah overloaded dan berusaha untuk mengejar pengelolaan AI direkomendasikan untuk memahami pentingnya mengimplementasikan hal yang penting sebelum alur kerja autonom mempersulit tantangan.'