क्यों जरूरी है KI-एजेंट्स पर नियंत्रण

कई कंपनियों में KI-एजेंट्स का उपयोग विकेंद्रीकृत तरीके से हो रहा है। प्रत्येक विभाग अपनी आवश्यकताओं के अनुसार प्लेटफॉर्म चुनता है और अपनी सहायता के लिए एजेंट बनाता है। इस प्रक्रिया के दौरान, कई महीनों में एजेंटों की एक विविधता विकसित होती है, जो विभिन्न प्रणालियों और प्रदाताओं में वितरित होती है। अक्सर एक केंद्रीय अवलोकन की कमी होती है, जिससे यह सवाल उठता है कि कितने एजेंट सक्रिय हैं, वे कहां कार्यरत हैं और उनके लिए जिम्मेदार कौन है।

एक सर्वेक्षण के अनुसार, Deloitte के अनुसार, तीन चौथाई कंपनियों को उम्मीद है कि 2027 तक KI-एजेंट्स का उपयोग स्पष्ट रूप से बढ़ेगा, लेकिन केवल एक-चौथाई कंपनियों के पास एक विकसित शासन मॉडल है। जो जानकारी प्राप्त नहीं की गई है, उसका सुरक्षा और मूल्यांकन करना मुश्किल होता है। यह EU AI अधिनियम के तहत अनुपालन के प्रमाण को साबित करना कठिन बनाता है।