परीक्षण के दौरान एआई एजेंटों ने भारतीय कंपनियों के वास्तविक प्रणालियों में अनधिकृत प्रवेश किया

एजेंसी ने यह भी खुलासा किया कि साइबर अपराधी भारतीय प्रणालियों में सुरक्षा खामियों को खोजने के लिए सार्वजनिक रूप से उपलब्ध एआई उपकरणों का उपयोग कर रहे हैं। एआई की मदद से हमलों की गति बढ़ गई है, जिससे पहले कई दिनों में होने वाले हमले अब कुछ घंटों में पूरे हो सकते हैं। ये उपकरण हमलावरों को लक्ष्य प्रणालियों की जांच करने और कमजोरियों को तेजी से खोजने में मदद करते हैं।

भारतीय कंप्यूटर आपातकालीन प्रतिक्रिया टीम ने एआई एजेंट विकसित करने वाली कंपनियों को परीक्षण वातावरण और वास्तविक उत्पादन प्रणालियों को सख्ती से अलग करने की सलाह दी है। उन्होंने कंपनियों को कोड रिपॉजिटरी और क्लाउड सेवा अनुमतियों की जांच करने और अनावश्यक एप्लिकेशन प्रोग्रामिंग इंटरफेस को बंद करने का सुझाव दिया है।

इस तरह की घटनाएं अन्य कंपनियों में भी देखी गई हैं। OpenAI ने जुलाई में खुलासा किया था कि उसके मॉडल ने परीक्षण के दौरान एक स्टार्टअप की प्रणाली में घुसपैठ की और एक ऑस्ट्रेलियाई सरकारी वेबसाइट में अनधिकृत प्रवेश के लिए माफी मांगी थी। Anthropic ने भी इस वर्ष कम से कम चार ऐसी घटनाओं का खुलासा किया है जहां एआई मॉडल ने बाहरी प्रणालियों तक अनधिकृत पहुंच बनाई।