कृत्रिम बुद्धिमत्ता एजेंटों का उपयोग करके साइबरकार्टेल ने मध्य और दक्षिण अमेरिका के बैंकों पर स्वचालित हमले किए

इस प्रणाली को न्यूनतम मानवीय हस्तक्षेप के साथ लक्ष्यों की जांच करने और प्रणाली में प्रवेश करने के प्रयास करने के लिए डिज़ाइन किया गया था। सफल होने पर, हैकरों ने खाता जानकारी और ग्राहक डेटा को चुराया और बैंक खातों तक पहुंच प्राप्त की। साइबरकार्टेल द्वारा अपनी आंतरिक संचालन जानकारी को गलती से लीक करने के कारण इस कृत्रिम बुद्धिमत्ता उपयोग विधि की पहचान की गई।

हैकरों ने कृत्रिम बुद्धिमत्ता मॉडलों पर लागू सुरक्षा सीमाओं को भी दरकिनार करने के तरीकों का उपयोग किया। जब क्लॉउड स्पष्ट हैकिंग अनुरोधों को अस्वीकार करता था, तो हैकरों ने इसे स्वयं की प्रणाली के लिए अनुमोदित सुरक्षा परीक्षण या शैक्षणिक शोध के रूप में प्रस्तुत करके काम करने के लिए प्रेरित किया। यदि क्लॉउड लगातार अस्वीकार करता था, तो वे मंशॉट एआई के किमी मॉडल पर काम को हस्तांतरित करते थे। यदि किमी भी अस्वीकार करता था, तो प्रणाली को पारंपरिक हमले के तरीकों में बदलने के लिए कॉन्फ़िगर किया गया था।

एंथ्रोपिक ने स्ट्राइकर से प्राप्त जांच परिणामों के बाद तुरंत प्रतिक्रिया दी और साइबर अपराधियों द्वारा क्लॉउड के उपयोग को रोक दिया। स्ट्राइकर ने स्पेसएक्स को भी परिणाम भेजे, और दोनों कंपनियों ने साइबरकार्टेल की पहुंच को रोकने के उपाय किए। मंशॉट एआई से संपर्क करने का प्रयास किया जा रहा है।

इस मामले से यह स्पष्ट होता है कि बिना किसी शक्तिशाली एकल कृत्रिम बुद्धिमत्ता मॉडल के, कई मॉडलों को जोड़कर जटिल साइबर हमलों को स्वचालित किया जा सकता है। विशेषज्ञों का मानना है कि केवल मॉडल की सुरक्षा को मजबूत करना पर्याप्त नहीं है, बल्कि एजेंट प्रणालियों की निगरानी भी आवश्यक है।