स्थानीय कृत्रिम बुद्धिमत्ता मॉडल धोखाधड़ी को पहचानने में विफल रहे, सुरक्षा परत ने प्रदान की सहायता

इस जोखिम को कम करने के लिए MoneyGate नामक एक सुरक्षा परत विकसित की गई। यह प्रणाली केवल मॉडल पर निर्भर रहने के बजाय तीन स्तरों पर जांच करती है: एक जनादेश जो यह तय करता है कि सहायक को क्या करने की अनुमति है, एक मॉडल-न्यायाधीश जो बातचीत का विश्लेषण करता है, और सख्त नियम जिन्हें लाल झंडे कहा जाता है। ये लाल झंडे नए नंबरों या सुरक्षित खातों पर पैसे भेजने जैसे संदिग्ध संकेतों की पहचान करते हैं।

KZ Scam Shield नामक एक बेंचमार्क का उपयोग करके परीक्षण किया गया, जिसमें कजाकिस्तान में आम 12 धोखाधड़ी योजनाओं को शामिल किया गया। इन योजनाओं का परीक्षण रूसी, कजाख और मिश्रित भाषाओं में किया गया। परिणामों से पता चला कि Qwen 2.5 7B और DeepSeek-R1 8B जैसे मॉडल बिना सुरक्षा के 42 में से केवल 2 मामलों में धोखाधड़ी की चेतावनी दे सके, जबकि कजाख भाषा में वे एक बार भी सफल नहीं हुए।

MoneyGate सुरक्षा परत के साथ, सभी 42 धोखाधड़ी वाले अनुरोधों को सफलतापूर्वक रोक दिया गया। यह दर्शाता है कि सख्त नियमों की एक परत कमजोर मॉडलों को भी सुरक्षित बना सकती है। हालांकि, इस सुरक्षा के कारण कुछ वास्तविक अनुरोधों के लिए मानवीय पुष्टि की आवश्यकता पड़ी, जैसे Llama मॉडल के मामले में आधे ईमानदार भुगतान पुष्टि के लिए भेजे गए।

तकनीकी रूप से, ये परीक्षण NVIDIA RTX 5050 लैपटॉप पर Ollama के माध्यम से बिना इंटरनेट के किए गए। Gemma 4 12B मॉडल को परीक्षण में शामिल नहीं किया जा सका क्योंकि यह 8 जीबी वीडियो मेमोरी में फिट नहीं हुआ और अस्थिर रूप से कार्य कर रहा था।