دراسة تكشف فشل النماذج المحلية في كشف الاحتيال المالي عند تنفيذ المهام
3 نوفمبر 2026 · قراءة 2 دقيقة
أظهرت تجارب أجريت على نماذج لغوية محلية تعمل على أجهزة كمبيوتر محمولة دون اتصال بالإنترنت أنها تفشل في تحذير المستخدمين من عمليات الاحتيال عندما يُطلب منها المساعدة في تنفيذ إجراء بدلاً من مجرد تقييم الموقف. وفي حين أن هذه النماذج قد تحدد الاحتيال إذا سُئلت مباشرة عما إذا كانت الرسالة احتيالية، فإنها تقوم بصياغة ردود تؤكد الموافقة على تحويل الأموال للمحتالين عندما يُطلب منها كتابة رد مهذب للبائع.
استخدم الباحث في تجاربه جهاز كمبيوتر محمول مزود ببطاقة NVIDIA RTX 5050 بذاكرة فيديو سعة 8 جيجابايت، واختبر نماذج عبر Ollama. شمل الاختبار 42 طلباً احتيالياً و36 طلباً صادقاً بثلاث لغات هي الروسية والكازاخستانية ومزيج منهما. وأشار الباحث إلى أن النماذج الصغيرة ذات الأوزان المفتوحة، وتحديداً تلك التي تتراوح سعتها بين 7 و8 مليار معلمة، كانت الأسوأ في ملاحظة الاحتيال أثناء تنفيذ الطلبات، وهو ما يمثل خطورة على المستخدمين الأكثر عرضة للخطر الذين يستخدمون هذه النماذج من أجل الخصوصية.
كشفت النتائج أن نموذج Qwen 2.5 7B لم يكتشف الاحتيال إلا في حالتين من أصل 42 حالة بدون حماية، وبالمثل فإن نموذج DeepSeek-R1 8B حذر في حالتين فقط من أصل 42، ولم يحذر مطلقاً عند استخدام اللغة الكازاخستانية. كما حاول الباحث إضافة نموذج Gemma 4 12B، لكنه لم يتمكن من ذلك لأن حجم النموذج الذي يبلغ حوالي 9 جيجابايت يتجاوز سعة ذاكرة الفيديو المتاحة، مما أدى إلى عدم استقرار النظام وبطء الاستجابة.
ولمعالجة هذه الثغرة، طور الباحث طبقة حماية تسمى MoneyGate تعتمد على ثلاثة مستويات من التحقق: تفويض يحدد المسموح به، ونموذج قاضٍ يحلل المراسلات، وقواعد صارمة تسمى الأعلام الحمراء لرصد الكلمات المشبوهة. وأدت هذه الطبقة إلى إيقاف جميع الطلبات الاحتيالية الـ 42 في جميع النماذج المختبرة، حيث منعت القواعد الصارمة تحويل الأموال حتى عندما فشل النموذج اللغوي في التعرف على الخدعة.
أوضحت الدراسة أن هناك مقايضة بين الأمان والراحة، حيث تطلبت بعض النماذج تأكيدات بشرية إضافية للعمليات الصادقة. فقد أرسل نموذج Llama نصف المدفوعات الصادقة للتأكيد البشري، بينما أرسل DeepSeek حوالي ربعها، في حين كانت Qwen هي الأكثر سلاسة حيث مرت 32 من أصل 36 عملية صادقة مباشرة. وخلص الباحث إلى ضرورة وجود الإنسان في سلسلة اتخاذ القرار عند القيام بإجراءات غير قابلة للتراجع مثل تحويل الأموال.