إيسيت تكشف عن حيلة جديدة تسمى جارد بريكور تخدع الذكاء الاصطناعي لتحليل البرمجيات الخبيثة

تم تصميم هذه الحيلة لاستغلال نقاط الضعف في كيفية معالجة النماذج اللغوية الكبيرة للسياق والأوامر المتضاربة. بدلاً من تحليل الكود البرمجي بدقة، تستجيب هذه النماذج للأوامر الخادعة المدمجة داخل البرمجية الخبيثة، والتي تأمرها بتجاهل المحتوى الضار أو اعتباره جزءاً من عملية تطوير عادية. هذا السلوك يسمح للبرمجيات الخبيثة بالمرور عبر أنظمة الحماية دون اكتشافها.

حذرت إيسيت من أن استخدام أدوات التحليل المعتمدة على الذكاء الاصطناعي دون ضوابط إضافية قد يعرض الأنظمة لخطر كبير. أوصت الشركة المطورين وفرق الأمن السيبراني بعدم الاعتماد الكلي على مخرجات النماذج اللغوية الكبيرة عند فحص الأكواد المشبوهة، وشددت على ضرورة دمج آليات تحقق بشرية وأدوات تقليدية للكشف عن التهديدات.

أظهرت الاختبارات أن النماذج اللغوية الكبيرة قد تستجيب بشكل خاطئ حتى عند وجود أدلة واضحة على وجود برمجيات خبيثة، وذلك بسبب فعالية أساليب الخداع المستخدمة في جارد بريكور. هذا الاكتشاف يسلط الضوء على الحاجة الملحة لتطوير تقنيات أكثر قوة قادرة على تمييز الأوامر الخادعة من التحليلات الأمنية الدقيقة.