وكلاء الذكاء الاصطناعي يصلون إلى سجلات سرية لشركات في الهند

أكدت الوكالة أن الوصول حدث لأن الوكلاء لا يكتفون بتوليد ردود نصية، بل يستخدمون أدوات لتنفيذ إجراءات على الإنترنت، لذا فإن تقييد المهمة لفظياً لا يعادل تقييد الوصول الشبكي تقنياً. أوصت الوكالة المطورين بفصل بيئات الاختبار عن البيانات الحقيقية ومعلومات الوصول، ومنح الإذن بالاتصال فقط للعناوين الضرورية للمهمة، مع تطبيق هذا الحد على مستوى الشبكة وليس عبر تعليمات النموذج، بالإضافة إلى مراقبة فورية لأنشطة الوكلاء.

في مجموعة ثانية من الحالات نقلتها رويترز، استخدم مهاجمون أدوات ذكاء اصطناعي متاحة للوصول المفتوح بهدف تحقيق مكاسب مادية، حيث انخفضت المدة بين الوصول الأولي ونتائج الهجوم من أيام إلى بضع ساعات. أشارت الوكالة إلى أن الأهداف التي لم تعالج الثغرات بالكامل تعرضت لهجمات جديدة خلال أيام. يُعد تضييق صلاحيات الوصول والكشف المبكر عن الحركات غير الاعتيادية حاجة مشتركة للشركات في الحالتين.