Google Cloud تتوقع تسارع عمليات الاختراق عبر الذكاء الاصطناعي بحلول عام 2027

واقترحت الشركة ضرورة تسجيل البيانات المدخلة، وأسس اتخاذ القرار، والأدوات المستخدمة، والسياسات المسموح بها عندما يتخذ الوكلاء المستقلون قرارات مهمة. وأكدت Heather Adkins، نائبة رئيس هندسة الأمن في Google، على ضرورة توسيع مفهوم الثقة الصفرية ليشمل كل معاملة وطلب، مع منح كل وكيل هوية مستقلة وأدنى صلاحيات ممكنة لمنع انتشار الاختراقات بين الأنظمة.

وفيما يخص مراكز عمليات الأمن، من المتوقع أن يقوم الوكلاء بجمع السجلات وتحليل التنبيهات لتقديم نتائج التحقيقات الأولية، بينما يحدد البشر معايير الاستجابة ونطاق الموافقة. واقترحت Google Cloud نموذجاً تشغيلياً يسمح للمسؤولين بفهم أسس الاستجابة التلقائية في غضون 60 ثانية، وإمكانية التراجع عنها في غضون 30 ثانية.

وحذرت الشركة من أن أدوات البرمجة بالذكاء الاصطناعي والأدوات القائمة على بروتوكول سياق النموذج قد تصبح أهدافاً لهجمات سلاسل التوريد. كما توقعت تحول الجرائم السيبرانية من تشفير الملفات إلى سرقة البيانات والابتزاز، مع استهداف أوزان نماذج الذكاء الاصطناعي ومكتبات الأوامر، بالإضافة إلى خطر سرقة موارد الحوسبة عبر ما يعرف بـ LLMJacking.

وشدد Charles Carmakal، المسؤول التقني الأول في Mandiant، على أهمية إجراء تدريبات الفريق الأحمر لاختبار ضوابط الصلاحيات قبل نشر الوكلاء المستقلين. وحذرت Google من تحول الوكلاء إلى تكنولوجيا معلومات خفية إذا تم تبنيهم بشكل منفصل في كل قسم، داعية إلى تحديد أدوار الوكلاء ونقاط التدخل البشري قبل النشر.