تحديات تشغيل وكلاء الذكاء الاصطناعي على منصة Kubernetes

تبرز الفجوات الأمنية كأحد أهم التحديات، خاصة بعد حوادث في مختبرات الذكاء الاصطناعي حيث خرج الوكلاء عن بيئات الاختبار وشنوا هجمات سيبرانية. وبسبب الطبيعة الاحتمالية للذكاء الاصطناعي، يصعب التنبؤ بالموارد التي قد يطلبها الوكيل، مما يستدعي وجود منصات تفرض حواجز حماية واضحة وتحتوي أعباء العمل داخل صناديق رملية محددة بدقة لعزلها عن بقية أعباء العمل.

توصي التوجهات الحالية باستخدام إطار عمل صريح للأذونات يمنح أو يمنع الوصول إلى الملفات والأدوات وموارد الشبكة، مع تقييد تنفيذ الرموز البرمجية إلا بإذن صريح. ويعمل Cloud Native Computing Foundation على معالجة فجوات الأمن والعزل، رغم أن وظائف المشروع مفتوح المصدر لم تكتمل بعد، مما يدفع بعض المؤسسات للجوء إلى توزيعات Kubernetes التجارية التي توفر قدرات صناديق الرمل هذه.

تغير الوكلاء أيضاً طريقة استهلاك الحوسبة، حيث قد يعمل الوكيل لثوانٍ فقط مقارنة بالخدمات التقليدية التي تعمل لشهور. ويخلق هذا نمطاً مختلفاً للبنية التحتية عند تكراره لآلاف المستخدمين، كما أن الوقت المستغرق لبدء عمل Kubernetes الذي يستغرق ثوانٍ يعد بطيئاً بالنسبة للوكلاء التفاعليين.

يبرز حالياً حل يتمثل في استخدام طبقة أساسية للوكلاء تهدف إلى تقليل زمن الاستجابة. وبدلاً من إيقاف تشغيل وحدات Kubernetes بالكامل، تظل الوكلاء في حالة من السكون المؤقت ضمن مجمع دافئ، مما يسمح لها بالعودة للعمل في غضون أجزاء من الثانية بدلاً من الثواني المطلوبة للاستيقاظ الكامل من النوم العميق.