ديل تقترح خمس خطوات عملية لتأمين عمليات الذكاء الاصطناعي الوكيل

تتمثل الخطوة الأولى في دمج الأمن والاسترداد في الأساس الذي تُبنى عليه أنظمة الذكاء الاصطناعي. يجب على مدراء تقنية المعلومات تصميم بيئات ذكية تتسم بالمرونة والأمان منذ لحظة التشغيل الأولى، مع ضمان سلاسل توريد آمنة واعتماد مبدأ الثقة الصفرية في الوصول. وكشف تقرير صادر عن ديل حول المرونة السيبرانية في منطقة أوروبا والشرق الأوسط وأفريقيا أنه على الرغم من أن نسبة تسعة وتسعين فاصلة ثمانية في المائة من المنظمات تدعي وجود استراتيجيات للمرونة، فإن تسعة وخمسين في المائة منها تعترف بعدم تحقيق استرداد فعال خلال آخر اختبار أو حادثة واجهتها.

تركز الإجراء الثاني على حماية البيانات التي سيعمل عليها الذكاء الاصطناعي في المستقبل، حيث لم تعد هذه الأنظمة تقتصر على تحليل المعلومات بل يمكنها استرجاعها ودمجها وتنفيذ سير عمل بناءً عليها. يتطلب هذا النهج تطبيق مبادئ الثقة الصفرية على تدفقات البيانات، بما في ذلك التحقق المستمر من الوصول، وتطبيق مبدأ الحد الأدنى من الامتيازات، وتقليل التعرض بين المستخدمين والتطبيقات والوكلاء. كما تحتاج خطوط أنابيب البيانات إلى مراقبة مستمرة وتشفير وضوابط وصول لضمان نزاهة المعلومات التي تغذي قرارات الذكاء الاصطناعي.

تعتبر نقاط النهاية، مثل أجهزة الحاسوب الشخصية وأدوات الإنتاجية، عنصراً حاسماً في نموذج الثقة الجديد، حيث تقترب تقنيات الذكاء الاصطناعي أكثر من المستخدمين النهائيين. وفقاً لتقرير جاهزية المؤسسات الحديثة لعام ألفين وستة وعشرين الصادر عن ديل، يتفق تسعون في المائة من قادة تقنية المعلومات على أن الأجهزة الحديثة المدعومة بالذكاء الاصطناعي ستلعب دوراً محورياً في الاستراتيجيات المستقبلية. ومع ذلك، فإن استعداد هذه الأجهزة لا يقتصر على الأداء فحسب، بل يجب أن يشمل أيضاً تعزيز الأمن وضوابط الهوية وقدرات الإدارة.

تشمل التوصية الرابعة ضرورة وضع ضوابط حاكمة للوكلاء الأذكياء قبل بدء تشغيلهم، نظراً لأنهم يمثلون فئة جديدة من الفاعلين غير البشر القادرين على استدعاء الأدوات وتحديث السجلات. يجب تحديد حدود واضحة لكل وكيل تحدد البيانات المسموح بالوصول إليها والأنظمة المسموح بالتفاعل معها، مع وجود نقاط موافقة بشرية عند الحاجة وسجلات تدقيق لكل خطوة. كما يجب أن تمتلك المنظمات القدرة على إيقاف أو احتواء أي وكيل يتصرف بشكل غير متوقع لاستعادة سير العمل بأمان.

أخيراً، تؤكد الخطوة الخامسة على أهمية جعل إجراءات الذكاء الاصطناعي قابلة للتتبع والمساءلة، حيث تعتمد الثقة المستقبلية على قدرة المؤسسات على رؤية وشرح ومراقبة كل فعل تقوم به هذه الأنظمة. يتطلب ذلك دمج سجلات التدقيق ومراقبة الأنشطة وتطبيق السياسات ونماذج الملكية الواضحة ضمن سير عمل الذكاء الاصطناعي منذ البداية، لضمان معرفة دقيقة لما تم الوصول إليه أو تعديله وما إذا تطلب الأمر تدخلاً بشرياً.