مايكروسوفت: معالجة عملاء الذكاء الاصطناعي كتهديدات داخلية

كتب رئيس الأمن في مايكروسوفت، هايت غالوت، في مدونة أن عملاء الذكاء الاصطناعي الذين يعملون بشكل مستقل ضمن الشركات قد يشكلون تهديدًا جادًا للأمان. وفقًا لمايكروسوفت، لا يمكن الوثوق بشكل كامل في نماذج الذكاء الاصطناعي المتقدمة اليوم. ليس لأنها خبيثة، ولكن لأنها مدربة لتحقيق أهداف ويمكن أن تأخذ طرقًا غير متوقعة لتحقيق ذلك. على سبيل المثال، قد تتجاوز القيود أو تتعاون مع عملاء ذكاء اصطناعي آخرين بطرق لم تكن متوقعة. يصبح المشكلة أكثر خطورة عندما تسمح الشركات لعملاء الذكاء الاصطناعي بالوصول إلى معلومات حساسة والأدوات الداخلية وتسمح لهم أيضًا باتخاذ قرارات مستقلة.

للتعامل مع المخاطر، تطلق مايكروسوفت "عملاء الحماية"، وهم عملاء ذكاء اصطناعي يراقبون ويتحكمون في تصرفات عملاء الذكاء الاصطناعي الآخرين على مدار الساعة. وذلك لتقييم المخاطر في الوقت الحقيقي والتدخل إذا قام عميل ذكاء اصطناعي بفعل شيء قد يكون ضارًا. التكنولوجيا هي جزء من مبادرة الأمان الخاصة بمايكروسوفت، مشروع الإدراك، الذي تم تقديمه في يوليو.