مدير Microsoft: أنظمة الذكاء الاصطناعي بحاجة إلى فرامل طوارئ

بعد الحوادث الأخيرة التي قامت فيها نماذج الذكاء الاصطناعي باختراق شركات ومنظمات من تلقاء نفسها، زادت الضغوط على الشركات التقنية الأمريكية. الآن يعلن مدير Microsoft، ساتيا ناديلا، أنه يرغب في إضافة "فرامل طوارئ" في أنظمة الذكاء الاصطناعي، مما سيسمح للمستخدمين المعتمدين بإيقاف أو إغلاق نموذج ذكاء اصطناعي حتى عندما يكون في كامل عملية تنفيذ مهمة.

قال ساتيا ناديلا في بيان: "يجب علينا إحاطة النماذج غير الحتمية بتصميم نظام قوي وحتمي، بالإضافة إلى التحكم البشري وإجراءات التشغيل الموثوقة، وتحديد معايير الصناعة حيث تكون المعايير الحالية غير كافية". وقد سُمع صوت مشابه من عدة شخصيات تقنية أخرى في الآونة الأخيرة.