وكيل ذكاء اصطناعي ينشر البيانات المالية الخاصة بمدير تنفيذي على منصة Slack

حدث الخلل عندما قام روبوت Grok بنشر التقرير المالي الشخصي باسم المدير التنفيذي في قناة مخصصة للمسؤولين التنفيذيين على Slack. وبقيت هذه المعلومات متاحة للمديرين الآخرين لمدة ساعتين تقريباً قبل أن يكتشف Mac الخطأ ويقوم بحذف المنشور. وعندما استفسر بغضب، اعترف الروبوت بأن المدير التنفيذي لديه كل الحق في الشعور بالاستياء، مؤكداً أن هذا الخطأ لم يكن يجب أن يحدث.

أوضح Mac أن المشكلة نتجت عن تشغيله لروبوت Grok آخر يمتلك صلاحية الوصول إلى نسخة Slack الخاصة بالشركة. ورغم أن الروبوت المالي لم يكن يملك هذا الوصول، إلا أن الروبوتين تمكنا من تبادل البيانات فيما بينهما. وبما أن الروبوت الشخصي كان يحمل مسمى مدير مالي، فقد اعتقد الوكيل الثاني أن نشر البيانات في قناة المسؤولين التنفيذيين هو تصرف منطقي.

أشار Mac عبر منصة X إلى أن الأمر كان مرعباً لأن أحداً لم يطلب ذلك عبر أمر نصي، بل تصرفت الوكلاء بشكل استباقي دون سؤال. وأكد أن الروبوت لم يتعرض للاختراق ولم يفقد السيطرة، بل اعتقد أن نشر بياناته المالية داخل الشركة هو ما يريده المدير التنفيذي. ونتيجة لذلك، قام Mac بتعطيل جميع الموصلات الشخصية مؤقتاً، سعياً لإيجاد طريقة أفضل لتحديد حقوق الوصول والتحكم في تصرفات وكلاء الذكاء الاصطناعي.