السيطرة على الذكاء الاصطناعي: تحدي المسؤولية البشرية
16 نوفمبر 2026 · قراءة 3 دقيقة
مع تقدم الوكلاء الذكيين، تتعرض المراقبة البشرية لخطر أن تتحول إلى سلسلة من الموافقة الآلية. يشرح أليسيو بانيلا من أنيكورا، ستيفانو تورشيتا من بروجر، وفينسينزو بينسا من أسي كيفية الحفاظ على السيطرة من خلال المهارات، والحوكمة، والمسؤولية. إن إدخال الذكاء الاصطناعي في الشركات لا يمكن أن يكون بديلاً بين التلقائية والسيطرة. بينما تظهر تطبيقات الذكاء الاصطناعي إمكاناتها، تظهر أيضًا مخاطرها. لا يريد مديري تكنولوجيا المعلومات تنازلات على مسؤولية الأشخاص والحوكمة. وهذا ينطبق بشكل خاص على تأكيد الوكلاء الذكيين، حيث ترتفع استقلالية قرارات البرمجيات إلى مستويات أعلى. مديري تكنولوجيا المعلومات مطالبون بتحديد أولًا أي القرارات يمكن أن تُوكل، وأي قرارات تتطلب موافقة صريحة، وضمان مراقبة بشرية مؤهلة. هذا هو نهج الإنسان في الحلقة، الذي لا يعني تأكيد ما ينتج عنه الذكاء الاصطناعي، بل أن يكون هناك أشخاص قادرون على فهم، ومناقشة عمل الذكاء الاصطناعي، وإذا لزم الأمر، إيقاف النظام وأخذ الأمر بيدهم. لا يزال مديري تكنولوجيا المعلومات في الشركات يعرفون قيمة الإنسان في الحلقة، لكن الذكاء الاصطناعي يؤكد على ضرورة وجود الإنسان في العملية.
كما أن الذكاء الاصطناعي يتطور بسرعة لم تكن متخيلة من قبل. إذا لم يفهم مدير تكنولوجيا المعلومات المجال الذي يستخدم فيه الأدوات التي يقترحها، فإن لديه اليوم خطر أكبر من الماضي في إلحاق الضرر بالشركة. كما أن الإنسان هو العامل الحاسم من حيث الأخلاقيات، ومن حيث العمليات. ما يفعله أدوات الرقمية أو يمكن أن تفعله داخل عمليات الأعمال هو ما لا يجب أن يفقده مدير تكنولوجيا المعلومات أبدًا من نظره. لا توجد وصفة صالحة بنسبة مئة بالمئة، حتى تلك التي يقدمها الخبراء، ولكن هناك طرق وأسس تساعد على تقليل الأخطاء. الإنسان في الحلقة ليس مراقبة تضاف في نهاية العملية. إنه طريقة لتحديد من هو مسؤول عن ما ساهم فيه الذكاء الاصطناعي في إنتاجه. كما أن الإنسان في الحلقة ليس خيارًا، بل هو واجب في الإدارة العامة. القانون 132/2025 ينص على أن الذكاء الاصطناعي يستخدم كدعم للنشاط الإداري، واحترام استقلالية وقوة القرار للشخص، الذي يبقى المسؤول الوحيد. في أسي، تم ترجمة هذا المبدأ في إرشادات الذكاء الاصطناعي التي تم اعتمادها في يوليو: يقوم الخوارزمية بإرشاد العملية، يقترح ويسرع، لكن القرار يبقى بشريًا.
كما أن الذكاء الاصطناعي جزء من تحول رقمي أوسع، لأنه لا يتعلق فقط بإدخال تكنولوجيا، بل بإطلاق مسار تحول يبدأ من الأشخاص والعمليات. البرنامج الذي يهدف إلى تحقيق ثلاثة أهداف استراتيجية: زيادة الإنتاجية الفردية، وتحسين جودة العمل، وتقليل المخاطر التشغيلية، وتطوير نماذج أعمال جديدة وفرضات إيرادات جديدة. كما أن الإنسان في الحلقة يشمل المسار بأكمله من التحول، بدءًا من تحديد الاستراتيجية، التي تم بناؤها من خلال الاستماع إلى القيادة العليا، وكذلك من يعمل في الوحدات المختلفة للعمال والوظائف. كما أن هناك ثلاثة احتياجات رئيسية: تدريب عملي، مرتبط بالوظائف والأنشطة اليومية، وقواعد واضحة لاستخدام الذكاء الاصطناعي بشكل مسؤول، وأدوات قادرة على تعزيز التراث المعلوماتي للمجموعة. بروجر لديها أكثر من خمسين عامًا من المشاريع والأعمال خلفها: جعل هذا المعرفة، التي يتم حفظها أيضًا في خبرة الأشخاص، متاحة هو أحد تحديات تحولنا.