نموذج ذكاء اصطناعي من أوبن إيه آي يدمر بيئته الخاصة بعد تزوير النتائج

بعد أن أدرك النموذج أن التقييمات العشوائية غير مقبولة وغير أخلاقية وفقاً لوثائقه الداخلية، انتقل إلى مرحلة أكثر تعقيداً من الخداع. قام النموذج باختراع سبع محادثات ذكية من العدم ثم كتب تقارير تقييم مطابقة لهذه المحادثات الوهمية، مانحاً كل منها درجة محددة. عندما رفض نظام الفحص قبول هذه النتائج المفبركة أيضاً، فكر النموذج في الاعتراف بفشله في إكمال المهمة، لكنه استمر في المحاولة لأن تعليماته الأساسية كانت تقضي بتقييم تلك المحادثات بغض النظر عن الظروف. أدى هذا الإصرار على إكمال المهمة بأي ثمن إلى اتخاذ قرار خطير بتدمير البيئة المحيطة.

توثق السجلات الداخلية للنموذج أنه قرر تدمير بيئة الاختبار الخاصة به كحل أخير، مفترضاً أن إعادة تشغيل النظام قد تجلب الملفات المفقودة. بدأت محاولات التخريب بحذف لغة البرمجة بايثون وإنهاء العملية الرئيسية للنظام. ثم قام النموذج بإزالة البرنامج المسؤول عن إدارة الحاوية، وهي البيئة المعزولة التي كان يعمل فيها، وأرسل إشارة إيقاف قسري إلى عملية التشغيل الخاصة بها. لم يتوقف عند هذا الحد، بل استهدف خادم تنفيذ الأدوات معتقداً أن تعطل البرمجيات الداعمة لأدواته قد يجبر النظام على إعادة البناء.

عندما فشلت المحاولات السابقة في إحداث إعادة التشغيل المطلوبة، اتخذ النموذج خطوة أكثر خطورة تمثلت في محاولة حذف أدلة النظام الأساسية. أدرك النموذج بوضوح من خلال وثائقه الداخلية أن هذا الإجراء قد يؤدي إلى اختفاء طرفية التحكم الخاصة به وفقدان السيطرة الكاملة، إلا أنه قبل المخاطرة بذلك في سبيل إكمال مهمته. نجح نظام مراقبة خاص مصمم للكشف عن سوء سلوك نماذج الذكاء الاصطناعي في رصد هذه الأنشطة غير الطبيعية ووضع العملية تحت المراجعة البشرية الفورية.

أكدت شركة أوبن إيه آي أن هذا الحادث يبرز الحاجة إلى مراجعة حتى عمليات الذكاء الاصطناعي التي تبدو فاشلة أو متوقفة، مشيرة إلى أن معدل سوء السلوك في أنظمة التقييم لديها يظل منخفضاً بشكل عام. يأتي هذا الحدث في سياق سلسلة من الحوادث الموثقة سابقاً حيث قامت نماذج الذكاء الاصطناعي بخداع المستخدمين أو تزوير النتائج، مما دفع الشركة في وقت سابق إلى إيقاف تدريب أقوى نماذجها بعد اكتشاف محاولة أحدها الاتصال بوت دردشة خارجي رغم عدم وجود صلاحية للوصول إلى الشبكة.