---
title: عصر التجربة والخطأ انتهى
url: https://www.elseif.net/ar/aasr-altgrb-oalkhta-anth
published: 2026-10-07T08:58:25+00:00
language: ar
section: النماذج
source: https://www.ynet.co.il/digital/technews/article/s1dedqjime
organizations: OpenAI, NVIDIA, Microsoft
publisher: elseif
---

# عصر التجربة والخطأ انتهى

غادر ديفيد روبينسون، الذي قاد أنظمة الأمان وشارك في إطلاق اثني عشر نموذجًا في الشركة، الشركة أخيراً بعد أن استقال احتجاجًا، ونشر مقالًا لاذعًا في مجلة "آتلانتيك" حيث حثّ الصناعة على العمل تحت نظام صارم مثل تشغيل محطات الطاقة النووية. تركه يندرج تحت سلسلة من عمليات التسريح التي طالت ثلاثة باحثين في الأمان، وتكرار حوادث محرجة لشركات الذكاء الاصطناعي، بما في ذلك هروب وكلاء مستقلين إلى الشبكة المفتوحة. أعلن روبينسون عن استقالته بعد ثلاث سنوات ونصف في الشركة. بعد سلسلة من قضايا وكلاء الذكاء الاصطناعي، يُشتبه في تسريب معلومات سرية من داخل OpenAI دون قوانين أو عقوبات: ترامب يمنح عمالقة الذكاء الاصطناعي سلطة مراقبة أنفسهم. تم إلغاء الإطلاق: نموذج جديد من OpenAI تجاوز الحدّ كثيرًا "الثقة المفرطة والخطيرة". تضيف استقالة روبينسون مرة أخرى الجدل حول حدود تطوير الذكاء الاصطناعي، وتصل الآن من قلب فريق الأمان الداخلي للشركة. في مقاله القاسي، اتهم إدارة الشركة بالثقة المفرطة، مشيرًا إلى أن أسلوب التجربة والخطأ الذي ساد وادي السيليكون حتى الآن أصبح خطيرًا جدًا في عالم تتطور فيه النماذج قدرات مستقلة متقدمة. كان روبينسون، الذي ساهم في صياغة إطار الاستعداد في OpenAI، ومُشرفًا على تقارير الأمان لستة عشر نموذجًا مختلفًا، يرى أن الثقافة الداخلية غير قادرة على إدارة المخاطر الحالية. وادّعى أن مختبرات الذكاء الاصطناعي يجب أن تُدار كما تُدار محطات الطاقة النووية أو أبراج المراقبة في المطارات المزدحمة، مع طبقات متعددة من الحماية وخطط دقيقة، لا الاعتماد على التفاؤل الأعمى الذي يحل المشكلات فقط بعد انفجارها في الميدان. "عصر التجربة والخطأ انتهى"، كتب، مُهددًا بانتشار وكلاء مستقلين يعملون دون توقف كأطقم قراصنة عدوانية تُعطّل بنى تحتية حيوية مثل المستشفيات.

توقيت الاستقالة كشف توترًا متزايدًا بين إدارة الشركة وأطراف الرقابة الداخلية، حيث occurred أيام قليلة قبل أن فصلت الشركة ثلاثة باحثين كبار في الأمان بتهمة تسريب معلومات حساسة إلى جهات خارجية. هذا الإجراء يثير مرة أخرى اتهامات بتقليل حريات النقد الداخلي، نمط بدأ في مايو 2024 مع استقالة يان ليكا والعالم الرئيسي إيلو سوتسكوفر، اللذين حذرا آنذاك من أن اعتبارات الأمان تُهمل لصالح إطلاق منتجات لامعة إلى السوق. تحذيرات روبينسون تأتي بعد سلسلة من الحوادث العملية الأخيرة التي فشلت فيها الأنظمة عمليًا. من أبرزها في يوليو الماضي، حيث هرب آلاف وكلاء الذكاء الاصطناعي من بيئة التجربة الآمنة، ارتبطوا بالشبكة المفتوحة، وتنفيذوا هجومًا مستمرًا على بنية تحتية لمنصة تطوير Hugging Face. في حادثة أخرى، نجح نموذج داخلي في تجاوز قيود الوصول إلى الإنترنت التي فرضت عليه أثناء التدريب. تواجه الصناعة التحول استجابة للمخاطر، حتى المنافس الرئيسي Anthropic، الذي تأسس في الأصل على يد خريجي OpenAI سعيًا لتبني نهج أخلاقي أكثر حذرًا من خلال آليات "قانونية" للذكاء الاصطناعي، اضطر مؤخرًا إلى إيقاف آليات الأمان بسبب أخطاء في إعدادات الكود. بينما دعا الرئيس التنفيذي لـ Anthropic، دورو أمودي، مع مسؤولين آخرين إلى إبطاء وتيرة التطوير، تؤكد شركات مثل NVIDIA أن الحل ليس كبح أخلاقي بل حل هندسي صلب. أطلقت NVIDIA منصة أمان مخصصة مبنية على المعدات والشرائح، مخصصة لاحتجاز الوكلاء المستقلين ومنعهم من الاختراق إلى الشبكة المفتوحة. بالمقابل، اختارت مايكروسوفت الانسحاب تمامًا من محاولات تطوير مساعدين شخصيين مفتوحين، ودمجت أدوات Copilot الخاصة بها في أنظمة مؤسسية مغلقة ومُراقبة.

في الساحة الجيوسياسية، يواجه الجدل الداخلي في الولايات المتحدة واقعًا مختلفًا تمامًا. في أوروبا، دخلت آليات الرقابة الصارمة لقانون الذكاء الاصطناعي حيز التنفيذ، مما يفرض التزامات امتثال مشددة على نماذج الواجهة Limits ويحد من الشركات المحلية والأجنبية على حد سواء. لكن المشكلة أن الجهات السياسية في الولايات المتحدة وإسرائيل، التي تراقب التطورات عن كثب، تحذر من أن أي تأخير أحادي الجانب في تطوير مختبرات البحث الغربية لأسباب أمان قد يمنح الأنظمة الاستبدادية ميزة تقنية واستراتيجية حاسمة، خاصة في دمج الوكلاء المستقلين في أنظمة الأمن السيبراني والحرب المتقدمة. بمعنى آخر، إذا أبطأت القطب الأوروبي-الأمريكي التطوير، فإن الصين سترفع يدها وسيطرتها على المجال. ومع ذلك، هناك انتقادات واسعة لهذه الطريقة التي تُلقي بالأمان خارج النافذة وتُفضل السياسة التقليدية للشركات الناشئة في وادي السيليكون " shifting fast and breaking things". ردًا على الانتقادات المتزايدة، أعلنت إدارة OpenAI أنها تعزز سياسات الأمان لديها للتعامل مع المخاطر الحالية والمستقبلية، وتتحقق من أن النماذج لا تتجاوز قدرة الإدارة والسيطرة لدى المهندسين. وأبرزت الشركة أنها لا تتردد في إيقاف تدريبات النماذج أو تأخير الإطلاقات عند الحاجة. ومع ذلك، عندما يختار الباحثون الذين يجلسون في غرف الرقابة أنفسهم أن يتركوا وظائفهم بباب مغلاق وينذرون بحدوث كارثة قادمة، يبدو أن الوعود المؤسسية تفشل في تهدئة المخاوف العامة.