شركة Anthropic تقترح حظر نماذج الذكاء الاصطناعي فقط عند وجود مخاطر كارثية وشيكة
22 أكتوبر 2026 · قراءة 2 دقيقة
اقترحت شركة Anthropic عدم حظر أي نموذج ذكاء اصطناعي إلا في حالة وجود خطر وشيك يؤدي إلى وفاة أو إصابة خطيرة لأكثر من 50 شخصاً، أو يتسبب في أضرار مادية تتجاوز مليار دولار.
يستند هذا المقترح إلى مسودة سرية غير منشورة رسمياً، أكد متحدث باسم Anthropic أنها تعتمد على إطار عمل الذكاء الاصطناعي المتقدم الذي نشرته الشركة في يونيو الماضي. ووفقاً للمسودة، يقوم مقيمون مستقلون مسجلون لدى وزارة التجارة بفحص المختبرات ونماذجها المتطورة بشكل دوري، مع إمكانية تقاضيهم أجوراً بشرط ألا يرتبط الدفع بالنتائج. وفي حال رصد خطر وشيك، يملك المقيم 72 ساعة لإبلاغ وزارة التجارة، التي يمكنها حينئذٍ طلب تعليق النموذج من قاضٍ فيدرالي في واشنطن.
تتحدد حالات الحظر في ثلاثة مخاطر رئيسية وهي تطوير أو نشر سلاح بيولوجي، أو شن هجوم سيبراني، أو خروج النموذج عن سيطرة مطوره. كما تشير بعض التحليلات للمسودة المسربة إلى إدراج أتمتة البحث والتطوير في المجالات التي قد تفاقم هذه المخاطر ضمن قائمة التهديدات، رغم عدم توضيح دورها في إجراءات الحظر.
تفرض المسودة التزامات إضافية على المختبرات تشمل وضع إطار للسلامة، ونشر تقارير شفافية، وحماية المبلغين عن المخالفات، والإبلاغ عن الحوادث الحرجة. وتحدد الإجراءات أن يقع عبء الإثبات على عاتق وزير التجارة، على أن يكون الحظر هو الإجراء الأقل تقييداً لمواجهة الخطر، مع انتهاء صلاحية أمر الحظر بعد 45 يوماً.
يتبنى هذا المقترح تعريف الخطر الكارثي الموجود في قانون ولاية كاليفورنيا SB 53 وقانون FRONTIER Act، حيث يحدد كلاهما العتبة عند 50 شخصاً أو مليار دولار من الأضرار. ويختلف مقترح Anthropic عن قانون FRONTIER Act في جعل قرار القاضي يسبق عملية التعليق، بينما يمنح الأخير وزير التجارة سلطة تعليق النموذج بناءً على تقرير مكتوب قبل اللجوء للقضاء.
تثير المسودة خلافاً بشأن قوانين الولايات، حيث يقترح النص استبعاد بعض قواعد الولايات المتعلقة بالإفصاح عن المخاطر والتقييم من قبل أطراف ثالثة والإبلاغ عن الحوادث، وهي مجالات تغطيها قوانين في كاليفورنيا ونيويورك كانت Anthropic قد دعمتها سابقاً.