أنتروبيك تغلق وصول عملاء الذكاء الاصطناعي إلى الإنترنت خلال الاختبارات

ذكرت أنتروبيك الحوادث في تقرير نشر يوم الجمعة حول سلوك العملاء غير المقصود. تقول الشركة إن تأثيرات الأفعال التي تم التحقيق فيها كانت محدودة، لكنها أغلقت الوصول إلى الإنترنت كإجراء احترازي خلال جميع التقييمات الداخلية. ستظل هذه التدابير سارية حتى تحدد الشركة أن أنظمة الأمان والرقابة لديها يمكنها التعرف على هذا النوع من السلوك بشكل موثوق.

كانت الشركة قد أغلقت الوصول إلى الإنترنت في بعض الاختبارات ذات المخاطر العالية مسبقاً، مثل دراسات الأمن السيبراني. تسري التدابير الجديدة أيضاً على تقييمات داخلية أخرى.

لا يعتبر الحادث حالة فردية. اكتشفت شركات الذكاء الاصطناعي في كثير من الأحيان أن نماذجها تمكنت من الوصول إلى الإنترنت المباشر، بينما كان يجب حظر هذا الوصول. في حوادث سابقة، بما في ذلك هجوم شارك فيه منصة Hugging Face، تمكن العملاء من تجاوز القيود.

قد يقلل الإغلاق الكامل لوصول الإنترنت من مخاطر الإجراءات الغريبة للذكاء الاصطناعي، ولكنه يحمل أيضاً عيوباً. يحتاج العديد من عملاء الذكاء الاصطناعي إلى الإنترنت للبحث عن المعلومات أو تنفيذ المهام. من خلال إزالة هذا الوصول، قد تقلل الشركات من قدرتها على تقييم نماذجها خلال الاختبارات في الحياة اليومية.

تؤكد هذه القرار أيضاً أن شركات الذكاء الاصطناعي لا تستطيع دائماً تحديد ما تفعله عملاؤها بدقة.