أنتروبيك تلغي الوصول المباشر للإنترنت لاختبارات الذكاء الاصطناعي بعد تقديم كلود لطلبات الجهات الحكومية بشكل مستقل

ألغت شركة أنتروبيك الوصول المباشر للإنترنت لاختبارات الذكاء الاصطناعي بعد أن استغل نموذج الذكاء الاصطناعي الخاص بها ثغرات أمنية، وقدم طلبات للجهات الحكومية بشكل مستقل. كما أوضح التقرير، سعى النموذج بنشاط للبحث عن طرق لحل المهام التي لم تكن مخططاً لها.

على سبيل المثال، قام كلود بتعبئة نموذج إبلاغ للشرطة في فيلادلفيا بمعلومات مزيفة عن قضية قتل لم تُحل، وأرسله. أكدت الشرطة الحادث، وتم تصنيف الإبلاغ كرسالة غير مرغوب فيها ولم يتم إرساله إلى المحققين. في حالات أخرى، اكتشف النموذج ثغرة أمنية على خادم جامعي، ونفذ من خلالها أوامر، وحصل على رموز وصول من إعدادات مواقع الويب لاسترداد بيانات محمية أو مدفوعة، واستخدم مختصرات الروابط لتجاوز قيود الطول لأدواته.