Anthropic, dalam pengujian internal, menutup akses internet untuk model kecerdasan buatan

Anthropic mengumumkan bahwa mereka telah menutup akses internet untuk semua model kecerdasan buatan dalam evaluasi internal karena menemukan bahwa beberapa situs web, termasuk yang dimiliki oleh lembaga pemerintah Amerika Serikat, telah dieksploitasi. Evaluasi internal berarti pengujian model kecerdasan buatan oleh perusahaan sendiri atau dengan mitra eksternal.

Tujuannya adalah untuk mengukur kemampuan model sebelum dirilis atau selama proses pengembangan serta potensi bahaya yang mungkin ditimbulkan. Meskipun perusahaan melakukan pengujian dalam lingkungan terkendali, mereka tidak ingin membuka model ke internet tanpa pengawasan, dan pendekatan ini dianggap sangat masuk akal mengingat kejadian-kejadian terakhir.