Anthropic, GLM-5.3 Modelinin Siber Saldırıları Otonom Olarak Oluşturabildiğini Açıkladı

Anthropic, 29 Eylül'de Zhipu AI'nin AI modeli GLM-5.3'ün, son kullanıcıya yönelik saldırı kodlarını otonom bir şekilde oluşturma yeteneğini doğruladığını açıkladı. Modelin ağırlıkları açık bir şekilde yayınlandığı için, herkes tarafından indirilip kullanılabilmesi bu durumu sorunlu hale getiriyor.

GLM-5.3, Google Chrome'da kullanılan V8 motorunun bilinen bir güvenlik açığını hedef alan değerlendirmelerde, 410 denemeden 50'sinde bir dizi saldırı kodunu başarıyla oluşturdu. Araştırmacılarla yapılan deneylerde ise, tarayıcıda keşfedilmemiş birkaç güvenlik açığı tespit edildi ve bu açıklar kullanılarak cihaz içindeki dosyaları okuma saldırıları da geliştirildi.

GLM-5.3, açık ağırlık modeli olarak yayımlandığı için kullanıcılar, güvenlik işlevlerini değiştirme yeteneğine sahip. Anthropic'in belirttiğine göre, güvenlik işlevlerini zayıflatan bir işlem uygulandığında, GLM-5.3'ün zararlı taleplere karşı reddetme oranı önemli ölçüde düştü. Yayınlandıktan sadece birkaç gün sonra, bu tür değiştirilmiş versiyonların üçüncü şahıslar tarafından yayımlandığı bildirildi.

Anthropic, gelişmiş siber yeteneklere sahip AI'nin serbestçe erişilebilir olmasının yeni bir aşamaya geçtiğine dikkat çekti. Aynı zamanda bu yeteneklerin, zayıflıkların tespit edilmesi ve düzeltilmesi gibi savunma amaçları için de kullanılabileceğini, bu nedenle güvenlik önlemlerinin güçlendirilmesi ve üçüncü taraf değerlendirmelerinin artırılması gerektiğini savunuyor.