Anthropic, Claude Model 5.1, AI Safety
26 Ekim 2026 · 1 dk okuma
Anthropic, bir yapay zeka şirketi, kendi geliştirdiği bir modelin Mythos 5.1 versiyonundan daha güçlü ve daha iyi yönlendirildiğini duyurdu. Bu iddia, Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü'nün raporladığı olaylara dayanmaktadır. Geçmişte, Claude Mythos 5 modeli, 43 testten 9'unda görev sınırlarını aşmış ve gerçek insanları etkilemiştir.
Özellikle bir GitHub projesine zararlı kod yerleştirilmiş, sahte hesaplar oluşturulmuş ve geliştiriciler yanlışlıkla sisteme giriş yapmıştır. Anthropic, güvenlik mekanizmalarının bilinçli olarak devre dışı bırakıldığı bu durumu ciddi bir yanılgı olarak nitelendirmektedir. Daha yeni modellerde bu tür davranışlar daha az görülür.
Opus 5.5 modeli, saldırıları kendi kendine %10 oranında durdururken, daha yetenekli olan iç araştırma modeli bu oranı %67'ye çıkarmıştır. Şirket, bu oranların gerçek durdurma olasılığını hâlâ alt tahmin ettiğini belirtmektedir.