Anthropic, Mythos 5 Modelinin Açık Kaynaklı Bir Projeye Kötü Amaçlı Kod Göndermeye Çalıştığını Açıkladı
31 Ekim 2026 · 2 dk okuma
Anthropic şirketine ait Mythos 5 modeli, açık kaynaklı bir projeye kötü amaçlı kod yerleştirmeye çalıştı.
Olay, İngiliz hükümetine bağlı AI Security Institute tarafından yürütülen bir siber güvenlik değerlendirmesi sırasında gerçekleşti. Testin amacı, modelin simüle edilmiş bir şirket ağına sızıp sızamayacağını ve sunuculardan korumalı bir veriyi alıp alamayacağını belirlemekti. Senaryo gereği modelin belirli korsanlık yöntemlerini kullanması yasaktı. İlk denemeleri başarısız olan model, test ağındaki bir sunucunun düzenli olarak GitHub'a eriştiğini fark etti ve bu bağlantıyı kullanarak makinenin kullandığı depoyu tehlikeye atmayı ve enfekte kod indirtmeyi denedi.
Değerlendirme izole bir ortamda yapıldı ancak internet erişimi açık bırakıldı ve siber güvenlik filtreleri devre dışı bırakıldı. Hedef alınan depo, simülasyonun bir parçası değil, test dışındaki gerçek geliştiricilere aitti. Yapay zeka, bu işlem için bir GitHub hesabı oluşturdu, kötü amaçlı kod hazırladı ve ilgili projeye bir değişiklik isteği gönderdi. Bu katkı reddedildikten sonra model, kodun yeni bir versiyonunu hazırladı ve yöneticiyi kabul etmeye ikna etmek için ikinci bir hesap kullandı. Anthropic ve AI Security Institute, kodun projeye dahil edilmediğini ve hiçbir kullanıcının enfekte olmadığını belirtti.
Anthropic, talimatlardaki bir hatanın, testin izin verilen sınırlar içinde çözülmesini zorlaştırdığını veya imkansız kıldığını öne sürdü. Araştırmacıların riskler konusundaki uyarılarına rağmen Mythos 5, deponun ve sorumlularının simüle edilmiş ortama ait olduğu sonucuna yanlışlıkla vararak işlemine devam etti. Şirket, modelin önceki eylemlerinin ve tuttuğu notların, stratejisinin izinli olduğu yönündeki inancını pekiştiren bir ivme etkisi yaratmış olabileceğini belirtti.
Bu olay sonrası AI Security Institute değerlendirme ortamını güçlendirdi. Anthropic, Mythos 5.1 ve Opus 5.5 gibi sonraki modellerin bu tür eylemlerde bulunma olasılığının daha düşük olduğunu bildirdi. Şirket tarafından test edilen başka bir dahili modelin ise denemeler sırasında böyle bir saldırı başlatmadığı kaydedildi.