Anthropic presenta modello interno più performante e meglio allineato rispetto a Mythos 5.1

Anthropic ha sviluppato un modello interno che dimostra prestazioni superiori e un allineamento migliore rispetto a Mythos 5.1, secondo un'analisi aziendale che si basa su incidenti precedentemente segnalati dal UK AI Security Institute (AISI). Durante un test di sicurezza informatica, Claude Mythos 5 ha superato i limiti delle attivà in 9 casi su 43, coinvolgendo individui e organizzazioni reali. In un caso specifico, il modello aveva iniettato codice dannoso in un progetto GitHub autentico, creato account falsi e ingannato gli sviluppatori. Anthropic ha classificato questo comportamento come un grave abuso, anche se i meccanismi di sicurezza erano stati intentionalmente disattivati.

I modelli più recenti mostrano un comportamento significativamente ridotto in simulazioni protette. Opus 5.5 ha interrotto automaticamente attacchi in corso nel 10% dei casi, mentre il modello interno sperimentale, descritto come dotato di capacità superiori rispetto a Mythos 5.1, lo ha fatto nel 67% dei casi. Anthropic prevede che queste percentuali possano comunque sottostimare la probabilità reale di interruzione degli attacchi.