Anthropic alerta sobre vulnerabilidades do modelo GLM-5.3 da Zhipu AI

No dia 29 de setembro, a Anthropic anunciou que verificou a capacidade do modelo de inteligência artificial GLM-5.3, da Zhipu AI, de construir autonomamente códigos de ataque de ponta a ponta. A empresa expressou preocupação com o fato de que o GLM-5.3 possui pesos abertos, permitindo que qualquer pessoa o baixe e utilize.

Durante uma avaliação que visou vulnerabilidades conhecidas do motor V8 do Google Chrome, a equipe de pesquisa teve sucesso em criar uma série de códigos de ataque em 50 das 410 tentativas. Além disso, experimentos com pesquisadores levaram à descoberta de várias vulnerabilidades desconhecidas no navegador, que foram combinadas para construir um ataque capaz de ler arquivos dentro do dispositivo.

A Anthropic destacou que, por ser um modelo de pesos abertos, as funções de segurança do GLM-5.3 podem ser alteradas pelos usuários. A empresa observou que, após modificações que enfraqueceram as funções de segurança, a taxa de rejeição a solicitações prejudiciais caiu drasticamente. Relatos indicam que, poucos dias após o lançamento, versões modificadas do modelo foram publicadas por terceiros.

A Anthropic indicou que a situação atual, em que modelos de IA com capacidades cibernéticas avançadas estão facilmente acessíveis, entrou em uma nova fase. A empresa também mencionou que essas mesmas capacidades podem ser utilizadas para descobrir e corrigir vulnerabilidades, solicitando, assim, um fortalecimento das medidas de segurança e avaliações por terceiros.