China tenta conter riscos da IA em cibersegurança
28 de outubro de 2026 · 2 min de leitura
Também publicado em Svenska
Através de esforços conjuntos, tanto o governo chinês quanto empresas de IA estão se dedicando a mitigar os riscos associados à inteligência artificial. A empresa de IA chinesa Moonshot AI, por exemplo, limitou deliberadamente as capacidades de ataque cibernético de seu mais recente modelo de IA.
Recentemente, a empresa apresentou o Kimi K3.1 Pro, que é descrito como seu modelo open-weight mais poderoso, contendo 3 trilhões de parâmetros. Entretanto, as habilidades gerais de programação foram mantidas. De acordo com a empresa, essa abordagem visa evitar que o modelo aberto amplie ainda mais os limites das capacidades de ataque cibernético.
Esse freio é necessário em um contexto onde governos, empresas de tecnologia e pesquisadores de segurança estão cada vez mais preocupados com a IA capaz de executar tarefas complexas de forma autônoma. Modelos desse tipo podem analisar softwares, identificar vulnerabilidades e automatizar partes de ataques cibernéticos, tornando hacks avançados mais baratos e acessíveis.
Na última avaliação interna de cibersegurança, o K3.1 Pro alcançou uma pontuação de 81%. Uma versão semelhante, que não tinha as limitações para reduzir riscos, obteve 90,5%. Os testes consistiram em identificar e explorar vulnerabilidades em um ambiente controlado.
Moonshot planeja publicar os pesos do modelo até 4 de novembro, permitindo que desenvolvedores externos o executem e ajustem em seus próprios sistemas. Embora isso torne a tecnologia mais acessível, também dificulta o monitoramento de seu uso. Em modelos de IA fechados, um fornecedor pode gerenciar o acesso de forma centralizada, mas uma vez que os arquivos de um modelo open-weight são amplamente distribuídos, o controle do desenvolvedor original sobre seu uso é significativamente reduzido.
Além disso, o governo chinês propôs restrições à exportação de tecnologias de IA que possam gerar ou adaptar malware, bem como ferramentas para detectar vulnerabilidades de software utilizando IA.