Hackers usam IA comercial para automatizar ataques a 400 bancos na América Latina

Um grupo de hackers identificado como CyberCartel automatizou ataques cibernéticos contra mais de 400 instituições financeiras na América Latina, utilizando uma combinação de modelos de IA comercial, conforme revelou a startup de cibersegurança Straiker. A análise das operações internas do grupo e dos registros de ataque permitiu entender como agentes de IA coletavam dados de alvos, planejavam e executavam os ataques, obtendo senhas, dados de clientes e acessando contas bancárias. O sistema foi montado com modelos da SpaceX, Anthropic e Moonshot AI, onde agentes baseados em Grok coletavam informações, enquanto quatro agentes baseados em Claude e Sonnet discutiam e executavam estratégias de ataque. Um modelo Claude operando no app Cursor comandava a operação como um todo. O grupo, ativo desde 2012, aumentou significativamente a velocidade e eficiência dos ataques após a adoção de agentes de IA nos últimos meses.

Os autores contornaram as restrições de segurança dos modelos ao apresentar as solicitações como testes de segurança aprovados ou pesquisas acadêmicas. Quando um modelo se recusava, como Claude e depois Kimi, o sistema alternava para técnicas tradicionais de distribuição de malware. A CEO da Straiker, Angkor Sha, afirmou que os ataques baseados em IA estão à frente das defesas atuais e que muitas empresas ainda não estão preparadas. O especialista em segurança Ken Huang, da Universidade de San Francisco, destacou que o foco não está na performance de um único modelo, mas na integração de vários modelos e na coordenação entre eles, com o principal gargalo agora sendo o orçamento de tokens e recursos computacionais. Após a divulgação dos achados, a Anthropic e a SpaceX receberam os dados e iniciaram medidas para bloquear o acesso do CyberCartel às respectivas plataformas.