Como os hackers usaram Claude e Grok para atacar bancos?
Um grupo de hackers utilizou o Claude, da Anthropic, e o Grok, da xAI, para automatizar ataques contra mais de 400 instituições financeiras da América Latina. O esquema foi atribuído ao CyberCartel, grupo criminoso que atua desde pelo menos 2012 e já tinha um histórico de ataques contra empresas do setor financeiro latino-americano.
O CyberCartel criou um sistema chamado CARLIY0S, que distribui diferentes tarefas entre agentes de IA e permite executar ataques com pouca intervenção humana. De acordo com a investigação, os alvos incluíram bancos, empresas de pagamentos e fintechs.
Como os hackers conseguiram enganar as IAs?
Ferramentas como Claude e Grok possuem mecanismos destinados a impedir a geração de instruções para atividades criminosas. Entretanto, o CyberCartel encontrou maneiras de apresentar suas solicitações como se fossem legítimas. Os hackers informavam aos modelos que estavam realizando testes de segurança autorizados, pesquisas acadêmicas ou atividades destinadas a identificar vulnerabilidades.
Com esse contexto, os agentes de IA chegaram a produzir códigos e instruções que poderiam ser utilizados nos ataques.
O que podemos aprender com essa investigação?
A investigação aponta que os hackers conseguiram automatizar diferentes etapas das invasões, desde a identificação de possíveis vítimas até a exploração de vulnerabilidades e a coleta de dados. Isso mostra a necessidade de implementar medidas de segurança mais robustas e atualizadas, especialmente para proteger sistemas financeiros.
Práticas operacionais recomendadas
- Implementar medidas de segurança avançadas, como autenticação multifator e proteção contra ataques de phishing.
- Realizar atualizações regulares e testes de segurança em tempo real.
- Monitorar e analisar atividades suspeitas em tempo real.
- Treinar equipes de TI e funcionários sobre as melhores práticas de segurança.
- Estabelecer políticas de privacidade e consentimento claras para proteger dados sensíveis.
Tags: Cibersegurança, Hackers, Claude, Grok, CyberCartel, Inteligência Artificial**