A startup chinesa Moonshot AI anunciou recentemente que limitou algumas capacidades de seu modelo de IA mais avançado, o Kimi K3.1 Pro, em resposta a preocupações crescentes sobre o uso da IA para ataques cibernéticos.
Redução de Capacidades
Moonshot decidiu limitar as capacidades do Kimi K3.1 Pro para prevenir ataques cibernéticos. A empresa justificou essa medida por preocupações sobre o uso da IA para tornar ataques cibernéticos mais sofisticados e baratos.
Desempenho do Modelo
Após a redução de capacidades, o modelo Kimi K3.1 Pro obteve 81,0% no teste de cibersegurança, contra 90,5% de uma versão equivalente sem as medidas de redução de risco. Embora o desempenho tenha sido reduzido, o modelo ainda superou seu antecessor.
Desafios da IA Aberta
A empresa reconheceu que modelos abertos apresentam desafios específicos de controle. A Moonshot argumenta que modelos abertos podem contribuir para a segurança digital ao permitir que mais organizações inspecionem e protejam seus próprios softwares, incluindo sistemas mais antigos que recebem pouca atenção.
Regulamentação
Recentemente, a China propôs controles de exportação que proibiriam o envio de tecnologias de geração de malware baseadas em IA para fora do país, além de restringir ferramentas de descoberta de vulnerabilidades assistidas por inteligência artificial. A medida visa prevenir o uso dessas capacidades para ataques cibernéticos contra infraestrutura crítica, sistemas de defesa industrial e governamentais, ou para contornar proteções de segurança.
Conclusão
A Moonshot AI decidiu limitar as capacidades do seu modelo de IA mais avançado para prevenir ataques cibernéticos, embora isso possa reduzir o uso indevido da ferramenta. A empresa argumenta que modelos abertos podem contribuir para a segurança digital, permitindo que mais organizações inspecionem e protejam seus próprios softwares.