A Anthropic, empresa de inteligência artificial, anunciou a identificação e bloqueio de ações que poderiam levar à criação de armas biológicas utilizando seu modelo Claude, conforme relatório de riscos recentemente divulgado.
Identificação de Riscos
A empresa identificou situações de alto risco biológico, incluindo pesquisas sobre alterações genéticas no vírus Chikungunya, que é comum no Brasil. O relatório também menciona rastros de espionagem por governos e atividades militares envolvendo o uso da inteligência artificial.
Bloqueio de Ações
A Anthropic afirmou ter identificado e bloqueado ações de usuários que poderiam levar à criação de armas biológicas utilizando modelos do Claude. A informação está no relatório de riscos mais recente, publicado nesta quinta-feira (10/09).
Perigo Biológico
O relatório identificou o vírus Chikungunya como uma doença comum no Brasil, e mencionou pesquisas realizadas por virologistas para encontrar possíveis mutações do vírus. A Anthropic destacou que essas pesquisas poderiam levar à criação de armas biológicas, mas afirmou que é difícil julgar se há má intenção ou não.
Soluções para Contornar Mal-Uso
A Anthropic reafirmou que é importante tornar esses casos públicos para levar a discussão à indústria e aos governos, buscando soluções para contornar possíveis mal-usos. O relatório reforça a capacidade do Claude de encontrar falhas em cibersegurança, buscar soluções perigosas a nível químico e biológico, além de destacar usos militares pelo mundo.
Conclusão
A identificação e bloqueio de ações que poderiam levar à criação de armas biológicas com o modelo Claude pela Anthropic reforça a importância de monitorar e controlar a tecnologia de IA para evitar mal-usos.