A Anthropic, empresa de inteligência artificial, anunciou recentemente que bloqueou pesquisadores que usavam seus modelos de IA para pesquisas biológicas consideradas perigosas. Embora não tenham conseguido determinar se os trabalhos tinham finalidade legítima ou maliciosa, a empresa decidiu agir para mitigar o risco.
Tentativas de Contornar Controles
Os pesquisadores identificados contornaram controles destinados a impedir o acesso de usuários de regiões bloqueadas e tentaram ocultar a finalidade das pesquisas para escapar das salvaguardas. As contas associadas foram banidas.
Dificuldade de Determinar Intenção
A principal dificuldade para a Anthropic está em distinguir uma pesquisa legítima de uma possível tentativa de causar danos. Estudos biológicos podem contribuir para vacinas e outros avanços médicos, mas conhecimentos semelhantes também podem ser usados para tornar agentes infecciosos mais perigosos.
Usos Indevidos do Claude
Além dos casos biológicos, a Anthropic relatou outros usos indevidos do Claude, incluindo vigilância, propaganda e desenvolvimento de armas convencionais. Os casos biológicos, no entanto, estão entre os mais preocupantes pela dificuldade de separar uma pesquisa científica legítima de uma possível preparação para causar danos.
Capacidade de Pesquisas Complexas
A Anthropic relatou que os modelos atuais são mais capazes de realizar pesquisas científicas complexas, o que levou à adoção de salvaguardas mais rígidas. A empresa decidiu bloquear os casos identificados mesmo sem comprovar que os pesquisadores pretendiam criar armas.
Conclusão
O episódio mostra como modelos de IA mais capazes também tornam mais difícil avaliar os riscos escondidos por trás de pesquisas que, à primeira vista, podem parecer legítimas. A Anthropic decidiu agir com cautela para prevenir possíveis usos indevidos do Claude e outras ferramentas de IA.