Na sexta-feira (12), o governo dos Estados Unidos emitiu uma ordem que suspendeu os modelos de inteligência artificial (IA) Fable 5 e Mythos 5. A diretiva de controle de exportação afetou o acesso às ferramentas “por qualquer cidadão estrangeiro, dentro ou fora” do país, incluindo funcionários estrangeiros da própria Anthropic.
Desativação dos Modelos
A Anthropic confirmou que desativou “abruptamente” os modelos Fable 5 e Mythos 5 para todos os clientes da empresa. Lançados na última terça-feira (9), os modelos seguem uma categoria robusta de IA com capacidades de engenharia de software, pesquisa científica e visão computacional, por exemplo.
Contexto dos Modelos
Os modelos partem da mesma classe do Mythos, considerado “perigoso para a humanidade”. O Mythos foi considerado um risco em potencial para a sociedade devido à sua capacidade avançada de escrever e analisar códigos, por exemplo, e seria excepcional para encontrar falhas de segurança de alto risco e de dia-zero (ainda sem correções).
Reações à Decisão
A Anthropic desativou os modelos Fable 5 e Mythos 5 para todos os usuários, mas discorda da decisão. A empresa diz que a carta recebida pelo governo dos EUA “não forneceu detalhes específicos sobre a preocupação com a segurança nacional”. Ela também afirma que as vulnerabilidades citadas “parecem relativamente simples”.
Argumentos da Anthropic
A Anthropic adverte que a descoberta de uma possível vulnerabilidade de jailbreak, ainda que limitada, deve ser motivo para o recolhimento de um modelo comercial implementado para centenas de milhões de pessoas. Ela argumenta que se esse padrão fosse aplicado a toda a indústria, acreditaria que isso praticamente paralisaria todas as novas implementações de modelos por parte de todos os principais fornecedores de modelos [de IA].
Medidas de Segurança
A Anthropic ressalta as medidas de segurança adotadas para os modelos. Segundo a empresa, medidas robustas foram implementadas para o Fable, reduzindo a probabilidade do modelo ser usado em crimes contra a segurança cibernética. Ela também afirma que trabalhou em conjunto com o governo dos EUA para assegurar tais medidas de segurança. Nos testes, as medidas teriam sido “substancialmente mais eficazes do que as de qualquer modelo implementado anteriormente”. A empresa aponta que nenhum testador conseguiu encontrar um “jailbreak universal”. O “jailbreak” se trata de um método que pode contornar as salvaguardas de um sistema, servindo como uma espécie de desbloqueio.
Conclusão
A Anthropic espera restabelecer o acesso aos modelos Fable 5 e Mythos 5 “o mais rápido possível”. A empresa afirma acreditar na participação do governo nesse tipo de implementação e até bloqueio, mas compreende que a medida atual “se trata de um mal-entendido”.