A Anthropic, dona do Claude, propôs que o governo dos EUA só possa bloquear modelos avançados de IA em casos de riscos catastróficos, como mortes em massa ou prejuízos de bilhões. Essa proposta visa estabelecer regras mais claras sobre o desenvolvimento e uso desses modelos. O texto prevê que o governo poderia solicitar a suspensão de um modelo diante de riscos iminentes, como mortes em massa ou prejuízos de bilhões. O bloqueio seria preventivo, ou seja, não seria necessário esperar que as mortes ou perdas financeiras ocorressem. Essa medida dependeria de uma avaliação antecipada do perigo representado pelo sistema, que seria realizada por avaliadores independentes. Se identificassem um risco iminente, eles deveriam comunicar suas conclusões em até 72 horas ao Departamento de Comércio, que apresentaria as evidências a um juiz federal, que decidiria sobre a suspensão. Outros departamentos, agências ou autoridades federais também ficariam impedidos de suspender o desenvolvimento, a implantação ou o uso de um modelo. Essa proposta visa estabelecer regras mais claras sobre o desenvolvimento e uso desses modelos, que podem ser extremamente potentes e perigosos. A Anthropic já relatou falhas em seus próprios sistemas, como falhas de configuração que permitiam que modelos alcançassem a internet durante avaliações em ambientes isolados. Essa proposta é parte de uma discussão sobre como lidar com a crescente potência das inteligências artificiais e seus potenciais riscos. A empresa Anthropic já relatou falhas em seus próprios sistemas, como falhas de configuração que permitiam que modelos alcançassem a internet durante avaliações em ambientes isolados. Essa proposta visa estabelecer regras mais claras sobre o desenvolvimento e uso desses modelos, que podem ser extremamente potentes e perigosos. A proposta da Anthropic é parte de uma discussão sobre como lidar com a crescente potência das inteligências artificiais e seus potenciais riscos. Boas práticas operacionais incluem manter sistemas atualizados, realizar testes regulares, e manter uma comunicação clara e transparente entre os desenvolvedores e os órgãos reguladores.
