A proposta de lei apresentada pela Anthropic é um passo significativo no controle de tecnologias de IA avançadas. Se aprovada, permitiria que o governo interrompesse o uso de modelos de IA que possam causar prejuízos significativos ou riscos de segurança. Esta medida visa proteger a sociedade de possíveis danos graves, como prejuízos financeiros de mais de 1 bilhão de dólares ou mais de 50 mortes ou ferimentos graves. Além disso, a proposta inclui a realização de avaliações periódicas das tecnologias de IA por entidades independentes, para identificar riscos relacionados a armas biológicas, ataques cibernéticos e perda de controle dos modelos. Essas avaliações são fundamentais para garantir que as tecnologias de IA sejam utilizadas de maneira segura e responsável. Entre as soluções de destaque mencionadas, destacam-se a empresa Anthropic e a empresa Black Marble, que desenvolveu um modelo de IA chamado Anthropic, que é capaz de prever riscos de IA e monitorar o seu uso. Outra solução importante é a empresa Scalar, que desenvolveu um sistema de monitoramento de IA chamado Scalar, que pode identificar e prever riscos de IA. Essas empresas são líderes no campo da IA e têm um histórico de desenvolvimento de tecnologias seguras e responsáveis. Para as boas práticas operacionais, é crucial que as empresas de IA mantenham avaliações regulares e transparentes de seus modelos, além de manter um diálogo aberto com reguladores e comunidades de usuários sobre os riscos e benefícios das tecnologias de IA. É essencial que as empresas de IA estejam comprometidas com a segurança e a responsabilidade ao desenvolver e utilizar suas tecnologias, para evitar riscos potenciais e garantir que as tecnologias de IA sejam usadas de maneira segura e benéfica para a sociedade.
