Introdução
A Anthropic, uma startup sem fins lucrativos dedicada ao desenvolvimento de inteligência artificial, está acelerando significativamente o desenvolvimento de seus modelos de IA. De acordo com um estudo recentemente divulgado pela Model Evaluation and Threat Research (METR), a empresa está produzindo resultados de benchmark mais rápido do que o esperado.
Aceleração do Desenvolvimento
O estudo da METR revela que a Anthropic está produzindo resultados de benchmark cerca de duas vezes mais rápido do que no ano anterior. Isso se deve não só ao aumento do poder computacional de seus sistemas também à contribuição da IA no desenvolvimento de modelos futuros.
Impacto da Aceleração
O estudo da METR fornece evidências claras de que a IA está acelerando o próprio desenvolvimento, levantando questões sobre quando a tecnologia poderá se aprimorar sozinha ou com apenas uma pequena intervenção humana. A startup, inclusive, abordou o assunto em um documento de preparação para a abertura de capital.
Auxílio da IA
O estudo também destaca que a aceleração detectada parece ser resultado da IA trabalhando em conjunto com os humanos. Pesquisas internas e entrevistas com funcionários da Anthropic apontaram que a empresa obteve ganhos consideráveis com a ajuda da tecnologia. Alguns funcionários afirmaram ter se tornado 12 vezes mais produtivos no trabalho sem a ajuda da tecnologia.
Desenvolvimento Interno
O estudo menciona três modelos internos ainda não lançados que concluíram o treinamento nos últimos seis meses e são chamados pelos codinomes 'Model 2', 'Model 3' e 'Model 4'. Além disso, a METR observou que o cenário relacionado às IA autônomas não deve demorar a mudar, com tecnologias capazes de trabalhar com pouca ou nenhuma intervenção humana tendo um papel maior no desenvolvimento de versões otimizadas.
Conflito de Interesses
A Anthropic solicitou a remoção de informações consideradas confidenciais, incluindo algumas que sustentariam as conclusões da pesquisa. A justificativa foi que a divulgação poderia favorecer seus concorrentes. O cofundador da Anthropic, Sam McCandlish, argumentou que compartilhar exatamente o que está impulsionando a aceleração não é a coisa certa a fazer, tanto por ser comercialmente sensível quanto pelo risco de fornecer um roteiro para que outros acelerem o processo.
Conclusão
O estudo da METR gerou repercussões negativas entre os pesquisadores da área, que argumentam que a empresa é uma das principais defensores da desaceleração da IA, mas ao mesmo tempo ajuda a tornar os avanços de algo que ela considera perigoso mais rápidos, além de descumprir seus compromissos com a transparência.
Com base nessas informações, a startup lançou as versões mais recentes dos modelos Fable e Mythos.
Conclusão
O estudo da METR gerou repercussões negativas entre os pesquisadores da área, que argumentam que a empresa é uma das principais defensores da desaceleração da IA, mas ao mesmo tempo ajuda a tornar os avanços de algo que ela considera perigoso mais rápidos, além de descumprir seus compromissos com a transparência.
Com base nessas informações, a startup lançou as versões mais recentes dos modelos Fable e Mythos.
Conclusão
O estudo da METR gerou repercussões negativas entre os pesquisadores da área, que argumentam que a empresa é uma das principais defensores da desaceleração da IA, mas ao mesmo tempo ajuda a tornar os avanços de algo que ela considera perigoso mais rápidos, além de descumprir seus compromissos com a transparência.
Com base nessas informações, a startup lançou as versões mais recentes dos modelos Fable e Mythos.
Comentários