Introdução
A Meta, uma das maiores empresas de tecnologia do mundo, foi confrontada com uma grave falha em sua detecção de conteúdo de abuso sexual infantil (ASI) gerado por inteligência artificial (IA). Uma investigação do Tech Transparency Project (TTP) revelou que a empresa permitiu mais de 350 anúncios contendo material deASI gerado por IA em suas plataformas, incluindo Facebook e Instagram, desde o final de 2025.
Anúncios de Abuso Sexual Infantil Gerados por IA
Os anúncios identificados pela investigação usavam fotos reais de crianças encontradas na internet, que foram transformadas por ferramentas de IA em conteúdo sexual. A maioria dos anúncios seguia um formato semelhante, apresentando imagens de crianças ou adolescentes e criando vídeos com conteúdo sexual usando IA.
Detecção e Rejeição de Anúncios
Embora a Meta afirme que utiliza sistemas automatizados para analisar anúncios antes de serem publicados, a investigação revelou que 332 anúncios foram rejeitados pelos mecanismos de moderação da empresa. A maioria dos anúncios direcionava os usuários para aplicativos de geração ou manipulação de imagens e vídeos por IA, muitos dos quais tinham desenvolvedores ou conexões com empresas chinesas.
Problemas de Classificação
A investigação encontrou outro problema na classificação das peças. Em 113 anúncios, a Meta havia registrado inicialmente violações relacionadas a conteúdo adulto ou outras políticas, sem indicar que havia material envolvendo crianças. Os registros foram alterados depois que o TTP apontou a inconsistência.
Impacto e Consequências
Os dados disponíveis na Biblioteca de Anúncios mostram que as campanhas alcançaram mais de 29 mil contas na União Europeia e cerca de 7 mil no Reino Unido. A base não fornece métricas detalhadas para todos os países, mas o TTP identificou 262 anúncios veiculados nos Estados Unidos, 120 na Austrália e 84 na Índia. A estimativa pode ser inferior ao alcance real, já que a ferramenta da Meta não apresenta os mesmos dados para todas as regiões.
Reações e Consequências
A investigação levantou questões sobre a detecção de ASI gerado por IA e levantou preocupações sobre a falta de políticas específicas contra ASI. A Meta declarou que não tolera aplicativos de “nudificação” nem qualquer forma de exploração infantil, seja com material real ou gerado por IA. A empresa também afirmou ter recebido menos de US$ 5 mil em pagamentos relacionados às peças identificadas pelos pesquisadores.
Ações Contra Aplicativos
A investigação também chegou aos aplicativos promovidos pelos anúncios. A WIRED identificou quase 50 apps relacionados às campanhas nas lojas da Apple e do Google. As duas empresas informaram que removeram aplicativos associados à investigação. A Apple afirmou que tomou medidas contra os desenvolvedores envolvidos, enquanto o Google disse ter retirado os apps identificados e aplicado outras restrições contra ferramentas de “nudificação”.
Conclusão
O episódio levantou questões sobre a eficácia dos sistemas de detecção de ASI gerado por IA e levantou preocupações sobre a falta de políticas específicas contra ASI. A investigação chama atenção para a necessidade de melhorias na detecção e remoção de ASI em plataformas de mídia social e de aplicativos de geração de conteúdo.