Dá pra confiar no sistema que aprova anúncios nas redes da Meta? Uma investigação recente mostra que não tanto assim. Pesquisadores da Tech Transparency Project encontraram mais de 50 anúncios com imagens e vídeos abusivos envolvendo menores, gerados com inteligência artificial, circulando pelo Facebook, Instagram, Messenger e Threads. Alguns desses anúncios ficaram ativos até essa semana.
O que mais chama atenção aqui não é só o conteúdo em si, mas o caminho que ele percorreu. Não se trata de post de terceiro escapando da moderação. São peças pagas, que passaram pelo processo de revisão e aprovação da própria plataforma antes de irem ao ar. Ou seja, a empresa recebeu dinheiro por veicular esse material.
Como os anúncios chegaram até as pessoas
Segundo os pesquisadores, algumas peças linkavam para os chamados apps de nudificação, que usam IA para gerar imagens de nudez a partir de fotos reais. Um dos vídeos usava uma miniatura de uma criança e, ao ser reproduzido, misturava cenas de sexo adulto com o rosto da criança sobreposto. Outro trazia uma legenda sexualizada em cima da imagem.
A maior parte dos anúncios tinha alcance pequeno, mas pelo menos um chegou a 2.563 contas na Europa, em países como França, Alemanha, Irlanda, Itália, Holanda, Espanha, Suécia e Reino Unido. Como a base de dados da própria Meta não cobre todo o alcance nos Estados Unidos, o número real provavelmente é maior.
A resposta da Meta e o que ainda falha
Depois que a revista Wired entrou em contato, a empresa removeu os anúncios da biblioteca de transparência. Em nota, a Meta disse que trabalha para tirar esse tipo de conteúdo da plataforma e que lançou recentemente uma tecnologia de IA para detectar e bloquear anúncios problemáticos no momento do upload.
O problema é que parte do material identificado é posterior ao lançamento dessa ferramenta. Horas antes da publicação da reportagem, os pesquisadores encontraram outras 30 peças, várias delas ainda ativas.
Isso mostra o limite real dessas camadas automáticas de moderação: elas ajudam, mas não resolvem sozinhas. Para quem usa a plataforma como anunciante ou como consumidor de anúncios, o episódio reforça uma pergunta incômoda sobre quanto peso a Meta realmente dá à revisão manual e à velocidade de resposta quando o problema é grave.
A Meta afirma ter removido mais de 36 milhões de conteúdos de exploração infantil no ano passado e diz seguir agindo contra desenvolvedores de apps de nudificação. Ainda assim, o caso levanta a questão de sempre em moderação de conteúdo: tecnologia de detecção existe, mas só funciona se acompanhar o ritmo de quem tenta burlar o sistema.
Fonte: https://www.wired.com/story/meta-ran-ads-that-contained-ai-generated-child-sexual-abuse-imagery/