Meta desativa recurso de IA que gerava deepfakes no Instagram

Durou pouco. A Meta lançou na terça uma função dentro do Meta AI que deixava qualquer usuário gerar imagens com inteligência artificial a partir de conteúdo de contas públicas do Instagram, bastava marcar o perfil com @. Poucos dias depois, o recurso já saiu do ar.

O problema era simples de enxergar na prática: qualquer conta pública podia virar matéria-prima para criação de IA sem que o dono do perfil tivesse dado autorização nenhuma. Ou seja, sua foto, sua marca, seu rosto entravam num gerador de imagens só porque alguém digitou seu @.

A empresa até criou uma forma de sair dessa, mas escondida em configurações, exigindo que cada pessoa fosse buscar ativamente o botão de opt-out. E isso foi o estopim das reclamações.

O que a Meta disse ao recuar

Em atualização no post que apresentava o modelo Muse Image, a Meta admitiu o tropeço:

Nossa intenção era oferecer uma ferramenta criativa útil e dar controle às pessoas sobre se o conteúdo público delas poderia ser referenciado dessa forma. Ouvimos o feedback de que esse recurso não acertou o alvo, então ele não está mais disponível.

Traduzindo: virou motivo de bronca rápido demais para continuar no ar.

Quem puxou o alerta

Haley McNamara, do National Center on Sexual Exploitation, foi direta ao apontar o risco. Segundo ela, o modelo não só enfraquecia o direito das pessoas sobre a própria imagem, como se transformava numa ferramenta pronta para golpes de sextorsão. E completou que colocar a responsabilidade de proteção nas mãos do usuário, exigindo que ele corra atrás de um opt-out, não é aceitável.

O sindicato SAG-AFTRA também entrou na conversa, recomendando aos atores e atrizes que desativassem a função e publicando o passo a passo para isso.

Por que isso importa pra quem usa o Instagram

Na prática, esse tipo de recurso testa até onde uma plataforma pode ir usando dados públicos como combustível para IA generativa. O Instagram tem bilhões de perfis públicos, e cada um deles vira alvo em potencial quando a régua de permissão é baixa.

O caso mostra algo que já apareceu outras vezes com recursos de IA lançados às pressas: a decisão de deixar a proteção como opção, em vez de padrão, sai caro em reputação. Aqui, o recuo levou dias, não meses, mas o estrago da repercussão já ficou registrado.

Vale ficar de olho se a Meta vai trazer uma versão revisada desse tipo de geração de imagem, agora com consentimento explícito desde o início. Pelo histórico recente da empresa com IA, é bem provável que sim.

Fonte: https://www.theverge.com/tech/964416/meta-instagram-ai-muse-image-deepfakes