Em março, o Oversight Board da Meta cobrou a empresa pra usar as próprias ferramentas contra conteúdo de IA enganoso circulando nas plataformas. A resposta veio só em julho, e de um jeito meio discreto: enfiada como nota de rodapé no anúncio do Muse, o novo gerador de imagem e vídeo da empresa, apareceu uma tecnologia chamada Content Seal.
A ideia é marcar imagens geradas pelo Muse com um sinal invisível a olho nu, tipo uma marca d’água escondida que serve como prova de origem. Um sistema de detecção consegue escanear essa marca depois e apontar se aquele conteúdo foi feito por IA. Segundo a Meta, o sinal aguenta corte, compressão, redimensionamento e até print de tela.
O problema é que isso já existe
Aqui que a coisa fica estranha: essa descrição é basicamente o resumo do SynthID, sistema que o Google já roda desde 2023 e que a OpenAI adotou nos próprios modelos. Existe também o Content Credentials, padrão da coalizão C2PA que junta empresas do setor pra resolver exatamente esse problema de rastreabilidade de conteúdo gerado por IA.
E olha que a própria Meta faz parte do comitê que dirige o C2PA, junto com o Google. Ou seja, ela ajuda a construir um padrão aberto e, ao mesmo tempo, decide criar o próprio sistema fechado pra resolver o mesmo problema.
Reinventar a roda tem um custo
Quando cada empresa grande sai com sua própria marca d’água, quem perde é o usuário final. Em vez de ter um jeito único de checar se uma imagem é real, você fica dependente de qual ferramenta detecta qual marca. Isso enfraquece justamente o objetivo original: dar confiança pro público sobre o que é ou não gerado por IA.
Content Seal parece uma versão menos acessível e menos testada de algo que o mercado já resolveu.
Faltam detalhes públicos sobre como o Content Seal funciona na prática fora do Muse, quem tem acesso pra escanear a marca e se outras empresas vão conseguir integrar o sistema como fizeram com o SynthID. Até esses pontos ficarem claros, dá pra tratar isso como um lançamento apressado, feito mais pra responder à pressão do Oversight Board do que pra resolver o problema de fato.
Na prática, se você usa redes da Meta e vê uma imagem gerada pelo Muse, saiba que existe uma marca escondida ali. Só não espere que ferramentas de terceiros já saibam ler ela como leem o SynthID.
Fonte: https://www.theverge.com/tech/968680/meta-ai-detection-labeling-content-seal-watermarks-synthid