TikTok testa ferramenta de IA para detectar deepfakes de criadores

Tá rolando um teste novo no TikTok que pode ser útil pra quem cria conteúdo e vive com medo de aparecer em vídeo que nunca gravou. A plataforma começou a testar uma ferramenta que escaneia a rede em busca de deepfakes feitos com o rosto do criador, sem autorização.

A movimentação foi flagrada pelo consultor de redes sociais Matt Navarra e confirmada pelo TikTok ao The Verge. Por enquanto, o teste está restrito a alguns criadores nos Estados Unidos, então ainda não dá pra testar por aqui.

Como funciona na prática

Antes de usar a ferramenta, o criador precisa passar por uma verificação de identidade feita pela empresa Jumio. O processo inclui:

• Selfie em tempo real pra confirmar que é você mesmo
• Checagem de documento de identidade
• Cadastro do rosto pra servir de referência na busca

Depois dessa etapa, o sistema do TikTok passa a escanear a plataforma procurando vídeos gerados por IA que usem essa referência facial. O criador recebe os resultados e pode denunciar posts ou contas usando a imagem sem permissão.

Um ponto que o porta-voz do TikTok, Zachary Kizer, deixou claro: a empresa não guarda os documentos de identidade enviados. Segundo ele, os dados faciais servem só pra fazer a comparação e ajudar a identificar usos indevidos da imagem do criador.

TikTok correndo atrás do YouTube

Esse movimento não é exatamente inédito. O YouTube já vinha trabalhando numa ferramenta parecida e recentemente abriu o recurso pra todos os usuários adultos da plataforma. O TikTok agora tenta seguir o mesmo caminho, ainda em fase de teste.

Faz sentido: com ferramentas de geração de vídeo por IA cada vez mais realistas, fica mais fácil clonar a cara de alguém pra vender produto, espalhar boato ou aplicar golpe. Pra quem vive de criar conteúdo e tem a própria imagem como parte do trabalho, ter um jeito de rastrear isso automaticamente é a diferença entre descobrir um deepfake em minutos ou só quando ele já viralizou.

Fico na dúvida se a etapa de verificação com selfie e documento vai afastar parte dos criadores, mesmo com a promessa de que os documentos não ficam guardados. Mas se a ferramenta funcionar bem, é o tipo de proteção que devia virar padrão em qualquer rede que lida com vídeo gerado por IA em escala.

Fonte: https://www.theverge.com/tech/967486/tiktok-ai-likeness-detection-tool