Deepfakes: Nova lei dos EUA mira na remoção rápida, mas levanta dúvidas

Sabe aquela história de que a internet é terra de ninguém? Pois é, parece que o governo americano está tentando mudar isso, pelo menos quando o assunto é deepfakes e imagens íntimas sem consentimento. Entrou em vigor uma lei, o tal de ‘Take It Down Act’, que promete apertar o cerco contra esse tipo de conteúdo online.

A ideia é simples: se alguém postar uma imagem sua, real ou gerada por IA, sem sua permissão, e essa imagem for de natureza íntima, as plataformas digitais têm que tirar do ar em até 48 horas. Se não tirarem, a multa pode ser salgada: mais de 53 mil dólares por infração. A Comissão Federal de Comércio (FTC) já mandou o recado para um monte de gigantes da tecnologia, tipo Amazon, Google, Meta, Microsoft, TikTok e X (antigo Twitter), avisando que é pra se adequar.

Pelo que vi, a lei criminaliza a distribuição de material íntimo não consensual (NCII), seja ele real ou feito por inteligência artificial. Isso já é algo que muitos estados americanos faziam, mas a parte da remoção em 48 horas é o que realmente pegou. A FTC quer que essas empresas ofereçam um jeito fácil para os usuários pedirem a remoção e que elas também se virem para encontrar e apagar cópias idênticas do conteúdo.

As grandes empresas de tecnologia, até as que têm um histórico meio complicado com moderação de conteúdo, como o X (lembram da polêmica com deepfakes da Taylor Swift?), apoiaram a lei. A Meta, por exemplo, disse que já vem lutando contra o abuso de imagens íntimas há tempos e que seus sistemas já estão treinados para não criar ou espalhar esse tipo de coisa. O TikTok também afirmou ter tolerância zero para NCII e oferece ferramentas para denúncia.

Mas, como sempre, tem um porém. Especialistas estão com um pé atrás. A preocupação é que, apesar da boa intenção de proteger as vítimas, essa lei possa acabar virando uma ferramenta para censura. Afinal, quem define o que é ‘íntimo’ e ‘não consensual’? E se o governo começar a usar isso para tirar do ar conteúdo que não tem nada a ver com deepfakes sexuais? É uma linha tênue entre proteção e controle, e o risco de abuso é real.

No dia a dia, para a gente que usa a internet, isso significa que, em tese, teremos mais uma camada de proteção contra a proliferação de deepfakes maliciosos. Se você for vítima, a expectativa é que o processo de remoção seja mais rápido e eficaz. Mas, ao mesmo tempo, é importante ficar de olho em como essa lei será aplicada na prática, para garantir que ela não vire um tiro no pé, prejudicando a liberdade de expressão e abrindo precedentes perigosos para a censura online.

É um passo importante, sim, mas que vem com um monte de perguntas sem resposta. Vamos ver como as plataformas e a FTC vão lidar com esse desafio. A promessa é boa, mas a execução é que vai dizer se a lei realmente cumpre o que promete para o usuário final.

Fonte: https://www.theverge.com/policy/933518/take-it-down-act-notice-removal-social-media-deepfake