FBI: Criar deepfakes sexuais com IA é mais fácil de rastrear do que você pensa
Sabe aquela ideia de que a internet é um lugar anônimo? Pois é, quando o assunto é deepfakes sexuais criados por IA, o FBI está mostrando que não é bem assim. As primeiras prisões sob a lei “Take It Down Act” (TIDA) revelam que identificar quem está por trás dessas criações não é um bicho de sete cabeças para a polícia.
Na semana passada, o FBI prendeu dois homens. Como? Simplesmente navegando por sites de conteúdo adulto e clicando em hashtags como #AIDeepfakes ou títulos de vídeos como “AI_tits”. Parece até que eles estavam facilitando o trabalho da polícia.
Um dos suspeitos, Arturo Hernandez, de 20 anos, é acusado de postar 113 álbuns com imagens e vídeos sexuais gerados por IA, que foram vistos quase um milhão de vezes. As vítimas? Figuras públicas, atrizes, músicos e até mulheres que ele conhecia da escola ou do Instagram. O cara usou o próprio material para criar as deepfakes.
A identificação de Hernandez foi mais fácil do que parece. Dados de geolocalização ajudaram, mas o pulo do gato foi quando os agentes encontraram outra conta que republicava o conteúdo dele. Essa segunda conta estava ligada ao PayPal de Hernandez e a um endereço de IP que ele usava para acessar o iCloud. Ou seja, ele deixou um rastro digital bem claro.
E não parou por aí. Hernandez tentou se disfarçar usando o apelido “Ryan” em seu Gmail, mas adivinha? Ele usava o mesmo apelido em outras plataformas, como o Snapchat. Convenhamos, não foi a melhor tentativa de anonimato.
O outro preso, Cornelius “Neil” Shannon, de 51 anos, foi ainda menos cuidadoso. Ele é acusado de publicar cerca de 360 álbuns gerados por IA, vistos mais de 2 milhões de vezes, com imagens de aproximadamente 90 mulheres, a maioria figuras públicas. O que entregou Shannon? Ele usou a própria foto como perfil no site de conteúdo adulto. Sim, você leu certo. A polícia cruzou essa foto com registros do Departamento de Veículos Motorizados e fotos de vigilância, e bingo! Era ele.
Ambos os casos mostram que, por mais que a tecnologia de IA pareça avançada, a falta de cuidado com a privacidade digital e os rastros que deixamos online podem ser a chave para a identificação. Se forem condenados, Hernandez e Shannon podem pegar até dois anos de prisão.
As autoridades estão levando a sério a caça a quem abusa da tecnologia. Joseph Nocella Jr., procurador dos EUA, afirmou que esses criminosos usam “tecnologia digital de ponta para criar imagens que degradam e violam vítimas”. E James C. Barnacle Jr., do FBI, garantiu que a perseguição vai continuar. “Essa conduta predatória representa um abuso perturbador da tecnologia que inflige danos emocionais às vítimas, violando sua privacidade, dignidade e segurança”, disse ele. “O uso dessa tecnologia emergente para vitimar indivíduos não é inovador—é criminoso e será perseguido com toda a força da lei.”
E para tentar frear a criação dessas imagens, a Comissão Federal de Comércio (FTC) enviou cartas de advertência a 12 empresas que oferecem ferramentas de “nudificação” por IA. Parece que o cerco está fechando para quem pensa que pode usar a IA para violar a privacidade alheia e sair impune.
