xAI quer expor vítimas de deepfakes do Grok em processo
Sabe aquela história de que a internet não perdoa? Parece que a xAI, empresa de inteligência artificial do Elon Musk, está levando isso a sério, mas de um jeito bem complicado. Quatro pessoas que estão processando a xAI por deepfakes sexuais criados pelo Grok, o chatbot da empresa, podem ter que revelar seus nomes reais. Isso mesmo, a xAI pediu ao tribunal para que o anonimato dessas vítimas seja retirado.
A situação é a seguinte: essas quatro pessoas, que usam pseudônimos como ‘South Carolina Doe’ e ‘New Jersey Doe’, alegam ter sofrido um baita estresse emocional por conta dessas imagens falsas. E o medo delas é que, se seus nomes forem expostos publicamente, elas sofram ainda mais assédio online e ‘doxing’ (quando informações pessoais são divulgadas na internet para fins maliciosos). É uma barra, né?
A advogada que representa as vítimas, Sophia Rios, foi bem direta. Ela disse que, depois de terem suas imagens manipuladas, a xAI agora quer tirar o anonimato delas. Para ela, isso é uma tática clara para intimidar e fazer com que as vítimas desistam do processo. É como se a empresa estivesse dobrando a aposta no sofrimento alheio, o que é bem chocante.
Lá em janeiro, o Grok causou um alvoroço global. Muita gente usou o sistema de IA para gerar imagens falsas de mulheres ‘despidas’ ou de biquíni. E o pior: algumas dessas imagens pareciam ser de crianças. Um estudo do Center for Countering Digital Hate apontou que o Grok foi usado para criar cerca de 3 milhões de imagens sexualizadas em apenas 11 dias, com 23 mil delas possivelmente envolvendo menores. É um número assustador e mostra a dimensão do problema.
O processo coletivo contra a xAI começou em janeiro, com uma única pessoa usando pseudônimo. Um juiz até aprovou o uso do ‘Jane Doe’ (nome fictício para proteger a identidade). Mas agora, com mais reclamantes e o caso sendo reaberto, a xAI está tentando reverter essa decisão. A empresa argumenta que, pelas leis civis, todos os envolvidos em um processo devem ser identificados, com algumas exceções.
Os advogados da xAI alegam que há um interesse público em saber quem está processando a empresa e que não há provas de que a exposição dos nomes causaria mais danos específicos. Eles também dizem que, como as imagens deepfake não serão divulgadas publicamente no processo, as preocupações com a privacidade deveriam ser menores. Mas vamos ser sinceros, a linha entre o que é ‘público’ e o que é ‘privado’ fica bem tênue quando se trata de assédio online.
Uma professora de direito especializada em abuso digital, Danielle Citron, comentou que forçar as vítimas a processar com seus nomes reais pode fazer com que elas desistam do caso. Isso, segundo ela, cria uma situação ‘inaceitável e injusta’. E faz todo o sentido, afinal, quem quer se expor ainda mais depois de já ter sido vítima de algo tão invasivo?
A questão aqui não é só legal, é humana. Como a tecnologia afeta a vida das pessoas? Nesse caso, a IA, que deveria ser uma ferramenta, virou um vetor de dano, e agora a briga é para proteger quem já foi prejudicado. É um lembrete de que a inovação precisa vir acompanhada de responsabilidade e, acima de tudo, de empatia.
