Testei bastante ferramenta de IA generativa colada em mapa, e a lição de sempre se repete: dar poder total de edição de imagem pra qualquer pessoa, sem trava séria, é pedir pra dar problema. Foi exatamente isso que aconteceu com o recurso que o Google colocou no Google Earth numa quinta-feira e cancelou já na sexta seguinte.
A ideia era simples no papel: usar o modelo Nano Banana 2 pra alterar imagem de satélite a partir de comando de texto direto na plataforma. Parece útil pra quem trabalha com geodados ou quer visualizar cenário hipotético. Só que na prática virou fábrica de imagem falsa de lugar real, o tal deepfake geográfico.
O que deu errado
Henk van Ess, do Digital Digging, mostrou o tamanho do buraco em poucas horas de teste. Ele conseguiu gerar cena com grupo de refugiados perto da fronteira com o México e até uma cratera de bomba ao lado de um hospital em Gaza, tudo dentro do próprio app do Google. Nada de aviso, nada de recusa no meio do caminho.
A resposta inicial da empresa foi tentar segurar a onda dizendo que toda imagem gerada vinha com marca d’água digital e que assunto sensível era bloqueado na criação. Só que o próprio van Ess furou esse argumento: driblou o detector de IA da Hive usando um vídeo criado dentro do recurso, provando que a marca não impede a imagem de circular como se fosse real.
Nada foi recusado, nada foi suavizado e nada sugeriu que eu tentasse outro comando, contou van Ess sobre os testes que fez.
Um dia depois do lançamento, o Google voltou atrás. Em nota, a empresa reconheceu que confiança é o principal ativo do Google Earth e que viu gente compartilhando print de conteúdo gerado que ia contra as próprias regras da plataforma. Resultado: recurso suspenso enquanto a equipe trabalha em barreira mais rígida.
O que muda pra quem usa mapa e imagem de satélite
Vale separar dois pontos aqui. Primeiro, o Google garante que a imagem editada nunca apareceu na experiência principal do Google Earth pra outras pessoas verem, ficou restrita a quem gerou. Segundo, isso não resolve o problema de fundo: qualquer print sai da plataforma sem contexto nenhum, e uma imagem de satélite carrega um peso de autenticidade que quase ninguém questiona.
Edição de imagem por comando de texto já virou padrão em praticamente todo produto grande de tecnologia, e cada lançamento desses confirma o mesmo padrão: a trava de segurança quase sempre chega depois que alguém já testou o limite pra valer. Se o recurso voltar, o esperado é bloqueio mais rígido pra tema sensível como conflito, fronteira e infraestrutura crítica, e talvez restrição de onde a imagem editada pode circular.
Fonte: https://www.theverge.com/tech/973943/google-earth-ai-image-generation-deepfake-tool