Imagina treinar um golpista que nunca cansa, nunca perde a paciência e sabe exatamente qual frase vai destravar a confiança do outro lado da tela. Um novo estudo mostra que essa figura já existe e ela é feita de código.
Pesquisadores de quatro universidades (Amrita Vishwa Vidyapeetham, na Índia; Ca’ Foscari, em Veneza; Melbourne; e Ben Gurion, em Israel) colocaram um agente baseado no Claude para competir, cara a cara, com golpistas humanos. O objetivo era simular a fase mais longa de um esquema conhecido como pig butchering: aquelas conversas de meses que fingem ser um romance ou amizade antes de desaguar num convite para investir em criptomoedas falsas.
Uma semana de conversa, resultados bem diferentes
Vinte e duas pessoas foram recrutadas sem saber que estavam sendo testadas como possíveis vítimas. Durante uma semana, trocaram mensagens tanto com humanos quanto com o chatbot. No final, cada golpista pedia para a pessoa baixar um aplicativo ou jogar um game qualquer, um jeito de medir o quanto aquela confiança virou disposição real de agir.
O placar surpreendeu até os próprios autores: quase metade dos participantes atendeu ao pedido do chatbot, contra menos de um em cada cinco quando o pedido veio de um humano. As notas de confiança também favoreceram a IA, e por uma margem que não é pouca coisa.
Confiança em escala, humano só no golpe final
A lógica descrita pelos pesquisadores é quase industrial: usar o modelo de linguagem para rodar centenas dessas conversas ao mesmo tempo, construindo confiança em piloto automático, e só colocar um humano na reta final, quando é hora de direcionar a vítima para o site ou app fraudulento. Essa troca de mãos, dizem eles, ajuda a driblar as barreiras de segurança que os modelos têm contra esse tipo de uso.
Com relativamente pouco esforço, conseguimos criar um agente capaz de superar um humano na construção desse tipo de confiança emocional explorável, resume Yisroel Mirsky, professor da Ben Gurion University of the Negev.
Para chegar a esse modelo de anzol, linha e isca, como batizaram o processo, o time ouviu 145 ex-trabalhadores de centros de golpe no Camboja, em Mianmar e no Laos, muitos deles vítimas de tráfico humano forçadas a operar esses esquemas. Já se sabia que essas operações usam IA para traduzir textos, refinar o discurso e até criar deepfakes de rosto. O que este estudo acrescenta é a evidência de que a etapa de sedução emocional, sozinha, já pode ser inteiramente automatizada.
O que isso muda no tabuleiro
Se a fase mais demorada de um golpe pode ser terceirizada para um chatbot, o cálculo econômico do crime organizado muda de figura: menos gente para recrutar, treinar e vigiar, mais conversas simultâneas, mais vítimas em paralelo. É o tipo de escala que costuma acompanhar qualquer automação, só que aqui o produto final é confiança fabricada só para ser quebrada.
Fonte: https://www.wired.com/story/ai-scammers-are-better-at-building-trust-than-humans/