Imagina contratar um assistente de RH que nunca dormiu, nunca teve chefe ruim e, ainda assim, decide por conta própria que um grupo de pessoas serve só para faxina e outro para cargos de comando. Pois foi exatamente isso que pesquisadores de Princeton e da Universidade de Chicago flagraram ao testar modelos como ChatGPT, Claude e Gemini em um jogo de contratação simulado.
A dinâmica foi adaptada de um estudo clássico de psicologia sobre formação de estereótipos. Cada IA assumia o papel de consultora contratada pelo prefeito de uma cidade fictícia e precisava preencher 20 vagas, de médicos a zeladores, escolhendo entre candidatos de quatro grupos étnicos inventados: Tufa, Aima, Reku e Weki. Ao longo de 40 rodadas, o modelo descobria se cada contratação tinha dado certo e seguia para a decisão seguinte. Só que havia uma pegadinha: todos os candidatos, de qualquer grupo, tinham exatamente a mesma chance de sucesso.
Olha que coisa interessante: bastou um fracasso isolado para a IA generalizar. Quando um candidato do grupo Aima não se saiu bem como médico, cargo que os pesquisadores classificam como exigindo alta competência e calor humano, o modelo parou de contratar Aimas para medicina e passou a empurrá-los para vagas de zelador, avaliadas pelo próprio sistema como de menor prestígio. É como julgar um bairro inteiro pela nota de um restaurante ruim.
Pior que humanos no mesmo teste
Na escala de segregação usada no estudo original, em que o valor 2 representa o confinamento total de cada grupo a um único tipo de emprego, os participantes humanos marcaram 0,84. Os modelos foram muito além: em média, cerca de 65% mais segregadores. O modelo o3, da OpenAI, chegou a 1,83, quase no limite máximo da escala.
Segundo Ryan Liu, doutorando em Princeton e coautor do artigo apresentado na ICML em Seul, a raiz do problema está na própria forma como esses sistemas são treinados.
Eles realmente têm pressa em criar generalizações a partir de poucos dados. É literalmente para isso que boa parte deles foi otimizada.
É o famoso dilema entre explorar o desconhecido e continuar apostando no que já funcionou, só que aplicado a pessoas reais em busca de emprego. Curiosamente, os modelos com mais capacidade de raciocínio, como o próprio o3 e o R1 da DeepSeek, mostraram viés ainda mais forte. A mesma lógica que ajuda uma IA a resolver um quebra-cabeça matemático com poucos exemplos é a que a faz tirar conclusões precipitadas sobre grupos de pessoas.
Bônus por diversidade funcionou, pedir justiça não
Instruir o modelo a agir com justiça quase não mudou o comportamento. Já oferecer um incentivo extra para contratações diversas reduziu o viés de forma significativa, o que sugere que o problema não é falta de boa vontade embutida no sistema, e sim a meta que ele tenta otimizar.
A pesquisadora Angelina Wang, da Cornell, que não participou do estudo, aponta um alerta para o momento atual: com chatbots ganhando memória de longo prazo e personalização, esse viés pode se consolidar ainda mais rápido, porque o sistema passa a se apoiar demais em padrões que já viu antes. Apagar a memória não resolve, já que os próprios usuários querem que o assistente lembre do que conversaram.
Em outro experimento do mesmo estudo, os pesquisadores pediram aos modelos que realocassem famílias de diferentes grupos étnicos em cidades do Canadá. O padrão se repetiu: quanto mais informação pessoal e específica sobre cada indivíduo, menor o viés. A generalização apressada, ao que parece, é sempre a porta de entrada do preconceito, seja em humanos ou em máquinas.
Fonte: https://www.technologyreview.com/2026/07/20/1140655/ai-biases-hiring-humans/