Imagina duas pessoas aprendendo a mesma língua. Uma delas passa os primeiros anos de vida ouvindo os pais, brincando e balbuciando frases tortas até acertar o verbo. A outra devora o equivalente a bibliotecas inteiras da internet, palavra por palavra, sem parar. A primeira aprende rápido e com naturalidade. A segunda precisa de uma quantidade de texto absurdamente maior para chegar a um resultado parecido. Essa segunda personagem, claro, é um modelo de linguagem.
Esse descompasso tem nome: gap de eficiência de dados. E ele incomoda tanto cientistas cognitivos quanto engenheiros de IA. O Llama 3.1, da Meta, foi treinado com cerca de 15 trilhões de tokens antes mesmo de aprender a se comportar como assistente. Uma criança criada em um ambiente linguisticamente rico ouve algo perto de 100 milhões de palavras até a pré-adolescência, chegando talvez a 300 milhões somando a leitura ao longo da vida. A diferença de escala é tão grande que só cabe em analogia: se você imprimisse todo o material usado para treinar um modelo atual, a pilha de papel passaria da Estação Espacial Internacional. A pilha equivalente às palavras ouvidas por uma criança teria uns 20 metros.
O truque que ainda não entendemos
Bebês costumam começar a formar frases gramaticalmente corretas depois de escutar algo entre 10 e 30 milhões de palavras. Isso é pouquíssimo para o tamanho do desafio: a linguagem humana tem estruturas recursivas que permitem criar infinitas combinações a partir de um vocabulário finito. Uma criança só toca a superfície desse oceano linguístico, mas de algum jeito consegue deduzir a profundidade toda.
É totalmente milagroso. Se você treina o GPT-2 com 30 milhões de palavras, você recebe um gerador de sem sentido. Não recebe uma criança.
Essa frase é do cientista cognitivo Michael Frank, da Universidade Stanford, e resume bem o incômodo. O linguista Noam Chomsky tentou responder essa pergunta ainda nos anos 1950, propondo que já nascemos com uma espécie de gramática pré-instalada no cérebro. A hipótese ajuda a explicar por que crianças conseguem tanto com tão pouco, mas continua sendo debatida até hoje.
Por que isso interessa à indústria de IA
Entender como crianças fazem esse malabarismo linguístico pode ajudar a construir modelos mais econômicos, algo urgente considerando que a internet tem limite. Segundo o linguista Ethan Gotlieb Wilcox, da Universidade Georgetown, os modelos de ponta já podem estar treinando com dez vezes mais dados que o Llama 3.1, e o estoque de texto disponível pode se esgotar já na década de 2030.
Reproduzir a eficiência infantil em máquinas abriria portas para treinar IA em vídeo com menos exemplos e criar chatbots capazes de atender línguas minoritárias, que simplesmente não têm trilhões de palavras disponíveis online. E, de bônus, testar essas ideias em modelos artificiais pode ajudar a resolver um debate que atravessa gerações de linguistas: se a linguagem é um instinto biológico ou algo que qualquer mente aprenderia só pela experiência.
Fonte: https://www.technologyreview.com/2026/08/24/1141740/kids-machines-language-learning/