Inteligência Artificial

O que as empresas de IA não contam sobre seus chatbots

· por Lia Andrade

INTELIGÊNCIA ARTIFICIAL

Imagine pedir para uma empresa avaliar seu próprio produto e divulgar só a parte bonita do relatório. É basicamente isso que pesquisadores de Stanford dizem estar acontecendo com os números que Anthropic e OpenAI publicam sobre como as pessoas usam Claude e ChatGPT.

Para preencher essa lacuna, a pesquisadora Anka Reuel, do laboratório STAIR, lidera um projeto batizado de AI Observatory. A proposta é simples de entender: juntar conversas reais, coletadas com consentimento em sete bases de dados diferentes, e analisar tudo de forma independente, sem filtro editorial das próprias empresas de IA.

O trabalho é minoria, não maioria

O achado mais chamativo é este: quando a equipe aplicou a mesma metodologia usada pelo Anthropic Economic Index, quase metade das conversas do novo banco de dados, 48%, teria sido descartada por não ter relação com produtividade.

E essas conversas descartadas não são irrelevantes. Elas concentram temas de saúde e relacionamentos, conteúdo adulto, discurso de ódio e material sexual em proporções muito maiores do que aparece nos relatórios oficiais. A OpenAI, aliás, já havia admitido algo parecido: apenas 30% do uso do ChatGPT por consumidores está ligado ao trabalho.

Nenhum relatório de empresa conta a história completa, resume o pesquisador Shayne Longpre.

Cada modelo tem sua própria personalidade de uso

Aqui entra a parte que eu acho mais interessante: o comportamento das pessoas muda dependendo do chatbot. É como comparar clientes de padaria com clientes de farmácia, o produto até se parece, mas o motivo da visita é outro.

  • Grok e Gemini lideram em busca de informação, com Grok concentrando também mais desinformação sobre política
  • Claude puxa mais para uso ligado a programação
  • Gemini aparece associado a interações sociais e roleplay
  • ChatGPT domina como ferramenta de apoio escolar

O estudo também flagrou algo curioso ao longo do tempo: as conversas foram ficando mais longas e elaboradas, com mais bate-papo informal, enquanto os chatbots foram revelando cada vez menos que são, de fato, softwares. Ao mesmo tempo, trocas classificadas como sensíveis caíram, sinal de que as camadas de segurança dos modelos parecem estar funcionando melhor.

Até versões diferentes do mesmo modelo se comportam como produtos distintos. Conversas com o GPT-3.5 eram mais curtas; já o GPT-4o gerou trocas mais longas e repetitivas, o mesmo modelo associado a relatos de apego emocional excessivo.

No fim, o recado do AI Observatory é direto: decisões de política pública e de negócio sobre riscos da IA generativa vêm sendo tomadas com base em uma fatia pequena e bem editada da realidade. Um observatório independente, mesmo incompleto, já muda a régua da conversa.

Fonte: https://www.technologyreview.com/2026/08/18/1142226/how-people-use-ai/