Imagina pedir pra uma empresa de carros te mostrar só as fotos onde o motor não fumaça. É mais ou menos assim que funcionam os relatórios de uso que Anthropic e OpenAI publicam sobre suas próprias ferramentas: eles escolhem o que mostrar, e ninguém de fora consegue confirmar o resto. Curioso, né?
Foi pra resolver esse ponto cego que nasceu o AI Observatory, um projeto de pesquisa independente que decidiu abrir o capô sozinho. E o que ele encontrou é revelador: muito mais comportamentos sensíveis do que os relatórios corporativos costumam admitir, que tendem a focar em produtividade no trabalho e deixam de lado o uso pessoal, emocional, íntimo mesmo.
Cada modelo tem sua personalidade de uso
Um dos achados mais interessantes é que as pessoas não tratam todos os modelos como intercambiáveis. Existe uma espécie de divisão de trabalho natural surgindo:
- Anthropic (Claude) puxa mais para tarefas de programação
- Gemini vira palco de interações sociais e roleplay
- ChatGPT segue como o parceiro preferido para ajuda escolar
É como observar pessoas escolhendo ferramentas diferentes numa caixa de ferramentas, cada uma para o serviço que faz melhor na cabeça do usuário.
Flock e o design que ninguém questiona
Na outra ponta da reportagem, a Flock Safety, gigante da vigilância policial com uma rede de cerca de 120 mil câmeras leitoras de placas espalhadas pelos EUA, anunciou mudanças pra impedir que agentes usem o sistema pra fins ilegítimos, como perseguir pessoas.
A defesa mais comum que aparece por aí é simples: se a câmera ajuda a resolver um crime, o resto importa pouco. Mas essa lógica pula a pergunta mais relevante.
Que tipo de sistema de combate ao crime a Flock decidiu construir?
Porque a rede funciona do jeito que funciona por causa de escolhas de design: o que coletar, quem pode buscar, por quanto tempo guardar, com quem compartilhar. Cada uma dessas decisões redesenha, na prática, o equilíbrio entre segurança pública e liberdades civis. Não é sobre a câmera em si, é sobre a arquitetura de vigilância por trás dela.
Os dois casos, no fundo, falam da mesma coisa: dados sobre comportamento humano em escala, e quem tem o direito de decidir o que fazer com eles.