Pressão por uso de IA na Amazon leva a ‘tokenmaxxing’ entre funcionários
A Amazon, como outras gigantes de tecnologia, está investindo pesado em inteligência artificial. A pressão para mostrar resultados e justificar esses investimentos tem levado a situações curiosas, para não dizer problemáticas, entre seus funcionários. Aparentemente, a galera está ‘tokenmaxxing’ – um termo que, para quem lida com LLMs, já deve soar familiar.
O que acontece é que a empresa tem metas ambiciosas: mais de 80% dos desenvolvedores precisam usar IA semanalmente. Para isso, lançaram uma ferramenta interna chamada MeshClaw. Ela permite criar agentes de IA que automatizam tarefas e interagem com softwares de trabalho. Parece legal, certo? O problema é que a Amazon também começou a monitorar o consumo de ‘tokens’ – as unidades de dados processadas pelos modelos de IA – e até criou ‘leaderboards’ internos.
E aí, a coisa desanda. Funcionários, sob o peso dessas metas e da vigilância das métricas, estão usando o MeshClaw para gerar atividades de IA desnecessárias, apenas para inflar o consumo de tokens. É o famoso ‘bater meta’ de qualquer jeito. Um funcionário resumiu bem:
“Há muita pressão para usar essas ferramentas. Algumas pessoas estão usando o MeshClaw apenas para maximizar o uso de tokens.”
A Amazon diz que essas estatísticas não serão usadas em avaliações de desempenho, mas a desconfiança é grande. Muitos acreditam que os gerentes estão, sim, de olho nesses números. E sabemos como é: quando você mede algo, as pessoas otimizam para essa métrica, mesmo que o resultado final não seja o ideal. Isso cria incentivos perversos.
O MeshClaw, inspirado no OpenClaw, que permite rodar agentes localmente, pode fazer bastante coisa: iniciar deployments, triar e-mails, interagir com o Slack. A empresa afirma que a ferramenta ajuda milhares de ‘amazonians’ a automatizar tarefas repetitivas. Mas, além do ‘tokenmaxxing’, há uma preocupação séria com segurança. Dar a uma IA permissão para agir em nome do usuário, com o risco de erros ou ações não intencionais, é algo que tira o sono de alguns.
“A postura de segurança padrão me aterroriza. Não vou deixar isso fazer o que quiser.”
É um cenário clássico de como a busca por métricas pode distorcer o objetivo principal. Em vez de focar na automação eficiente e segura, a pressão por números leva a um uso artificial da tecnologia. Fica a lição: automação é sobre resolver problemas de verdade, não sobre inflar gráficos.
