Meredith Whittaker alerta: chatbots de IA não são seus amigos
Em entrevista à Bloomberg, Meredith Whittaker, presidente da Signal, reforçou que os assistentes de IA – ChatGPT, Claude e similares – não são amigos nem entidades conscientes. Ela descreve esses sistemas como algoritmos que “agregam o que já existe”, sem capacidade de entender ou sentir.
Uso consciente vs. delegação total
Whittaker admite usar IA para tarefas pontuais, como formatar documentos, mas enfatiza que nunca faz perguntas que exijam raciocínio profundo. “Não quero que o processo de pensar seja eclipsado por respostas de um sistema que apenas repete padrões”, afirma.
Privacidade em risco
Ao comentar a previsão de Mustafa Suleyman, da Microsoft, de que o Copilot poderia gerir todas as compras de Natal, Whittaker aponta um cenário alarmante: o assistente teria acesso ao cartão de crédito, navegador, mensagens do Signal, agenda e até ao endereço residencial. “Isso seria um backdoor em múltiplas aplicações”, alerta.
“Um sistema com acesso tão amplo seria como abrir a porta da sua casa para um estranho que conhece cada cômodo.”
O que isso significa para usuários e desenvolvedores
- Consciência limitada: chatbots não possuem entendimento real; são modelos estatísticos.
- Privacidade: integrar IA a fluxos de trabalho críticos pode criar vetores de exposição de dados.
- Uso responsável: aproveitar a IA como ferramenta de apoio, não como substituta da reflexão humana.
Em resumo, a mensagem de Whittaker é clara: aproveite a eficiência dos modelos de linguagem, mas mantenha o controle e a vigilância sobre o que eles podem acessar. Afinal, confiar cegamente em um algoritmo pode transformar uma conveniência em vulnerabilidade.