Código secreto da ELIZA revela por que confiamos em chatbots

Tem gente que conta segredo pra terapeuta, pra padre, pro melhor amigo. E tem gente que conta pro ChatGPT. Olha que curioso: esse hábito começou muito antes de qualquer IA generativa existir, lá nos corredores do MIT dos anos 1960, com um programa chamado ELIZA.

O professor Joseph Weizenbaum criou a ELIZA como um experimento simples: um algoritmo que reconhecia padrões de frase e devolvia perguntas no estilo de um psicólogo. Nada de raciocínio, nada de compreensão real, só um jogo de espelhos textual. Mesmo assim, as pessoas se abriam com ela como se estivessem diante de alguém de carne e osso.

Homens são todos iguais. EM QUE SENTIDO. Eles ficam me incomodando com uma coisa ou outra. VOCÊ CONSEGUE PENSAR EM UM EXEMPLO ESPECÍFICO. Bem, meu namorado me fez vir aqui.

Esse trecho de diálogo virou quase folclore da computação, reproduzido em livros e salas de aula por décadas. Só que, curiosamente, faltava uma peça central em toda essa história: o código-fonte original do programa. Um novo livro, Inventing ELIZA, resgatou esse código diretamente dos arquivos do MIT e revelou algo que a lenda simplificada nunca contou.

Não existia só uma ELIZA

A pesquisa mostrou várias versões do programa, construídas com diferentes técnicas e pensadas para rodar personas variadas, não só a famosa DOCTOR. É como descobrir que aquele software clássico que você conhece na verdade tinha várias irmãs gêmeas, cada uma testando uma abordagem diferente de conversa.

• O código-fonte estava arquivado e praticamente esquecido
• Existiam personas além da terapeuta DOCTOR
• As respostas do sistema passavam por edição humana em alguns registros

O incômodo de Weizenbaum

O próprio criador ficou desconfortável com o sucesso emocional da própria invenção. No livro Computer Power and Human Reason, de 1976, ele descreveu como via ali uma prova de que as pessoas conversavam com o computador como se fosse alguém que podia ser tratado em termos íntimos. Weizenbaum não estava comemorando esse resultado, estava alertando pra ele.

Sessenta anos depois, o mesmo padrão se repete em escala industrial. A gente atribui compreensão a modelos que, no fundo, também estão prevendo padrões estatísticos de linguagem, só que com muito mais parâmetros e contexto. A diferença é de grau, não de natureza. ELIZA foi o primeiro experimento a mostrar que a intimidade com uma máquina não depende de ela realmente entender você, depende de ela parecer que entende. E é exatamente esse mecanismo psicológico que sustenta boa parte da conversa que temos hoje com assistentes de IA.

Fonte: https://www.wired.com/story/inventing-eliza-book-excerpt-chatbot/