O Papa usou IA para alertar sobre os perigos da própria IA?
Imagine só a cena: o Papa Leão XIV, em sua primeira encíclica, a ‘Magnifica Humanitas’, aborda um dos temas mais quentes do nosso tempo – a inteligência artificial e seus efeitos na humanidade. Mas, olha que coisa interessante, análises recentes sugerem que pedaços desse documento tão significativo podem ter sido, pasmem, escritos por uma IA!
A história começa com Linch Zhang, que publicou no fórum LessWrong uma investigação intrigante. Ele utilizou o Pangram, um detector de IA bastante respeitado, para examinar a encíclica. Os resultados? Alguns parágrafos foram classificados como tendo entre 40% e 100% de probabilidade de terem sido gerados por inteligência artificial. É como se a própria ferramenta que o documento discute tivesse dado uma ‘mãozinha’ na redação!
Zhang aponta para características textuais que lembram a escrita de IAs, como o uso mais frequente da palavra ‘genuinamente’, algo que ele notou ser comum em textos produzidos pelo Claude da Anthropic. Outra pessoa, seguindo essa linha, submeteu seções inteiras do documento ao Pangram, e descobriu que 62% do primeiro capítulo foi sinalizado como autoria de IA. E para completar, a própria equipe do The Verge testou cerca de 2.000 palavras, e o detector estimou que 46% delas eram obra de uma máquina.
Mas calma lá, a detecção de IA não é uma ciência exata, como bem sabemos. Zhang também observou que algumas partes foram classificadas como ‘essencialmente 0% IA’. E, para contextualizar, os 20 primeiros parágrafos das quatro encíclicas anteriores, quando passados pelo Pangram, tiveram 100% de certeza de autoria humana. Até mesmo a transcrição de um discurso do próprio Papa Leão XIV foi considerada totalmente humana. Isso nos lembra que, embora o Pangram seja bem-visto por pesquisadores, nenhum detector é infalível. A empresa, em março de 2025, estimou uma taxa de falso positivo de 1 em 10.000 para textos humanos. É um número baixo, mas não zero.
As encíclicas são cartas papais importantes, destinadas a orientar sobre questões morais e sociais relevantes. Esta é a primeira do Papa Leão XIV e a primeira a se focar na IA, sendo apresentada ao lado de Christopher Olah, um dos fundadores da Anthropic. É uma situação que nos faz refletir sobre a complexidade da autoria na era digital e como as fronteiras entre o que é humano e o que é gerado por máquina se tornam cada vez mais tênues. O Vaticano, por sua vez, não se manifestou sobre o assunto. Um verdadeiro mistério da era da inteligência artificial!
