Vaticano e Anthropic: Uma Aliança Inesperada pela Ética na IA

Olha que coisa interessante! O Vaticano, conhecido por sua tradição milenar, está se posicionando de forma bastante ativa no debate sobre inteligência artificial. E não é só como um observador moral, não! Eles convidaram ninguém menos que Christopher Olah, cofundador da Anthropic, para a apresentação da primeira encíclica papal sobre IA. Essa é uma união que, à primeira vista, parece inusitada, mas que revela uma convergência profunda de interesses.

Para entender essa parceria, precisamos voltar um pouco no tempo. A Anthropic surgiu em 2021, fundada por pesquisadores que deixaram a OpenAI com uma convicção clara: os modelos de inteligência artificial estavam se tornando poderosos demais para serem desenvolvidos apenas pela lógica da velocidade e da competição. Desde então, a empresa construiu sua reputação em torno da segurança da IA, buscando criar sistemas não só potentes, mas também controláveis e guiados por princípios éticos. É daí que vem o conceito de Constitutional AI, onde os sistemas são treinados com base em uma espécie de “constituição” de regras e valores, em vez de apenas correções manuais.

A presença de Olah no Vaticano não foi um acaso. É o resultado de um esforço contínuo da Santa Sé para se tornar um interlocutor direto com a indústria de IA. O primeiro grande passo foi a “Chamada de Roma para a Ética da IA” em 2020, que buscou estabelecer princípios éticos como transparência, inclusão e responsabilidade. Com o avanço rápido da IA, impulsionado por modelos como o ChatGPT, o Vaticano percebeu que a questão ia além da bioética; tratava-se do próprio futuro da humanidade.

Nesse cenário, a Anthropic se destacou. Enquanto muitas empresas de tecnologia focam em inovação e crescimento a qualquer custo, a Anthropic fez da segurança da IA sua identidade central. E é aqui que Christopher Olah entra em cena. Diferente dos irmãos Amodei, mais midiáticos, Olah representa o lado mais teórico e quase filosófico da pesquisa em IA. Ele é um dos maiores nomes na área de interpretabilidade de modelos, ou seja, o esforço para entender o que realmente acontece dentro das redes neurais complexas. Em seu site, ele se descreve como alguém que tenta “transformar redes neurais em algoritmos compreensíveis para seres humanos”.

É difícil imaginar uma figura mais alinhada com o cerne da encíclica do Papa Leão XIV, que reflete sobre o risco de criar tecnologias poderosas demais para serem compreendidas, controladas ou governadas. Os contatos entre o Vaticano e a Anthropic se intensificaram durante os encontros globais sobre segurança da IA. O Vaticano viu na Anthropic uma empresa disposta a reconhecer publicamente que o problema da inteligência artificial não pode ser resolvido apenas pela indústria tecnológica.

Tanto a encíclica quanto sua apresentação enfatizam que a tecnologia não é neutra e que os algoritmos incorporam visões de mundo. O projeto Constitutional AI da Anthropic tenta fazer exatamente isso: introduzir explicitamente valores, regras e princípios no comportamento dos modelos de IA. No fundo, a conexão entre o Vaticano e a Anthropic reside em um temor compartilhado: que sistemas cada vez mais poderosos sejam moldados apenas por incentivos econômicos, geopolíticos e competitivos, negligenciando o impacto humano e ético. É uma aposta interessante em um futuro mais consciente para a IA!

Fonte: https://www.wired.com/story/anthropic-christopher-olah-pope-ai-encyclical/