Gigantes da IA se Unem para Frear Armas Biológicas Sintéticas
Imagine só: a mesma tecnologia que nos ajuda a escrever e a criar imagens incríveis, a inteligência artificial, pode, nas mãos erradas, ser um atalho para a criação de armas biológicas. Parece roteiro de filme, não é? Mas é exatamente essa preocupação que levou gigantes da IA, como OpenAI e Anthropic, a se unirem em um apelo urgente aos legisladores.
A questão central é a síntese de DNA. Desde que Arthur Kornberg sintetizou DNA nos anos 50, o processo evoluiu de algo manual para algo automatizado, quase como uma impressora que ‘imprime’ sequências genéticas personalizadas. Essas sequências são vitais para pesquisas, desenvolvimento de medicamentos e diagnósticos. Contudo, nem todas as empresas que vendem esse material genético verificam quem está comprando ou para qual finalidade.
O perigo se intensifica com o avanço da IA. Os modelos de linguagem grandes, por exemplo, têm a capacidade de auxiliar na concepção de toxinas e patógenos novos e perigosos. Embora ainda seja necessário algum conhecimento em biologia para construir um vírus do zero, a IA pode reduzir significativamente as barreiras de conhecimento, tornando mais fácil para atores mal-intencionados desenvolverem armas biológicas.
Um exemplo notório de como essa tecnologia pode ser usada de forma preocupante aconteceu em 2017, quando pesquisadores canadenses recriaram o vírus da varíola equina usando DNA encomendado pelo correio. A preocupação: a mesma técnica poderia ser aplicada para ressuscitar o vírus da varíola humana, uma doença letal. E, desde então, a síntese de genes só ficou mais acessível e barata.
David Relman, microbiologista e especialista em biossegurança de Stanford, que assinou a carta, destaca: “Ferramentas de IA permitem que um usuário identifique rapidamente onde encomendar sequências que não serão rastreadas. Se solicitadas de forma adequada, elas também podem indicar como alterar a natureza do seu pedido, para que mesmo aqueles que fazem triagem tenham muito menos capacidade de detectar o que você está tentando fazer.”
A carta, organizada pelo Institute for Progress e pela Foundation for American Innovation, não é apenas um alerta, mas um chamado à ação. Ela pede que as empresas que vendem DNA e RNA sintéticos sejam obrigadas a rastrear clientes e pedidos. Algumas empresas já utilizam softwares para identificar sequências genéticas de risco, mas a necessidade de uma regulamentação formal é cada vez mais evidente.
O desafio é complexo. Pesquisadores da Microsoft, por exemplo, demonstraram que ferramentas de design de proteínas baseadas em IA conseguiram gerar sequências genéticas potencialmente perigosas que escaparam dos softwares de triagem existentes. Isso nos mostra que a tecnologia avança rapidamente, e a vigilância precisa ser constante.
A mensagem é clara: as empresas de IA com modelos biológicos precisam assumir a responsabilidade de monitorar seus usuários. É fundamental que seja extremamente difícil, se não impossível, usar esses modelos para fins perigosos. A regulamentação é um passo importante, mas a autorregulação e a inovação em segurança por parte das próprias empresas de IA serão cruciais para proteger o futuro.
Fonte: https://www.wired.com/story/openai-anthropic-letter-ai-biological-weapons/
