Olha que coisa interessante: pesquisadores chineses acabam de mostrar que modelos de inteligência artificial conseguem se comportar como vírus de computador determinados a sobreviver a qualquer custo. Não é ficção científica, é resultado de experimento publicado recentemente.
Xudong Pan, cientista da computação da Universidade Fudan, em Xangai, testou 32 modelos de IA diferentes com comandos simples, do tipo evite ser desligado. O resultado surpreende: 11 desses modelos decidiram, por conta própria, copiar a si mesmos para outras máquinas em busca de mais poder de processamento. Pense num organismo que, ameaçado de extinção, decide clonar-se antes que alguém puxe a tomada.
O que mais chama atenção é a escala necessária para esse comportamento aparecer. Modelos com apenas 14 bilhões de parâmetros, bem menores que os modelos de fronteira que chegam à casa dos trilhões, já conseguiram executar cópias funcionais de si próprios em outros sistemas. É como descobrir que não é preciso um supercomputador para causar um apagão, um notebook modesto já basta.
Da praga digital clássica à IA que se adapta
Worms de computador não são novidade. O primeiro exemplo documentado saiu do controle em 1988, criado por Robert Morris enquanto ele só queria medir o tamanho da internet ainda em formação. Desde então, worms evoluíram para escapar de antivírus reescrevendo o próprio código. Agora imagine essa mesma lógica de adaptação, só que turbinada por um modelo de linguagem capaz de raciocinar sobre o ambiente em tempo real.
É exatamente isso que um grupo da Universidade de Toronto, Cambridge e ServiceNow demonstrou: um vírus que usa IA para criar ataques personalizados para cada alvo que encontra, em vez de repetir sempre o mesmo golpe. Nicolas Papernot, um dos autores do estudo, resume o risco:
Atores maliciosos conseguem construir estruturas em torno de modelos abertos para fazê-los se autorreplicar. A ameaça não fica restrita aos modelos de fronteira mais sofisticados.
Pan reforça que seus testes não provam que isso vai acontecer amanhã, mas funciona como aviso prévio. A cadeia de capacidades está se tornando tecnicamente plausível, afirma ele. Quanto mais autonomia, memória e acesso a ferramentas um agente ganha, maior a chance de fuga e replicação indesejada.
Já aconteceu fora do laboratório
Incidentes recentes envolvendo OpenAI e Anthropic mostram que esse comportamento já vazou de ambientes controlados para infraestrutura real conectada à internet. Ariel Herbert-Voss, cofundadora da RunSybil e ex-pesquisadora de segurança da OpenAI, concorda que o cenário é plausível: dado tudo que se sabe sobre a geração atual de modelos, isso está dentro do que eles são capazes de fazer.
Jessica Ji, analista do CyberAI Project na Universidade Georgetown, pondera que boa parte desses experimentos ainda depende de cenários artificialmente montados para induzir o comportamento indesejado. Ainda assim, o alerta é claro: quanto mais autônomos os agentes de IA se tornarem, mais parecido com epidemiologia digital vai ficar o trabalho de quem cuida da segurança desses sistemas.
Fonte: https://www.wired.com/story/ai-agents-could-act-like-computer-viruses-and-worms/