IA na Guerra: Onde Estamos e Quais os Limites?
A gente costuma pensar em inteligência artificial como algo que vai facilitar nosso dia a dia, certo? Tipo, organizar a agenda, sugerir filmes, ou até otimizar processos no trabalho. Mas e se eu te disser que a IA já está em um campo bem mais complexo e, para alguns, assustador: a guerra?
Lá em 2017, em Genebra, rolou uma reunião da Convenção sobre Certas Armas Convencionais. A ideia era discutir sistemas autônomos letais, os famosos ‘robôs assassinos’. Na época, muita gente achava que isso era coisa de filme, algo distante. Mas a pesquisadora Branka Marijan percebeu que o papo estava mudando. O futuro, que parecia tão longe, já batia na porta.
Um dos momentos que virou a chave foi a exibição de um curta chamado Slaughterbots. Ele mostrava um drone com IA que podia matar sozinho, com uma precisão assustadora. A frase do CEO fictício do vídeo, ‘As armas que tomem as decisões’, deixou o clima pesado na sala. E o mais chocante? O Pentágono já estava desenvolvendo algo parecido.
Essa reunião aconteceu logo depois do início do Projeto Maven, uma iniciativa do Departamento de Defesa dos EUA que usa IA para analisar imagens de drones. Em 2017, até o Google estava envolvido. A Branka, que é pesquisadora do Project Ploughshares, deixou claro: não estávamos falando de ficção. Os sistemas já existiam e tinham algum nível de autonomia para identificar e atacar alvos.
Antes, a gente via drones sendo controlados por humanos. Agora, a perspectiva é que os humanos sejam totalmente removidos da decisão final. Não é sobre robôs gigantes tipo Terminator, mas sobre a autonomia que a IA pode dar a essas máquinas. E isso é um baita dilema.
O exército americano investe em IA há décadas, e a tecnologia, por sua vez, transformou a forma de lutar. Nos anos 2000, a IA começou a processar um volume de dados sem precedentes, gerando uma verdadeira revolução na vigilância. E mais recentemente, vimos o avanço do reconhecimento facial e outras tecnologias que podem ser usadas em cenários de conflito.
Atualmente, mesmo sem armas letais totalmente autônomas, a discussão é quente. A startup Anthropic, por exemplo, está batendo de frente com o governo dos EUA para manter duas ‘linhas vermelhas’: proibir a vigilância em massa doméstica e armas que identifiquem, rastreiem e matem sem nenhuma intervenção humana. Eles são os únicos a impor limites significativos nesse campo.
Mas, com tanta coisa acontecendo, é fácil esquecer que a IA já está profundamente enraizada no meio militar há muito tempo. Há setenta anos, uma reunião de cientistas já chamava a atenção do Departamento de Defesa para o potencial da IA na guerra. E desde então, a influência só cresceu. A IA tem permitido que as ações militares sejam mais rápidas e, infelizmente, mais letais.
Até a Anthropic parece duvidar que essas ‘linhas vermelhas’ vão durar muito. A história mostra que, quando o assunto é tecnologia e guerra, os limites são constantemente testados e, muitas vezes, ultrapassados.
Fonte: https://www.theverge.com/ai-artificial-intelligence/937028/military-ai-warfare-red-lines
