Segurança em IA: Google e o desafio da defesa em tempo real

A segurança em inteligência artificial não é um luxo, mas uma necessidade fundamental. Francis de Souza, COO do Google Cloud, enfatizou que não existe uma estratégia de IA sem uma estratégia de dados e segurança. Isso não é novidade para quem vive na trincheira, mas com a IA, a urgência é amplificada. Ele alerta para o ‘shadow AI’, onde funcionários usam ferramentas de consumo sem controle, e a importância de exigir governança e auditabilidade desde o início das plataformas.

Ameaças em velocidade de máquina

O cenário de ameaças mudou drasticamente. O tempo médio entre uma invasão inicial e a próxima fase de um ataque caiu de oito horas para 22 segundos. Isso significa que os modelos de defesa antigos são lentos demais. A superfície de ataque expandiu-se para além do perímetro tradicional, incluindo modelos de IA, pipelines de dados para treinamento, agentes e prompts. Tudo isso precisa de proteção.

“Não existe uma estratégia de IA sem uma estratégia de dados e uma estratégia de segurança. Elas precisam andar de mãos dadas.”

De Souza destacou um ponto crítico: agentes de IA podem descobrir repositórios de dados esquecidos dentro da empresa. Servidores SharePoint antigos, com controles de acesso desatualizados, que antes estavam escondidos, agora são alvos fáceis para esses agentes. A solução? Combater a velocidade da máquina com a própria velocidade da máquina. Ele sugere uma defesa ‘AI-native’ e ‘fully agentic’, onde humanos supervisionam, mas agentes conduzem a proteção.

Incidentes recentes e a realidade da segurança

Apesar das diretrizes, a prática mostra que até o Google tem desafios. Relatos recentes apontam para desenvolvedores do Google Cloud recebendo contas de cinco dígitos por chamadas de API não autorizadas para modelos Gemini. Chaves de API, originalmente para Google Maps e publicadas conforme as instruções do Google, passaram a acessar o Gemini sem aviso claro. Casos como o de Rod Danan, CEO da Prentus, que viu sua conta atingir $10.138 em 30 minutos, e Isuru Fonseka, com $17.000 AUD, mostram a fragilidade. O Google reembolsou ambos após a repercussão, mas afirmou que não mudará sua política de upgrade automático de tiers de cobrança, priorizando a prevenção de interrupções de serviço sobre os limites de gastos dos usuários.

Outro ponto crítico é a revogação de chaves de API. Pesquisas da Aikido revelaram que, mesmo após a exclusão imediata de uma chave comprometida, atacantes podem continuar usando-a por até 23 minutos. Isso expõe uma falha fundamental nos processos de segurança, onde a latência na revogação pode causar danos significativos. A segurança em IA não é apenas uma questão tecnológica, mas de liderança, exigindo atenção do conselho e da equipe executiva. A ‘bug-pocalypse’ está chegando, e a indústria ainda levará anos para entender a segurança de IA de forma sustentável.

Fonte: https://techcrunch.com/2026/05/24/everyone-is-navigating-ai-security-in-real-time-even-google/