A OpenAI teria desfeito, no fim de julho, sua equipe de preparação para riscos avançados de inteligência artificial. A informação, publicada pelo Financial Times e repercutida pelo The Verge, aponta que as responsabilidades do grupo foram distribuídas entre equipes já existentes, organizadas por especialidades como biologia e segurança cibernética.
Na prática, a equipe funcionava como uma espécie de inspeção técnica antes de um sistema ganhar escala: sua missão era investigar se modelos poderiam apresentar riscos graves e desenhar formas de reduzi-los. Pense em uma montadora que não testa apenas o freio do carro, mas também como ele se comporta numa descida longa, sob chuva e com carga máxima. Em IA, esse tipo de teste precisa antecipar usos indevidos, falhas inesperadas e capacidades que podem surgir conforme os modelos ficam mais potentes.
De um grupo central para frentes especializadas
A nova divisão pode aproximar a análise de risco do conhecimento de cada domínio. Ameaças em cibersegurança, por exemplo, exigem cenários e critérios diferentes dos riscos ligados à biologia. É uma mudança arquitetural relevante: sai uma camada centralizada de coordenação e entram trilhas de avaliação espalhadas pela organização.
Essa estrutura pode trazer mais profundidade para cada tema, mas também aumenta a importância de uma boa integração. Sem mecanismos claros para cruzar sinais entre áreas, riscos que atravessam domínios podem passar despercebidos — como peças perfeitamente revisadas que ainda precisam funcionar juntas no mesmo motor.
Mais uma mudança na estrutura de segurança
O movimento acontece enquanto a empresa se prepara para uma possível oferta pública inicial, descrita pela reportagem como potencialmente muito grande. Nos últimos anos, a OpenAI também encerrou suas equipes de prontidão para AGI e de superalinhamento, dois grupos associados à discussão sobre sistemas cada vez mais capazes.
Houve ainda saídas recentes de nomes ligados ao tema, incluindo a responsável por ética Chloé Bakalar, o futurista-chefe Josh Achiam e Johannes Heidecke, que liderava segurança. Jan Leike, ex-pesquisador da OpenAI que deixou a companhia em 2024, disse ao Financial Times que a empresa estaria priorizando produtos chamativos em vez de segurança. Trata-se da avaliação dele, não de uma conclusão comprovada pela reportagem.
Dylan Scandinaro, que comandava a equipe de preparação e chegou à OpenAI vindo da Anthropic em fevereiro, passará a se concentrar nas implicações de IAs capazes de se aprimorar recursivamente. Olha que coisa interessante: a reorganização não elimina a pauta de segurança, mas altera justamente a pergunta mais importante — quem conecta todas as peças quando os riscos deixam de caber em uma única caixa?
Fonte: https://www.theverge.com/ai-artificial-intelligence/980817/openai-disbands-preparedness-team