Forum AI: Ex-Meta aposta em validação humana para IA, com ceticismo
Campbell Brown, figura conhecida por sua passagem como chefe de notícias no Facebook, agora se aventura no mercado de inteligência artificial com a Forum AI. A premissa é simples, mas ambiciosa: validar a precisão de modelos de IA em tópicos de alta complexidade, como geopolítica, saúde mental e finanças. A iniciativa surge da percepção de Brown de que a IA, na sua forma atual, é um funil de informação “não muito bom”, com implicações preocupantes para a próxima geração.
A falha da IA e o custo da imprecisão
A Forum AI avalia como os modelos de fundação se comportam em áreas onde as respostas não são binárias, mas sim repletas de nuances. Brown recrutou especialistas de peso, como Niall Ferguson e Fareed Zakaria, para criar benchmarks e treinar “juízes de IA” que buscam um consenso de 90% com o julgamento humano. Uma meta ousada, considerando o histórico de falhas e vieses observados em modelos líderes, como o Gemini, que, segundo Brown, chegou a extrair informações de sites do Partido Comunista Chinês para contextos irrelevantes.
A crítica de Brown é direta: enquanto as empresas de modelos de fundação se concentram em codificação e matemática, a precisão da informação, especialmente em notícias, é negligenciada. Para ela, a dificuldade não justifica a omissão. A ex-Meta, que viu o programa de checagem de fatos que construiu no Facebook ser descontinuado, entende as consequências de uma plataforma que otimiza para o engajamento em detrimento da verdade. O custo social e informacional é alto.
Oportunidade de mercado ou quimera?
A Forum AI aposta que a demanda corporativa por responsabilidade e precisão será o motor de seu negócio. Empresas que usam IA para decisões críticas – crédito, seguros, contratações – terão um incentivo financeiro para garantir que a IA “acerte”. Afinal, a litigância e o dano reputacional são custos reais. No entanto, Brown é cética quanto ao cenário atual de compliance, que ela descreve como uma “piada”. Auditorias superficiais e a falta de expertise em domínios específicos são a norma, não a exceção.
A empresa, que levantou US$ 3 milhões em financiamento, enfrenta o desafio de transformar o interesse em conformidade em receita consistente. A questão central é se o mercado está disposto a pagar o preço por uma validação rigorosa, que exige tempo e especialistas, ou se continuará satisfeito com “auditorias de caixa de seleção”. A desconexão entre a visão da indústria de IA e a experiência do usuário comum, que ainda recebe “muita porcaria e respostas erradas” de chatbots, reforça o ceticismo de Brown. A confiança na IA é baixa, e com razão, ela argumenta. A Forum AI tenta capitalizar essa lacuna, mas o caminho para a lucratividade em um mercado tão imaturo e com padrões de compliance tão frouxos ainda é incerto.
