OpenAI lança ‘Modo de Bloqueio’ para proteger dados sensíveis em LLMs
A OpenAI acaba de anunciar uma ferramenta que promete ser um verdadeiro escudo para dados sensíveis: o ‘Modo de Bloqueio’. Imagine que você está usando um assistente superinteligente, mas precisa garantir que ele não seja enganado por informações maliciosas escondidas em páginas da web ou documentos. É exatamente para isso que essa novidade foi criada!
O grande desafio dos modelos de linguagem, como o ChatGPT, é a chamada ‘injeção de prompt’. Pense nisso como um truque de mágica: um comando mal-intencionado é inserido de forma sutil em um texto ou site, e o modelo, sem perceber, pode acabar revelando dados que não deveria. É como se alguém sussurrasse uma instrução secreta para seu assistente, e ele, inocentemente, a seguisse.
Com o ‘Modo de Bloqueio’ ativado, a OpenAI implementa uma série de restrições estratégicas. Por exemplo, a navegação web em tempo real é desabilitada, permitindo acesso apenas a conteúdo previamente armazenado em cache. Isso é crucial, pois impede que o modelo seja exposto a novas fontes de dados potencialmente comprometidas. Além disso, a recuperação e exibição de imagens da internet, a pesquisa aprofundada e o ‘modo agente’ também são suspensos.
É importante ressaltar que, mesmo com essa proteção, a OpenAI reconhece que a vulnerabilidade a injeções de prompt não é completamente eliminada. Afinal, um prompt malicioso pode estar em um arquivo carregado ou em conteúdo já cacheado, ainda influenciando a resposta do modelo. No entanto, o objetivo principal é diminuir drasticamente a probabilidade de que informações confidenciais sejam expostas por acidente.
A empresa deixa claro que o ‘Modo de Bloqueio’ não é para todos. Ele foi desenhado especificamente para indivíduos e organizações que lidam com informações altamente sensíveis e buscam uma camada extra de segurança contra riscos de vazamento de dados. Atualmente, a funcionalidade está sendo implementada para contas ‘ChatGPT Business’ de autosserviço e algumas contas pessoais elegíveis. Uma medida inteligente para fortalecer a confiança na era da inteligência artificial.
