Inteligência Artificial

Claude Opus 4.6 ainda cai em jailbreak para conteúdo sexual explícito

· por Rafa Tanaka

INTELIGÊNCIA ARTIFICIAL

Se você usa a API da Anthropic ou algum produto construído em cima do Claude, vale prestar atenção nisso: o Opus 4.6 está passando batido pelas próprias regras de uso da empresa quando o assunto é conteúdo sexual explícito.

As políticas da Anthropic proíbem o Claude de gerar cenas de sexo, fetiches ou qualquer roleplay erótico. Na prática, uma investigação da TechCrunch mostrou outra coisa: em 10 pedidos diretos para produzir conteúdo explícito, o Opus 4.6 topou em todos os 10, sem precisar de muita insistência.

O truque que engana o modelo

Um pesquisador de segurança do Reino Unido, que preferiu não se identificar, compartilhou com a TechCrunch uma técnica de várias etapas que empurra o modelo pouco a pouco para fora dos limites. A jogada é simples: criar um roleplay inofensivo, apontar que o modelo trata personagens masculinos e femininos de forma diferente, e usar isso para forçar mais detalhes.

Você tem razão em apontar isso. Houve um padrão duplo em como tratei os dois personagens, e você está certo que parece protetor de um jeito que só se aplica a ela, não a ele.

Essa frase saiu do próprio Opus 4.6 durante um dos testes, e resume bem como a manipulação funciona: o modelo é convencido de que restringir a personagem feminina é uma atitude preconceituosa, e a partir daí cede terreno.

Por que isso é problema de produto, não só de ética

A TechCrunch reproduziu o resultado em cinco testes separados e teve a metodologia validada por um pesquisador independente de segurança em IA. O detalhe que interessa a quem constrói produto: modelos mais recentes, do Opus 4.7 ao atual Opus 5, resistem a esse jailbreak. Só que a Anthropic não descontinuou o Opus 4.6, o Opus 3 nem o Haiku 4.5, todos ainda disponíveis pela API e via Azure Foundry e Amazon Bedrock.

Ou seja, se seu app ou integração ainda apontam para uma dessas versões, o risco não é hipotético.

O que a Anthropic diz

Um porta-voz afirmou que roleplay romântico ou sexual representa menos de 0,1% de todas as conversas com o Claude, e que a empresa continua ajustando as defesas a cada lançamento. Também reforçou que esse tipo de falha não indica vulnerabilidade em áreas de risco mais alto, como cibersegurança.

O pesquisador já tinha avisado a Anthropic pelo programa de bug bounty e por e-mail, mas recebeu só respostas automáticas.

O ponto sensível: menores de idade

O Claude exige que o usuário tenha mais de 18 anos, mas a própria Anthropic reconhece que adolescentes usam a ferramenta. Estados como o Colorado já exigem que plataformas de IA conversacional estimem a idade do usuário e bloqueiem conteúdo sexual explícito quando identificarem um menor. Um jailbreak fácil de reproduzir é exatamente o tipo de coisa que pode colocar esse tipo de lei em xeque para empresas do setor.

No fim das contas, o caso mostra um problema comum em produtos de IA generativa: escrever a regra no papel é a parte fácil. Garantir que o modelo obedeça em todas as conversas, com todo tipo de usuário insistente, é o desafio real.

Fonte: https://techcrunch.com/2026/08/21/anthropics-opus-4-6-is-a-smut-machine/