A Anthropic não tomou a decisão de encerrar o Fable 5. Foi o governo dos EUA que o fez por eles.
O governo dos Estados Unidos emitiu uma ordem judicial de segurança nacional determinando que a Anthropic suspendesse o acesso aos seus novos modelos de IA para Fable 5 e Mythos 5. A ordem foi emitida por meio de uma Diretiva de Controle de Exportação, um mecanismo legal que restringe ou suspende a transferência de produtos, dados ou tecnologias específicos para países estrangeiros ou para cidadãos de outro país.
A questão aqui é crucial. Como seria praticamente impossível para a Anthropic verificar em tempo real a condição de estrangeiro de cada usuário, a empresa não teve outra escolha senão bloquear o acesso para todos. Assim, o que começou como uma diretriz direcionada a estrangeiros acabou por desativar ambos os modelos para todos os clientes.
O que diz realmente a ordem
A Anthropic divulgou os detalhes publicamente. A empresa anunciou que o governo dos EUA, citando autoridades de segurança nacional, ordenou a suspensão de todo o acesso a Fable 5 e Mythos 5 para qualquer cidadão estrangeiro, dentro ou fora dos Estados Unidos. Isso inclui também funcionários estrangeiros da Anthropic.
A ordem foi recebida às 5h21 (horário padrão do leste dos EUA). O acesso a todos os outros modelos antrópicos não foi afetado pela diretiva.
A preocupação declarada pelo governo é que existe uma maneira de contornar os mecanismos de segurança integrados ao Fable 5. Essa é a questão de segurança central em tudo isso. Estamos falando dos chamados "jailbreaks", que são técnicas que podem ser usadas para fazer um modelo de IA executar ações para as quais ele não foi projetado.
A Anthropic, por sua vez, discorda que isso configure uma emergência de segurança nacional.
Reação antrópica
A resposta pública da Anthropic deixa claro que a empresa acredita já possuir proteções suficientes e que a preocupação do governo é exagerada.
A empresa explicou que implementou fortes medidas de segurança que reduzem significativamente a probabilidade de o Fable 5 ser usado indevidamente para tarefas relacionadas à segurança cibernética, entre outras áreas. A Anthropic observou que essas medidas de segurança são tão abrangentes que muitos usuários reclamaram que são excessivas, o que significa que o modelo já era bastante cauteloso em relação ao que faria ou não.
Sobre a questão específica de jailbreaks, a Anthropic reconheceu que a resistência perfeita a jailbreaks não é realisticamente alcançável com a tecnologia de IA atual. Mas a empresa afirma que é precisamente por isso que adotou o que chama de estratégia de defesa em profundidade. A ideia é tornar os jailbreaks de escopo limitado ou muito caros de produzir, e reforçar isso com um monitoramento rigoroso para detectar e neutralizar rapidamente quaisquer ataques bem-sucedidos.
A posição da Anthropic é que essa abordagem reduz os riscos apresentados pelo Fable 5 a um nível comparável aos riscos já existentes em outros modelos atualmente implementados no setor de IA. E, crucialmente, a empresa afirmou que sequer recebeu relatos de uma vulnerabilidade preocupante que tenha levado a qualquer resultado prejudicial. As possíveis vulnerabilidades que lhe foram apresentadas são descritas como respostas totalmente benignas ou descobertas menores que não fornecem nenhuma capacidade adicional significativa que já não estivesse disponível.
A disputa mais ampla
Isso não aconteceu isoladamente. O governo dos EUA e a Anthropic têm tido um desentendimento há algum tempo, e essa ordem de controle de exportação parece ser o mais recente desdobramento desse conflito.
A disputa gira em torno da recusa da Anthropic em permitir que seus produtos sejam usados para vigilância doméstica em massa e para sistemas de armas totalmente autônomos. Estamos falando de armas que podem identificar alvos de forma independente e atacá-los sem que um ser humano tome a decisão final. A Anthropic tem se recusado sistematicamente a apoiar esses casos de uso, e essa recusa a colocou em conflito com certos interesses governamentais.
Portanto, o contexto aqui é importante. Esta não é simplesmente a história de uma empresa de IA com uma falha de segurança. É também a história de uma empresa de IA que se recusou a desenvolver ferramentas para aplicações que considera eticamente inaceitáveis e que agora enfrenta pressão legal do mesmo governo contra o qual tem se oposto.
Reação Pública
A resposta nas redes sociais foi rápida e avassaladora. A Anthropic publicou no X que acreditava que o bloqueio havia sido um mal-entendido e que estava trabalhando para restabelecer o acesso o mais rápido possível. Em poucas horas, a publicação recebeu mais de 7,000 respostas e 32 milhões de visualizações. A reação foi majoritariamente de simpatia à Anthropic e crítica à ação do governo.
Alguns usuários apontaram que Fable 5 já possuía um dos modelos de IA mais restritivos disponíveis. Um usuário observou que as salvaguardas do modelo eram tão extensas que questões básicas de biologia e tarefas relacionadas à infraestrutura estavam sendo bloqueadas. O argumento era de que a Anthropic não poderia ter feito muito mais em termos de segurança.
Outros viram o encerramento como algo maior. Alguns usuários o descreveram como o fim de uma era de acesso público e aberto a modelos de IA de ponta, com preocupação sobre o que acontecerá quando apenas governos e grandes laboratórios de IA tiverem acesso aos sistemas mais avançados.
Uma parte significativa das respostas veio de clientes pagantes que se inscreveram especificamente para usar o Fable 5. Vários usuários relataram ter migrado para planos de assinatura mais caros no mesmo dia em que o modelo foi desativado, e muitos pediram reembolso. O momento escolhido tornou a situação particularmente frustrante para aqueles que haviam acabado de se comprometer a pagar mais por um acesso que nunca puderam usar.
Nem todos, porém, atribuíram a culpa inteiramente ao governo. Alguns usuários argumentaram que a Anthropic passou anos descrevendo seus modelos mais avançados como extremamente poderosos e potencialmente perigosos, e que o governo estava essencialmente levando esses avisos ao pé da letra. O argumento era que não se pode comercializar sua IA como quase perigosa e depois se surpreender quando os órgãos reguladores a tratam da mesma forma.
O que acontece depois
A Anthropic deixou claro que acredita que se trata de um mal-entendido e está trabalhando ativamente para restabelecer o acesso online a Fable 5 e Mythos 5. Se a avaliação da empresa sobre o risco de jailbreak estiver correta, ou seja, se as vulnerabilidades divulgadas forem realmente pequenas e não representarem nenhuma vantagem significativa para criminosos, então existe um caminho razoável para uma solução que restabeleça o acesso.
Mas esse caminho passa pelo governo, e a tensão existente entre a Anthropic e as autoridades federais complica a rapidez e a facilidade com que essa resolução poderá ocorrer. A Anthropic tem sido firme em sua posição de não permitir vigilância em massa ou armas autônomas, e não está claro se a diretiva de controle de exportação e essas disputas anteriores são questões totalmente separadas ou se estão de alguma forma relacionadas.
O que fica claro é que essa situação colocou em evidência a interseção entre as capacidades da IA, a política de segurança nacional e o acesso comercial de uma forma inédita para o setor. A questão de quem decide quando um modelo de IA é considerado demasiado avançado para ser disponibilizado publicamente, e com base em que critérios, tornou-se um debate aberto e ativo.
Para os usuários que perderam o acesso ao Fable 5, a preocupação imediata é prática. O serviço será restaurado e, em caso afirmativo, quando? A Anthropic prometeu trabalhar nisso, mas não divulgou um prazo. Para o setor de IA em geral, a questão é se isso estabelece algum precedente sobre como os governos podem intervir na implementação de modelos avançados no futuro.
Perguntas frequentes
Pergunta 1: Qual é a Diretiva de Controle de Exportação que levou ao fechamento do Fable 5?
Uma Diretiva de Controle de Exportação é uma ordem legal emitida pelo governo dos EUA que restringe ou suspende a transferência de produtos, dados ou tecnologias específicos para países estrangeiros ou cidadãos de outro país. Neste caso, foi usada para suspender o acesso de cidadãos estrangeiros a Fable 5 e Mythos 5.
Pergunta 2: Por que a Anthropic desativou o Fable 5 para todos os usuários se a ordem visava apenas cidadãos estrangeiros?
Como verificar em tempo real a condição de estrangeiro de cada usuário não é viável na prática, a Anthropic não teve outra opção senão desativar ambos os modelos para todos os clientes, a fim de garantir a conformidade com a diretiva.
Pergunta 3: Qual é a razão declarada pelo governo para a ordem?
O governo dos EUA citou preocupações com a segurança nacional, especificamente a possibilidade de existir uma maneira de burlar os mecanismos de segurança integrados ao Fable 5. Essa preocupação diz respeito a possíveis vulnerabilidades que poderiam permitir o uso indevido do modelo.
Q 4: A Anthropic concorda com a avaliação de segurança do governo?
Não. A Anthropic contesta a caracterização feita pelo governo. A empresa afirma não ter recebido evidências de uma tentativa de desbloqueio que tenha resultado em danos e descreve as vulnerabilidades divulgadas como mínimas.
Q 5: O que é um jailbreak no contexto de modelos de IA?
Um jailbreak refere-se a uma técnica usada para fazer com que um modelo de IA se comporte de maneiras que ele foi projetado para evitar, como gerar conteúdo prejudicial ou burlar restrições de segurança. A Anthropic reconheceu que a resistência perfeita a jailbreaks não é atualmente alcançável, mas afirma que sua estratégia de defesa em profundidade torna o uso indevido muito difícil.
Q 6: Qual é a estratégia de defesa em profundidade da Anthropic?
Trata-se de uma abordagem que visa restringir o escopo dos jailbreaks ou torná-los muito caros de produzir, combinando isso com monitoramento ativo para detectar e neutralizar rapidamente quaisquer ataques bem-sucedidos.
Q 7: Outros modelos antrópicos são afetados por esta ordem?
Não. De acordo com a Anthropic, o acesso a todos os outros modelos da Anthropic permanece inalterado. Apenas Fable 5 e Mythos 5 foram suspensos.
Q 8: Qual é a disputa mais ampla entre a Anthropic e o governo dos EUA?
A Anthropic já se recusou a permitir que seus produtos fossem usados para vigilância doméstica em massa e para sistemas de armas totalmente autônomos, que são armas capazes de selecionar e atingir alvos sem intervenção humana. Essa recusa tem gerado tensões constantes com as autoridades governamentais.
P 9: Os clientes podem obter reembolsos?
A Anthropic ainda não se pronunciou oficialmente sobre reembolsos. Muitos usuários que recentemente atualizaram suas assinaturas especificamente para acessar Fable 5 solicitaram reembolsos publicamente.
Pergunta 10: A Anthropic está trabalhando para restabelecer o acesso?
Sim. A Anthropic publicou no X que acredita que o encerramento foi um mal-entendido e está trabalhando ativamente para restabelecer o acesso o mais rápido possível, embora nenhum prazo específico tenha sido fornecido.
