Anthropic n'a pas pris la décision de fermer Fable 5. C'est le gouvernement américain qui l'a prise pour eux.
Le gouvernement américain a émis un ordre de sécurité nationale enjoignant Anthropic de suspendre l'accès à ses nouveaux modèles d'IA Fable 5 et Mythos 5. Cet ordre a été pris en application d'une directive sur le contrôle des exportations, un mécanisme juridique qui restreint ou suspend le transfert de certains produits, données ou technologies vers des pays étrangers ou à des citoyens d'un autre pays.
Le hic, c'est que, comme il serait pratiquement impossible pour Anthropic de vérifier en temps réel le statut de ressortissant étranger de chaque utilisateur, l'entreprise n'avait d'autre choix que de bloquer l'accès à tous. Ainsi, une directive initialement destinée aux ressortissants étrangers a finalement entraîné la mise hors service des deux modèles pour l'ensemble des clients.
Ce que dit réellement le décret
Anthropic a rendu l'information publique. L'entreprise a annoncé que le gouvernement américain, invoquant des raisons de sécurité nationale, lui avait ordonné de suspendre tout accès à Fable 5 et Mythos 5 pour tout ressortissant étranger, qu'il se trouve aux États-Unis ou à l'étranger. Cette mesure concerne également les employés étrangers d'Anthropic.
La commande a été reçue à 5h21 HNE. L'accès à tous les autres modèles Anthropic n'a pas été affecté par cette directive.
Le gouvernement craint qu'il soit possible de contourner les mécanismes de sécurité intégrés à Fable 5. C'est là le cœur du problème de sécurité. On parle de « jailbreak », des techniques permettant de faire faire à un modèle d'IA des choses pour lesquelles il n'a pas été conçu.
Pour sa part, Anthropic ne considère pas que cela constitue une urgence de sécurité nationale.
Les anthropiques ripostent
La réponse publique d'Anthropic montre clairement que l'entreprise estime avoir déjà mis en place des protections suffisantes et que les inquiétudes du gouvernement sont exagérées.
L'entreprise a expliqué avoir mis en place des mesures de sécurité robustes qui réduisent considérablement le risque d'utilisation abusive de Fable 5 à des fins liées à la cybersécurité, entre autres. Anthropic a souligné que ces mesures sont en réalité si complètes que de nombreux utilisateurs les jugent trop générales, ce qui signifie que le modèle était déjà très prudent quant à ses capacités.
Concernant la question spécifique du jailbreak, Anthropic a reconnu qu'une résistance parfaite au jailbreak est irréaliste avec les technologies d'IA actuelles. L'entreprise explique cependant avoir adopté une stratégie de défense en profondeur, précisément pour cette raison. L'idée est de limiter la portée des jailbreaks ou de les rendre très coûteux à réaliser, tout en assurant une surveillance rigoureuse afin de détecter et de neutraliser rapidement toute attaque réussie.
Anthropic affirme que cette approche réduit les risques liés à Fable 5 à un niveau comparable à ceux déjà présents avec d'autres modèles actuellement déployés dans le secteur de l'IA. Surtout, l'entreprise déclare n'avoir reçu aucune notification de jailbreak préoccupant ayant entraîné des conséquences néfastes. Les jailbreaks potentiels qui lui ont été présentés sont décrits comme des réactions totalement inoffensives ou des découvertes mineures n'apportant aucune fonctionnalité supplémentaire significative.
Le différend plus large
Cette situation n'est pas isolée. Le gouvernement américain et Anthropic sont en désaccord depuis un certain temps, et cette mesure de contrôle des exportations semble être le dernier épisode en date de ce conflit.
Le différend porte sur le refus d'Anthropic d'autoriser l'utilisation de ses produits pour la surveillance intérieure de masse et pour les systèmes d'armes entièrement autonomes. Il s'agit d'armes capables d'identifier des cibles et de les engager de manière indépendante, sans intervention humaine. Anthropic a toujours refusé de soutenir ces applications, ce qui l'a placée en porte-à-faux avec certains intérêts gouvernementaux.
Le contexte est donc essentiel. Il ne s'agit pas simplement d'une faille de sécurité dans le système d'IA d'une entreprise. C'est aussi l'histoire d'une entreprise d'IA qui a refusé de développer des outils pour des applications qu'elle juge éthiquement inacceptables et qui subit désormais des pressions juridiques de la part du gouvernement même qu'elle a combattu.
Réaction publique
La réaction sur les réseaux sociaux a été immédiate et massive. Anthropic a publié un message sur X indiquant qu'elle pensait que la fermeture était due à un malentendu et qu'elle travaillait à rétablir l'accès au plus vite. En quelques heures, ce message avait suscité plus de 7 000 réponses et 32 millions de vues. La réaction était majoritairement favorable à Anthropic et critique envers l'action du gouvernement.
Certains utilisateurs ont souligné que Fable 5 était déjà l'un des modèles d'IA les plus restrictifs disponibles. L'un d'eux a fait remarquer que les mesures de sécurité du modèle étaient si étendues que les questions de biologie fondamentale et les tâches liées aux infrastructures étaient bloquées. L'argument avancé était qu'Anthropic ne pouvait guère faire davantage en matière de sécurité.
D'autres ont perçu cette fermeture comme un événement plus grave. Certains utilisateurs l'ont décrite comme marquant la fin d'une ère d'accès public libre aux modèles d'IA de pointe, s'inquiétant des conséquences lorsque seuls les gouvernements et les grands laboratoires d'IA auront accès aux systèmes les plus performants.
Une part importante des réactions provenait de clients payants s'étant abonnés spécifiquement pour utiliser Fable 5. Plusieurs utilisateurs ont indiqué avoir opté pour des abonnements plus onéreux le jour même de l'arrêt du jeu, et nombreux sont ceux qui ont demandé un remboursement. Ce timing a rendu la situation particulièrement frustrante pour ceux qui venaient de payer plus cher pour un accès qu'ils n'ont jamais pu utiliser.
Cependant, tout le monde n'a pas imputé la responsabilité entièrement au gouvernement. Certains utilisateurs ont fait valoir qu'Anthropic avait passé des années à décrire ses modèles les plus avancés comme extrêmement puissants et potentiellement dangereux, et que le gouvernement avait, pour ainsi dire, pris ces avertissements au pied de la lettre. Selon eux, on ne peut pas présenter son IA comme quasi dangereuse et s'étonner ensuite que les autorités de réglementation la traitent comme telle.
What Happens Next
Anthropic a clairement indiqué qu'il s'agissait d'un malentendu et qu'elle travaillait activement à remettre Fable 5 et Mythos 5 en ligne. Si l'évaluation du risque de jailbreak par l'entreprise est correcte, c'est-à-dire si les vulnérabilités divulguées sont réellement mineures et n'offrent aucun avantage significatif aux personnes mal intentionnées, alors une solution raisonnable permettant de rétablir l'accès est envisageable.
Mais cette voie passe par le gouvernement, et les tensions actuelles entre Anthropic et les autorités fédérales compliquent la résolution rapide et harmonieuse de ce processus. Anthropic a toujours refusé catégoriquement de permettre la surveillance de masse ou le développement d'armes autonomes, et il n'est pas clair si la directive sur le contrôle des exportations et ces différends antérieurs sont des questions totalement distinctes ou liées d'une manière ou d'une autre.
Ce qui est clair, c'est que cette situation a mis en lumière l'intersection entre les capacités de l'IA, les politiques de sécurité nationale et l'accès commercial d'une manière inédite pour le secteur. La question de savoir qui décide à quel moment un modèle d'IA est trop performant pour être accessible au public, et sur quels critères, fait désormais l'objet d'un débat ouvert et animé.
Pour les utilisateurs qui n'ont plus accès à Fable 5, la question immédiate est d'ordre pratique : le service sera-t-il rétabli, et si oui, quand ? Anthropic a promis d'y travailler, mais n'a donné aucun délai. Pour l'ensemble du secteur de l'IA, la question est de savoir si cela crée un précédent quant à la manière dont les gouvernements pourraient intervenir dans le déploiement de modèles avancés à l'avenir.
Questions fréquemment posées
Q1 : Quelle est la directive sur le contrôle des exportations qui a entraîné l'arrêt de Fable 5 ?
Une directive sur le contrôle des exportations est un décret légal émis par le gouvernement américain qui restreint ou suspend le transfert de certains produits, données ou technologies vers des pays étrangers ou des citoyens d'un autre pays. Dans le cas présent, elle a été utilisée pour suspendre l'accès des ressortissants étrangers à Fable 5 et Mythos 5.
Q 2 : Pourquoi Anthropic a-t-il fermé Fable 5 pour tous les utilisateurs si l'ordre ne visait que les ressortissants étrangers ?
Comme il est pratiquement impossible de vérifier en temps réel le statut de ressortissant étranger de chaque utilisateur, Anthropic n'a eu d'autre choix que de désactiver les deux modèles pour tous ses clients afin de se conformer à la directive.
Q3 : Quelle est la raison invoquée par le gouvernement pour cette décision ?
Le gouvernement américain a invoqué des raisons de sécurité nationale, notamment la possibilité de contourner les garde-fous intégrés à Fable 5. Cette inquiétude concerne les risques de jailbreak qui pourraient permettre une utilisation abusive du modèle.
Q4 : Anthropic est-il d'accord avec l'évaluation de sécurité du gouvernement ?
Non. Anthropic conteste la version du gouvernement. L'entreprise affirme n'avoir reçu aucune preuve d'un jailbreak ayant entraîné des conséquences néfastes et qualifie les vulnérabilités divulguées de mineures.
Q 5 : Qu’est-ce qu’un jailbreak dans le contexte des modèles d’IA ?
Le jailbreak désigne une technique permettant de faire en sorte qu'un modèle d'IA se comporte d'une manière qu'il est censé empêcher, comme la génération de contenu malveillant ou le contournement des restrictions de sécurité. Anthropic reconnaît qu'une résistance parfaite au jailbreak est actuellement impossible, mais affirme que sa stratégie de défense en profondeur rend toute utilisation abusive très difficile.
Q 6 : Quelle est la stratégie de défense en profondeur d'Anthropic ?
Il s'agit d'une approche visant à rendre les jailbreaks soit très limités, soit très coûteux à produire, tout en combinant cela avec une surveillance active pour détecter et stopper rapidement toute attaque réussie.
Q 7 : D'autres modèles anthropiques sont-ils affectés par cet ordre ?
Non. D'après Anthropic, l'accès à tous les autres modèles Anthropic reste inchangé. Seuls Fable 5 et Mythos 5 ont été suspendus.
Q 8 : Quel est le différend plus large entre Anthropic et le gouvernement américain ?
Anthropic a toujours refusé que ses produits soient utilisés pour la surveillance intérieure de masse et pour les systèmes d'armes entièrement autonomes, c'est-à-dire des armes capables de sélectionner et d'engager des cibles sans intervention humaine. Ce refus a engendré des tensions persistantes avec les autorités gouvernementales.
Q 9 : Les clients peuvent-ils obtenir un remboursement ?
Anthropic n'a pas encore fait de déclaration publique officielle concernant les remboursements. De nombreux utilisateurs ayant récemment mis à niveau leur abonnement afin d'accéder à Fable 5 ont publiquement demandé un remboursement.
Q 10 : Anthropic travaille-t-il à rétablir l’accès ?
Oui. Anthropic a publié sur X qu'elle pense que la fermeture est due à un malentendu et qu'elle travaille activement à rétablir l'accès dès que possible, bien qu'aucun calendrier précis n'ait été fourni.
