Vendredi dernier, la Maison Blanche, invoquant des préoccupations de sécurité nationale non spécifiées, a ordonné à Anthropic de cesser d'exporter ses puissants modèles d'IA Fable et Mythos à quiconque en dehors des États-Unis, ainsi qu'aux ressortissants étrangers à l'intérieur du pays. Anthropic, toujours l'invité obéissant, a rapidement débranché les deux modèles, qui sont désormais indisponibles pour quiconque depuis une semaine.

Cet épisode marque le premier vrai test de la capacité du gouvernement américain à utiliser les contrôles à l'exportation pour contenir l'IA de pointe - de la même manière qu'il a essayé, avec des résultats très inégaux, de contenir le chiffrement et les logiciels espions auparavant. Et aussi dramatique que cela puisse paraître, la façon dont cette impasse sera résolue pourrait façonner non seulement l'accès d'Anthropic aux marchés étrangers, mais aussi le règlement que les autres laboratoires d'IA devront respecter.

D'abord, un peu de contexte. Depuis qu'Anthropic a lancé Mythos en avril, l'entreprise l'a commercialisé comme une sorte de machine cybernétique apocalyptique capable de semer le chaos sur Internet s'il était trop largement diffusé - c'est pourquoi, avant l'interdiction, seulement environ 150 entreprises et organisations gouvernementales triées sur le volet y avaient accès. L'objectif était d'aider les défenseurs à sécuriser leurs logiciels et services avant que les méchants n'atteignent des capacités similaires à Mythos.

Alors, qu'est-ce qui a déclenché l'interdiction ? Deux événements ultérieurs, semble-t-il. Le premier : Anthropic a donné à un opérateur télécom sud-coréen l'accès à Mythos via son programme de partenaires limité, et les responsables américains se sont alarmés après avoir identifié l'entreprise comme étant soupçonnée d'avoir des liens avec la Chine. (L'entreprise, largement identifiée comme étant SK Telecom, a nié toute connexion chinoise.) Le PDG d'Amazon, Andy Jassy, aurait également alerté l'administration après que ses propres chercheurs, a-t-il dit, ont trouvé un moyen de contourner les garde-fous de Fable 5. Anthropic conteste l'étiquette de « jailbreak », le qualifiant de problème étroit déjà corrigé plutôt que d'une défaillance totale des mesures de sécurité du modèle.

Le résultat fut le même : le département du Commerce a émis une directive de contrôle des exportations, et Anthropic a dû se démener pour limiter immédiatement l'accès à ses produits - en l'espace d'environ 90 minutes après avoir été notifié, selon certains récits.

Rien de tout cela n'est nouveau, cependant. Les gouvernements tentent d'utiliser les contrôles à l'exportation pour limiter la prolifération de ce qu'ils considèrent comme des technologies cybernétiques dangereuses depuis des décennies, mais leur bilan est au mieux médiocre.

Le gouvernement américain est à l'origine de ce qui est peut-être l'échec le plus spectaculaire de cette approche dans l'histoire, au début et au milieu des années 1990. À l'époque, les informaticiens développaient des technologies de chiffrement pour sécuriser les données voyageant sur Internet. L'un de ces produits de chiffrement s'appelait Pretty Good Privacy, ou PGP, un logiciel populaire capable de chiffrer les données et de les rendre pratiquement impossibles à déchiffrer même si elles étaient interceptées en transit vers leur destinataire prévu sur Internet.

Le gouvernement américain a d'abord considéré PGP comme une arme dangereuse, craignant qu'il n'empêche ses agences de renseignement d'espionner les courriels traversant leurs câbles. Pour arrêter la distribution de PGP, le Service des douanes américain a ouvert une enquête criminelle contre le créateur de PGP, Phil Zimmermann, pour violation présumée des contrôles d'exportation d'armes. Il a riposté en publiant le code source de PGP sous forme de livre imprimé, déclenchant ce que l'on appelle aujourd'hui les « Crypto Wars ». Zimmermann a ensuite remporté une bataille clé lorsque l'enquête a été close, ouvrant la voie à des algorithmes de chiffrement de bout en bout cruciaux, comme celui utilisé par des milliards d'utilisateurs de Signal et WhatsApp.

Plus tard, au début des années 2010, des chercheurs ont commencé à découvrir des logiciels espions fabriqués en Occident utilisés contre des dissidents au Moyen-Orient. En réponse, plusieurs gouvernements ont accepté d'élargir l'Arrangement de Wassenaar, un traité international qui limite l'exportation de logiciels et technologies à double usage, utilisés à la fois dans des applications civiles et militaires. L'idée était de classer les logiciels de surveillance et de piratage comme à double usage, obligeant ainsi les fabricants de logiciels espions à obtenir des licences d'exportation pour vendre leurs produits à l'étranger.

Mais Wassenaar a toujours eu deux faiblesses inhérentes