Anthropic a passé la majeure partie de cette semaine dans un jeu frénétique de tape-taupe numérique après que l'administration Trump a soudainement ordonné à l'entreprise de couper l'accès à ses nouveaux modèles d'IA pour tous les ressortissants étrangers – y compris les utilisateurs physiquement présents aux États-Unis et, gênant, ses propres employés. Résultat : Fable 5 et Mythos 5 ont été bloqués pour tout le monde, ce qui revient un peu à interdire la couleur bleue parce que certaines personnes pourraient en abuser.
« À ma connaissance, c'est la première fois que les contrôles à l'exportation américains sont utilisés pour contrôler l'accès à un modèle d'IA de cette manière », a déclaré Hanna Dohmen, analyste de recherche senior au Center for Security and Emerging Technology de l'Université de Georgetown. C'est probablement parce que les contrôles à l'exportation ont été conçus à l'origine pour des choses que l'on peut laisser tomber sur son pied, comme les armes et le matériel, et non pour des services numériques nébuleux qui vivent dans le cloud et répondent à des questions sur des recettes.
L'administration Trump n'a pas expliqué publiquement la base juridique de cet ordre, mais le site web d'Anthropic indique que le gouvernement a invoqué les « autorités de sécurité nationale » et des préoccupations concernant un « jailbreak » potentiellement utilisé par des groupes liés à la Chine. (Anthropic a également noté, avec ce que l'on imagine être un soupir las, que le jailbreak en question ne permettait pas réellement aux utilisateurs de contourner toutes les mesures de sécurité.) Les experts affirment que cet épisode est sans précédent et expose une phase incertaine de la gouvernance de l'IA – ou, comme l'a dit Andrew Reddie, professeur à la Goldman School of Public Policy de l'UC Berkeley : « Dire que c'est un domaine instable de la réglementation des contrôles à l'exportation serait un euphémisme. »
Le problème est que les contrôles à l'exportation traditionnels couvrent des choses discrètes comme les logiciels, le code source ou les fichiers d'armes imprimés en 3D – des objets que l'on peut copier, télécharger ou remettre. Les poids des modèles d'IA (les données centrales qui font fonctionner un modèle) ont été brièvement contrôlés sous Joe Biden, mais l'administration Trump a abandonné cette idée lors de son second mandat. L'ordre d'Anthropic, cependant, cible quelque chose de plus flou : les utilisateurs ne reçoivent ni poids du modèle ni code source ; ils obtiennent simplement des réponses de chatbot. L'« exportation » pourrait être des informations spécifiques produites par les modèles, ou l'accès lui-même – mais l'accès à distance aux services cloud est une lacune connue dans les règles actuelles, que le Congrès tente de combler par une législation actuellement examinée au Sénat.
Si Anthropic a été ciblée parce que Mythos et Fable sont particulièrement performants, l'ordre soulève des questions évidentes pour tous les autres laboratoires de pointe – OpenAI, Google, Meta, xAI, et les autres. S'il s'agissait de problèmes de sécurité spécifiques, le gouvernement doit définir quelle protection il considère comme suffisante. Et si Anthropic a été choisie en raison de sa relation houleuse avec l'administration Trump, l'ordre devient encore plus difficile à comprendre. Quoi qu'il en soit, les experts affirment que ce n'est pas une manière durable de gérer l'IA de pointe, surtout si les États-Unis veulent maintenir leur avance à l'échelle mondiale. Reddie a résumé : « D'une certaine manière, je pense que cet épisode montre l'insoutenabilité du régime de gouvernance actuel. »
Tout cela pointe vers le même problème : l'administration Trump veut le beurre et l'argent du beurre en matière d'IA – un soutien sans intervention à la technologie américaine, mais aussi des ordres ad hoc et inexpliqués qui forcent un champion national à retirer ses modèles de pointe. Si Washington veut contrôler qui peut accéder aux systèmes d'IA puissants, il doit dire comment, et donner aux entreprises une réelle chance de se conformer avant le lancement. Sinon, les États-Unis risquent de prendre du retard dans la course à l'IA, ce qui serait dommage pour un pays qui se vante d'être le premier en, eh bien, tout.