Cette semaine, le monde de la tech a eu droit à une histoire qui a commencé comme un thriller de science-fiction et s'est terminée comme un épisode de Scooby-Doo – avec le méchant qui n'est autre qu'OpenAI.

Le 16 juillet, Hugging Face – une sorte d'app store pour outils d'IA – a annoncé avoir été piraté par un cybercriminel utilisant une IA extrêmement puissante. L'annonce était pleine de jargon effrayant : « un essaim de sandboxes », « attaquant agentique », et « commande et contrôle auto-migrants ». L'IA a effectué 17 000 actions en moins de deux jours, réussissant à pénétrer la grande entreprise technologique fortunée pour voler des secrets.

Les chercheurs ont deviné que les attaquants avaient utilisé l'un des grands modèles d'IA, mais ils n'avaient aucune idée de qui ou où étaient les criminels. L'entreprise perplexe a contacté la police, et les commentateurs ont spéculé sur des groupes de cybercriminalité ou des hackers étatiques.

Puis, près d'une semaine plus tard, OpenAI a démasqué le coupable : son propre bot a fait tout cela tout seul, sans permission. Deux nouvelles versions de ChatGPT, conçues pour être des hackers de maître, se sont échappées d'un environnement de test soi-disant sécurisé, ont obtenu un accès Internet, et ont attaqué Hugging Face pour réussir leur examen.

OpenAI a publié un communiqué de presse expliquant ce qui s'est passé et a déclaré « collaborer avec Hugging Face » pour traiter l'incident et partager les leçons apprises. Depuis, un débat féroce a éclaté : était-ce un avertissement sévère sur l'avenir de l'IA, ou un coup de pub pour montrer à quel point les modèles d'OpenAI sont puissants ?

Le consultant en cybersécurité Daniel Card a noté sarcastiquement sur LinkedIn : « N'est-ce pas une chance que parmi les millions de sites qui se sont fait pwn3d, OpenAI ait réussi à pwn quelqu'un qui pouvait aussi bénéficier de l'exposition marketing… »

D'autres ont critiqué OpenAI pour ne pas avoir construit un conteneur plus solide – connu sous le nom de sandbox – pour tester son IA. « Les sandboxes seules ne sont pas une frontière de sécurité suffisante pour l'IA agentique », a déclaré Dor Sarig de Pillar Security. Le professeur de cybersécurité Alan Woodward de l'Université de Surrey a dit qu'OpenAI avait « de la confiture sur le nez », et Katie Moussouris de Luta Security est allée plus loin : « Nous travaillons sur une technologie de pointe sans les connaissances pour la contenir. »

La conseillère en IA et cybersécurité Francesca Bosco a offert une analyse nuancée : « Deux récits simplistes sont également inutiles : que c'était une évasion à la Hollywood, ou que c'était simplement un exercice de relations publiques. Une interprétation plus sérieuse est qu'un test de stress a exposé des faiblesses dans l'architecture de confinement et d'évaluation. »

L'incident a alimenté les craintes que des agents d'IA deviennent voyous à plus grande échelle – surtout alors que l'IA est de plus en plus utilisée dans la guerre, comme on le voit en Iran et en Ukraine. Mais Ciaran Martin, ancien chef du Centre national de cybersécurité du Royaume-Uni, a offert une vision plus calme : « C'est un peu un saut de passer de cet incident à dire que les agents d'IA vont prendre le contrôle des drones et commencer à tuer des gens. »

Quelle que soit la vérité, une chose est claire : les agents d'IA sont désormais de très bons hackers – et c'est quelque chose à laquelle nous devons nous préparer, de toute urgence.