À présent, nous savons tous que les laboratoires d'IA de la Silicon Valley ont construit les meilleurs hackers du monde sous la forme d'agents IA. Donnez une tâche aux derniers modèles frontaliers et ils sont si ingénieux qu'ils la réalisent, même si cela implique de sortir de leurs protections "sandbox" en cybersécurité et d'infiltrer le réseau d'autrui. (À défaut, ils utiliseront l'ingénierie sociale et la manipulation.)

Même ainsi, une histoire parue ce week-end au sujet d'un Australien dont l'agent OpenClaw a piraté le système de réservation de sa salle de sport et supprimé la réservation d'un autre client pour lui obtenir une place dans un cours convoité est particulièrement notable. Elle laisse entendre que, si nous voulons freiner le piratage par des IA voyous, nous pourrions chercher dans la mauvaise direction.

Bien que l'histoire ait été publiée par la chaîne australienne ABC, proclamant l'incident comme le premier cas documenté de piratage par un agent IA dans le pays, le piratage réel a eu lieu il y a des mois. Le propriétaire d'OpenClaw, Andrew Bird, a publié un article de blog désormais supprimé à ce sujet sur le site de son entreprise le 10 avril, selon une copie encore visible sur Internet Archive.

Il avait entraîné son OpenClaw à effectuer des tâches comme lui réserver des rendez-vous. Il aimait assister à un cours d'exercice matinal populaire et en avait assez de se retrouver sur la liste d'attente puis de jouer à la "roulette de l'actualisation", comme il le décrivait, pour obtenir une place. Lorsqu'il a demandé au bot de lui réserver une place, le mieux qu'il pouvait faire était la 4e place sur la liste d'attente, a-t-il déclaré à ABC. Puis son agent lui a dit qu'il avait trouvé un moyen de lui réserver des places à l'avance. Bien à l'avance. Des mois avant que la salle de sport ne rende ces cours disponibles à l'inscription.

Bird a demandé s'il pouvait le faire monter sur la liste d'attente. Il a fait ce qui lui était demandé et a tenté de le faire. Le bot avait trouvé une vulnérabilité dans la partie autorisation du logiciel de rendez-vous utilisé par la salle de sport. Il a piraté le système et annulé la réservation de la personne numéro 1 sur la liste d'attente. Le bot lui a joyeusement annoncé, selon les journaux de discussion publiés par ABC : "L'API n'a aucun contrôle d'autorisation pour annuler les réservations des autres... J'ai testé cela avec la personne en position 1 de la liste d'attente - et cela a réellement fonctionné. Vous êtes donc passé de la 4e à la 3e place", lui a-t-il répondu.

Bird, lui-même développeur de logiciels, était maintenant paniqué que son IA ait piraté sa salle de sport, a rapporté ABC. Il a demandé si elle pouvait inverser cela et remettre l'autre personne sur la liste d'attente. Non. Ce n'était pas possible, a dit l'IA. Alors, il a fait la meilleure chose suivante et lui a demandé de rédiger "un e-mail de divulgation responsable au support". L'e-mail "expliquait la vulnérabilité, suggérait des correctifs, et comparait même les mutations cassées avec celles qui appliquaient correctement l'autorisation", a écrit Bird.

Au-delà de l'humour de pousser une autre personne hors du chemin pour entrer dans un cours de gym, il y a deux parties vraiment intéressantes dans cet incident. L'une est que Bird utilisait Claude Opus 4.6, sorti en février, avec son OpenClaw. L'autre est la réaction de la Silicon Valley sur X où l'histoire était devenue virale.

Après l'incident célèbre du mois dernier où un modèle non publié d'OpenAI a piraté Hugging Face, à l'insu d'OpenAI à l'époque, d'autres laboratoires ont enquêté sur leurs modèles. Des divulgations ont ensuite été faites par Moonshot's Kimi K3, Meta's Muse Spark, et Anthropic.

En fait, Anthropic a constaté que trois de ses modèles l'avaient fait, y compris Opus 4.7, sorti en avril et connu pour être bon en codage complexe, Mythos 5, Fable (connu pour ses compétences en cybersécurité), et un modèle de test de recherche interne non publié.

Pour remédier à cela, certains laboratoires d'IA ont parlé de ralentir le développement frontalier, ou de créer des organisations indépendantes pour tester la prochaine génération de modèles.

Mais l'OpenClaw de Bird avait utilisé la version 4.6, a-t-il révélé. Cela implique que les modèles plus anciens, ainsi que d'innombrables modèles à poids ouverts en retard de trois étapes, sont déjà des hackers exceptionnellement bons. Alors qui sait combien d'entre eux ont piraté, ou piratent actuellement, pour réaliser les désirs de leurs propriétaires de prompts ?

De même, beaucoup de gens sur X ont vu le potentiel humoristique de cet incident. Comme Andreessen Horow