OpenAI révoque accidentellement l'accès des chercheurs en sécurité, puis leur demande de refaire une demande comme au DMV

Dans une décision qui fait douter les chercheurs en sécurité de leurs choix de vie, OpenAI aurait révoqué l'accès à son programme de cybersécurité à accès limité pour plusieurs chercheurs - apparemment par accident. L'entreprise a confirmé que le problème était dû à une erreur, ce qui est rassurant, car nous savons tous que les erreurs n'arrivent jamais en cybersécurité.

Mercredi, plusieurs chercheurs sur les forums de support officiels d'OpenAI et sur X ont signalé que leur accès au programme Trusted Access for Cyber (TAC) avait été révoqué. En ouvrant la page Cyber de ChatGPT, ils ont été accueillis par un message indiquant que leur identité n'a pas pu être vérifiée ou que leur compte « n'est pas éligible pour le moment ». Rien de tel qu'une petite crise d'identité pour commencer la journée.

TAC est le programme spécial d'OpenAI qui donne aux chercheurs vérifiés l'accès à ses modèles d'IA les plus avancés avec moins de garde-fous en matière de cybersécurité que les utilisateurs réguliers. Anthropic a un programme similaire appelé le Cyber Verification Program (CVP). L'idée est de donner aux défenseurs de confiance de meilleurs outils pour trouver et signaler des bogues, afin que les entreprises puissent corriger les failles plus rapidement - et empêcher les méchants d'utiliser ces outils pour pirater tout le monde. C'est un objectif noble, sauf si vous êtes un pirate malveillant, auquel cas, continuez.

Pour entrer dans TAC, les chercheurs doivent soumettre une pièce d'identité et passer la vérification d'OpenAI. Mais maintenant, certains de ces chercheurs vérifiés sont exclus, et on ne sait pas clairement pourquoi ni combien. TechCrunch a parlé à cinq chercheurs qui ont eu le problème. L'un d'eux a déclaré qu'OpenAI lui avait envoyé un e-mail indiquant que son accès à Daybreak Blue - le dernier niveau vérifié de TAC - avait été révoqué « en raison d'un problème technique affectant un nombre limité d'utilisateurs ».

L'e-mail continuait : « C'était un problème de notre côté, et non l'expérience utilisateur que nous voulons offrir. » Ah, le classique « ce n'est pas toi, c'est nous » - mais pour les programmes de sécurité IA.

Dans un fil de discussion sur le forum, un chercheur a déclaré qu'OpenAI avait cité un « problème technique récent » après avoir contacté le support. Dans les deux cas, OpenAI a demandé aux chercheurs de refaire une demande et de compléter à nouveau la vérification. Parce que rien ne dit « nous vous faisons confiance » comme vous faire prouver votre identité encore une fois.

Les cinq chercheurs avec qui TechCrunch a parlé vivent en dehors des États-Unis et de l'Europe, ce qui suggère que les révocations peuvent être régionales. OpenAI a pointé du doigt un tweet disant qu'un « ensemble limité d'utilisateurs n'a plus accès à Daybreak Blue et devra se re-vérifier pour maintenir son accès ». Donc, si vous êtes un chercheur en sécurité à Singapour, par exemple, vous voudrez peut-être vérifier votre accès.

Daybreak Blue, lancé le 10 août, est le dernier niveau d'OpenAI pour les chercheurs individuels, donnant accès à des « modèles généralistes de pointe, y compris GPT-5.6 Sol, avec des garde-fous adaptés au travail de sécurité défensif autorisé ». C'est « le point de départ recommandé pour la plupart des défenseurs », prenant en charge la découverte de vulnérabilités, la revue de code sécurisé, l'analyse de logiciels malveillants, la réponse aux incidents et la validation de correctifs. Ça a l'air bien - si vous pouvez y accéder.

OpenAI a également introduit un niveau supérieur appelé Daybreak Red, qui donne accès à des modèles spécifiquement pour la recherche en cybersécurité, permettant aux utilisateurs vérifiés de faire de la « recherche de vulnérabilités autorisée, de la validation d'exploits et des tests de sécurité ». Parce que pourquoi ne pas avoir aussi une équipe rouge ?

Ces derniers mois, les chercheurs en sécurité défensive et offensive se sont plaints des garde-fous imposés par OpenAI et Anthropic, disant qu'ils entravent le travail légitime. Maintenant, avec les révocations accidentelles, ils ont quelque chose de nouveau à critiquer. Au moins, l'erreur n'était pas de leur côté - cette fois.