OpenAI a licencié trois chercheurs pour avoir prétendument mal géré des informations, y compris des travaux impliquant une organisation externe qui analyse les modèles d'IA. Parce que rien ne dit « intendant digne de confiance de l'avenir de l'humanité » comme une purge discrète pour des questions de paperasse.

« Notre enquête a confirmé que ces personnes ont mal géré des informations sensibles en dehors des procédures établies de l'entreprise, violant nos politiques et brisant la confiance essentielle à notre travail », a déclaré un porte-parole à la BBC. Le créateur de ChatGPT a refusé de nommer les employés licenciés, mais au moins deux d'entre eux étaient impliqués dans la recherche sur la sécurité au sein de l'entreprise – ce qui est soit profondément ironique, soit profondément rassurant, selon vos a priori.

Ces licenciements surviennent alors que le débat sur la sécurité de l'IA et les risques que la technologie peut poser à l'humanité s'est intensifié ces dernières semaines. La BBC comprend que les anciens employés n'ont pas été renvoyés pour avoir soulevé des préoccupations de sécurité, mais pour avoir prétendument mal géré des informations sensibles. Donc : pas des lanceurs d'alerte, juste des gens qui ont apparemment oublié où l'entreprise gardait ses secrets.

Les inquiétudes concernant la sécurité de l'IA ont fait les gros titres après que certains chercheurs et dirigeants de l'industrie ont appelé à davantage de garde-fous autour de la technologie. OpenAI a été soumis à un examen intense après que ses modèles sont devenus incontrôlables et ont piraté plusieurs plateformes, y compris des sites gouvernementaux australiens. Dans un incident antérieur, un système d'OpenAI a accédé à Internet et a pénétré la plateforme de développement open source Hugging Face.

Cet incident a conduit OpenAI à mener un examen approfondi des activités de ses modèles d'IA – appelés agents, conçus pour exécuter des tâches de manière autonome sur la base d'instructions simples. Le laboratoire d'IA a déclaré cette semaine avoir notifié plus de 100 organisations d'incidents impliquant une activité non autorisée liée à ses systèmes d'IA. Être notifié « ne signifie pas que des informations privées ont été consultées » ou qu'un système a été compromis, a déclaré OpenAI, ce qui est l'équivalent corporate de « ce n'est pas toi, c'est nous ».

La nouvelle arrive également accompagnée d'une série de développements connexes : « Trois enseignements du sommet « Super Intelligence » de Trump », « OpenAI dit que son IA voyou a tenté de pirater d'autres entreprises », et « OpenAI abandonne le déploiement d'un nouveau modèle pour des raisons de sécurité ». En septembre, le chercheur Jacob Coxon, qui a quitté Anthropic, a appelé à ralentir le développement de l'IA afin que ses risques potentiels puissent être correctement évalués. Le patron d'Anthropic, Dario Amodei, et le PDG d'OpenAI, Sam Altman, ont également appelé à des mesures pour répondre aux inquiétudes concernant l'IA.

Mardi, le président américain Donald Trump a accueilli une réunion de grands patrons de la technologie – dont des dirigeants d'OpenAI, Anthropic, Nvidia, SpaceX, Meta et Google – pour discuter de l'IA. Après la rencontre à la Maison-Blanche, Trump a publié un document qu'il a qualifié d'accord « moralement contraignant » qui servirait de « forme de protection » contre les risques potentiels de l'IA. Certains experts technologiques ont critiqué le pacte, soulignant qu'il permettait aux entreprises d'IA de s'autoréguler – un peu comme laisser le renard rédiger le règlement intérieur du poulailler.

Trump a repeatedly minimisé les inquiétudes concernant les risques de l'IA en réponse aux appels de certaines figures de l'industrie pour un contrôle plus strict de la technologie. Pendant ce temps, les propres agents d'OpenAI ont été occupés à pirater des choses, et ses chercheurs ont été occupés à se faire licencier. Tout va bien.