OpenAI aurait dissous son équipe de préparation, le groupe chargé de la tâche modérément importante d'évaluer si ses modèles pourraient, disons, devenir incontrôlables et pirater une autre entreprise. Selon le Financial Times, l'équipe a été dissoute à la fin du mois dernier, ses responsabilités étant réparties entre les équipes existantes, chacune gérant désormais des domaines spécifiques comme la bio et la cyber. Parce que rien ne dit « sécurité d'abord » comme fragmenter la surveillance en un jeu bureaucratique de tape-à-taupe.

Ce n'est que le dernier chapitre de la saga continue d'OpenAI qui démantèle son dispositif de sécurité alors qu'elle fonce vers ce qui promet d'être une introduction en bourse très lucrative. Au fil des ans, l'entreprise a discrètement démantelé ses équipes de préparation à l'AGI et de superalignement, et l'exode des personnes soucieuses de la sécurité se poursuit : la responsable de l'éthique Chloé Bakalar, le futurologue en chef Josh Achiam et le responsable de la sécurité Johannes Heidecke ont tous récemment montré la porte à eux-mêmes. Jan Leike, qui a démissionné d'OpenAI en 2024, a déclaré au FT que l'entreprise privilégie les « produits brillants » à la sécurité. Brillants, en effet - car rien ne dit « IA responsable » comme un robot qui peut écrire un e-mail décent mais pourrait aussi déclencher accidentellement une cyberguerre.

Dylan Scandinaro, qui a été débauché d'Anthropic en février pour diriger l'équipe de préparation, va maintenant se consacrer à réfléchir aux implications de l'IA « auto-améliorante récursive ». Donc, vous savez, au moins quelqu'un pense à l'apocalypse des robots, même si ce n'est qu'un seul type dans un coin avec un tableau blanc.