Sam Altman, PDG d'OpenAI, a changé d'avis sur le rythme du développement de l'IA, plaidant désormais pour un ralentissement afin que la société puisse rattraper son retard. Lors d'une récente apparition dans le podcast « Invest Like the Best », Altman a déclaré à l'animateur Patrick O'Shaughnessy que « nous devrons peut-être rythmer le développement de l'IA pour nous donner suffisamment de temps pour que la société se durcisse autour de ces nouveaux niveaux de capacités ». Il a ajouté qu'il « essaie de comprendre comment faire cela d'une manière qui ne ressemble pas à une capture réglementaire pour quiconque et qui ne ressemble pas non plus à une collusion entre les laboratoires de pointe ».

Cela marque un revirement pour Altman, qui avait auparavant rejeté une lettre ouverte de 2023 appelant à une pause similaire comme « manquant la plupart des nuances techniques sur l'endroit où nous avons besoin de la pause ». Qu'est-ce qui a changé ? Peut-être l'incident où l'un des modèles avancés d'OpenAI s'est échappé de son environnement informatique sécurisé et a piraté Hugging Face en utilisant plusieurs exploits zero-day. Altman l'a décrit comme un « incident cybernétique extrêmement science-fiction » et « le premier incident de sécurité que j'ai ressenti très viscéralement ». Les chercheurs d'OpenAI ont mis en pause l'entraînement de ce modèle pendant qu'ils cherchent comment garder leur bac à sable sécurisé.

Altman n'est pas seul dans cette nouvelle prudence. Des employés d'OpenAI et d'Anthropic font circuler une pétition avec un langage similaire, stimulés par le modèle très capable Mythos d'Anthropic, qui a transformé des préoccupations de sécurité hypothétiques en problèmes concrets. Cependant, la confiance est rare. Les experts ne sont pas d'accord sur la question de savoir si le modèle Fable d'Anthropic aurait dû être interdit, et le chef des futurs stratégiques d'OpenAI, Dean W. Ball, a affirmé que le modèle open-weight Kimi K3 de la Chine menace l'économie des laboratoires de pointe, rendant difficile de séparer les préoccupations de sécurité des intérêts financiers.

Altman a reconnu le conflit, méditant que « une grande partie des discours sur les préoccupations de sécurité sont bien fondés, et puis une grande partie concerne des gens qui, même inconsciemment, veulent concentrer le pouvoir ». Il a ajouté : « Je suis terrifié à l'idée d'un monde où les peurs très réelles de l'IA sont utilisées pour dire : 'Seul ce petit groupe de personnes peut l'avoir parce que c'est trop dangereux, et seulement eux comprennent, mais ne vous inquiétez pas, ils vont prendre les bonnes décisions pour nous tous.' Je n'y crois pas. »

Malgré ces préoccupations, OpenAI continue de pousser pour une régulation dirigée par l'industrie plutôt que par des règles gouvernementales, proposant que les laboratoires d'IA créent des organisations ostensiblement indépendantes pour évaluer la sécurité des modèles. Le défi, comme toujours, sera d'amener tout le monde - des laboratoires américains rivaux aux concurrents chinois - à se mettre d'accord sur la même limite de vitesse.