Les chercheurs de Google et de Google DeepMind ont lancé mercredi le DeepMind Institute, un nouvel effort pour faire avancer la conversation autour de l'intelligence artificielle générale (AGI). Parce que s'il y a une chose dont la frontière en mouvement rapide de l'AGI a besoin, c'est de plus de conversation.

L'institut liste le cofondateur de DeepMind, Shane Legg, le cadre de Google, James Manyika, et le président de Google DeepMind, Demis Hassabis, comme directeurs, Legg occupant le poste de rédacteur en chef. Son objectif déclaré est de faire émerger des points de vue divergents entre Google, Google DeepMind et la communauté de recherche mondiale autour de l'AGI. « Ils ne seront pas toujours d'accord, et ils changeront probablement d'avis, à mesure que davantage de données et d'informations apparaissent à la frontière en mouvement rapide », peut-on lire dans l'annonce — une phrase qui pourrait servir de déclaration de mission à chaque groupe de discussion depuis 2022.

La collection inaugurale de quatre essais couvre les politiques économiques pour gérer les perturbations potentielles de l'AGI, la préservation du raisonnement des modèles lisible par l'homme, les principes pour l'épanouissement humain, et un cadre pour évaluer les modèles d'IA de pointe. En d'autres termes : l'argent, les mathématiques, le sens et la surveillance.

Un essai, rédigé par les chercheurs en sécurité de DeepMind Rohin Shah et Anca Dragan, soutient que la fenêtre de transparence de l'IA qui se rétrécit — la capacité de voir et de vérifier le raisonnement étape par étape d'un modèle — n'est pas inévitable. Alors que les nouvelles architectures rendent les modèles les plus puissants plus difficiles à surveiller, les auteurs affirment que les développeurs et les régulateurs devraient affronter directement les compromis de sécurité. Cela pourrait signifier limiter la « profondeur sérielle opaque » — la quantité de calcul séquentiel qu'un modèle peut effectuer sans produire de trace de raisonnement lisible — ou exiger des développeurs qu'ils démontrent que les systèmes moins transparents restent tout aussi surveillables. Ce qui est une façon polie de dire : si vous ne pouvez pas montrer votre travail, vous feriez mieux de prouver que vous n'en avez pas besoin.

Dans un autre essai, Hassabis propose un organisme de normalisation de l'IA de pointe dirigé par les États-Unis pour évaluer les modèles d'IA les plus avancés. Selon son cadre, les développeurs soumettraient initialement les modèles volontairement pour examen jusqu'à 30 jours avant leur sortie. Une fois que le système d'évaluation aura fait ses preuves, réussir ses tests pourrait devenir une exigence pour déployer des modèles de pointe aux États-Unis. L'organisme concevrait d'abord des évaluations en consultation avec les entreprises d'IA, mais développerait finalement des évaluations indépendantes et non divulguées — ce que l'essai appelle des tests « retenus » — pour empêcher les laboratoires d'adapter leurs modèles aux évaluations connues. Hassabis a déclaré que le cadre pourrait être « renforcé si la gravité de la situation l'exige », incluant potentiellement un ralentissement coordonné parmi les développeurs d'IA de pointe. Parce que rien n'encourage la conformité volontaire comme la menace d'un temps mort collectif.

Les essais arrivent alors que le débat sur la sécurité dans l'industrie passe de déclarations d'inquiétude générales à des propositions concrètes de divulgation, d'examen externe et, si les garde-fous prennent du retard, de ralentissements coordonnés. Ce changement s'est accéléré cette semaine alors que les leaders de l'industrie ont approuvé des éléments de l'appel du PDG d'Anthropic, Dario Amodei, à « ralentir » le développement de l'IA de pointe. Donc : des essais, des organismes de normalisation et un soupir existentiel occasionnel. Du progrès, en quelque sorte.