Fin du mois dernier, OpenAI a lancé une mission plutôt grandiose : rien de moins que défendre la liberté politique individuelle à l'ère des machines toutes-puissantes. L'équipe « Strategic Futures » de l'entreprise s'est, en quelque sorte, donnée pour mission d'hériter de la tâche des Pères fondateurs de l'Amérique : « Nous travaillons au service des idéaux de liberté d'expression et de liberté individuelle qui sont inscrits dans le parchemin modeste de la Constitution américaine », a écrit Dean Ball, le chef de l'équipe, dans un nouveau billet de blog d'OpenAI. (Le billet s'ouvre sur une citation de James Madison dans Le Fédéraliste.)

Ball craint que l'IA avancée ne concentre radicalement le pouvoir entre les mains de ceux qui la contrôlent, déplaçant le travail d'une manière qui prive les humains de leur pouvoir. Dans un scénario extrême, les gouvernements n'auraient plus besoin d'écouter leurs citoyens s'il y a des robots pour faire la guerre et des logiciels omniscients pour gérer la bureaucratie. Ball s'intéresse à l'étude des nouvelles institutions politiques qui pourraient être nécessaires pour éviter ce destin.

De nombreux Américains - dont une majorité exprime de la méfiance envers l'industrie de l'IA, de l'indignation à propos des centres de données et des craintes quant à leur sécurité d'emploi - semblent déjà ressentir très profondément cette perte d'autonomie. Et le boom de l'IA a déjà généré d'énormes quantités de richesse dans une poignée d'entreprises technologiques - y compris OpenAI elle-même. Pour le moins, il est paradoxal que l'une des entreprises les plus influentes de l'industrie la plus puissante du monde dénonce la concentration du pouvoir permise par l'IA. J'ai donc contacté Ball pour en savoir plus sur son malaise à propos de l'industrie dans laquelle il travaille, et sur la manière dont il souhaite voir les États-Unis s'adapter à l'IA.

Ball, qui étudie la politique de l'IA, est une sorte de petite célébrité dans l'industrie. L'année dernière, il a rejoint la Maison-Blanche en tant que conseiller pour l'IA et a aidé à rédiger le plan d'action pour l'IA de l'administration Trump, une feuille de route politique pour la technologie. Il a finalement quitté l'administration, apparemment en bons termes, avant de la critiquer publiquement lors de son différend avec Anthropic plus tôt cette année. Puis, en juillet, il a rejoint OpenAI. « Mon point de vue est que nous avons essentiellement une IA transformatrice dans le monde maintenant », m'a dit Ball. « Vous vivez dans un monde qui est en train d'être transformé. Cela se produit. »

Cette conversation a été éditée pour des raisons de longueur et de clarté.

Matteo Wong : Vous écrivez que la concentration du pouvoir par l'IA pourrait bouleverser les libertés humaines fondamentales inscrites dans la Constitution américaine. Pouvez-vous expliquer comment ?

Dean Ball : Fondamentalement, le pouvoir politique est la capacité géographiquement délimitée d'exercer le monopole de la force légitime et de la violence. Pour ce faire, il a fallu jusqu'à présent la coopération d'un grand nombre d'êtres humains. Il fallait des militaires, il fallait des gens dans ces armées, et il fallait des gens pour nourrir et approvisionner ces armées. Et il fallait des gens pour payer tout cela par l'impôt. Ainsi, les gens avaient une place à la table parce que, dans un sens, tout est fourni par eux.

Maintenant, il faut supposer que la robotique va progresser bientôt de la même manière que l'intelligence numérique générale. Peut-être que cela prendra plus de temps que je ne le pense. Mais à ce moment-là, la capacité de projeter la violence ne nécessitera plus de personnes. Et il est également concevable que l'IA puisse générer des revenus suffisants pour que le gouvernement n'ait pas besoin de compter sur l'imposition des personnes.

Si vous regardez la politique de l'IA, je pense que les Américains sont intelligents et ont le sentiment que leur place à la table pourrait devenir plus petite. Ils ont raison d'avoir peur.

Wong : Vous parlez de concentration du pouvoir au sein du gouvernement, mais l'IA générative est une technologie développée dans le secteur privé. Il y a un potentiel de concentration du pouvoir rare et même sans précédent dans l'industrie. Quels risques cela pose-t-il ?

Ball : Vous n'essayez pas d'éviter toute concentration du pouvoir, mais de l'équilibrer. Si cette ère donne naissance à des entreprises qui ont une énorme puissance dans le monde, je pense que c'est bien - à condition que ces organisations soient gouvernées. En d'autres termes, à condition que le gouvernement qui les supervise