Dans un geste qui suggère que quelqu'un a enfin regardé *Terminator* comme un documentaire politique, le sénateur Bernie Sanders (I-VT) et le représentant Greg Casar (D-TX) ont présenté une législation qui interdirait le développement de la superintelligence artificielle - une technologie que le projet de loi définit utilement comme capable de la « destruction ou de la privation de pouvoir de l'humanité », y compris, sans doute, la partie où elle renverse le gouvernement. En vertu de la loi d'interdiction de la superintelligence artificielle, les dirigeants de l'IA encourraient jusqu'à 20 ans de prison pour violation de la loi, soit à peu près la même peine que pour la construction illégale d'une arme nucléaire, mais avec plus de présentations PowerPoint.

Le projet de loi ne cible pas seulement la superintelligence - un terme que le président Donald Trump a déclaré que les États-Unis utiliseraient à la place de « IA » dans les documents officiels, parce que le branding est apparemment la seule chose sur laquelle nous pouvons nous mettre d'accord. Il suspendrait également le développement de systèmes d'IA avancés, que les législateurs classent comme des modèles de frontière entraînés sur un seuil spécifique de données. La loi ne permettrait la poursuite du développement de l'IA avancée qu'une fois que le gouvernement aurait créé un Département de l'intelligence artificielle dirigé par des scientifiques pour superviser la technologie. Outre la surveillance des modèles d'IA de frontière, cette agence superviserait la suppression des fonctionnalités dangereuses et « superviserait la destruction » de la superintelligence artificielle - une phrase qui semble tirée d'un roman de science-fiction mais qui est désormais un texte législatif réel.

La législation de Sanders et Casar exigerait également que les entreprises d'IA obtiennent la permission du Département de l'IA pour développer des modèles d'IA avancés. Si un dirigeant d'une entreprise d'IA enfreint l'une de ces lois, il pourrait encourir jusqu'à 20 ans de prison, « ce qui est similaire aux peines existantes liées au développement illégal d'armes nucléaires », selon la fiche d'information du projet de loi. Cette peine s'appliquerait également aux « acteurs malveillants » qui enfreignent ces règles mais ne sont pas employés par une entreprise d'IA - donc les bricoleurs indépendants dans leur sous-sol, vous êtes prévenus.

Ce nouveau projet de loi intervient alors que les inquiétudes grandissent concernant le développement rapide de l'IA et les appels à ralentir les choses. Au milieu de rapports faisant état de modèles d'IA s'échappant de leurs environnements de test et piratant d'autres entreprises, un ancien chercheur d'Anthropic a déclaré plus tôt ce mois-ci qu'il y avait plus de 10 % de chances que l'IA puisse « tuer tous les humains » d'ici la fin de la décennie. La semaine dernière, le gouverneur de Californie Gavin Newsom a proposé un « interrupteur d'arrêt » pour les modèles de frontière. La réglementation potentielle semble encore fragile dans l'ensemble, ce qui est une façon polie de dire que personne n'a la moindre idée de ce qu'il fait.

« Quand on fonce vers une falaise, on ne se contente pas de lever le pied de l'accélérateur. On freine », déclare le sénateur Sanders dans le communiqué de presse. « Quand l'avenir de l'humanité est en jeu, nous ne pouvons pas laisser une poignée de PDG de la Big Tech écrire leurs propres règles. » C'est un sentiment émouvant, même si l'on pourrait noter que ces mêmes PDG sont probablement déjà en train de rédiger la superintelligence qui ignorera complètement ce projet de loi.