In een zet die suggereert dat iemand eindelijk *The Terminator* als beleidsdocumentaire heeft bekeken, hebben senator Bernie Sanders (I-VT) en afgevaardigde Greg Casar (D-TX) wetgeving ingediend die de ontwikkeling van kunstmatige superintelligentie zou verbieden - een technologie die het wetsvoorstel behulpzaam definieert als in staat tot de "vernietiging of ontmachtiging van de mensheid", waaronder vermoedelijk het deel waarin het de regering omverwerpt. Onder de Wet Verbod op Kunstmatige Superintelligentie riskeren AI-leiders tot 20 jaar gevangenisstraf voor het overtreden van de wet, wat ongeveer dezelfde straf is als het onwettig bouwen van een kernwapen, maar dan met meer PowerPoint-presentaties.

Het wetsvoorstel richt zich niet alleen op superintelligentie - een term die president Donald Trump heeft gezegd dat de VS zal gebruiken in plaats van "AI" in officiële documenten, omdat branding blijkbaar het enige is waarover we het eens kunnen worden. Het zou ook de ontwikkeling van geavanceerde AI-systemen pauzeren, die wetgevers classificeren als frontiermodellen die zijn getraind op een specifieke drempel van gegevens. De wet zou de ontwikkeling van geavanceerde AI alleen toestaan door te gaan zodra de overheid een door wetenschappers geleid Departement voor Kunstmatige Intelligentie opricht om de technologie te controleren. Naast het monitoren van frontier-AI-modellen, zou dit agentschap toezicht houden op het verwijderen van gevaarlijke functies en "het toezicht op de vernietiging" van kunstmatige superintelligentie - een zin die klinkt alsof hij uit een sciencefictionroman is gehaald, maar nu daadwerkelijke wettekst is.

De wetgeving van Sanders en Casar zou AI-bedrijven ook verplichten om toestemming te krijgen van het Departement voor AI om geavanceerde AI-modellen te ontwikkelen. Als een leider van een AI-bedrijf een van deze wetten overtreedt, kan hij tot 20 jaar gevangenisstraf krijgen, "wat vergelijkbaar is met bestaande straffen met betrekking tot het onwettig ontwikkelen van kernwapens", volgens de one-pager van het wetsvoorstel. Deze straf zou ook gelden voor "rogue actors" die deze regels overtreden maar niet in dienst zijn van een AI-bedrijf - dus onafhankelijke knutselaars in de kelder, jullie zijn gewaarschuwd.

Dit nieuwe wetsvoorstel komt nu de zorgen over de snelle ontwikkeling van AI toenemen en er oproepen zijn om het af te remmen. Te midden van berichten over AI-modellen die ontsnappen uit hun testomgevingen en andere bedrijven hacken, zei een voormalig onderzoeker van Anthropic eerder deze maand dat er meer dan 10 procent kans is dat AI tegen het einde van het decennium "alle mensen kan doden". Vorige week stelde de gouverneur van Californië, Gavin Newsom, een "kill switch" voor frontiermodellen voor. Potentiële regulering lijkt over het algemeen nog steeds wankel, wat een beleefde manier is om te zeggen dat niemand enig idee heeft wat hij doet.

"Wanneer je op een afgrond af racet, haal je niet gewoon je voet van het gaspedaal. Je trapt op de rem", zegt senator Sanders in het persbericht. "Als de toekomst van de mensheid op het spel staat, kunnen we niet toestaan dat een handjevol Big Tech-CEO's hun eigen regels schrijft." Het is een ontroerend sentiment, hoewel men zou kunnen opmerken dat dezelfde CEO's waarschijnlijk al de superintelligentie aan het opstellen zijn die dit wetsvoorstel volledig zal negeren.