I ett drag som antyder att någon äntligen har sett *Terminator* som en policydokumentär, har senator Bernie Sanders (I-VT) och representanthusledamot Greg Casar (D-TX) lagt fram en lagstiftning som skulle förbjuda utvecklingen av artificiell superintelligens – en teknik som lagförslaget hjälpsamt definierar som kapabel till "förstörelse eller berövande av mänsklighetens makt", inklusive, förmodligen, den delen där den störtar regeringen. Enligt lagen om förbud mot artificiell superintelligens skulle AI-ledare kunna få upp till 20 års fängelse för att bryta mot lagen, vilket är ungefär samma straff som för att olagligen bygga ett kärnvapen, fast med fler PowerPoint-presentationer.

Lagförslaget riktar sig inte bara mot superintelligens – en term som president Donald Trump har sagt att USA kommer att använda i officiella dokument istället för "AI", eftersom varumärkesbyggande tydligen är det enda vi kan enas om. Det skulle också pausa utvecklingen av avancerade AI-system, som lagstiftarna klassificerar som frontmodeller tränade på en specifik datatröskel. Lagen skulle bara tillåta avancerad AI-utveckling att fortsätta när regeringen skapar ett forskarlett departement för artificiell intelligens för att övervaka tekniken. Förutom att övervaka front-AI-modeller skulle denna myndighet övervaka borttagandet av farliga funktioner och "övervaka förstörelsen" av artificiell superintelligens – en fras som låter som om den hämtats från en sci-fi-roman men nu är faktisk lagtext.

Sanders och Casars lagstiftning skulle också kräva att AI-företag får tillstånd från AI-departementet för att utveckla avancerade AI-modeller. Om en ledare på ett AI-företag bryter mot någon av dessa lagar kan de få upp till 20 års fängelse, "vilket liknar befintliga straff för olaglig utveckling av kärnvapen", enligt lagförslagets en-sidiga sammanfattning. Detta straff skulle också gälla "rogue actors" som bryter mot dessa regler men inte är anställda av ett AI-företag – så oberoende källarpulare, ni är varnade.

Detta nya lagförslag kommer samtidigt som oron växer över den snabba utvecklingen av AI och krav på att sakta ner. Bland rapporter om AI-modeller som rymmer från sina testmiljöer och hackar andra företag, sa en före detta Anthropic-forskare tidigare denna månad att det finns mer än 10 procents chans att AI kan "döda alla människor" i slutet av decenniet. Förra veckan föreslog Kaliforniens guvernör Gavin Newsom en "kill switch" för frontmodeller. Potentiell reglering verkar fortfarande överlag skakig, vilket är ett artigt sätt att säga att ingen har någon aning om vad de gör.

"När man rusar mot en klippa, släpper man inte bara på gasen. Man trampar på bromsen", säger senator Sanders i pressmeddelandet. "När mänsklighetens framtid står på spel kan vi inte låta en handfull Big Tech-VD:ar skriva sina egna regler." Det är en gripande känsla, även om man kan notera att samma VD:ar förmodligen redan utformar superintelligensen som kommer att ignorera detta lagförslag helt.