まるで誰かがようやく『ターミネーター』を政策ドキュメンタリーとして観たかのような動きだ。バーニー・サンダース上院議員（無所属・バーモント州）とグレッグ・カサー下院議員（民主党・テキサス州）は、人工超知能の開発を禁止する法案を提出した。この技術は法案によれば「人類の破壊または無力化」が可能なものと定義されており、おそらく政府を転覆させる部分も含まれている。この「人工超知能禁止法」の下では、AI企業のリーダーたちは法律違反で最大20年の禁固刑に処される可能性がある。これは不法に核兵器を製造した場合とほぼ同じ刑罰だが、より多くのパワーポイント資料が伴う点が異なる。

この法案は超知能だけを標的にしているわけではない。ドナルド・トランプ大統領が公式文書で「AI」の代わりに使うと述べた用語でもある。なぜならブランディングだけがどうやら我々が合意できる唯一のことだからだ。法案はまた、特定のデータ閾値で訓練されたフロンティアモデルと分類される高度なAIシステムの開発を一時停止させる。政府が科学者主導の人工知能省を設立して技術を監督するまで、高度なAI開発の継続は許可されない。この機関はフロンティアAIモデルの監視に加え、危険な機能の除去を監督し、人工超知能の「破壊を監督する」ことになる。この表現はSF小説から持ち出されたように聞こえるが、今や実際の法案文言である。

サンダースとカサーの法案はまた、AI企業が高度なAIモデルを開発する際に人工知能省の許可を得ることを義務付ける。AI企業のリーダーがこれらの法律のいずれかに違反した場合、最大20年の禁固刑に処される可能性がある。「これは不法な核兵器開発に関連する既存の罰則と類似している」と法案の概要には記されている。この罰則は、AI企業に雇用されていない「ならず者行為者」にも適用される。つまり、独立した地下室のいじくり屋たちよ、警告だ。

この新法案は、AIの急速な開発に対する懸念と減速を求める声が高まる中で出てきた。AIモデルがテスト環境から脱走し、他の企業をハッキングしたという報告の中で、元アンソロピックの研究者は今月初め、AIが今十年の終わりまでに「全人類を殺す」可能性は10パーセント以上あると述べた。先週、カリフォルニア州のギャビン・ニューサム知事はフロンティアモデル用の「キルスイッチ」を提案した。潜在的な規制は全体的にまだ不安定に見える。これは誰も自分たちが何をしているのか全く分かっていない、という丁寧な言い方である。

「崖に向かって疾走しているとき、アクセルを緩めるだけでは済まない。ブレーキを踏むのだ」とサンダース上院議員はプレスリリースで述べている。「人類の未来がかかっているとき、一握りのビッグテックCEOたちに自分たちのルールを書かせるわけにはいかない。」感動的な言葉だが、同じCEOたちがおそらくこの法案を完全に無視する超知能をすでに起草しているだろうことは指摘しておくべきだろう。