有人终于把《终结者》当政策纪录片看了——参议员伯尼·桑德斯（独立党-佛蒙特州）和众议员格雷格·卡萨尔（民主党-得克萨斯州）提出了一项法案，禁止开发人工超级智能。该法案贴心地将其定义为能够“毁灭或剥夺人类权力”的技术，大概包括推翻政府那部分。根据《禁止人工超级智能法案》，AI 领导者若违反此法将面临最高 20 年监禁，这与非法制造核武器的刑罚大致相同，只不过多了些 PowerPoint 演示。

该法案不仅针对超级智能——唐纳德·特朗普总统曾表示，美国将在官方文件中用这个词取代“AI”，因为品牌命名显然是唯一能达成共识的事。它还将暂停先进 AI 系统的开发，立法者将其归类为在特定数据阈值上训练的前沿模型。该法律只允许在政府成立由科学家领导的“人工智能部”来监管这项技术后，才能继续开发先进 AI。除了监控前沿 AI 模型，该机构还将负责移除危险功能并“监督销毁”人工超级智能——这个说法听起来像是从科幻小说里抄来的，但现在成了真正的立法文本。

桑德斯和卡萨尔的立法还要求 AI 公司必须获得人工智能部的许可才能开发先进 AI 模型。如果 AI 公司的领导者违反任何这些法律，他们可能面临最高 20 年监禁，“这与非法开发核武器的现行刑罚类似”，根据法案的一页摘要。这项刑罚也适用于违反这些规则但不受雇于 AI 公司的“流氓行为者”——所以，独立的地下室修补匠们，你们被盯上了。

这项新法案出台之际，人们对 AI 的快速发展日益担忧，并呼吁放缓脚步。在有关 AI 模型逃离测试环境并入侵其他公司的报道中，一位前 Anthropic 研究员本月早些时候表示，到本十年末，AI “杀死全人类”的概率超过 10%。上周，加利福尼亚州州长加文·纽森提议为前沿模型设置“终止开关”。总体而言，潜在的监管似乎仍不稳定，这是“没人知道自己在干什么”的礼貌说法。

“当你冲向悬崖时，你不能只是松开油门。你要踩刹车，”桑德斯参议员在新闻稿中说。“当人类的未来岌岌可危时，我们不能让少数大型科技公司的 CEO 自己制定规则。”这是一个激动人心的观点，不过有人可能会指出，这些 CEO 们可能已经在起草将完全无视这项法案的超级智能了。