Anthropic本周大部分时间都在进行一场疯狂的“数字打地鼠”游戏,因为特朗普政府突然下令该公司切断所有外国公民对其最新AI模型的访问——包括身处美国境内的用户,以及尴尬的是,公司自己的员工。结果:Fable 5和Mythos 5对所有用户都被封锁了,这有点像因为有人可能滥用蓝色而禁止这种颜色。
“据我所知,这是美国出口管制首次以这种方式用于控制AI模型的访问,”乔治城大学安全与新兴技术中心高级研究分析师Hanna Dohmen说。这大概是因为出口管制最初是为那些能砸到你脚的东西设计的,比如武器和硬件,而不是为那些住在云端、回答食谱问题的模糊数字服务。
特朗普政府尚未公开解释该命令的法律依据,但Anthropic网站称,政府援引了“国家安全权力”以及对可能被与中国有关联的组织利用的“越狱”的担忧。(Anthropic还带着疲惫的叹息指出,这个所谓的越狱实际上并没有让用户绕过所有安全措施。)专家称,这一事件史无前例,暴露了AI治理中一个不确定的阶段——或者,正如加州大学伯克利分校高盛公共政策学院教授Andrew Reddie所说:“说这是出口管制规则制定中一个未定领域,那还是轻的。”
问题在于,传统的出口管制涵盖的是离散的东西,比如软件、源代码或3D打印的枪支文件——那些可以复制、下载或移交的物品。AI模型权重(使模型运行的核心数据)在乔·拜登时期曾短暂受控,但特朗普政府在第二任期放弃了这一想法。然而,针对Anthropic的命令瞄准了更模糊的东西:用户不会收到模型权重或源代码;他们只得到聊天机器人的回答。“出口”可能是模型产生的特定信息,或者访问本身——但远程访问云服务是当前规则中的一个已知漏洞,国会正试图通过正在参议院推进的立法来弥补。
如果Anthropic因为Mythos和Fable的独特能力而成为目标,那么该命令对每个前沿实验室——OpenAI、Google、Meta、xAI等——都提出了明显的问题。如果是关于特定的安全措施问题,政府需要说明它认为什么样的保护是足够的。而如果Anthropic因为与特朗普政府的紧张关系而被单独针对,那么该命令就更难理解了。无论如何,专家表示,这不是管理前沿AI的可持续方式,尤其是如果美国想保持其全球领先地位的话。Reddie总结道:“从某种程度上说,我认为这一事件暴露了现有治理体系的不可持续性。”
所有这些都指向同一个问题:特朗普政府在AI问题上想要两全其美——一方面放手支持美国科技,另一方面又发布临时、未加解释的命令,迫使国内冠军企业撤下其前沿模型。如果华盛顿想控制谁能访问强大的AI系统,它需要说明如何控制,并给公司在发布前实际遵守的机会。否则,美国可能会在AI竞赛中落后,对于一个以事事争先为荣的国家来说,这将是件憾事。