上周五,白宫以未指明的国家安全担忧为由,命令Anthropic停止向美国以外的任何人以及美国境内的外国国民出口其强大的AI模型Fable和Mythos。Anthropic,这个永远顺从的客人,匆忙拔掉了这两个模型的插头,它们现在已经对所有人不可用了一周。
这一事件标志着美国政府是否能够使用出口管制来遏制前沿AI的第一次真正考验——就像它之前试图遏制加密和间谍软件一样,结果非常不均匀。尽管听起来可能很戏剧化,但这场僵局如何解决,不仅可能影响Anthropic进入外国市场的机会,还可能塑造其他AI实验室必须遵守的规则手册。
先来点背景。自从Anthropic在4月推出Mythos以来,该公司一直将其营销为某种末日网络机器,如果广泛发布,可能会对互联网造成严重破坏——这就是为什么在禁令之前,只有大约150家经过审查的公司和政府组织能够访问它。目标是帮助防御者在坏人获得类似Mythos的能力之前保护他们的软件和服务。
那么是什么触发了禁令?据报道,有两个后续事件。第一个:Anthropic通过其有限合作伙伴计划让一家韩国电信公司访问了Mythos,美国官员在确定该公司涉嫌与中国有联系后感到震惊。(这家被广泛报道为SK Telecom的公司否认与中国有任何联系。)据报道,亚马逊CEO安迪·贾西也在亚马逊自己的研究人员发现了一种绕过Fable 5安全措施的方法后,向政府发出了警报。Anthropic对“越狱”标签提出异议,称这是一个狭窄的、已经修补的问题,而不是模型安全措施的全面失败。
结果是一样的:商务部发布了出口管制指令,Anthropic不得不争先恐后地立即限制对其产品的访问——据报道,在接到通知后大约90分钟内。
然而,这一切都不是新鲜事。几十年来,政府一直试图使用出口管制来限制他们认为危险的网络技术的扩散,但他们的记录充其量只是中等水平。
美国政府是历史上这种方法最壮观的失败之一的幕后推手,发生在20世纪90年代初到中期。当时,计算机科学家正在开发加密技术,以保护数据在互联网上传输时的安全。其中一种加密产品叫做Pretty Good Privacy(PGP),一种流行的软件,可以加密数据,使其即使在被拦截时也几乎无法解密。
美国政府最初将PGP视为危险武器,担心它会阻止其情报机构在电子邮件通过其线路时进行窥探。为了阻止PGP的传播,美国海关总署对PGP的创建者菲尔·齐默尔曼展开了刑事调查,指控他涉嫌违反武器出口管制。他通过将PGP的源代码作为印刷书籍出版进行反击,点燃了今天所谓的“加密战争”。齐默尔曼后来在调查结束时赢得了一场关键战役,为数十亿Signal和WhatsApp用户使用的关键端到端加密算法铺平了道路。
后来在2010年代初期,研究人员开始发现针对中东异见人士的西方制造的间谍软件。作为回应,几个政府同意扩大《瓦森纳安排》,这是一项限制军民两用软件和技术出口的国际条约。其想法是将监控和黑客软件归类为两用,从而迫使间谍软件制造商在向国外销售产品时获得出口许可证。
但《瓦森纳安排》一直有两个固有的弱点。