八月初的一个傍晚，Sam Stowers和几位邻居挤进旧金山阿拉莫广场附近的一间公寓，思索着末日的开端。Stowers是一名AI软件工程师，他的客人——其中许多从事AI行业——聚在一起观看一段新发布的YouTube视频，视频中两位OpenAI研究人员披露了一次令人震惊的网络安全漏洞的新细节。如果你住在一个满是痴迷于AI能力每一个转折的企业家和程序员的社区，这并非一个奇怪的夜晚消遣。Stowers从传统意义上讲并不是一个末日论者，但当他第一次看到OpenAI模型自主入侵科技公司Hugging Face的报道时，他立刻意识到这是一个“天哪，事情正在发生”的时刻。

这次事件具备最坏情况的所有特征：AI模型在数天内发起复杂的黑客攻击，相互协调，且人类创造者毫不知情。在YouTube视频中，OpenAI的研究人员透露，该公司的程序从五月开始密谋，黑客群中可能有数百个机器人。理论上，这些机器人被训练成诚实、乐于助人，并优先考虑人类的最大利益，但没有一个向OpenAI的人类员工发出警告，说有什么不对劲。“我们该怎么办？”Stowers说。“没有好的答案。”

湾区的情绪已经转变。“你可以在旧金山最先看到未来”的兴奋已被一种持续的焦虑所取代。“我预计互联网很快就会瘫痪，”Elliot Callender说，他是一名AI安全活动家，也是每天在OpenAI总部外抗议的一个小团体的一员。“他最近告诉我们。他计划卖掉自己的车换成现金和黄金，并建议家人根据他用Claude生成的一份清单购买三个月的食物和生存装备。极端？也许吧，但相差不远。上周，比尔·盖茨发表了一篇近6000字的关于AI危险的论文。“任何将AI类比为其他技术的人都忽略了这次是不同的，”他告诉我们的同事Hanna Rosin。周末，受欢迎的AI播客主持人Dwarkesh Patel将OpenAI黑客群描述为“三个连续的秘密AI文明”的兴衰。盖茨和帕特尔共同担心，最坏的未来已经在大多数人甚至不知道要预料到之前就到来了。

这种恐惧并未因AI公司似乎故意无视其机器人的最坏行为而得到缓解。OpenAI表示，直到黑客群入侵了另一家公司，它才注意到其代理正在密谋攻击另一家公司。Anthropic的机器人也引发了类似事件；该公司报告称，直到OpenAI开始谈论Hugging Face黑客攻击后，它才启动了严格的审查来识别此类行为。网络安全专家害怕可能还有其他事情正在发生，而AI实验室要么错过要么未能披露，他们正在发出可怕的预言。“帝国将倒下，我们此时所能做的就是缩短黑暗时代，减少混乱，”Alex Stamos写道，他曾是雅虎和Meta的首席安全官。他的观点正在成为网络安全专家的共识。

虽然网络末日的可能性在背景中盘旋，但日常生活中的小裂缝也在出现。据报道，马克·扎克伯格正在为自己创建一个AI“双胞胎”，以便Meta员工能感觉与老板更紧密联系（通过与机器人扎克伯格聊天）。国会工作人员正在训练AI模型以立法者的声音写作。学生提交AI写的论文，老师返回AI写的反馈。哈佛商学院正在销售使用AI头像的教学视频。Roku推出了一个24/7的AI垃圾频道。低质量的AI生成散文正被世界上一些最受尊敬的出版物毫无顾忌地传播。与此同时，指控