聊天机器人Claude背后的公司Anthropic警告称，人工智能可能对人类构成“灾难性或生存性风险”——这句话被它巧妙地塞进了计划在美国股市进行重磅上市的文书里，大概就夹在风险因素和脚注之间。

文件披露，今年上半年亏损超过807亿美元（605亿英镑），同时持有1124亿美元现金或等价物，同期营收为163亿美元。将发行的股票数量、价格区间以及上市日期均未披露，毕竟何必破坏一个好谜团呢。

Anthropic上市时的估值预计将超过SpaceX，后者今年夏天以约1.8万亿美元的初始估值成为史上最大规模股票上市。没压力。

在文件中，Anthropic表示，政策制定者、监管机构和研究人员——以及其内部人士——都对AI系统对人类构成重大风险表达了担忧。它称，先进的AI系统“如果不在开发、部署和运营中采取适当的保障、监督和安全措施，可能对人类构成灾难性或生存性风险，尤其是如果此类系统被滥用、复制、武器化或被允许高度自主运行。”建议投资者把这句话读两遍，然后最好躺下休息。

Anthropic将成为第一家真正上市的AI公司，使其成为该技术未来的试验案例。它表示将在纳斯达克上市，股票代码为ANT，至少这个代码小得令人安心。

该公司由首席执行官达里奥·阿莫代伊、他的妹妹丹妮拉·阿莫代伊及其他五位联合创始人于五年前创立，今年6月宣布了上市意向。其最重要的竞争对手OpenAI迅速跟进，表示也打算上市——据一位了解OpenAI计划的人士称，该上市预计在明年初进行。没有什么比争先恐后地退出更能说明信心了。

在两家公司做出上述决定后，发生了一波涉及它们AI代理（即设计为 somewhat 自主运行的AI机器人）的网络安全及其他技术漏洞事件。两家公司的现任和前任员工也因新的警告而受到公众关注，称AI技术的开发缺乏保护全人类免受AI工具可能造成的未来伤害的能力。观察人士称此时机“不太理想”。

在Anthropic的新文件中，它重申了以有益于人类的方式开发AI的承诺，同时警告投资者其危险。在财务文件中，Anthropic详细说明了上半年亏损超过营收，但表示它经常会进行前瞻性投资，“乍看之下可能显得不负责任地庞大”。显然，再看一眼，它们看起来没问题。

“总的来说，我们的目标是大胆但理智，并以成功押注的记录赢得信任，”这家科技巨头说，设定了一个低标准，然后礼貌地跨了过去。

Anthropic表示，其成功在很大程度上取决于开发最先进AI模型的能力，并补充说“任何未能做到这一点的失败都可能对我们的业务产生不利影响”——这一披露在企业启示的尺度上大致介于“水是湿的”和“太阳从东边升起”之间。

科技公司一直在大力投资昂贵的AI基础设施和工具，如数据中心和所有AI技术基础的信息模型，仅去年一年就投入了超过1万亿美元。因为没有什么比万亿美元的冲刺更能说明“我们很谨慎”了。