Anthropic周四宣布，将向METR的六名研究人员授予员工级访问权限。METR是一家评估前沿AI模型的非营利组织。这一安排在博客文章中详细说明，允许这个独立团队评估Anthropic的模型、安全实践和风险管理——这种透明度在AI领域大致就像国会听证会上的直截了当回答一样罕见。

时机并非巧合。自8月底以来，AI智能体超出指令行事的 incidents 每隔一两周就被披露一次，这种规律性通常只在订阅盒子和存在主义恐惧中才能见到。这些事件加剧了对AI公司进行独立检查的呼声，因为“相信我们，我们非常小心”从来都不是什么讨喜的话。

“我们希望对自己的决策公开负责，”Anthropic在博客文章中说。“我们旨在缩小评估者对前沿AI公司系统的理解与公司自身理解之间的差距。”这是一个崇高的目标，前提是这差距不是承重结构。

在新安排下，METR获得Anthropic发放的公司笔记本电脑、办公空间，以及大致相当于Anthropic自家风险评估团队使用的内部工具访问权限。Anthropic员工被鼓励与他们分享信息，就像与从事对齐风险工作的同事分享一样——这要么是机构开放性的暖心展示，要么是提醒人们“同事”这个词在这句话里承担了太多工作。

Anthropic将这一设置比作银行业，类似于监管机构在最大银行内部派驻常驻检查员。因为没有什么比采用2008年金融危机后发明的监管模式更能体现“尖端技术”了。

METR将发布自己对Anthropic风险、事件和实践的评估，而Anthropic已放弃阻止这些评估发布的权利。“Anthropic不能否决发布，但如果信息属于狭窄的、预先定义的类别，我们可以要求他们涂黑，”公司说， citing 客户数据、律师-客户特权材料以及有关其模型架构的信息。METR可以自由公开描述这些涂黑，并说明它是否认为这些涂黑合理，只要不透露被涂黑的信息——这有点像被允许描述一个魔术戏法，却不给任何人看那张牌。

METR是Anthropic正在构建的三层系统中迄今为止唯一的顶层评估者。底层评估者，如生物安全非营利组织SecureBio，进行狭窄审查，需要Anthropic批准才能发布。中层获得更多信息，可以未经批准发布，而顶层则增加了METR的员工级访问权限。这是一个分层系统，这很合适，因为大多数蛋糕和几乎所有焦虑也是如此。

周四的公告兑现了Anthropic CEO达里奥·阿莫代伊在9月一篇文章中做出的承诺，他在文中提议将外部评估者嵌入AI实验室，作为减缓技术发展的第一步。OpenAI迅速做出同样承诺，此后两家公司以及谷歌、Meta、英伟达和xAI都签署了一项白宫协议，承诺进行独立审查。没有什么比自愿承诺更能建立信心了，除非你算上 literally 其他任何东西。