谷歌和谷歌DeepMind的研究人员于周三启动了DeepMind研究所，这是一项旨在推进围绕通用人工智能（AGI）对话的新努力。因为如果快速发展的AGI前沿领域需要一样东西，那就是更多的对话。

该研究所将DeepMind联合创始人Shane Legg、谷歌高管James Manyika和谷歌DeepMind主席Demis Hassabis列为董事，Legg担任执行编辑。其宣称的目标是呈现谷歌、谷歌DeepMind和更广泛的全球研究界在AGI问题上的不同观点。“他们不会总是意见一致，而且随着快速发展的前沿领域出现更多数据和信息，他们可能会改变想法，”公告中写道——这句话可以兼作自2022年以来每个群聊的使命宣言。

首期合集包含四篇论文，涵盖管理潜在AGI颠覆的经济政策、保留人类可读的模型推理、人类繁荣的原则，以及评估前沿AI模型的框架。换句话说：金钱、数学、意义和监控。

其中一篇由DeepMind安全研究员Rohin Shah和Anca Dragan撰写的论文认为，AI透明度窗口的缩小——即查看和检查模型逐步推理的能力——并非不可避免。随着新架构使最强大的模型更难被监控，作者表示开发者和监管者应直接面对安全权衡。这可能意味着限制“不透明串行深度”——即模型在不产生可读推理轨迹的情况下可以执行的顺序计算量——或要求开发者证明透明度较低的系统仍然同样可监控。这是一种礼貌的说法：如果你不能展示你的工作，你最好证明你不需要展示。

在另一篇论文中，Hassabis提议建立一个由美国领导的前沿AI标准机构，以评估最先进的AI模型。在他的框架下，开发者最初将在发布前最多30天自愿提交模型进行审查。一旦评估系统被证明有效，通过其测试可能成为在美国部署前沿模型的要求。该机构最初将与AI公司协商设计评估，但最终将开发独立的、未公开的评估——论文称之为“保留”测试——以防止实验室针对已知评估调整其模型。Hassabis表示，该框架可以“在情况的严重性需要时逐步加强”，可能包括前沿AI开发者之间的协调放缓。因为没有什么比集体暂停的威胁更能鼓励自愿合规了。

这些论文发布之际，行业的安全辩论正从广泛的担忧声明转向关于披露、外部审查以及如果保障措施落后则协调放缓的具体提案。这一转变本周加速，因为行业领袖支持了Anthropic CEO Dario Amodei呼吁“放缓”前沿AI发展的部分内容。所以：论文、标准机构和偶尔的存在主义叹息。某种程度上的进步。