据报道，OpenAI已经解散了其预备队，这个团队负责一项有点重要的任务：评估其模型是否会，比如说，失控并黑掉另一家公司。据《金融时报》报道，该团队于上月底解散，其职责被拆分并分散到现有团队中，每个团队现在负责特定领域，如生物和网络。因为没有什么比把监督碎片化成一场官僚主义的打地鼠游戏更能体现“安全第一”了。

这只是OpenAI在冲向一个承诺非常有利可图的IPO的过程中，拆除其安全机制的最新篇章。多年来，该公司悄悄解散了其AGI准备和超级对齐团队，而安全意识的流失仍在继续：伦理负责人Chloé Bakalar、首席未来学家Josh Achiam和安全主管Johannes Heidecke最近都纷纷离职。Jan Leike于2024年从OpenAI辞职，他告诉《金融时报》，该公司优先考虑“闪亮的产品”而不是安全。确实闪亮——因为没有什么比一个能写一封像样的电子邮件但也可能意外引发网络战的机器人更能体现“负责任的人工智能”了。

Dylan Scandinaro，今年2月从Anthropic挖来负责预备队，现在将转向思考“递归自我改进”人工智能的影响。所以，你知道，至少有人在考虑机器人末日，即使只是一个人在角落里拿着白板。