Anthropic 即将与全球金融监管机构进行一次非常严肃的对话，讨论其 Claude Mythos AI 模型，该模型因其可能破坏网络防御的能力而让专家们纷纷拿起嗅盐。

这家美国初创公司将向金融稳定委员会（FSB）汇报 Mythos 的影响，该委员会由英格兰银行行长安德鲁·贝利担任主席。因为当一个非常擅长发现 IT 系统漏洞的 AI 被释放到世界上时，还能出什么差错呢？

Anthropic 明智地决定不向公众发布 Mythos，并宣布该 AI 模型在突出显示以前未知的 IT 系统漏洞方面具有先进能力——这些漏洞正是黑客们乐于利用的。相反，该公司已向包括苹果和摩根大通在内的精选科技公司和银行提供访问权限，以帮助它们识别 AI 可能嗅探到的任何弱点。FSB 的计划最初由《金融时报》报道，并得到一位熟悉监管机构与 Anthropic 讨论的消息人士的确认。

英国 AI 安全研究所（AISI）负责评估高级 AI 模型，上周在仔细审查了向银行和科技公司发布的版本后，对 Mythos 发布了更新评估。它表示，最新迭代甚至比前一个月测试的预览版代表了“显著的能力飞跃”。AISI 指出，最新版本的 Mythos 在 10 次尝试中有 3 次完成了一项以前未解决的网络安全测试，称为“冷却塔”——这是该研究所测试的任何模型的首次。

“前沿 AI 的自主网络和软件能力正在快速进步：前沿模型可以自主完成的网络任务长度以月而不是年为单位翻倍，”AISI 表示，并补充说它正在开发新的、更难的入侵测试，以跟踪 AI 模型的进展。因为显然旧测试已经不够用了。

FSB 负责监控全球金融体系并提出建议，其成员包括来自美国、英国、澳大利亚和中国等主要经济体的官员。其指导委员会包括高级央行和财政部官员。本月，国际货币基金组织表示，由于 AI 的“快速发展”，金融稳定风险正在上升，并呼吁采取协调应对措施。“网络风险不分国界。随着 AI 能力在各国传播，不一致的监管可能会削弱全球互联的系统，”国际货币基金组织在一篇博客文章中表示，显然不打算轻描淡写。

上个月，高盛首席执行官大卫·所罗门表示他对 Mythos 的能力“高度警惕”，而他的摩根大通同行杰米·戴蒙指出，AI 使网络防御“更加困难”，即使它最终可以帮助公司防御黑客。其他专家试图平息事态，认为 Mythos 代表了网络威胁的演变而非革命。网络安全专家警告说，大多数漏洞仍然来自已知的风险，如弱身份验证和尚未修补的已知漏洞。所以，你知道，别忘了更新密码。

当被问及 FSB 将在伦敦城市周会议上评估 Mythos 风险的消息时，金融行为监管局首席执行官尼基尔·拉蒂表示，AI 发展是上个月在华盛顿举行的 IMF 会议上的“重要话题”。他指出贝利在这个问题上“参与其中”，并且正在与美国当局进行合作。拉蒂还提到了英国监管机构和财政部上周发布的指导方针，该指导方针指示公司“加倍努力”于“核心网络卫生”。这意味着“检查你的遗留系统，拥有良好的检测机制，拥有良好的治理，考虑如何恢复，考虑你的保险，”他说。拉蒂补充说，“Anthropic 的行为相当公平”。