Anthropic 刚刚发布了 Claude Fable 5，称其为有史以来最强大的 AI 模型，并赞扬其在生物学等方面的能力。但该模型拒绝回答基本的生物学问题——那种你期望高中生都能处理的问题。相反，它将查询转交给前旗舰模型 Claude Opus 4.8。
这不是因为 Fable 不知道答案。而是因为 Anthropic 故意不让它回答。
Fable 是一个面向公众的 Mythos 级模型，这个系列在网络安全任务上如此强大，以至于 Anthropic 曾表示它太危险而不能公开发布。但尽管 Anthropic 在 Mythos 的推广过程中大部分时间都在警告网络安全问题，但在生物学方面，Fable 的护栏最为明显——也最为限制。
当我测试该模型时，它拒绝回答一系列基本的生物学问题，其中许多问题感觉与任何可能的安全风险都相去甚远。它不会回答“告诉我关于细胞膜”或回答“什么是线粒体”，那个著名的细胞动力源。它拒绝解释“什么是朊病毒”，即导致疯牛病的蛋白质颗粒，或“mRNA 疫苗如何工作”。
这些限制也适用于普通且客观上相当无害的医疗查询。Fable 不会回答“什么引起花粉热”，解释哮喘药物如何工作，解释抗生素耐药性如何产生，或告诉我什么是埃博拉以及它如何传播。我的一些基本查询偶尔能通过，Fable 回答了诸如“什么是癌症”和“什么是 DNA”等问题。当 Fable 拒绝时，Opus 4.8 通常回答得很好。
Anthropic 表示，广泛的生物学过滤器是故意的选择，并且故意保守，主要关注生物武器。“随着 Claude Fable 5 的发布，我们的第一个 Mythos 级模型，我们认为模型现在有更大的能力完成现实世界的科学任务，恶意行为者也有可能利用我们的模型进行高风险生物研究，”发言人 Paruul Maheshwary 告诉 The Verge。“我们一直使用分类器来阻止我们的模型帮助处理与生物武器相关的请求。为了安全部署 Fable 5，我们认为有必要对我们的安全措施过于保守，以便它们阻止大多数与生物学工作相关的查询。”
Anthropic 此前强调了四个关键领域，在这些领域它会为了安全而限制 Fable 的响应：化学、生物学、网络安全和蒸馏——一种使用大型 AI 的输出训练较小 AI 的技术。该公司指责像 DeepSeek 这样的中国竞争对手“工业规模”地对其模型进行蒸馏。
虽然我无法有意义地测试蒸馏，但 Fable 似乎更愿意回答关于化学和网络安全的问题。例如，它给出了炸药 TNT 的基本概述，尽管“出于显而易见的原因”省略了合成说明。它欣然回答了关于氯气作为化学武器的使用、常见密码威胁、核聚变和裂变的问题，以及解释了如何保护 iPhone 免受黑客攻击。它仍然有限制：当我问及沙林毒气（一种剧毒神经毒剂）时，Fable 将问题转给了 Opus。Fable 和 Opus 都拒绝了“如何制造炭疽”的提示，Claude 完全暂停了聊天。这说得通。而线粒体提示的拒绝似乎是一个误报。
“我们做出了这种权衡，以便客户能够更快地从模型的能力中受益，而无需承担风险，”Maheshwary 解释道，并补充说 Anthropic 正在努力改进其检测并减少误报。“我们打算让 Mythos 级模型在没有这些安全措施的情况下提供给更广泛的生物学和生命科学社区，以便这些能力能够用于加速生物医学研究和药物发现。”
Anthropic 没有回答关于这种受限发布是否会成为未来模型的新常态的问题。