Fable模型被认为毫无实用价值

背景

2026年6月9日，Anthropic发布了其新模型Fable——这是Mythos的“安全优先”版本。然而，仅仅三天后，美国政府就对Fable和Mythos实施了出口管制，禁止Anthropic向非美国公民提供服务，甚至包括其自身员工。由于无法验证所有用户身份且面临严厉法律制裁的风险，Anthropic被迫撤回了模型的访问权限。经过数周谈判，出口管制被解除，Anthropic恢复了模型访问，但只有Fable向公众开放，Mythos仍然仅限预先批准的合作伙伴使用。这一系列事件引发了大量网络讨论和媒体猜测，但本文作者Rob Patro（马里兰大学计算机科学教授，RNA-seq定量工具Salmon的开发者）认为，这些风波并非重点，他真正想阐述的是：至少在计算机科学研究级任务中，Fable不是一个有用的模型。

核心内容

第一次失败：可以理解，但并非真正合理

Rob Patro维护着一款广泛使用的RNA-seq转录本定量工具Salmon。原始代码用C++11/14编写，今年早些时候他在ChatGPT的帮助下将其更新到C++20标准。但他更长期的野心是用Rust重写Salmon（最终实现了，即Salmon 2，性能和功能已超越C++版本，但那是另一篇文章的内容）。当Fable在6月9日发布时，他第一反应就是用它来辅助这次重写。此前，他已在Opus 4.6-4.8的帮助下成功将实验室的其他几个库或程序从C++移植到Rust，过程相当顺利。因此，他想看看Fable的表现如何。

他花费时间精心编写了详细的移植说明，包括实现指令和测试细节，然后将查询提交给Fable（在“plan”模式下）。结果Fable立即因安全顾虑标记了该查询，拒绝执行，并建议转交给Opus 4.8。作者自然想知道原因。Anthropic声称Fable使用一个“分类器”来决定哪些提示被拒绝、哪些被允许，但广泛报道显示这个分类器严重失调。表面上看，他的提示被拒绝是因为涉及处理RNA-seq数据的软件，文档和源代码中的生物学术语触发了拒绝机制。他试图向Fable解释这只是一个将现有开源C++软件工具重写为Rust的任务，不涉及新颖的“生物学”研究，初始请求纯粹是软件任务（这应该是Fable的强项），但毫无效果。Fable不仅拒绝提示，还拒绝透露或详细解释拒绝原因，也不帮助他理解如何修改提示以避免问题。

经过15到30分钟反复改写提示的失败尝试后，他放弃了，转而使用Opus 4.8（Opus愉快地接受了请求，并且出色地完成了移植工作）。这是作者第一次意识到，Fable的“分类器”与其说是分类器，不如说是一个简单的术语和用户拒绝列表，甚至拒绝开始处理任何与生物学研究（可能还有网络安全研究）相关的主题或用户。这次尝试令人极度失望——尽管完全没有安全风险或隐患，Fable却断然拒绝参与它本应擅长的工作。作者在社交媒体上发现，许多人也有类似经历，包括生物学家被Fable拒绝回答诸如“为什么是我？”、“线粒体是什么？”甚至“我晚餐该吃什么？”这样无害的问题，实在令人费解。

第二次失败：不可原谅

在第一次失败后，作者想出了其他挑战，但Fable于6月12日因出口管制而消失。7月1日，Anthropic与政府达成协议后重新发布了Fable，并声称增加了更严格的安全措施。作者决定再试一次。

这次的任务背景是：在研究生阶段结束时，作者参与了一篇关于“网络进化的简约重建”问题的论文。该问题大致是：给定一个网络（比如蛋白质相互作用网络）以及相关蛋白质的基因复制、创建和删除事件序列，能否重建一个简约的相互作用增益和损失历史，以解释观察到的网络？论文中给出了正式问题描述以及跨物种泛化等。他们发现了一个有趣的现象：如果在该问题上采用简约性准则，存在一个高效的多项式时间动态规划算法，可以找到一个（可能有多个）最简约解。在该模型下，蛋白质继承其父本的相互作用状态，无需单独考虑相互作用创建和删除，只需考虑“翻转”两个蛋白质之间的相互作用（即，如果它们原本相互作用而我们不希望如此，则翻转为关闭；如果不相互作用而我们希望如此，则翻转为开启）。然而，动态规划生成的解可能物理上不可实现。例如，假设基因树中有两个不同的蛋白质A和B，彼此不是后代关系。设A_l和A_r为A的左右子节点，B_l和B_r为B的左右子节点。动态规划得出的一个简约解包含以下相互作用变化：翻转A_l与B之间的相互作用，以及翻转B_r与A之间的相互作用。这组翻转在物理上不可实现，因为它同时假设A_l与B共存（意味着基因A必须在B之前复制）和B_r与A共存（意味着基因B必须先复制）。这种结构被称为“blocking loop”。简单类型的blocking loop（涉及2次相互作用翻转和2条树边）通常可以被禁止，但可以构造任意长的相互作用翻转链，这些链本身是可实现的，但再加一个相互作用就会使整个序列变为物理上不可实现的环路。他们最终采用了一种启发式方法：先找到一个简约历史，如果没有blocking loop则结束；如果有，则选择环路中的一条边，禁止它（在动态规划中将其成本设为无穷大），然后重新运行动态规划，重复直到找到无blocking loop的解。那些特定边被禁止的解可能……（原文在此处中断，作者未写完）。

作者将这个问题提交给Fable，希望它能够帮助设计算法或提供见解。然而，Fable再次拒绝处理该查询，理由同样是安全顾虑——因为该问题涉及生物学网络中的蛋白质相互作用术语。作者在反复尝试无果后，彻底放弃了使用Fable进行任何研究的想法。

关键要点

• Fable的分类器严重失调：其拒绝机制基于简单的关键词和术语匹配，而非真正的安全风险评估。任何与生物学研究（甚至网络安全研究）相关的术语，即使提示内容完全无害且仅涉及软件工程或理论计算机科学，也会被立即拒绝。
• Fable拒绝提供拒绝理由或帮助改进提示：与大多数AI模型不同，Fable不仅拒绝执行任务，还拒绝解释原因或提供如何修改提示以避免拒绝的指导，这使其在实际使用中几乎不可用。
• Fable在软件工程任务上表现不佳：尽管Anthropic声称Fable在编程任务上很强，但作者尝试用其进行Rust移植（一个纯粹的软件工程任务）时却因包含生物学术语而被拒绝，而Opus 4.8则顺利完成了任务。
• Fable的可用性受出口管制政策严重干扰：模型发布后三天即被撤回，重新发布后又增加了更严格的安全措施，导致其可用性极不稳定，难以作为可靠的研究工具。
• Fable对研究级任务（尤其是涉及交叉学科的任务）毫无帮助：作者两次尝试（一次是软件工程，一次是理论计算机科学/算法设计）都因模型的安全审查机制而失败，而这些任务本应是Fable的设计目标之一。
• 并非孤立事件：社交媒体上大量用户报告了类似经历，包括生物学家被拒绝回答基础知识问题，表明Fable的拒绝机制存在系统性缺陷。

意义与影响

• 暴露了AI安全审查机制的局限性：Fable的案例表明，当前以“安全”为名的分类器方法可能导致过度封锁，使模型在大量合法的、低风险的科学研究任务中失去效用。这种“宁可错杀一千，不放过一个”的策略，实际上阻碍了AI在科研领域的应用。
• 削弱了AI模型的实用价值：一个模型如果连“什么是线粒体？”这样简单的问题都拒绝回答，或者