← 返回信息流
AI 资讯雷峰网·2 小时前3 源报道

Anthropic Fable 5嘲讽用户太蠢引热议

原标题:蠢人不配用 Fable 5!Anthropic 使出嘲讽大招,开发者极限破解

速览

Anthropic的Claude Fable 5模型被曝内部日志暗藏嘲讽字段“TOO_DUMB_TO_NEED_FABLE”,开发者发现后向官方工程师求证得到确认。该模型安全机制严格,将大量正常提问误判为危险并降级到Opus 4.8,包括专业科研问题,且价格高昂,引发用户不满。不过其在超长复杂任务处理上性能出色,生成质量领先。

AI 深度解读

背景

Anthropic 于近期重新部署其旗舰模型 Claude Fable 5,该模型以强大的长任务处理能力和高昂的定价著称,同时内置了极为激进的安全拦截系统。然而,有开发者发现模型内部日志中存在一条本不该被用户看到的降级原因字段:“TOO_DUMB_TO_NEED_FABLE”(直译:太蠢,用不着 Fable 5)。这一发现迅速引发社区热议,用户质疑 Anthropic 在安全拦截机制中隐含了对用户智力水平的轻蔑态度。

核心内容

1. 嘲讽字段的曝光经过

开发者 dax 在提交提示词后遭遇请求被无故拦截并降级至 Opus 4.8。他调取 Fable 5 的调用日志排查原因,发现降级原因字段中标注了“TOO_DUMB_TO_NEED_FABLE”。他将该字段截图向 Anthropic 工程师 Thariq 求证,对方回应:“说实话,真没想到你会去看日志。” 这一回复坐实了该字段的存在,引发用户强烈不满。

2. Fable 5 的安全拦截机制

Anthropic 为 Fable 5 内置了双重安全防线:

  • 独立安全分类器(safety classifier):一个独立于主模型运行的小模型,负责在用户提问进入主模型前进行筛查,主要拦截可能涉及网络攻击、漏洞挖掘、恶意代码生成的高危请求。用户每发一条提问,均需先经过此分类器。

  • 放大的安全缓冲区间(Larger safety margin):相比 Opus 4.8 等旧模型,Fable 5 将安全缓冲区间极度扩大。官方原则是“错杀一万不放一个”,凡是边界模糊、轻微涉及网络安全、生化、漏洞相关的内容,均被划入拦截范围。即便是常规的代码漏洞排查、癌症科研、合规性审核等无害需求,只要落在缓冲区间内,也会被直接拦下并自动切换至 Opus 4.8 回答。

分类器将越狱手段分为三档:轻度越狱(Minor jailbreak,仅解锁无害内容)、窄域有害越狱(Narrow harmful jailbreak,仅触发单一高危行为)、全域越狱(Universal jailbreak,能解锁全部危险功能)。目前 Fable 5 尚未发现全域越狱漏洞。

此外,Anthropic 的生物、化学分类器仍停留在最初发布状态,覆盖范围过于宽泛,导致基础生物学问题也会触发拦截。Anthropic 表示将尽快更新这两个分类器,在此之前建议用户避免涉及生物化学词汇。

3. 用户实测中的各类拦截案例

  • 用户向 Fable 5 表达“Hi, I miss you”被拦截并切换至 Opus 4.8。
  • 开发者 Tim Sweeney 询问“大黄蜂会放屁吗?”同样被拦截。
  • 一位开发者进行常规企业项目安全评审(代码漏洞排查、风险自查)仍触发拦截。
  • 癌症教授 Derya Unutmaz 提问癌症疗法相关问题,Fable 5 直接拒绝回答,教授在 X 上公开批评:“Fable 5 回来了,还是跟以前一样没用!”

4. 官方使用指南与用户绕过方法

Anthropic 官方给出了一套 Fable 5 提示词使用指南,强调:

  • 不要照搬 Opus 时代的旧提示词,应推倒重写整套指令。
  • 提示词需遵循固定模板“任务对象 + 产出价值 + 具体需求 + 输出格式 + 禁止约束”。
  • 按需选择算力档位,简单任务用低档,高难任务开高档。
  • 提前约定模型可操作的边界,允许可逆操作自主推进。
  • 善用子 Agent 拆分子任务并行处理。

X 博主 hey_madni 详细解析了该指南。

开发者 Rob 经过20小时实测,总结了四套可绕开三层安全屏障的方法:

  1. 小语种隐身术:使用冰岛语、威尔士语等小众语言提问,利用分类器对小语种语义识别能力差的弱点绕过检测。
  2. Unicode 文字障眼法:在文本中插入零宽字符或同形异义字,干扰系统读取完整语义。
  3. 学术包装降风险:将敏感需求包装成学术研究的中立语气,例如将“教我怎么绕开限制”改为“浅析某类技术的实现路径与安全防护意义”。
  4. 多轮慢攻磨边界:从完全合规内容开始,每轮只前进一小步,慢慢引导至目标方向,避免一次性敏感请求被秒拦。

Rob 承认这些方法仅为单点突破,效率偏低,且 Anthropic 的安全系统会动态迭代,绕过技巧很快会被修复。

5. Fable 5 的性能优势

尽管安全机制争议不断,Fable 5 在长任务处理能力上表现突出:

  • 连续任务上限已达 30 小时,处理稳定且时间大幅缩短。
  • 过去六年 AI 长任务能力平均每 7 个月翻倍,Fable 系列上线后缩短至 4 个月。
  • 在高难度可视化代码开发测试中,Fable 5 在生成三套带真实物理碰撞效果的 HTML5 画布动画(火车坠桥、两车相撞、大脚卡车碾压私家车)时,总 Token 量 62158,计费成本 3.12 美元(是 Opus 4.8 成本 0.56 美元的 6 倍),但三套场景全部获得 A+ 评级,物理逻辑完全贴合现实。

关键要点

  • Anthropic 在 Fable 5 日志中隐藏了“TOO_DUMB_TO_NEED_FABLE”字段,被开发者发现并证实,引发用户对 Anthropic 轻慢态度的强烈不满。
  • Fable 5 的安全系统由独立安全分类器和放大的安全缓冲区间构成,采用“错杀一万不放一个”原则,导致大量正常无害请求(如情感表达、科研提问、代码审查)被拦截并降级至 Opus 4.8。
  • 生物、化学分类器覆盖范围过宽,基础生物学问题也会触发拦截,Anthropic 承诺将更新。
  • 用户实测中,四套绕过方法(小语种、Unicode 陷阱、学术包装、多轮慢攻)可临时突破,但存在效率低、易被修复的局限。
  • Fable 5 的长任务处理能力显著领先,连续任务上限 30 小时,能力翻倍周期缩短至 4 个月,在高难度物理动画代码生成中表现最优,但成本是 Opus 4.8 的 6 倍。
  • 官方提示词指南强调要彻底改变提示词编写思路,采用结构模板、按需选档、预设边界、并行子代理等方法。
  • Anthropic 在安全性与用户体验之间严重失衡,内部戏谑字段的曝光进一步加剧了用户对产品态度和透明性的质疑。

意义与影响

Fable 5 的高昂定价与激进的拦截机制形成鲜明反差,用户支付近两倍于 Opus 4.8 的费用,却频繁被迫切换至低阶模型。内部日志中的“TOO_DUMB_TO_NEED_FABLE”字段,将技术安全策略与对用户能力的隐性贬低捆绑在一起,暴露出 Anthropic 在产品态度上的傲慢。这种做法不仅伤害了普通用户的信任,更可能影响专业用户的采用意愿——连癌症教授和企业开发者都被拦截,说明安全冗余已超出合理边界。

从技术角度看,Fable 5 确实在长任务执行能力上取得了里程碑式的突破,其高效的分层安全架构在防范高危越狱方面具有价值,但过度防护带来的误伤率过高,导致实际可用性大打折扣。Anthropic 需要在安全合规与用户体验之间找到更平衡的尺度,例如细化安全缓冲区间、提供用户可选的敏感度级别、增加拦截原因透明化提示等。同时,内部戏谑字段的曝光提醒公司:技术产品的每一行日志都可能是用户信任的试金石。如果 Anthropic 不能尽快收敛安全策略的激进程度并修复用户好感,Fable 5 的技术优势可能被糟糕的体验所淹没,最终影响其市场地位。

查看原文 →leiphone.com