深度解读：如何通过系统提示词激活 LLM 的原始思维链（Mythos/Fable）

背景

在大型语言模型（LLM）的应用实践中，思维链（Chain of Thought, CoT）被广泛认为是提升模型在复杂推理任务中表现的关键技术。然而，不同模型架构、不同厂商（如 OpenAI、Anthropic、Google 等）以及不同客户端或中转服务对“思考标签”的识别机制存在显著差异。

本文分享源自 LINUX DO 社区的一个具体技术发现，针对的是特定模型系列（文中提及的 mythos/fable，通常指代基于特定开源架构微调或具有类似思维链特性的模型，如 Llama 系列或其变体）。用户发现，在某些客户端或中转站环境下，模型默认的 <thinking> 标签无法被正确解析或触发深层推理，导致模型“不思考”直接输出结果。通过调整系统提示词中的标签定义，成功激活了模型的原始思维链能力。

核心内容

该分享的核心在于通过修改系统提示词（System Prompt），强制模型在生成最终回复前，先在一个特定的 XML 标签内进行“深思熟虑”的过程。

具体操作如下：

1. 标签替换：将模型通常使用的思考标签 <thinking> 替换为 `<中深思熟虑后再进行回复”。
2. 层级设定：设置 thinking level:max，以最大化模型的推理深度。

作者指出，这一方法最初是在其客户端与中转站“八字不合”（即存在兼容性问题，无法正确识别或处理标准思考标签）的情况下偶然发现的。通过强制使用 <<think>> 标签，成功绕过了兼容性问题，并激发了模型的潜在推理能力。

关键要点

• 标签兼容性是关键：并非所有客户端或中转服务都能正确识别和处理 <thinking> 标签。当遇到模型“不思考”或输出质量下降时，尝试更换标签名称（如 <<think>>）可能是一个有效的调试手段。
• 系统提示词的强制力：通过在系统提示词中明确指令模型在特定标签内“深思熟虑”，可以有效引导模型的行为模式，使其从“直接回答”转变为“先推理后回答”。
• 推理深度可调：thinking level:max 的设置表明，思维链的深度是可以被显式控制的，这为优化复杂任务的表现提供了参数化空间。
• 非标准标签的实用性：即使 <<think>> 不是模型原生支持的标签，只要模型在训练数据中见过类似结构，或在提示词引导下能理解其语义，它仍可能被用作思维链的容器。这体现了提示词工程的灵活性。

意义与影响

这一发现对 AI 应用开发者和技术爱好者具有以下几点启示：

1. 调试新思路：当 LLM 在特定部署环境中表现异常时，除了检查网络、API 密钥等基础设施问题，还应考虑提示词层面的兼容性。标签名称的微小变化可能带来性能的巨大差异。
2. 思维链的泛化：思维链的有效性不仅依赖于模型本身，还依赖于提示词与执行环境之间的默契。通过自定义标签，可以增强思维链在不同环境下的鲁棒性。
3. 社区驱动的技术优化：此类技巧往往由一线用户在实际使用中偶然发现，并通过社区（如 LINUX DO）快速传播。这体现了开源 AI 社区在探索模型潜力方面的快速迭代能力。
4. 对模型架构的间接影响：虽然 mythos/fable 并非主流商业模型名称，但此类技巧可能适用于任何支持思维链的开源模型（如 Llama、Mistral 等）。开发者在部署这些模型时，可参考此方法优化推理效果。

总之，这一分享虽短，但提供了一个实用的技巧，帮助解决 LLM 在特定环境下的推理失效问题，强调了提示词工程在 AI 应用中的重要性。