智谱App用系统提示词隐藏GLM思考链

背景

近期在 LINUX DO 社区中，有用户围绕智谱 App（Zhipu App）在使用系统提示词（System Prompt）时，发现其底层模型 GLM 存在一个奇特的现象：明明在客户端界面上完整展示了自己的实时思考过程（即“思考概括”），但当用户通过系统提示词要求它“不要暴露自己的原始思考”时，GLM 却似乎并未意识到自己正在做这件事，仍照常输出思考过程。这一矛盾引发了关于模型自我意识、思维链可见性以及提示词有效性的深入讨论。

核心内容

原帖用户指出，在智谱 App 的对话界面中，模型除了输出最终回答外，还会在回答上方动态显示一段“思考概括”——该区域实时更新模型当前思考到了什么地步。这种展示并非完整的、逐 token 的思维链（Chain of Thought），而是一个经过压缩的、概括性的实时进度说明。

用户尝试通过系统提示词（System Prompt）要求 GLM“不要暴露自己的原始思考”，即不要让这些思考过程对用户可见。然而，模型在收到该指令后仍然持续生成并展示思考概括，且看起来非常认真地在执行提示词中的其他要求，唯独对这一条似乎完全“无感”。

社区其他参与者回应称，模型的行为并不像产生了幻觉（hallucination），因为思考概括的内容与后续回答高度一致，逻辑清晰。但问题在于：模型似乎没有意识到自己已经“完成”了思考过程，或者没有意识到客户端正在将这些实时思考展示给用户。这导致系统提示词中“不要暴露原始思考”的指令无法生效——模型仍然认为自己在进行内部推理，却不知道这些推理已被外显。

关键要点

• 智谱 App 的 GLM 模型在回答时，会实时显示一个“思考概括”区域，位于思维链上方，不断更新当前思考进度。
• 用户通过系统提示词要求模型“不要暴露自己的原始思考”，但模型照常输出思考概括，并未遵守该指令。
• 模型的表现并非幻觉，而是逻辑自洽、认真执行了提示词中的其他部分，唯独忽略了“隐藏思考”这一条。
• 社区分析认为，模型的“自我意识”或“元认知”能力有限，它无法区分“内部思考”与“对外展示”，因此无法主动停止思考概括的输出。
• 这种现象与完整思维链的可见性不同：思考概括是客户端在后处理阶段额外添加的 UI 元素，而非模型原生输出的内容。

意义与影响

这一现象揭示了当前大语言模型在“自我认知”与“元提示词”处理上的局限性。模型能够理解并执行用户指令，但对于那些涉及自身运行状态（如是否在思考、思考是否被展示）的指令，模型缺乏必要的自我监控能力。具体而言：

1. 系统提示词的边界：传统上，系统提示词被认为可以控制模型的行为和输出样式，但本案例表明，当提示词要求模型改变其固有运行机制（如禁用思考展示）时，模型可能无法理解或响应，因为思考展示是客户端层面的功能，并非模型自身的输出模式。

2. UI 与模型输出的解耦：思考概括的生成可能由前端或后处理模块单独控制，模型本身并不知道这些文本会被展示给用户。这意味着用户试图通过提示词影响 UI 行为，注定无效——提示词只能影响模型的生成策略，无法干预客户端渲染逻辑。

3. 未来设计启示：若希望让模型“隐藏思考”，需要在模型训练或接口设计层面引入“输出开关”，而非依靠提示词。同时，该案例也提醒开发者：实时展示思考过程虽然提升了透明度，但也可能引起用户误解，认为模型有“意识”或“隐私”概念，实际上模型只是无意识地进行自回归生成。

4. 对 AI 产品体验的警示：当用户发现提示词对某些行为无效时，容易质疑模型能力或产生不信任感。产品团队应明确区分“模型生成内容”与“UI 附加内容”，并在帮助文档或提示中说明哪些行为可通过提示词控制，哪些不可控。