动力系统方法揭示潜在思维链推理的动态结构

背景

近年来，潜在推理方法（如 CODI 和 COCONUT）在提升语言模型推理能力方面取得了显著进展。与显式 Chain-of-Thought（CoT）不同，这些方法在每一步的隐藏空间中维护多个叠加的候选推理轨迹，从而避免了显式生成中间步骤的代价。然而，这种设计带来一个根本的可解释性问题：我们无法像显式 CoT 那样直观地追踪单一透明的推理路径。已有的机制性研究揭示了压缩、捷径和叠加现象，但并未解释推理是如何在潜在步骤间演化的。为解决这一空白，本文从动力系统的视角出发，将潜在 token 序列建模为表示空间中的轨迹，并定量分析其演化特性。

核心内容

该论文提出将潜在 CoT 推理视为动力系统中的轨迹演化，并引入一系列定量与定性分析工具来刻画推理动态。具体方法包括：

• 定量度量：采用步间变化（step-to-step change）、方向一致性（direction consistency）和李雅普诺夫敏感性（Lyapunov sensitivity）等指标，评估每一步表示向量的变化幅度、方向稳定性以及对初始条件的敏感程度。
• 定性投影：利用 UMAP、DMD/PHATE 等降维与动态模式分解技术，将高维表示空间中的轨迹投影到低维可视化空间，以便直观观察推理模式。

通过对 CODI 和 COCONUT 两种代表性潜在推理方法进行系统实验，论文发现：

1. 非随机结构化动态：潜在 CoT 的表现并非杂乱无章，而是呈现出结构化的、非随机的动态特征。
2. 两种不同的稳定性类别：
   • CODI 的行为类似于稳定的吸引子（stable attractor），其表示轨迹逐步收敛到一个固定的区域，推理过程趋向稳定。
   • COCONUT 则表现为不稳定的扩张系统（unstable expanding system），其轨迹不断发散，推理状态持续变化。
3. SIM-CoT 监督的影响：在两种方法上施加 SIM-CoT 监督（一种模拟显式 CoT 的潜在监督）后，各自的动态行为被进一步“收紧”——稳定者更稳定，扩张者更扩张，但底层动态类型并未改变。

论文认为，这一动力系统框架为理解潜在 CoT 推理的演化机制提供了可解释性基础，并能为改进潜在推理性能（如通过控制动态稳定性）提供 actionable insights。

关键要点

• 潜在推理方法（如 CODI、COCONUT）的隐藏空间动态可通过动力系统分析进行定量刻画，而不仅仅是定性描述。
• 步间变化、方向一致性和 Lyapunov 敏感性是有效的度量指标，能够区分不同潜在推理模式的动态特性。
• CODI 表现为稳定吸引子，其推理轨迹向固定区域收敛；COCONUT 表现为不稳定扩张系统，轨迹逐步发散。
• SIM-CoT 监督能增强两种方法各自固有的动态倾向（强化吸引或扩张），但不会改变其底层动态类别。
• 该框架首次将潜在 CoT 推理与动力系统中的吸引子、敏感性等概念联系起来，为后续的可解释性研究和性能优化提供了理论基础。

意义与影响

该工作的核心意义在于为难以解读的潜在推理方法建立了系统化的解释框架。传统上，研究者只能通过比较最终性能或分析隐藏空间中的静态表示来推测推理行为，而本文提供了一组动态度量指标和可视化方法，使得推理过程的“演化轨迹”变得可描述、可比较。这对于理解为什么某些潜在推理方法在特定任务上更稳定或更高效至关重要。

此外，识别出 CODI 和 COCONUT 分别对应于稳定吸引子和不稳定扩张系统，意味着未来可以通过调控动力系统的参数（如损失函数中的稳定性约束）来有意识地引导推理行为，从而在保持潜在推理优势的同时提升可控性和可靠性。SIM-CoT 监督的实证结果也提示：显式监督信号可以压缩动态范围，但无法彻底改变底层机制，这启发研究者探索更本质的动态结构修改方法。

总体而言，这项研究将潜在推理的可解释性从静态表征分析推进到动态演化分析，为整合动力系统理论、可解释人工智能（XAI）和语言模型推理提供了新的交叉方向。相关代码和项目页（见正文末尾）已公开，便于社区复现和拓展。