慢思考与主动感知的第一性原理理论

背景

作为认知功能第一性原理建模系列的一部分，本文试图为思考与感知提供数学形式化描述。该工作正式推导了慢思考（slow thinking）或更一般地，主动感知（active perception），并涵盖了慢思考大语言模型的设计、训练与推理。研究的起点是可观测空间与隐空间上概率分布的提升（lifting）与投影（projection），其目标是通过简单函数族（如神经网络）来表征复杂数据分布。论文提出了一种名为“主动提升”（active lifting）的理论，基于隐序列的采样以及以最大速率降低不确定性的内在驱动力，由此导出了一个庞大的设计空间，其中的慢思考模型位于一个称为“静态理论”（static theory）的子空间内。这些模型由静态理论所诱导的表征层级（representation hierarchy）与采样器层级（sampler hierarchy）定位，并可通过攀登这两个层级进行升级。主动提升进一步推导出具有内部时间轴的推理过程，以及一个类似于最小长度编码与语言发明的训练目标。因此，它刻画了感知的能动性（agency），包括慢思考形式的涌现。该理论的技术副产品包括：改进慢思考模型的三阶段路径、构建所有数据模态的编码器与生成模型的统一方法、类人视觉表征的先验形成、以及策略崩溃（policy collapse）的可能解决方案。

核心内容

本文的核心是提出“主动提升”理论，该理论从概率分布的提升与投影出发，为慢思考与主动感知建立了第一性原理的数学框架。具体而言：

• 概率分布的提升与投影：假设观察空间（observable space）上的复杂分布 $P_{obs}$ 难以直接建模，通过一个编码器将其提升（lift）到隐空间（latent space）上的分布 $P_{lat}$，再用一个简单的函数族（如神经网络）来近似 $P_{lat}$，最后通过投影（projection）回到观察空间得到重构分布。目标是使重构分布尽可能接近原始 $P_{obs}$。

• 主动提升的核心机制：在隐空间上进行序列采样，每一步采样都旨在以最大速率降低关于未来观测的不确定性。这种不确定性减少的驱动力是内在的，类似于好奇心或信息增益最大化。这一过程使得模型能够主动选择隐序列，而非被动地接受固定编码。

• 静态理论子空间：在主动提升的庞大设计空间中，存在一个子空间称为“静态理论”。该子空间对应于慢思考模型，其中隐序列的采样是静态的（即不依赖于内部时间演化），但模型仍需要处理多步推理。静态理论带来了两个重要的层级结构：

  • 表征层级（representation hierarchy）：按照隐空间表征的复杂程度（如是否包含因果结构、层次结构）进行排序。
  • 采样器层级（sampler hierarchy）：按照隐序列采样策略的复杂程度（如是否使用自回归、束搜索、强化学习等）排序。 模型可以通过在这两个层级上“爬升”来获得更强的慢思考能力，例如从简单自回归升级到结构化推理。

• 推理过程的内时间轴：主动提升推导出的推理过程具有内部时间轴（internal time axis），即模型在推理时并非一步到位，而是通过一系列内部步骤（隐序列）逐步逼近最终结果。每一步都基于当前隐状态进行预测、采样、更新，形成一个类似“慢思考”的迭代过程。

• 训练目标：主动提升的训练目标最小化编码长度，同时鼓励模型“发明”有效的隐语言（latent language），即隐序列具有类似于人类语言的组合性与结构。这类似于最小描述长度（MDL）原则，但主动提升还引入了信息论中的率失真（rate-distortion）权衡。

• 技术副产品：

  • 三阶段改进路径：首先提升表征层级（如从简单高斯隐变量到结构化因果图），然后提升采样器层级（如从贪心解码到树搜索），最后联合优化。
  • 统一编码器/生成器构建：对于任何模态（图像、文本、音频等），都可以通过主动提升框架设计对应的编码器（提升）和解码器（投影），且共享相同的理论原则。
  • 类人视觉表征：该理论可自然推导出类似人类视觉系统中的层级、局部-全局结构，而无需手工设计。
  • 策略崩溃解决方案：在强化学习或多步决策中，策略崩溃（policy collapse）指模型过早收敛到次优策略，主动提升通过不确定性最大化采样避免了这一问题。

关键要点

• 主动提升（active lifting）是一种从第一性原理出发的、关于慢思考与主动感知的数学理论，基于概率分布的提升与投影。
• 它将慢思考模型定位在静态理论子空间内，并通过表征层级与采样器层级两个维度进行系统化分级。
• 推理过程具有内部时间轴，模型通过隐序列的逐步采样来降低不确定性，实现“慢思考”。
• 训练目标兼有最小编码长度与语言发明特性，体现了信息论与认知科学的融合。
• 主动提升为改进现有慢思考大语言模型提供了明确的三阶段路径：升级表征 → 升级采样器 → 联合优化。
• 该理论统一了所有数据模态的编码器与生成模型设计，可视为一个通用架构生成框架。
• 能够先验地形成类人视觉表征，无需大量标注数据。
• 为策略崩溃问题提供了基于信息驱动机制的可能解决方案。

意义与影响

本文是认知功能第一性原理建模系列的重要成果，将慢思考从经验性设计提升到理论推导的层面。其意义在于