AI开放创新受困于词汇与验证器两大鸿沟

背景

近年来，人工智能系统在推理、代码生成、定理证明、工具使用以及长期研究任务等方向展现出日益强大的能力。这些进展无疑令人瞩目，但它们共享一个结构性的局限：模型运行的表征框架——包括其概念词汇、可搜索的合法解空间，以及评估成功的标准——通常是预先固定并提供给模型的。换言之，模型在一个封闭的“框架内”执行搜索，而无法主动改变这个框架本身。这种设计在应对明确定义的任务时高效，但面对需要开放式创新（open-ended innovation）的场景——即不断产生新概念、新问题、新评估标准——则显得力不从心。本文正是从这一观察出发，探讨如何跨越当前AI系统与真正开放智能之间的鸿沟。

核心内容

本文的核心论点是：构建能够进行开放式创新的更强智能系统，需要额外一类操作——创建、稳定和重用新的表征基元（representational primitives）。这些操作不只是在现有搜索空间内寻找解，而是改变搜索空间本身。为了量化当前AI系统与真正开放智能之间的距离，论文提出了两个关键鸿沟：

1. 词汇鸿沟（Vocabulary Gap）：指模型在发明并稳定新的表征基元（而非仅仅重组已有基元）方面的困难。例如，一个数学定理证明系统可能熟练运用现有公理，但很难自主创造出一个全新的数学概念，并将其稳定下来作为后续推理的基础。

2. 验证器鸿沟（Verifier Gap）：指判断一个新基元价值的困难——因为该基元的全部收益往往只有在未来被重复使用之后才能显现。例如，一个新提出的抽象概念在当下可能看起来无用，但在后续任务中可能成为关键工具。当前的验证机制（如奖励函数、评估指标）通常只能评估即时表现，无法预先“看到”远期价值。

论文将两个鸿沟统一到一个智能作为认知差异减少（cognitive discrepancy reduction）的框架中。它把智能行为视为一系列认知变换（cognitive transformations），并区分了两种类型：

• 空间内变换（intra-space transformations）：在固定表征框架内进行操作，不改变框架本身。这是当前大多数AI系统（包括大型语言模型、强化学习器等）所擅长的方式。
• 生成性变换（generative transformations）：可能修改表征框架本身，即改变概念词汇、搜索空间或评估标准。这是实现开放式智能的关键。

基于这一区分，作者提出了一个创新自主性阶梯（ladder of innovation autonomy），用以描述系统从完全依赖人类预设到自主生成新表征基元的渐进层次。为了推动AI迈向更高阶梯，论文指出了几个方向：

• 设计奖励函数，奖励那些能够引发有用表征变化的行为（即使这些变化在短期内不直接带来性能提升）。
• 构建持久记忆架构（persistent memory architecture），让系统能够长期存储并调用先前发明的基元，从而积累“词汇”。
• 开发自适应验证机制（adaptive verification mechanisms），能够随着所评估的表征一同进化，即验证器本身也需要具备灵活性，以应对不断变化的问题空间。

关键要点

• 当前AI的结构性局限：模型在固定表征框架内搜索，无法自主创建、修改或淘汰表征基元，限制了开放式创新。
• 两个核心鸿沟：
  • 词汇鸿沟：难以发明并稳定新概念/基元，而非仅重组已有概念。
  • 验证器鸿沟：难以评估新基元的远期价值，因为其收益可能只在未来重用中显现。
• 统一框架：将智能视为认知差异减少过程，通过两种变换（空间内 vs. 生成性）来区分常规操作与框架改变操作。
• 创新自主性阶梯：一个层次化的模型，描述系统从完全依赖预设到自主生成新表征基元的进化路径。
• 推进方向：
  • 设计奖励有用表征变化的目标函数。
  • 引入持久记忆架构以积累发明的基元。
  • 发展能随表征一同进化的自适应验证机制。

意义与影响

本文从表征框架的视角，系统性地指出了当前AI系统在开放式创新方面的根本瓶颈。它的贡献不仅在于提出了两个可操作的分析鸿沟（词汇鸿沟与验证器鸿沟），更在于将两者统一到认知差异减少的理论框架中，为后续研究提供了清晰的分类和度量基础。**“创新自主性阶梯”**这一概念也有助于研究人员定位现有系统的能力层级，并规划提升路径。论文所提出的方向——如奖励表征变化、持久记忆、自适应验证——虽然尚未给出具体实现细节，但为构建真正能自我演化的AI系统指明了关键设计原则。如果这些方向得以落实，AI将不再局限于对人类预设空间的搜索，而是