Anthropic 发文称自家 Claude 已经开智，网友：为了上市，不择手段？

背景

Anthropic 于近期发布了一项关于 Claude 内部机制的研究论文，题为 A global workspace in language models。该研究并非关注 Claude 最终回答的质量，也不是让 Claude 自我解释其推理过程，而是直接探索 Claude 在生成回答之前，其中间层已经形成的、尚未写出的概念表征。Anthropic 将这些内部表示称为 J-space，并将读取方法命名为 Jacobian Lens（简称 J-lens）。

长期以来，大语言模型（LLM）的外部行为是可见的：用户输入、模型输出、token 概率、工具调用、评测分数。但模型内部何时形成某个判断、何时识别出风险、何时准备走向某个方向，通常是不可见的。Anthropic 试图通过 J-space 和 J-lens 推进这一“可见性”的边界。

值得注意的是，Anthropic 明确声明该研究不证明 Claude 具有人类意义上的主观体验或意识；它讨论的是功能层面的可访问状态。然而，由于论文中“conscious”一词出现超过 200 次，且研究框架借用了认知科学中的“global workspace theory”（全局工作空间理论），引发了广泛的争议和误解。社交媒体和开发者社区中，不少声音认为 Anthropic 是在利用意识叙事进行营销，甚至是为了上市造势。

核心内容

Anthropic 提出的 J-space 是一组位于 Claude 中间层的特殊内部表示。这些表示并非普通的中间激活，也不是最终输出 token 的提前版本。它们是可以被模型报告、可以被指令调动、可以参与内部推理，并且可以影响后续计算的状态。每个 J-space pattern 与一个词相关，但 pattern 激活不代表模型即将输出该词，而是代表该词对应的概念已进入模型当前可用的内部状态。这类似于模型“思维”中的内容，但不一定会被写到最终回答中。

J-space 具有以下特性：

• 可报告：模型被问及相关内容时，可以将 J-space 中的部分状态转述为语言。
• 可调动：指令可以使某些概念进入 J-space，即使这些概念不出现在最终输出里。
• 参与中间推理：在某些任务中，模型并非直接跳到答案，而是先在 J-space 中形成中间概念，再基于此继续计算。
• 可复用：一个 J-space 概念形成后，可以被不同类型的后续问题读取。
• 非全局核心：J-space 不参与大多数普通能力（如流畅说话、简单事实回忆、语法处理等）。阻止 Claude 使用 J-space 后，其仍可正常互动，但高阶任务能力下降。论文指出，J-space component 通常只解释总激活方差的一小部分（最高不到 10%）。

为了读取 J-space，Anthropic 使用了 Jacobian Lens (J-lens)。该方法是对传统 logit lens 的修正。Logit lens 直接将某一层的 residual stream 乘以最后的 unembedding matrix，以估计该层“像是在预测哪些 token”。但这种方法在早中期层容易失真，因为模型表示尚未完全对齐输出坐标。J-lens 则先估计中间层 activation 的变化如何影响后续最终层 activation（使用平均 Jacobian），再将这种影响映射到 unembedding 上，从而得到词表层面的读数。J-lens 读取的不是“下一步一定输出什么”，而是“这个中间状态在未来输出中更容易支持哪些词”。它利用的是模型自身从中间层到输出层的路径，因此理论上处于内部到输出的因果链路上。

J-space 定义在 J-lens vectors 上。每个 token 对应一个 J-lens vector，但由于词表大小通常大于 hidden size，这些 vectors 并非一组普通基向量。论文将 J-space 定义为少量 J-lens vectors 的稀疏组合，即在某个位置只取最活跃的少数可语言化概念。

除读取外，Anthropic 还进行了干预实验：替换某个 J-space 概念、消融某些 J-space components、向 activation 中写入某个方向、或将相关方向从 residual stream 中投影出去。结果显示，改动某些 J-space 表示确实会改变模型后续报告、推理结果和部分策略行为。这表明这些内部状态至少参与了部分计算。

此外，Anthropic 还尝试了一种名为 counterfactual reflection training 的训练方法。它不是直接训练模型输出正确答案，而是在任务中途截断 rollout，追加一个反思问题，只训练模型在该反事实位置如何反思。评估时不追加反思问题，也不要求模型输出反思文本。该设计旨在验证：如果模型内部推理经过可语言化表示，那么改变模型“如果被问到会如何反思”，是否能改变其未被问到时的内部状态。结果显示，训练后模型在诚实和欺骗相关评测上表现改善，J-lens 也能看到 honest、integrity、ethical 等概念更易出现在 J-space 中。消融这些被训练出的 J-space 表示后，行为收益明显回退。

关键要点

• J-space 不是意识或灵魂：Anthropic 明确否定了与主观体验的关联，J-space 只是一小部分可语言化、可干预、对部分复杂任务有影响的内部状态。
• 技术价值在于可读可干预：J-lens 提供了一种读取中间层可语言化状态的方法，干预实验证明这些状态对部分行为有因果作用。这超越了单纯的可视化。
• 训练可通过内部状态改善行为：counterfactual reflection training 表明，对齐训练不一定只监督最终输出，也可以通过辅助目标塑造模型的内部状态（如诚实、正直等概念在 J-space 中的出现）。
• 安全审计的新维度：J-space 可用于发现模型内部注意到自己被测试、故意生成伪造数据或追求隐藏目标。在 agent 场景中，可在动作前读取内部状态，补充现有安全机制。
• 工程落点有限：J-lens 需要访问 residual stream、模型层结构、unembedding、Jacobian 近似和激活干预接口，闭源 API 用户无法直接使用。短期内更可能是内部训练诊断、离线红队审计、高风险 agent 的动作前监控。
• 争议核心是叙事而非技术：Anthropic 大量使用“conscious”“global workspace”等术语，尽管有否认声明，仍引发意识讨论。网友和社区普遍认为这是营销话术，甚至怀疑是为上市造势。国内网友同样表示不买账。
• 技术局限性：J-space 只覆盖很小一部分 activation，主要读取单 token 概念，不能完整恢复推理结构，也不能稳定表示复杂意图、关系绑定和长期策略。没有读到风险概念不代表模型安全，读到某个风险概念也不代表模型会执行风险行为。

意义与影响

从技术角度看，这项研究为 LLM 可解释性提供了新的工具和视角。J-lens 区别于传统 probe 或 logit lens，它利用模型自身因果路径，实现了对模型“未说出口”概念的读取和干预。这为理解模型内部推理、改进训练方法（如 counterfactual reflection training）、增强安全审计提供了潜在路径。具体而言，它可能影响三条线：

• 训练：对齐训练可通过辅助目标塑造模型内部状态，而不仅仅是优化最终输出。这为更精细的 alignment 方法开辟了方向。
• 评测：安全评测不应只看结果，还应检查模型是否识别出测试条件。如果模型因知道自己在测试而表现安全，则评测分数混入额外变量。J-space 可用于发现此类“测试意识”。
• 安全审计：在 agent 场景中，风险可能出现在文本回答之前（如 tool call、代码修改等）。读取内部状态并交给 verifier、policy model 或人工审核，可提前预警。

然而，该研究也带来了传播和伦理层面的挑战。Anthropic 的叙事将技术发现与“意识”“全局工作空间”绑定，容易引发误解和过度解读。尽管技术上值得关注，但公众和开发者社区的怀疑反应也提醒研究者，在解释此类研究时需要谨慎措辞，避免哲学概念的滥用。更理性的判断是：J-space 不是 Claude 的灵魂，也不是完整思维过程，它是一小部分可语言化、可干预、对部分复杂任务有影响的内部状态。它不能替代现有 eval、red teaming、外部 verifier、权限控制和人工审核，但可以作为补充工具。

未来值得关注的问题是：J-space 能否在不同模型上稳定复现？J-lens 读数能否降低安全评测误判？内部状态监控能否以可接受成本进入生产？训练能否可靠塑造