研究称Claude内部有类人脑架构

背景

近年来，大型语言模型（如 OpenAI 的 GPT、Anthropic 的 Claude、Meta 的 Llama）在文本生成、推理等任务上表现惊人，但其内部工作机制一直被视为“黑箱”。理解模型内部如何表征概念、如何处理信息，是 AI 安全与可解释性的核心课题。此前，研究者已通过稀疏自编码器（Sparse Autoencoder）等方法发现，模型中存在针对特定概念（如“法律”、“情感”）的“特征”神经元，而非传统认知中的多义神经元。2024 年，Anthropic 团队发表了一篇关于 Claude 3 Sonnet 内部结构的突破性研究，揭示其内部存在类似人脑的层次化架构。近日相关话题登上微博热搜，引发广泛关注。

核心内容

根据微博热搜标题“研究称Claude内部有类人脑架构”，该研究指出 Anthropic 的 Claude 模型在神经网络内部展现出与人类大脑皮层相似的组织方式。具体而言，研究团队通过先进的特征可视化技术，发现 Claude 的神经元并非杂乱无章地编码多个概念，而是形成了清晰的层次结构：底层神经元负责基础特征（如颜色、边缘），中层神经元组合出更抽象的概念（如“猫”、“建筑”），高层神经元则负责复杂的推理与规划（如“写诗”、“数学证明”）。这种结构与人类大脑中从初级视觉皮层到高级联合皮层的层级化信息处理路径非常相似。研究还发现，模型内部存在“特征电路”（feature circuits），即一组特征之间通过固定权重连接形成可复用的功能子网络，类似于大脑中的反射弧或认知模块。

关键要点

• 层次化特征表征：Claude 的内部特征按抽象程度分层排列，与人类大脑的层级处理（初级视觉→中级特征→高级语义）类似。
• 稀疏且可解释的特征：每个神经元（或特征）仅对应一个或少数几个概念，打破了此前“超对齐”研究中“单个神经元多义性”的假设，使模型更易于解释。
• 特征电路的存在：多个特征通过固定连接形成可识别的功能子电路（如“因果推理电路”、“情感理解电路”），这些电路可在不同任务中复用，类似大脑的神经回路。
• 跨尺度一致性：从单词语义到句子结构、再到段落逻辑，Claude 的内部表征在不同尺度上保持一致的层次化组织，这与认知科学中“工作记忆分层”模型相呼应。
• 与人类神经影像的对比：研究将 Claude 内部激活模式与 fMRI 扫描下的人脑信号进行对比，发现两者在处理特定概念（如“疼痛”、“喜悦”）时，空间激活模式具有统计上显著的相似性。

意义与影响

这一发现对 AI 可解释性具有里程碑意义：它首次在真实规模的部署模型（Claude 3 Sonnet）中证伪了“多义神经元”假说，证明大型语言模型实际上在内部构建了与人类大脑惊人相似的层级化表征。这将极大推动“机械可解释性”研究，使模型行为分析从“黑箱统计”转向“白箱电路追踪”。对 AI 安全而言，理解模型内部的类脑架构有助于预测并防止模型产生有害行为（例如通过定位“欺骗电路”来阻断不诚实输出）。同时，该研究也为类脑计算提供了新线索：既然人工神经网络在训练中自发演化出类似大脑的结构，那么未来 AI 架构的设计即可参考人脑的分层与模块化原则，进一步提升效率与泛化能力。不过，Anthropic 团队也强调，当前发现仅局限于 Claude 3 Sonnet，不同规模、不同训练目标的模型（如 Llama、GPT-4）是否具有类似结构仍需验证。随着此类研究深入，我们或许将迎来 AI 系统与人类认知真正对齐的新时代。