Lacuna Inc. 提出IVD-SSM模型分离叙事相似性

背景

叙事相似性评估是计算语言学领域的一项深层次挑战。两段故事可能在具体人物、地点、物件上完全不同，但其情节结构、因果链条、动机走向却高度一致；反之，表面上相似的措辞却可能指向截然不同的叙事意图。传统的文本相似度方法（如基于词汇重叠、语义嵌入的余弦相似度）难以捕捉这种抽象层面的对应关系，而标准 Transformer 模型在处理长序列因果链时又受制于二次复杂度的瓶颈。

SemEval-2026 Task 4 聚焦于“叙事故事相似性与叙事表示学习”（Narrative Story Similarity and Narrative Representation Learning），下设两个子任务：Track A（成对比较判断，pairwise comparative judgments）和 Track B（密集表示学习，dense representation learning）。参赛系统需要在区分叙事结构不变性（invariant）与表面词汇变体（variant）之间找到可微分、可扩展的计算框架。Lacuna Inc. 提交的论文正是针对这一任务所设计的模型——Invariant-Variant Disentangled State-Space Model (IVD-SSM)，核心思路是利用混合状态空间模型（State-Space Model）结合一种新颖的结构化门控对齐头（Structurally Gated Alignment Head）来实现叙事相似性的解耦判别。

核心内容

Lacuna Inc. 提出的 IVD-SSM 包含以下关键技术组件：

1. 基础骨架：混合状态空间模型（Jamba-1.5-Mini）
   传统的 Transformer 在处理长文本时会因自注意力机制的二次复杂度（O(N²)）而迅速膨胀。该工作选择 Jamba-1.5-Mini 作为主干网络——这是一种混合架构，融合了状态空间模型（SSM）与 Transformer 的稀疏注意力层。状态空间模型能以线性复杂度处理序列，非常适合建模叙事中跨多个句子的高维因果链，同时保留 Transformer 的上下文表达能力。Jamba-1.5-Mini 作为预训练 backbone，负责将原始叙事文本编码为连续的隐状态序列。

2. 结构化门控对齐头（Structurally Gated Alignment, SGA）
   这是本论文的核心创新，一个完全可微分的算法级模块，在两种尺度上并行运行：

   • Macro-path（宏观路径）：采用大步长（heavily strided）的卷积或池化操作，从隐状态序列中抽取出故事的整体结构骨架。这条路径的输出是对叙事宏观情节走向的紧凑表征，丢弃了细粒度的词汇细节。
   • Micro-path（微观路径）：以全分辨率（full-resolution）保持原始序列的每一个隐状态，保留所有语义细节。
   • 门控机制：Macro-path 的粗粒度表征作为门控信号（gating signal），逐位置地过滤 Micro-path 的输出。具体而言，当某个位置的宏观结构不显著或属于语义噪声时，门控信号会抑制该位置的细节信息；反之，若该位置是关键情节节点（如因果转折点），则允许细节通过。这种机制主动压制了表面词汇重叠（如同名、同地名等 superficial keyword overlaps）带来的假阳性匹配，同时增强了结构对齐的鲁棒性。

3. 解耦训练与评估
   模型在 Track A（成对比较判断）上学习预测两段故事之间的相对相似性分数（比较性任务）；在 Track B（密集表示学习）上通过对比学习获得每个故事的固定维度嵌入，用于后续检索或聚类。实验表明，显式分离结构不变性（invariant）与词汇变体（variant）的方法，为深层叙事理解提供了原则性且鲁棒的框架。论文在 arXiv 上提交时（2026年7月3日）未给出具体数值结果，但指出该方法在其两个子任务评估中均表现有效。

关键要点

• 任务本质：叙事相似性要求模型忽略具体名称、角色、物体、场景等表层元素，抽象出因果关系与情节推进模式——这是传统文本相似度方法无法胜任的。
• 架构突破：采用混合状态空间模型（Jamba-1.5-Mini）替代纯 Transformer 骨干，以线性复杂度处理长程因果链，避免了二次瓶颈。
• 核心创新：SGA Head：一种可微分的双尺度门控架构。Macro-path 提取粗粒度情节骨架，作为门控信号控制全分辨率 Micro-path 的细节传递，从而压制语义噪声和关键词重叠干扰。
• 解耦策略：明确区分“结构不变性”（structural invariants，如故事弧线、因果转折）与“词汇变体”（lexical variants，如具体人名、地名），并将这一先验知识注入网络设计中。
• 双任务统一性：同一模型在两个子任务上（成对比较与表示学习）均能工作的设计，表明该框架具有较好的泛化能力，可作为叙事表示的基础范式。

意义与影响

1. 为叙事理解提供新范式：长期以来，计算叙事学缺乏能够同时处理抽象结构和表面细节的端到端可微分模型。IVD-SSM 通过结构化的双尺度门控机制，首次在状态空间模型上实现了叙事不变性的显式解耦，为后续研究开辟了新的思路。

2. 推动状态空间模型在复杂语义任务中的应用：Mamba 类模型（如 Jamba）在长序列处理上已有显著优势，但其在高级语义任务（如叙事推理）中的潜力尚未被充分挖掘。本工作证明了状态空间模型不仅适用于语言建模与长文档处理，也能胜任需要深层结构理解的对比判断任务。

3. 工业级叙事分析可能性：Lacuna Inc. 的命名暗示这一技术可能直接应用于产品级场景——例如多语言剧本创作中的情节查重、用户生成故事的相似度推荐、或法律文书中的叙事对比。可微分、线性复杂度的特性使得该系统能够扩展到大规模叙事语料库。

4. 对 SemEval 任务的贡献：SemEval-2026 Task 4 旨在推动叙事表征的标准化评估。IVD-SSM 提供了一种可复现、理论基础坚实的基线，其解耦思路或成为未来此类任务的标准组件。

5. 潜在局限与未来方向：论文尚未公开详细的超参数设置与消融实验数据（arXiv 预印本形式），Macro-path 的具体实现（如步长选择、池化方式）以及门控机制的可解释性仍有待进一步验证。未来可探索将结构门控与因果推断更紧密结合，或在多模态叙事（如视频+文本）中扩展类似架构。