无需元数动作的非二值自底向上句法分析

背景

成分句法分析是自然语言处理中的一项经典任务，旨在将句子解析为嵌套的短语结构树（constituency tree）。传统的自底向上（bottom-up）成分句法分析通常采用基于转移（transition-based）的方法，其中每一步转移动作需要同时指定母亲标签（mother label）和子节点数量（arity）。例如，形如 Reduce-X#k 的归约动作明确要求给出标签 X 和被归约的孩子个数 k。这种“带元数（arity）动作”的设计使得动作空间随句法标签和元数组合而膨胀，尤其在非二叉（non-binary）树结构中，标签和元数的联合编码导致动作库存较大，给模型训练和推理带来额外负担。

近年来，研究者尝试简化转移系统，例如通过将元数参数化或引入二叉化（binarization）来间接处理非二叉树。但这些方法要么改变了原始树的拓扑结构（如二叉化需要后续重建），要么仍将元数作为动作的一个必要维度。本文提出了一种去元数的自底向上非二叉成分句法分析方法，通过引入分隔符（delimiter）和标签标记（label marker）来间接推导归约时的子节点数量，从而将元数从动作标签中彻底分离，仅作为状态的派生属性。

核心内容

本文的核心贡献在于：设计了一个无需元数动作的非二叉自底向上成分句法分析转移系统。该系统放弃了传统的 Reduce-X#k 动作，转而将母亲标签的引入与归约过程的实现分离处理。具体来说，系统在每一步转移中独立地预测当前成分的标签（通过一个专门的动作引入“label marker”），而归约动作本身只决定何时以及如何将栈上的若干节点组合起来，不显式指定组合的子节点个数。

归约发生的关键在于一个活跃的分隔符（delimiter）机制。分析过程中，句法成分的边界由分隔符（如特殊边界符号）在栈上界定。当模型预测到一个归约动作时，系统会从当前栈配置中自动推导出归约范围：自栈顶向上直到遇到最近的一个分隔符，该分隔符之间的所有节点即被归约。由于分隔符与标签标记的配对关系唯一确定了归约需要包含的节点个数，元数变为由分析器状态（active delimiter 和 label marker）唯一决定的派生属性，而不再是一个需要显式预测的动作参数。

这种因子化（factorization）设计使得系统在保持直接构建原始非二叉树（无需二叉化）的同时，显著缩小了动作库存。实验在 Penn Treebank (PTB) 和 Chinese Treebank (CTB) 上进行，与基于元数动作的自底向上基线系统（采用相同实现框架）相比，分隔符引导的分析器在性能上保持竞争力（例如 F1 分数相近），但使用的动作类型数量大幅减少。分析进一步表明，该预测器输出的元数分布与金标准树库的元数分布高度吻合，并且在高元数成分的处理上，即使移除了元数动作，预测结果也不会出现坍缩（collapse）——即高元数成分仍能被正确识别和构建。

关键要点

• 创新点在于证明了元数参数并非自底向上非二叉成分句法分析中转移动作的必要组成部分，可以将其从动作标签中剥离。
• 归约的子节点个数由栈上活跃分隔符与标签标记共同决定，是分析器状态的派生属性，而非必须由模型直接预测的动作维度。
• 母亲标签的引入和归约动作的操作被解耦（decoupled），标签通过独立动作引入，归约只负责组合已标记好标签的成分。
• 在 PTB 和 CTB 上的实验表明，该方法与采用相同实现框架的元数动作基线系统性能相当，但动作库存显著减少。
• 模型预测的元数分布与金标准树库非常接近，高元数成分在无元数动作的情况下依然能被有效构建，没有出现退化或丢失。

意义与影响

该工作从原理上重新审视了自底向上转移系统的动作设计，提出了一种更简约、更优雅的因式分解方案。其直接意义在于：通过将元数从动作中消除，大幅缩减了动作空间，从而可能降低模型参数数量和训练难度，同时保持非二叉树的直接构建能力。这对于在大规模语料上训练高精度句法分析器具有实际价值，尤其是在需要处理多种句法标签和复杂树结构的场景下。

更深层的影响在于，它揭示了句法分析中的“状态-动作”关系可以进一步解耦，启发后续研究探索更模块化的转移设计。例如，标签预测与结构预测可以彼此独立优化，甚至采用不同的子网络。此外，该工作的分隔符思想也可以推广到其他序贯决策任务（如语义图解析或代码解析），其中组合操作的元数可以隐式地从状态配置中推导。

不过，该方法的局限性在于依赖分隔符的设置——分隔符的定义和嵌入方式可能会影响泛化能力，并且在某些语言或树库中，如果分隔符与标签标记的配对规则不够清晰，可能导致误差传播。整体而言，这是一项在理论和实践上都有亮点的句法分析技术进步，为化简转移系统提供了新的思路。