LEXIC：注入单词难度信号提升轻量眼动追踪性能
速览
本文提出LEXIC，一种轻量级眼动追踪扩展方法，通过直接拼接和残差机制注入GPT-2困惑度、词频和词长等预计算单词级难度信号。在OneStop阅读理解任务上，两种机制均带来AUROC的统计显著提升，其中LEXIC-Concat在未见文本上提升2.2个百分点，在未见读者上提升2.9个百分点。结果表明，无需额外语言模型，仅注入简单难度信号即可大幅缩小仅眼动模型与文本感知模型的差距。
AI 深度解读
背景
在眼动追踪与自然语言理解的交叉领域，近期提出的 EyeBench 基准测试为衡量模型从人类眼动数据中预测阅读理解能力提供了标准框架。该基准暴露了一个显著鸿沟：使用预训练语言模型的文本感知模型（即能访问文本内容的模型）在 AUROC 指标上可以达到 56%–63%，而 仅依赖眼动信号的模型（gaze-only） 性能却与随机猜测无异。这一差距促使研究者思考：在不借助任何语言模型的前提下，能否通过轻量级的条件机制，将纯眼动模型的预测能力推向更高水平。
核心内容
论文提出 LEXIC（Lightweight Eye-tracking eXtension via Injected Complexity） 系列模型，旨在通过注入预先计算好的词级难度信号，提升纯眼动模型在阅读理解预测任务上的表现。所有模型均构建于 EyeBench 提供的 AhnCNN 基线模型之上，该基线模型（称为 LEXIC-Base）仅使用眼动特征（如注视时间、位置等），不接触文本内容。
注入的信号包括三种与词汇处理难度相关的预计算特征：
- GPT-2 惊异度（surprisal）：反映词汇在语言模型中的意外程度
- 词频（word frequency）：词汇在日常语言中的出现频率
- 词长（word length）：字符数
这些信号被绑定到每次注视的输入特征上。论文提出了两种注入机制：
- LEXIC-Concat（直接拼接）：将三种词级难度信号直接与每个注视点的原有眼动特征拼接，送入卷积编码器。
- LEXIC-Res（残差机制）：用一个小型预测头（prediction head）根据词级信号预测“典型读者”在该注视点的眼动响应，然后将编码器实际接收的眼动特征与该预测值的偏差（残差）作为条件输入。这样做相当于让编码器学习个体读者偏离平均行为的模式。
实验设置：研究使用 OneStop 阅读理解数据集（眼动数据+阅读理解问题），采用 10 折交叉验证，每折训练 5 次不同随机种子的集成模型（K=5 seed-ensemble），最终报告平均 AUROC 和 Wilcoxon 符号秩检验的 p 值。评估分两个维度：
- Unseen Text：测试模型对未见过文本的泛化能力（新文本，读者已知）
- Unseen Reader：测试模型对未见过读者的泛化能力（新读者，可能见过或未见文本）
主要结果：
- 在 Unseen Text 上，两种机制均产生统计学上一致的 AUROC 提升：+1.8 到 +2.2 个百分点，Wilcoxon p ≤ 0.065（接近显著或显著）。
- 在 Unseen Reader 上，LEXIC-Concat 取得 +2.9 个百分点的提升，p = 0.010（显著），而 LEXIC-Res 仅提升 +1.8 个百分点，p = 0.19（不显著）。
架构边界的分析：论文指出 LEXIC-Res 在 Unseen Reader 上改进不显著的原因，在于其预测头是针对训练集读者的平均眼动模式进行校准的，当面对分布外的读者（即与训练读者眼动模式差异较大）时，这种校准迁移效果不佳，导致残差信号的信息量下降。
关键要点
- 纯眼动模型（gaze-only）在 EyeBench 基准上可以通过注入词级难度信号获得显著提升，而不需要语言模型。
- 三种注入信号（GPT-2 surprisal、词频、词长）均为预计算的静态特征，不依赖运行时的大模型推理，保持了轻量级。
- LEXIC-Concat 直接拼接信号，在两个泛化维度上均有效，尤其对 Unseen Reader 的提升显著（+2.9 个点，p=0.010）。
- LEXIC-Res 利用“期望与偏差”的残差机制，在 Unseen Text 上有类似增益，但在 Unseen Reader 上因预测头的训练集适应性问题效果受限（p=0.19）。
- 实验采用严格的 10 折 ×5 种子集成 框架，结果经 Wilcoxon 检验，增强了统计可靠性。
- 此项工作揭示了一个架构边界：基于平均读者校准的残差条件可能难以泛化至新读者群体，而直接拼接则更鲁棒。
意义与影响
LEXIC 系列模型首次证明了轻量级、无语言模型的眼动模型可以在阅读理解预测任务上突破随机水平，并接近文本感知模型的性能。其意义在于：
- 降低对文本内容的依赖：在隐私敏感场景（如无法获取原文的阅读研究）或资源受限设备（如眼动仪嵌入式系统）上，纯眼动模型结合少量预计算信号即可工作。
- 可解释性增强：注入的词级难度信号（尤其是 GPT-2 惊异度）本身具有认知语言学意义，有助于理解不同读者在词汇处理上的个体差异。
- 方法简洁可复现：仅需在现有眼动模型中添加少量特征工程，无需重新设计复杂架构，便于社区跟进。
- 未来方向：LEXIC-Res 的局限性提示，未来可以尝试对预测头进行领域自适应或元学习，使其更好地适应新读者；同时也可探索更多种类的认知信号（如注视跳转模式）进一步提升性能。
该工作为眼动追踪在自然语言理解中的应用提供了新的思路：通过注入外部复杂度信号，可以显著提升纯眼动模型的语义推断能力，推动眼动-语言模型从“盲猜”走向“有依据的预测”。