跨语言迁移学习提升低资源语音识别：从僧伽罗语到迪维希语
速览
本文研究跨语言迁移学习在低资源迪维希语自动语音识别（ASR）中的应用。通过从语言学上相关的僧伽罗语进行持续预训练，再在迪维希语上微调并配合KenLM语言模型，系统实现了12.89%的词错误率（WER）和2.70%的字符错误率（CER），比纯迪维希语基线分别降低13.50%和3.02%。控制实验使用不相关的土耳其语验证了语言亲缘关系的重要性，同时迁移策略和解码配置也至关重要。
AI 深度解读
背景
Dhivehi 是马尔代夫的官方语言，目前自动语音识别（ASR）及其他自然语言处理任务中资源极度匮乏。与之形成对比的是，僧伽罗语（Sinhala）作为同属印度-雅利安语支岛屿分支的语言，拥有相对丰富的语言资源。两者在语言学上具有亲缘关系，这为通过跨语言迁移学习来改善 Dhivehi ASR 性能提供了可能。本研究旨在探索从僧伽罗语向 Dhivehi 进行跨语言迁移学习的有效性，以缓解低资源语言 ASR 的瓶颈。
核心内容
研究团队设计了共计 17 项受控实验，覆盖五种迁移学习范式：
- 仅 Dhivehi 基线（Dhivehi-only baselines）：在纯 Dhivehi 数据上训练模型，作为性能下限。
- 顺序微调（sequential fine-tuning）：先在僧伽罗语上预训练，再在 Dhivehi 上微调。
- 多语言微调（multilingual fine-tuning）：同时使用僧伽罗语和 Dhivehi 数据进行联合微调。
- 持续预训练（continual pre-training）：在僧伽罗语上持续预训练后，再在 Dhivehi 上微调。
- 控制实验：使用与 Dhivehi 无关的土耳其语（Turkish）作为对比，验证迁移效果是否源于语言亲缘关系。
最强系统采用 持续预训练 + 僧伽罗语 + 微调 + KenLM 解码 的方案，在 Dhivehi 测试集上取得了 12.89% 的词错误率（WER） 和 2.70% 的字符错误率（CER），相比仅使用 Dhivehi 的基线模型，WER 降低了 13.50 个百分点，CER 降低了 3.02 个百分点。
土耳其语控制实验的结果证实，观察到的性能提升主要来自语言间的亲缘关系，而非通用的迁移学习机制。此外，研究还发现 迁移策略与解码配置 对最终效果同等关键，并不能简单依赖语言相似性。
关键要点
- Dhivehi 是典型的低资源语言，ASR 系统开发面临数据稀缺挑战。
- 僧伽罗语与 Dhivehi 同属印度-雅利安语支岛屿分支，语言学亲缘关系是跨语言迁移的基础假设。
- 研究通过 17 项受控实验覆盖五种迁移学习范式，建立了系统化的对比框架。
- 持续预训练 + 僧伽罗语 + KenLM 解码的方案表现最优，WER 降至 12.89%，CER 降至 2.70%。
- 与仅 Dhivehi 基线相比，WER 绝对降低 13.50 个百分点，CER 绝对降低 3.02 个百分点。
- 土耳其语控制实验排除了非特异性迁移因素的干扰，证明语言亲缘关系是效果提升的主因。
- 迁移策略（如预训练方式、微调选择）和解码配置（如使用 KenLM 语言模型）对最终性能同样重要。
意义与影响
该研究为低资源语言的 ASR 开发提供了可复现的迁移学习范式。通过利用与目标语言具有亲缘关系的高资源语言，可以显著提升低资源语言的语音识别性能，而无需从头收集大量标注数据。这一思路对马尔代夫等小语种地区具有直接应用价值，也为其他低资源岛语（如马尔代夫语、斯里兰卡僧伽罗语、马尔代夫迪维希语）的 NLP 工具开发提供了方法论参考。同时，研究强调了对迁移策略和解码配置进行精细调优的必要性，提示未来研究不能仅依赖语言相似性，而应系统性地优化整个管道。该方法可推广至更广泛的低资源语言场景，推动语言多样性的技术包容。