首届中文BabyLM挑战赛启动：训练高效认知合理语言模型
原标题：The First ChineseBabyLM Challenge: training data-efficient and cognitively plausible language models for Chinese
速览
这篇论文介绍了首届中文BabyLM挑战赛，将在2026年NLPCC会议举办。挑战赛要求参赛者使用1亿中文token从头训练语言模型，无限制选择分词器、模型架构和训练轮次。评估分为三个轨道：自然语言理解、认知对齐和汉字知识。该挑战旨在推动数据高效且认知合理的汉语语言模型研究。
AI 深度解读
背景
近年来，以 BabyLM 为代表的“数据高效”语言模型研究引起了广泛关注。BabyLM 挑战赛旨在鼓励研究者用极小的数据量（如 100M tokens）训练出认知合理且性能优异的语言模型，最初聚焦于英文。随着中文自然语言处理的发展，将这一范式拓展到中文领域具有重要价值。2026 年 NLPCC 会议将举办第一届 ChineseBabyLM 挑战赛，为中文数据高效语言模型的研究提供标准化评测平台。
核心内容
该论文正式发布了第一届 ChineseBabyLM 挑战赛的完整方案，挑战赛将于 2026 年 NLPCC 会议上举行。挑战赛要求参赛者使用 100M 中文 tokens 从头训练语言模型，并评估模型在三个赛道上的表现：
- NLU（自然语言理解）：衡量模型在标准中文 NLP 任务上的理解能力。
- 认知对齐（Cognitive Alignment）：评估模型的行为与人类认知加工模式（如心理语言学实验）的一致性。
- 汉字知识（Hanzi Knowledge）：考察模型对汉字字形、字义、字音等语言底层知识的掌握程度。
比赛对分词器（tokenizer）、模型架构和训练轮数不设限制，鼓励参赛者自由探索。论文同时提供了挑战赛的官方网址，供参赛者获取详细规则、数据集与评测基准。
关键要点
- 训练数据规模固定为 100M 中文 tokens，强调数据高效性。
- 设有三个独立评测赛道：NLU、认知对齐、汉字知识，分别覆盖语言理解、人类认知模拟和汉字专项能力。
- 对 tokenizer、模型架构、训练 epoch 无任何限制，支持创新。
- 挑战赛结果将在 2026 年 NLPCC 会议上公布，并接受论文投稿。
- 官方网址提供完整细节，包括数据、基线模型、评测脚本等。
意义与影响
ChineseBabyLM 挑战赛首次将 BabyLM 理念系统性地引入中文领域，为中文数据高效语言模型研究提供了标准化基准。其三个赛道设计兼顾了实用性能（NLU）、认知可解释性（认知对齐）和语言特异性（汉字知识），有助于推动中文语言模型向更小、更高效、更符合人类认知规律的方向发展。此外，该挑战赛有望吸引更多研究者关注低资源语言建模，并为中文 NLP 社区提供一个开放、可重复的评测平台。
查看原文 →arxiv.org