|
|
|
|
|
FDE 全套开源!华东师大发布中文教育大模型,数据、代码、权重全部开放 |
|
|
论文标题:An Open-Source Large Language Model for Chinese Education Research
期刊:Frontiers of Digital Education
作者:Wentao Liu, Hao Hao, Aimin Zhou
发表时间:23 Apr 2025
DOI:10.1007/s44366-025-0060-0
微信链接:点击此处阅读微信文章

《数字教育前沿(英文)》第2卷第2期

当下市面上主流大模型基本以英文语料训练为主,直接用于中小学、高校中文教学答疑、试题解析时,常常出现语义理解偏差、中英混杂输出等问题。同时绝大多数开源模型仅开放模型权重,训练数据集、完整训练流程不对外公开,教育方向研究者缺少可复现、可深度剖析的基础工具,很难开展教学适配、算法偏见等相关研究。针对这两大现实痛点,国内高校团队从零训练出CELL中文教育专用开源大模型,全套模型、数据集、代码全部公开,为中文教育AI研究提供完整可用基准。

文章介绍
华东师范大学刘文韬等在Frontiers of Digital Education(《数字教育前沿(英文)》)发表题为An Open-Source Large Language Model for Chinese Education Research(《面向中文教育研究的开源大语言模型》)的研究论文。研究选取了Llama 3、Qwen(通义千问)、ChatGLM等多款主流开源大模型作为评测基线,对比不同架构、注意力机制、词表体系在教育场景下的表现,以此为基础搭建15亿参数CELLM模型。
整套训练分为两大环节:第一阶段是预训练,专门使用中文教育专用数据集Chinese-fineweb-edu-v2,整套素材中文占75%,涵盖行业资料、安全文本、教学对话等多类内容,累计336亿训练字符,贴合国内各类教学场景。第二阶段做指令微调,作者设计自动化多轮翻译工具,把25.8万条海外英文教学问答批量转为中文数据,清洗后搭配国内数学、文科题库一起训练,总微调数据约160亿字符。
训练采用分布式训练框架,降低硬件压力。研究用国内C-Eval、CMMLU和国际MMLU、代码测试集MBPP做多维度测试,结果显示CELLM擅长文史、社科类考题,但数理、编程能力较弱,Python代码测试通过率仅0.6%。文章完整放出各学科得分数据,给后续同类教育模型提供对照标准。
该模型、训练数据集、实验代码全部对外开源,方便教育科研人员二次改造。研究也坦诚现有短板:15亿参数规模偏小,训练数据总量不及主流通用大模型,未来会扩充数据、更新模型版本,提升理科与代码解题能力。
科普视频
来源|上海智能教育研究院
文章信息
Wentao Liu, Hao Hao, Aimin Zhou. An Open-Source Large Language Model for Chinese Education Research. Frontiers of Digital Education, 2025, 2(2): 23
DOI:10.1007/s44366-025-0060-0

识别二维码 免费获取原文
往期回顾
论文解读 | 面向中文教育研究的开源大语言模型
论文解读 | K-12教育中大规模基础模型的当前趋势和未来前景
论文解读 | 大语言模型是认知诊断中的零镜头跨域诊断专家
招聘 | 高教社博士后科研工作站2026年度招聘简章
期刊介绍
期刊特点
1. 国际化投审稿平台ScholarOne Manuscripts
2. 严格的同行评议(Peer Review)
3. 免费语言润色,有力保障出版质量
4. 不收取作者任何费用
5. 不限文章长度。
6. 审稿周期:第一轮平均30天,投稿到录用平均60天
7. 在线优先出版(CAP)
8. 通过SpringerLink平台面向全球推广
在线浏览
https://journal.hep.com.cn/fde
(中国大陆免费下载)
https://link.springer.com/journal/44366
在线投稿
https://mc.manuscriptcentral.com/fde
邮发代号
80-164
联系我们
fde@hep.com.cn
010-58582379, 010-58581834

特别声明:本文转载仅仅是出于传播信息的需要,并不意味着代表本网站观点或证实其内容的真实性;如其他媒体、网站或个人从本网站转载使用,须保留本网站注明的“来源”,并自负版权等法律责任;作者如果不希望被转载或者联系转载稿费等事宜,请与我们接洽。