1. 研究背景与核心问题
在教育技术领域,智能辅导系统(ITS)已经发展了数十年,但传统系统往往受限于规则引擎的僵化响应和有限的知识覆盖。随着大语言模型(LLM)技术的突破,基于LLM的智能辅导展现出前所未有的潜力,但也面临三个关键挑战:
- 教学有效性不足:通用LLM虽然能生成流畅对话,但缺乏教学策略的针对性设计,难以系统性地提升学习效果
- 评估标准单一:现有方法多依赖人工评估或简单正确率指标,缺乏结合学习科学的多维度评估体系
- 计算成本高昂:直接使用GPT-4等商业API不仅费用高,还存在数据隐私和响应延迟问题
这项研究创新性地提出了"LLM辅导器+学生知识追踪模型"的双模型框架,通过直接偏好优化(DPO)方法微调开源Llama 3.1 8B模型,在保持教学效果接近GPT-4o水平的同时,显著提升了学生正确响应预测能力。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 方法论深度解析
2.1 整体技术框架
研究采用"生成-评估-优化"的三阶段管道:
-
候选生成阶段:收集四种来源的辅导话语
-
偏好构建阶段:通过双重评估构建偏好对
- 认知维度:使用LLMKT学生模型预测各话语对应的学生正确响应概率
- 教学维度:GPT-4o基于教学评分标准(清晰度、适应性、脚手架设计等)评估话语质量
-
模型优化阶段:采用DPO算法对Llama 3.1进行微调
- 相比RLHF,DPO省去了显式奖励模型训练步骤
- 直接在偏好数据上优化语言模型策略
2.2 关键技术实现细节
2.2.1 LLMKT学生知识追踪模型
该研究的创新点之一是开发了专门的学生知识追踪模型LLMKT,其架构特点包括:
- 输入层:处理学生历史交互序列(问题、回答、时间戳等)
- 知识状态编码器:使用LSTM网络建模知识状态变化
- 预测头:输出在给定辅导话语后学生正确回答的概率
- 训练数据:来自在线学习平台的500万条学生交互记录
关键技巧:模型采用课程学习策略,先在大规模通用学生数据上预训练,再在目标学科(本研
