Dynamic Knowledge embedding and tracing
Georgia Institute of Technology(佐治亚理工学院)
知识追踪的目标是跟踪学生的知识状态,因为它随着时间的推移而演变。这在理解学习过程中起着基础性的作用,也是智能教学系统开发中的一项关键任务。在本文中,我们提出了一种新的知识跟踪方法,将矩阵分解技术与递归神经网络(RNN)的最新进展相结合,以有效地跟踪学生的知识状态。建议的\emph{DynEmb}框架,使学生的知识跟踪,即使没有其他知识跟踪模型所需的概念/技能标签信息,同时实现卓越的性能。我们提供的实验评估表明,DynEmb实现了改进的性能相比,基线和说明所提出的框架的鲁棒性和有效性。我们还使用几个真实世界的数据集来评估我们的方法,表明所提出的模型优于以前的最新技术。这些结果表明,将嵌入模型与序列模型(如RNN)相结合是知识跟踪的一个有前途的新方向。
2020-05-18 cs.AI cs.IR
pyBKT: An Accessible Python Library of Bayesian Knowledge Tracing Models
University of California, Berkeley(加州大学伯克利分校)
贝叶斯知识追踪是一种用于认知掌握估计的模型,是自适应学习研究的标志,也是部署的智能辅导系统(ITS)的一个组成部分。在本文中,我们提供了一个简短的历史知识跟踪模型的研究和介绍pyBKT,一个可访问的和计算效率的图书馆的模型扩展文献。该库提供数据生成,拟合,预测和交叉验证例程,以及一个简单易用的数据助手界面来摄取典型的导师日志数据集格式。我们使用各种数据集大小评估运行时,并与过去的实现进行比较。此外,我们使用模拟数据进行实验来评估其EM参数学习的准确性,并使用真实世界的数据来验证其预测,将pyBKT支持的模型变体与最初引入它们的论文中的结果进行比较。该图书馆是开放源代码和开放许可证,目的是使研究和实践社区更容易获得知识追踪,并通过更容易复制过去的方法来促进该领域的进展。
2021-05-29 cs.AI cs.CY cs.LG
Knowledge Tracing for Complex Problem Solving: Granular Rank-Based Tensor Factorization
University at Albany - SUNY(纽约州立大学奥尔巴尼分校);University of Pittsburgh(匹兹堡大学);Federal University of Rio de Janeiro(里约热内卢联邦大学)
知识追踪是用户建模的重要应用之一,旨在对学生的知识水平进行建模并预测其表现。现代KT方法根据学生尝试问题的历史表现,在一组课程概念上建模并保持学生知识的最新状态。然而,KT方法被设计为通过观察智能辅导系统中相对较小的问题解决步骤来建模知识。虽然这些方法被成功地应用到学生的知识模型,通过观察学生解决简单问题的解决方案,他们没有表现得很好的学生复杂的问题解决的建模。最重要的是,目前的模型假设,所有的问题尝试是同样有价值的量化当前学生的知识。然而,复杂的问题,涉及到许多概念在同一时间,这个假设是不够的。在本文中,我们认为,并不是所有的尝试是同等重要的发现学生的知识状态,和一些尝试可以总结在一起,以更好地代表学生的表现。我们提出了一种新的学生知识跟踪方法,基于粒度Rank的TEnsor因式分解(GRATE),动态选择学生的尝试,可以聚合,同时预测学生的表现在问题中,并发现其中提出的概念。我们在三个真实世界数据集上的实验表明,与最先进的基线相比,GRATE在学生成绩预测任务中的性能有所提高。进一步的分析表明,尝试聚合消除了学生发现的知识状态中不必要的波动,有助于发现问题中复杂的潜在概念。
2022-10-06 cs.AI cs.CY cs.LG
AdvKT: An Adversarial Multi-Step Training Framework for Knowledge Tracing
Shanghai Jiao Tong University(上海交通大学);Jilin University(吉林大学);Huawei Noah’s Ark Lab(华为诺亚实验室)
AdvKT通过对抗学习框架解决知识追踪中的误差积累和数据稀疏性问题,提升智能辅导系统推荐模型性能。
2026-01-04 cs.AI cs.CY cs.LG
Addressing Label Leakage in Knowledge Tracing Models
University of Applied Sciences(应用科学大学);Karlsruhe University of Education(卡尔斯鲁厄教育大学)
本文针对知识追踪模型中因将项目展开为知识概念而引发的标签泄漏问题,提出多种通用防泄漏方法,使模型变体一致超越原始模型并在多个基准上取得最优性能。
2025-04-07 cs.AI cs.CY cs.LG
Advancing Knowledge Tracing by Exploring Follow-up Performance Trends
Aalborg University(奥尔堡大学);Northeastern University(东北大学)
本文针对知识追踪中历史序列与未来表现的相关性冲突问题,提出前瞻性知识追踪方法FINER,通过提取并融合后续表现趋势,在六个数据集上显著超越十种最先进方法。
2025-09-22 cs.AI cs.CY cs.LG
Differentiating Student Feedbacks for Knowledge Tracing
East China Normal University(华东师范大学);Microsoft China(微软中国);Tencent China(腾讯中国)
针对当前知识追踪(KT)模型忽视历史回答不平衡区分度的缺陷,提出基于回答区分度重新加权贡献的框架及自适应预测分数融合技术,提升了三种主流KT方法在三个数据集上的性能。
2025-02-13 cs.AI cs.CY cs.LG
Knowledge Tracing: A Survey
Australian National University(澳大利亚国立大学)
人类通过教学转移知识的能力是人类智力的重要方面之一。人类教师可以跟踪学生的知识,以根据学生的需求定制教学。随着在线教育平台的兴起,机器也需要跟踪学生的知识并定制他们的学习体验。这在文献中被称为知识追踪(KT)问题。有效地解决KT问题将释放计算机辅助教育应用的潜力,如智能辅导系统,课程学习和学习材料的推荐。此外,从更一般的角度来看,学生可以代表任何类型的智能代理,包括人类和人工代理。因此,KT的潜力可以扩展到任何寻求为学生代理定制学习体验的机器教学应用场景(即,机器学习模型)。在本文中,我们提供了一个全面和系统的回顾KT文献。我们涵盖了广泛的方法,从早期的尝试到最近使用深度学习的最先进的方法,同时强调模型的理论方面和基准数据集的特征。除此之外,我们还阐明了密切相关的方法之间的关键建模差异,并以易于理解的格式对其进行了总结。最后,我们讨论了目前的研究差距在KT文献和可能的未来研究和应用方向。
2022-01-08 cs.AI cs.CY cs.LG
Knowledge Tracing with Sequential Key-Value Memory Networks
Australian National University(澳大利亚国立大学)
机器能像人类一样追踪人类知识吗?知识追踪(KT)是教育领域广泛应用的一项基本任务,如大规模开放式在线课程(MOOC)、智能辅导系统、教育游戏和学习管理系统等。它通过学生与学习活动的相互作用,对学生与不同学习概念的知识状态进行动态建模。最近,已经进行了几次尝试来使用深度学习模型来解决KT问题。尽管这些深度学习模型已经显示出有希望的结果,但它们也有局限性:要么缺乏更深入地跟踪学生如何掌握知识状态中的特定概念的能力,要么无法捕捉练习序列中的长期依赖关系。在本文中,我们通过提出一种新的知识跟踪深度学习模型,即顺序键值记忆网络(SKVMN)来解决这些限制。该模型结合了现有深度学习KT模型的循环建模能力和记忆能力的优势,用于对学生学习进行建模。我们在五个基准数据集上对我们提出的模型进行了广泛的评估。实验结果表明:(1)SKVMN在所有数据集上的性能均优于KT模型;(2)SKVMN能够更好地发现潜在概念与问题之间的相关性;(3)SKVMN能够跟踪学生动态的知识状态,并利用练习序列中的顺序依赖关系提高预测精度。
2019-10-29 cs.AI cs.IR cs.LG
Deep Trustworthy Knowledge Tracing
Seoul National University(首尔大学)
知识追踪是一种机器学习技术,它是智能教学系统的关键组成部分,可以根据学生过去的表现来估计他/她的掌握水平。KT的目的是预测学生对下一个问题的反应。与传统KT模型相比,基于深度学习的KT(DLKT)模型由于深度神经网络的表示能力而表现出更好的预测性能。人们已经提出了各种方法来提高DLKT的性能,但很少有人对DLKT的可靠性进行研究。在这项工作中,我们声称,现有的DLKT是不可靠的,在现实的教育环境。为了证实这一说法,我们从不同的角度,如知识状态更新失败,灾难性遗忘,和不可解释的DLKT的局限性。然后,我们提出了一种新的正则化来解决这些问题。所提出的方法使我们能够实现值得信赖的DLKT。此外,所提出的模型,这是在有遗忘的场景训练,也可以很容易地扩展到没有遗忘的场景。
2019-09-18 cs.AI
Enhancing Deep Knowledge Tracing with Auxiliary Tasks
Jinan University(暨南大学);Guangdong Institute of Smart Education(广东省智慧教育研究院);TAL Education Group(好未来教育集团);Think Academy International Education(学而思国际教育)
知识追踪(KT)是基于学生与智能教学系统的历史交互来预测学生未来表现的问题。最近的研究已经应用了多种类型的深度神经网络来解决KT问题。然而,现实世界的教育数据中有两个重要因素没有得到很好的体现。首先,大多数现有的作品增加输入表示的问题和知识成分的共现矩阵\footnote{\label{ft:kc}A KC is a generalization of everyday terms like concept, principle, fact, or skill.}(KCs),但没有明确地将这种内在的关系到最终的响应预测任务。第二,学生的个性化历史表现没有得到很好的捕捉。在本文中,我们提出了\emph{AT-DKT}来提高原始深度知识追踪模型的预测性能,并使用两个辅助学习任务,即,\emph{question tagging (QT) prediction task}和\emph{individualized prior knowledge (IK) prediction task}。具体来说,QT任务通过预测问题是否包含特定的KC来帮助学习更好的问题表征。IK任务通过逐步预测隐藏在学生历史学习交互中的学生水平先验知识来捕获学生的全局历史表现。我们在三个真实世界的教育数据集上进行了全面的实验,并将所提出的方法与深度序列KT模型和非序列模型进行了比较。实验结果表明,\emph{AT-D…
2023-02-14 cs.AI cs.CY cs.LG
AlignKT: Explicitly Modeling Knowledge State for Knowledge Tracing with Ideal State Alignment
School of Computer Science South China Normal University Guangzhou, China(计算机科学学院 华南师范大学 广州, 中国);School of Artificial Intelligence South China Normal University Foshan, China(人工智能学院 华南师范大学 广州, 中国)
针对现有知识追踪模型忽视知识状态导致可解释性差的问题,提出AlignKT模型,采用前端到后端架构结合教育学理论定义的理想状态进行对齐,并引入对比学习增强鲁棒性,在多个数据集上取得优异性能。
2025-09-14 cs.AI
Attentive Q-Matrix Learning for Knowledge Tracing
Lanzhou University(兰州大学)
本文提出了一种端到端的QAKT模型,通过基于q-matrix和Rasch模型的混合嵌入方法,在无预定义技能标签的场景下高效学习Q矩阵并分层建模问题,在多种数据集上取得了优于现有方法的性能且具备高度可解释性。
2023-05-17 cs.AI cs.CY cs.LG
Cold Start Problem: An Experimental Study of Knowledge Tracing Models with New Students
New Mexico State University(新墨西哥州立大学)
本文研究了三种知识追踪模型在冷启动条件下的性能,发现SAKT在初始阶段表现较好,但整体需改进以适应新学生学习场景。
2025-05-22 cs.AI cs.CY
BKT-LSTM: Efficient Student Modeling for knowledge tracing and student performance prediction
Inria - Lille Nord Europe(法国国家信息与自动化研究所里尔北欧中心)
最近,我们看到在线教育平台的使用率迅速上升。个性化教育在未来的学习环境中变得至关重要。知识追踪(KT)是指检测学生的知识状态并根据其过去的成绩预测未来的表现,为智能教学系统(ITS)提供自适应的解决方案。贝叶斯知识追踪(BKT)是一个模型,以捕捉每个技能的掌握程度与心理意义的参数,并广泛应用于成功的辅导系统。然而,它无法检测跨技能的学习迁移,因为每个技能模型是独立学习的,并且在学生表现预测中显示出较低的效率。虽然最近基于深度神经网络的KT模型显示出令人印象深刻的预测能力,但它是有代价的。神经网络中数以万计的参数无法提供反映认知理论的心理学意义的解释。在本文中,我们提出了一种名为BKT-LSTM的高效学生模型。它包含三个有意义的组成部分:个人\textit{skill mastery}评估BKT,\textit{ability profile}(跨技能学习迁移)检测的k均值聚类和\textit{problem difficulty}。通过利用LSTM的预测能力,所有这些组件都被考虑到学生未来的表现预测中。BKT-LSTM通过考虑这些有意义的特征,而不是在DKT中使用学生过去交互的二进制值,在学生的表现预测方面优于最先进的学生模型。我们还对BKT-LSTM模型的每个组件进行了消融研究,以检查它们的价值,每个组件都对学生的表现预测做出了显着贡献。因此,它有可能在现实世界的教育系统中提供自…
2021-06-08 cs.AI
Enhancing knowledge tracing robustness for new question cold start in Intelligent Tutoring Systems
PICKT模型通过构建知识图谱关系,有效解决个性化学习中的冷启动问题,提升知识追踪的实用性与稳定性。
2026-09-17 cs.AI cs.CL cs.CY
In Search of Grandmother Cells: Tracing Interpretable Neurons in Tabular Representations
KI-Werkstatt University of Applied Sciences Berlin(KI-Werkstatt应用科学大学柏林)
本文提出两种信息论度量,用于量化神经元对单一概念的显著性和选择性,并在表格基础模型TabPFN中发现部分神经元对高层概念具有统计显著的显著性。
2026-01-07 cs.AI cs.LG
RegKT: Interpretable and Robust Deep Knowledge Tracing With IRT-Regularizer
Inria-Saclay(法国国家信息与自动化研究所萨克雷中心);University of Illinois Urbana-Champaign(伊利诺伊大学厄巴纳-香槟分校);Telecom-Sud Paris(南巴黎电信学院)
针对深度学习知识追踪模型可解释性差和易过拟合的问题,本文提出一种基于IRT正则化的新方法,同时提升模型稳健性与可解释性,以适用于真实教育应用。
2026-09-21 cs.LG
Mechanistic Data Attribution: Tracing the Training Origins of Interpretable LLM Units
University of Science and Technology of China(中国科学技术大学)
提出机械论数据归因(MDA)框架,利用影响函数将可解释单元追溯到特定训练样本,通过因果验证表明干预高影响样本可显著调节可解释头的涌现,并发现重复结构数据作为机械催化剂,同时验证了归纳头与上下文学习之间的功能联系。
2026-06-07 cs.AI cs.CL cs.LG
Augmenting Interpretable Knowledge Tracing by Ability Attribute and Attention Mechanism
Harbin Normal University(哈尔滨师范大学)
知识追踪的目的是通过对学生过去的答案序列进行建模,跟踪学生在练习活动中知识获取的变化,并预测他们未来的学习成绩。大多数现有的方法忽略了学生的能力是不断变化的或个体之间的差异,并且缺乏模型预测的可解释性。为此,本文提出了一种基于能力属性和注意力机制的新模型。首先对交互序列进行分段,获取学生的能力属性,然后动态地将学生分配到能力相近的组中,并通过计算练习与技能之间的注意力权重来量化练习与技能的相关性,以增强模型的可解释性。我们进行了广泛的实验,并评估了真实的在线教育数据集。结果表明,该模型的预测性能优于5种典型的知识追踪模型,并通过推理路径对模型预测结果进行了解释。
2023-02-04 cs.LG
Domain Adaption for Knowledge Tracing
University of Science and Technology of China(中国科学技术大学)
随着网络教育系统的迅速发展,以预测学生知识状态为目的的知识追踪成为个性化教育中的一项重要而基础的任务。传统上,现有的方法是领域指定的。然而,存在更大数量的域(例如,由于现实世界中的学科、学校)以及某些领域数据的缺乏,如何利用其他领域的知识和信息来帮助训练目标领域的知识追踪模型变得越来越重要。我们将这个问题称为知识跟踪的领域自适应(DAKT),它包括两个方面:(1)如何在每个领域实现更好的知识跟踪性能。(2)如何在不同领域之间传递性能良好的知识跟踪模型。为此,在本文中,我们提出了一种新的自适应框架,即自适应知识跟踪(AKT),以解决DAKT问题。具体而言,对于第一个方面,我们将教育特征(例如,滑动,猜测,问题文本)的基础上的深度知识跟踪(DKT),以获得一个良好的性能知识跟踪模型。对于第二个方面,我们提出并采用了三个领域自适应过程。首先,我们预训练一个自动编码器,以选择有用的源实例进行目标模型训练。第二,在最大平均差异(MMD)度量下,最小化特定领域知识状态分布差异,实现领域自适应。第三,针对源域和目标域输出维数不同的问题,采用微调的方法,使模型适用于目标域。在两个私有数据集和七个公共数据集上的大量实验结果清楚地证明了AKT具有良好的知识跟踪性能和卓越的可转移能力。
2020-01-14 cs.AI cs.LG
Learning Data Teaching Strategies Via Knowledge Tracing
Australian National University(澳大利亚国立大学)
教学在人类学习中起着基础性的作用。通常,人类教学策略将涉及评估学生的知识进展,以增强学习进展的方式定制教材。人类教师将通过跟踪学生在任务中重要学习概念的知识来实现这一点。然而,这种教学策略在机器学习中还没有得到很好的利用,因为当前的机器教学方法倾向于直接评估单个训练样本的进度,而不关注学习任务中的底层学习概念。在本文中,我们提出了一种新的方法,称为知识增强数据教学(KADT),它可以优化数据教学策略的学生模型,通过跟踪其知识的进步,在多个学习概念的学习任务。具体而言,KADT方法结合了一个知识跟踪模型,以动态地捕捉潜在的学习概念方面的学生模型的知识进展。然后,我们开发了一种注意力池机制,以提取学生模型关于类标签的知识表示,这使得能够在关键训练样本上开发数据教学策略。我们已经评估了KADT方法在四种不同机器学习任务上的性能,包括知识跟踪、情感分析、电影推荐和图像分类。与最先进的方法相比,经验验证了KADT在所有任务上始终优于其他方法。
2021-11-13 cs.AI cs.LG
Dynamic Key-Value Memory Networks for Knowledge Tracing
The Chinese University of Hong Kong(香港中文大学);Hong Kong University of Science and Technology(香港科技大学)
知识追踪(KT)是追踪学生在一系列学习活动中关于一个或多个概念的知识状态的任务。KT的一个重要目的是个性化的练习序列,以帮助学生有效地学习知识概念。然而,现有的方法,如贝叶斯知识跟踪和深度知识跟踪,要么模型知识状态为每个预定义的概念分别或无法准确地指出哪些概念是学生擅长或不熟悉。为了解决这些问题,这项工作引入了一个新的模型,称为动态键值记忆网络(DKVMN),可以利用底层概念之间的关系,并直接输出学生的掌握水平的每个概念。与标准的记忆增强神经网络,促进一个单一的记忆矩阵或两个静态记忆矩阵,我们的模型有一个静态矩阵称为键,存储的知识概念和其他动态矩阵称为值,存储和更新相应的概念的掌握水平。实验表明,我们的模型在一系列KT数据集中始终优于最先进的模型。此外,DKVMN模型可以自动发现通常由人类注释执行的练习的基本概念,并描绘学生不断变化的知识状态。
2017-02-17 cs.AI cs.LG
Domain Generalizable Knowledge Tracing via Concept Aggregation and Relation-Based Attention
本文针对新教育系统数据稀缺导致知识追踪性能下降的问题,提出领域泛化框架DGKT,通过概念聚合、SeqIN归一化和DGRKT模型缓解跨领域差异,在五个基准数据集上验证了其有效性。
2025-06-06 cs.AI cs.LG
Extending Deep Knowledge Tracing: Inferring Interpretable Knowledge and Predicting Post-System Performance
Graduate School of Education, University of Pennsylvania(宾夕法尼亚大学教育研究生院);Human-Computer Interaction Institute, Carnegie Mellon University(卡内基梅隆大学人机交互研究所)
最近的学生知识建模算法,如深度知识跟踪(DKT)和动态键值记忆网络(DKVMN),已被证明可以在同一个学习系统中准确预测问题的正确性。然而,这些算法并不试图直接推断学生的知识。在本文中,我们提出了一个扩展这些算法也推断知识。我们将此扩展应用于DKT和DKVMN,从而使知识估计与后测的相关性优于贝叶斯知识追踪(BKT)(一种旨在推断知识的算法)和另一种经典算法性能因素分析(PFA)的知识估计。我们还将我们的扩展BKT和PFA的正确性预测,发现它产生的知识估计相关性更好地与后测比BKT和PFA的标准知识估计。这些发现意义重大,因为教育的主要目的是让学生为即时学习活动之外的后续经历做好准备。
2020-08-31 cs.CY cs.LG stat.ML
Predictive, scalable and interpretable knowledge tracing on structured domains
University of Tübingen(蒂宾根大学);Cluster of Excellence Machine Learning(卓越机器学习集群);Tübingen AI Center(蒂宾根人工智能中心)
提出PSI-KT,一种分层生成方法,通过显式建模认知特征与知识先决结构,在保证可扩展贝叶斯推断的同时实现高准确率与可解释性,为个性化学习奠定基础。
2024-03-19 cs.CY cs.LG stat.ML
Towards an Appropriate Query, Key, and Value Computation for Knowledge Tracing
Riiid! AI Research(Riiid! 人工智能研究院);Yale University(耶鲁大学);University of Michigan(密歇根大学);UC Berkeley(加州大学伯克利分校)
知识追踪,即通过学习活动对学生的知识进行建模的行为,是计算机辅助教育领域中广泛研究的问题。虽然具有注意力机制的模型性能优于传统的方法,如贝叶斯知识跟踪和协同过滤,但它们有两个局限性。首先,这些模型依赖于浅层注意力层,无法捕捉练习和反应之间随时间变化的复杂关系。其次,没有广泛探索用于知识追踪的自我注意层的查询、键和值的不同组合。使用练习和交互(练习-响应对)分别作为查询和键/值的实际实践缺乏经验支持。在本文中,我们提出了一种新的Transformer为基础的知识跟踪模型,SAINT:分离的自注意神经知识跟踪。SAINT具有编码器-解码器结构,其中练习和响应嵌入序列分别进入编码器和解码器,这允许多次堆叠注意力层。据我们所知,这是第一个提出知识追踪的编码器-解码器模型的工作,该模型将深度自我关注层分别应用于练习和响应。在一个大规模知识追踪数据集上的实验结果表明,SAINT模型在知识追踪方面达到了最先进的水平,与现有模型相比,AUC提高了1.8%。
2021-02-01 cs.AI cs.CY cs.LG
Consistency and Monotonicity Regularization for Neural Knowledge Tracing
Riiid! AI Research;Graduate School of AI, KAIST(韩国科学技术院人工智能研究生院)
知识追踪(KT),跟踪人类的知识获取,是在线学习和人工智能教育的核心组成部分。在本文中,我们提出了一个简单而有效的策略,以提高KT模型的泛化能力:我们提出了三种类型的新的数据增强,杜撰的替换,插入和删除,以及相应的正则化损失,施加一定的一致性或单调性偏差的模型的预测的原始和增强序列。在各种KT基准测试上的大量实验表明,我们的正则化方案在3个广泛使用的神经网络和4个公共基准测试下,在DKT模型和ASSISTmentsChall数据集下,AUC改善了6.3%。
2021-05-03 cs.AI cs.LG
Disentangling Knowledge States with Ability and Proficiency Modeling for Knowledge Tracing
School of the Information Management, Wuhan University(武汉大学信息管理学院);School of Computer Science and Artificial Intelligence, Hubei University of Technology(湖北工业大学计算机科学与人工智能学院);Faculty of Artificial Intelligence in Education, Central China Normal University(华中师范大学人工智能教育学部)
研究旨在通过能力和熟练程度建模进行知识追踪,提出PAKT框架,基于定制机制分解学生交互,设计多分支Transformer捕获知识状态,通过因果分析揭示偏差,实验证明该方法优于基线。
2026-07-16 cs.AI cs.LG
Exercise Hierarchical Feature Enhanced Knowledge Tracing
AIXUEXI Education Group Ltd(爱学习教育集团有限公司)
知识追踪是计算机辅助教学系统中的一项基本任务。本文提出了一种层次化的练习特征增强的知识追踪框架,该框架通过融合练习文本中的知识分布、语义特征和难度特征来增强知识追踪的能力。大量的实验表明,我们的框架的高性能。
2020-10-23 cs.AI cs.CL cs.CY
MemoryKT: An Integrative Memory-and-Forgetting Method for Knowledge Tracing
School of Computer Science, South China Normal University, Guangzhou, China(华南师范大学计算机科学学院);School of Computing, National University of Singapore, Singapore(新加坡国立大学计算学院);Sichuan Artificial Intelligence Research Institute, Sichuan, China(四川省人工智能研究院)
本文提出基于时序变分自编码器的知识追踪模型memoryKT,通过学习记忆特征分布、重构练习反馈并嵌入个性化遗忘模块以动态调节存储强度,联合建模完整的记忆编码-存储-检索循环,显著提升了模型性能与个体差异感知能力。
2025-08-11 cs.AI cs.LG
Context-Aware Attentive Knowledge Tracing
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);Worcester Polytechnic Institute(伍斯特理工学院)
知识追踪(KT)是指在教育应用中根据学习者过去的表现来预测他们未来的表现的问题。KT的最新发展使用灵活的基于深度神经网络的模型擅长这项任务。然而,这些模型通常提供有限的可解释性,从而使它们不足以用于个性化学习,这需要使用可解释的反馈和可操作的建议来帮助学习者实现更好的学习效果。在本文中,我们提出了注意力知识追踪(AKT),它耦合灵活的注意力为基础的神经网络模型与一系列新颖的,可解释的模型组件的启发认知和心理模型。AKT使用一种新的单调注意力机制,涉及到学习者的未来的反应,以评估问题,他们过去的反应,注意力权重计算使用指数衰减和上下文感知的相对距离测量,除了问题之间的相似性。此外,我们使用Rasch模型来正则化概念和问题嵌入;这些嵌入能够在不使用过多参数的情况下捕获同一概念上问题之间的个体差异。我们在几个真实世界的基准数据集上进行了实验,结果表明,AKT在预测未来学习者响应方面优于现有的KT方法(在某些情况下,AUC高达$6\%$)。我们还进行了几个案例研究,并表明,AKT表现出良好的可解释性,从而在现实世界的教育环境中的自动反馈和个性化的潜力。
2020-07-24 cs.AI cs.LG
Incremental Knowledge Tracing from Multiple Schools
Nanyang Technological University(南洋理工大学);Institute for Infocomm Research (I2R), A-STAR(新加坡科技研究局资讯通信研究院)
知识追踪是根据学习者的表现历史来预测学习者未来表现的任务。目前的知识追踪模型是基于从多个学校收集的大量数据建立的。然而,由于数据隐私和PDPA政策,不可能汇集所有学校的学习者数据。因此,本文探讨了建立知识追踪模型的可行性,同时保护各自学校内的学习者数据的隐私。本研究使用ASSISTment 2009数据集的一部分进行,来自多所学校的数据被视为持续学习框架中的独立任务。结果表明,使用自注意知识跟踪(SAKT)算法顺序学习能够实现与将所有数据汇集在一起的性能相当相似的性能。
2022-01-07 cs.AI cs.CY cs.LG
Deep Knowledge Tracing
Stanford University(斯坦福大学);Khan Academy(可汗学院);Google(谷歌)
知识追踪-当学生与课程作业交互时,机器对学生的知识进行建模-是计算机支持教育中的一个公认问题。虽然有效地建模学生的知识将有很高的教育影响,任务有许多固有的挑战。在本文中,我们探讨了使用递归神经网络(RNNs)建模学生学习的效用。RNN模型家族与以前的方法相比具有重要的优势,因为它们不需要显式编码人类领域知识,并且可以捕获学生知识的更复杂表示。使用神经网络导致在一系列知识跟踪数据集上的预测性能的实质性改进。此外,学习模型可用于智能课程设计,并允许直接解释和发现学生任务中的结构。这些结果表明,一个有前途的新的研究路线的知识跟踪和RNN的示范应用任务。
2015-06-19 cs.AI cs.CY cs.LG
Deep-IRT: Make Deep Learning Based Knowledge Tracing Explainable Using Item Response Theory
Find Solution Ai Limited(Find Solution Ai有限公司)
基于深度学习的知识追踪模型已被证明优于传统的知识追踪模型,而不需要人工工程的功能,但其参数和表示长期以来一直被批评为无法解释。在本文中,我们提出了Deep-IRT,这是一个综合的项目反应理论(IRT)模型和知识追踪模型,是基于深度神经网络架构称为动态键值记忆网络(DKVMN),使深度学习为基础的知识追踪可解释。具体来说,我们使用DKVMN模型来处理学生的学习轨迹,并估计学生的能力水平和项目难度水平随着时间的推移。然后,我们使用IRT模型来估计概率,学生将正确回答一个项目使用估计的学生能力和项目的难度。实验表明,Deep-IRT模型保留了DKVMN模型的性能,同时提供了对学生和项目的直接心理解释。
2019-04-26 cs.AI cs.LG stat.ML
Efficient Knowledge Tracing Leveraging Higher-Order Information in Integrated Graphs
Graduate School of Data Science, KAIST(韩国科学技术院数据科学研究生院);Data Platform Team, SOCAR(SOCAR数据平台团队);Division of Computer Engineering, Hansung University(翰山大学计算机工程系);Department of Industrial and Systems Engineering, KAIST(韩国科学技术院工业与系统工程系)
针对大型图与长学习序列导致知识追踪计算成本升高的问题,提出DGAKT模型,通过处理学生—习题—KC相关子图利用高阶信息,在提升预测性能的同时显著降低内存与计算开销。
2025-07-24 cs.AI cs.LG
Advancing Personalized Learning Analysis via an Innovative Domain Knowledge Informed Attention-based Knowledge Tracing Method
Purdue University(普渡大学)
针对现有知识追踪忽视知识概念依赖的问题,提出融合课程中知识概念路径领域知识的注意力方法,并在 XES3G5M 上与七个 SOTA 深度学习模型比较。
2025-01-09 cs.AI cs.CY cs.LG
CIKT: A Collaborative and Iterative Knowledge Tracing Framework with Large Language Models
School of Computer Science and Technology, East China Normal University(计算机科学与技术学院,东华大学)
提出CIKT框架,利用大语言模型通过分析师与预测器的协同迭代优化,提升知识追踪的预测准确性、可解释性和可扩展性。
2025-05-23 cs.AI cs.LG
Enhancing Knowledge Tracing with Concept Map and Response Disentanglement
Department of Artificial Intelligence, Sungkyunkwan University(成均馆大学人工智能系);Department of AI Development, Poly Inspiration(Poly Inspiration人工智能开发部)
针对传统知识追踪忽略多项选择题具体选项信息的问题,提出CRKT模型,通过概念图编码和解耦表示利用未选选项,在预测准确性和可解释性上优于现有模型。
2024-08-23 cs.AI cs.LG
Leveraging Pedagogical Theories to Understand Student Learning Process with Graph-based Reasonable Knowledge Tracing
East China Normal University(华东师范大学)
针对现有深度学习知识追踪模型忽视知识掌握过程追踪、结果不合理的问题,提出基于图神经网络的GRKT方法,结合三阶段心理学建模流程,在三个数据集上优于11种基线,兼具高准确率与结果合理性。
2024-06-07 cs.AI cs.CY cs.LG
Option Tracing: Beyond Correctness Analysis in Knowledge Tracing
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
知识追踪是指一系列的方法,估计每个学生的知识成分/技能掌握水平,从他们过去的回答问题。大多数现有的知识追踪方法的一个关键限制是,它们只能估计每个知识成分/技能的学生的\emph{overall}知识水平,因为它们只分析学生响应的(通常是二进制值的)正确性。因此,很难用它们来诊断特定的学生错误。在本文中,我们扩展现有的知识跟踪方法超出正确性预测的任务,预测学生在多项选择题中选择的确切选项。我们在两个大规模的学生响应数据集上定量评估了我们的选项跟踪方法的性能。我们还定性地评估他们的能力,在识别常见的学生错误的形式集群的不正确的选项在不同的问题,对应于同一个错误。
2021-04-19 cs.CY cs.LG
Circuit Complexity of Hierarchical Knowledge Tracing and Implications for Log-Precision Transformers
Rice University(里士大学);University of Central Florida(中央佛罗里达大学)
本文分析了层次化先决条件传播的电路复杂性,揭示了变换器在深层概念层次上的计算能力,通过证明递归多数掌握传播属于NC^1,并探讨了单调性限制下的深度层次结构,以及经验结果表明变换器在递归多数树上收敛于排列不变的捷径。
2026-03-25 cs.AI cs.LG
Knowledge Tracing Machines: Factorization Machines for Knowledge Tracing
RIKEN Center for Advanced Intelligence Project(理化学研究所先进智能项目中心);Kyoto University(京都大学)
知识追踪是一个序列预测问题,其目标是预测学生在与学习平台交互时对问题的结果。通过跟踪一些学生知识的演变,可以优化教学。现有的方法要么是基于时间潜变量模型,或因素分析的时间特征。我们在这里表明,因子分解机(FM),回归或分类模型,包括几个现有的模型在教育文献中的特殊情况下,特别是添加剂因子模型,性能因子模型,和多维项目反应理论。我们表明,使用几个真实的数据集的成千上万的用户和项目,FM可以准确和快速地估计学生的知识,即使学生的数据是稀疏观察,并处理边信息,如多个知识组件和尝试次数在项目或技能水平。我们的方法允许适应比现有模型更高维度的学生模型,并提供了一个测试平台来尝试新的功能组合,以改善现有模型。
2018-11-15 cs.AI cs.IR cs.LG
Application of Deep Self-Attention in Knowledge Tracing
Zhejiang University(浙江大学)
智能教学系统的发展极大地改变了学生的学习和实践方式,提高了学生的学习效率。智能教学系统在向学习者提供反馈和建议之前,必须对学习者掌握的知识进行建模,因此一类称为“知识追踪”的算法就显得尤为重要。基于PTA的数据,提出了深度自主知识追踪(Deep Self-Attentive Knowledge Tracing,DSAKT)方法,以帮助学生提高学习效率。在PTA数据集上的实验表明,DSAKT模型的AUC平均提高了2.1%,在ASSIST数据集上也有很好的性能。
2021-05-23 cs.LG
Equity and Fairness of Bayesian Knowledge Tracing
University of Vienna(维也纳大学);Max-Planck Institute for Software Systems(马克斯·普朗克软件系统研究所)
我们考虑从知识追踪模型中得出的课程的公平性和公正性。我们首先定义了一个统一的概念,一个公平的辅导系统作为一个系统,实现最大可能的知识,在最短的时间为每个学生与它互动。实现完美的公平需要辅导系统,可以提供个性化的课程,每个学生。特别是,我们调查的公平辅导系统,从知识追踪模型的课程设计。我们首先表明,许多现有的模型,包括经典的贝叶斯知识跟踪(BKT)和深度知识跟踪(DKT),以及它们的衍生课程可能无法实现公平的辅导。为了克服这个问题,我们提出了一种新的模型,贝叶斯-贝叶斯知识跟踪(BBKT),自然使在线个性化,从而更公平的辅导。我们证明,从我们的模型派生的课程是更有效和公平的比那些来自经典的BKT模型。此外,我们强调,改进模型的重点是下一步预测的公平性可能不足以开发公平的辅导系统。
2022-05-04 cs.LG
Automated Knowledge Component Generation for Interpretable Knowledge Tracing in Coding Problems
University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校);University of Pittsburgh(匹兹堡大学);North Carolina State University(北卡罗来纳州立大学)
本文提出基于LLM的知识组件生成与标注自动化流程,开发KCGen-KT框架,在不同编程语言的实测数据中验证其优于传统方法和人工编写的知识组件。
2026-05-17 cs.AI cs.CL cs.CY
Lifting Data-Tracing Machine Unlearning to Knowledge-Tracing for Foundation Models
Boston University(波士顿大学)
本文提出将数据追踪的机器遗忘提升为基础模型的知识追踪,以应对多样化遗忘请求,并更接近人类遗忘机制,通过视觉语言模型案例展示实现范式。
2026-05-25 cs.CV cs.LG
HGKT: Introducing Hierarchical Exercise Graph for Knowledge Tracing
Microsoft Corporation(微软公司);AIXUEXI Education Group Ltd(爱学习教育集团有限公司);University of Science and Technology of China(中国科学技术大学)
知识追踪是计算机辅助教学系统中的一个重要环节,其目的是预测学习者的知识掌握情况。近年来,许多深度学习模型已被应用于解决KT任务,并取得了可喜的成果。然而,仍然存在局限性。现有的方法大多将练习记录简化为知识序列,未能挖掘出练习中蕴含的丰富信息。另外,现有的知识追踪诊断方法忽略了练习之间的先验关系,诊断结果缺乏说服力。为了解决上述问题,我们提出了一个层次图知识追踪模型HGKT来探索练习之间潜在的层次关系。具体来说,我们引入问题图式的概念,构建一个层次化的练习图,可以模拟练习学习的依赖关系。此外,我们还采用了两种注意力机制来突出学习者的重要历史状态。在测试阶段,我们提出了一个K&S诊断矩阵,它可以跟踪知识掌握和问题模式的转变,可以更容易地应用到不同的应用程序。大量的实验表明,我们提出的模型的有效性和可解释性。
2022-08-29 cs.AI cs.CY cs.LG
No Task Left Behind: Multi-Task Learning of Knowledge Tracing and Option Tracing for Better Student Assessment
Riiid AI Research(Riiid人工智能研究院)
学生评价是人工智能教育(AIEd)领域最基本的任务之一。知识追踪(Knowledge Tracing,KT)是一种最常见的学生评估方法,它通过预测学生是否正确回答给定的问题来评估学生的知识状态。然而,在多项选择(多分类)问题的上下文中,常规KT方法的局限性在于它们仅考虑二元(二分法)正确性标签(即,正确或不正确),并忽略学生选择的特定选项。同时,选项跟踪(OT)试图通过预测学生将选择哪个选项来为给定问题建模,但忽略了正确性信息。在本文中,我们提出了二分-多分多任务学习(DP-MTL),一个多任务学习框架,结合KT和OT更精确的学生评估。特别是,我们证明了KT目标在DP-MTL框架中作为OT的正则化项,并提出了一个适当的架构,用于在现有的基于深度学习的KT模型之上应用我们的方法。我们的实验证实,DP-MTL显着提高KT和OT性能,也有利于下游任务,如得分预测(SP)。
2022-04-08 cs.AI cs.CY cs.LG
Deep Graph Memory Networks for Forgetting-Robust Knowledge Tracing
Australian National University(澳大利亚国立大学)
追踪学生的知识对于定制学习体验至关重要。最近的知识追踪方法往往响应这些挑战,通过建模知识状态动态学习概念。然而,它们仍然面临着一些固有的挑战,包括:模拟遗忘行为和识别潜在概念之间的关系。为了解决这些问题,在本文中,我们提出了一种新的知识跟踪模型,即\emph{Deep Graph Memory Network}(DGMN)。在这个模型中,我们将一个遗忘门控机制到一个注意力记忆结构,以捕捉遗忘行为动态知识追踪过程中。特别是,这种遗忘门控机制是建立在潜在概念的注意力遗忘特征上的,考虑到它们的相互依赖性。此外,该模型具有根据学生不断发展的知识状态从动态潜在概念图中学习潜在概念之间的关系的能力。使用四个成熟的基准数据集进行了全面的实验评估。结果表明,DGMN在所有数据集上的表现始终优于最先进的KT模型。在我们的实验中,也分析了建模遗忘行为和学习潜在概念图的有效性。
2021-08-18 cs.LG
Multi-granulariy Time-based Transformer for Knowledge Tracing
Johns Hopkins University(约翰斯·霍普金斯大学)
本文提出一种基于时间的多粒度Transformer架构,利用学生历史数据构建个性化模型预测标准化测试表现,在RIIID数据集上相比LightGBM取得显著提升,为AI教育提供了可扩展的预测工具。
2023-09-12 cs.AI cs.LG
RKT : Relation-Aware Self-Attention for Knowledge Tracing
University of Minnesota(明尼苏达大学)
为应对最近的Covid 19大流行,世界已经过渡到在线学习的新阶段。现在比以往任何时候都更重要的是,以各种方式推动在线学习的极限,以保持教育系统的繁荣。在线学习的一个重要组成部分是知识追踪(KT)。KT的目的是根据学生对一系列练习(称为互动)的回答来模拟学生的知识水平。学生在解决练习的同时获得技能,每个这样的互动对学生解决未来练习的能力有明显的影响。该\textit{impact}的特征在于:1)交互中涉及的练习之间的关系和2)学生遗忘行为。传统的知识追踪研究没有明确的模型,这两个组件联合估计这些相互作用的影响。本文提出了一种新的面向知识追踪的自注意力模型RKT。我们引入了一个关系感知的自注意力层,结合了上下文信息。该上下文信息通过其文本内容以及学生成绩数据和遗忘行为信息两者集成,通过对指数衰减的核函数建模。在三个真实世界的数据集上进行了大量的实验,其中两个新的集合向公众发布,表明我们的模型优于最先进的知识跟踪方法。此外,可解释的注意力权重有助于可视化人类学习过程中交互和时间模式之间的关系。
2020-08-28 cs.AI cs.LG stat.ML
Temporal Graph Memory Networks For Knowledge Tracing
本文提出深度时间图记忆网络,联合建模知识状态的关系与时间动态,并通过时间衰减约束表示遗忘行为,在多个知识追踪基准上取得优异效果。
2024-09-23 cs.AI cs.CY cs.LG
Improving Interpretability of Deep Sequential Knowledge Tracing Models with Question-centric Cognitive Representations
TAL Education Group(好未来教育集团);Guangdong Institute of Smart Education, Jinan University(暨南大学广东智慧教育研究院)
知识追踪是通过观察学生的历史学习过程来预测学生未来学习成绩的一项重要技术。由于深度神经网络强大的表示能力,利用深度学习技术解决KT问题取得了显著进展。大多数现有的方法依赖于\emph{homogeneous question}假设,即如果问题共享相同的知识组件集,则它们具有等同的贡献。不幸的是,这种假设在现实世界的教育场景中是不准确的。此外,从现有的基于深度学习的KT模型解释预测结果是非常具有挑战性的。因此,在本文中,我们提出了QIKT,一个以问题为中心的可解释KT模型来解决上述挑战。所提出的QIKT方法明确地建模学生的知识状态变化在细粒度的水平与问题敏感的认知表示,共同学习从一个以问题为中心的知识获取模块和一个以问题为中心的问题解决模块。同时,QIKT利用基于项目反应理论的预测层来生成可解释的预测结果。所提出的QIKT模型在三个公开的真实世界教育数据集上进行了评估。结果表明,我们的方法在KT预测任务上更优越,并且在预测精度方面优于各种基于深度学习的KT模型,具有更好的模型可解释性。为了鼓励可重复的结果,我们在\url{https://pykt.org/}上提供了所有的数据集和代码。
2023-03-16 cs.AI cs.LG