Leveraging Pedagogical Theories to Understand Student Learning Process with Graph-based Reasonable Knowledge Tracing
East China Normal University(华东师范大学)
针对现有深度学习知识追踪模型忽视知识掌握过程追踪、结果不合理的问题,提出基于图神经网络的GRKT方法,结合三阶段心理学建模流程,在三个数据集上优于11种基线,兼具高准确率与结果合理性。
2024-06-07 cs.AI cs.CY cs.LG
Deep Knowledge Tracing with Side Information
Michigan State University(密歇根州立大学);TAL AI Lab(好未来AI实验室)
监测学生的知识状态或技能获取水平,称为知识跟踪,是智能教学系统的基本组成部分。尽管其固有的挑战,最近的基于深度神经网络的知识追踪模型已经取得了巨大的成功,这在很大程度上来自于模型学习学生练习数据中的问题的顺序依赖关系的能力。然而,除了顺序信息,问题本身也表现出侧关系,这可以丰富我们对学生知识状态的理解,并具有很大的潜力,以促进知识追踪。因此,在本文中,我们利用边关系,以提高知识跟踪和设计一个新的框架DTKS。在真实教育数据上的实验结果验证了该框架的有效性,并证明了边信息在知识追踪中的重要性。
2019-09-01 cs.AI cs.LG
HGKT: Introducing Hierarchical Exercise Graph for Knowledge Tracing
Microsoft Corporation(微软公司);AIXUEXI Education Group Ltd(爱学习教育集团有限公司);University of Science and Technology of China(中国科学技术大学)
知识追踪是计算机辅助教学系统中的一个重要环节,其目的是预测学习者的知识掌握情况。近年来,许多深度学习模型已被应用于解决KT任务,并取得了可喜的成果。然而,仍然存在局限性。现有的方法大多将练习记录简化为知识序列,未能挖掘出练习中蕴含的丰富信息。另外,现有的知识追踪诊断方法忽略了练习之间的先验关系,诊断结果缺乏说服力。为了解决上述问题,我们提出了一个层次图知识追踪模型HGKT来探索练习之间潜在的层次关系。具体来说,我们引入问题图式的概念,构建一个层次化的练习图,可以模拟练习学习的依赖关系。此外,我们还采用了两种注意力机制来突出学习者的重要历史状态。在测试阶段,我们提出了一个K&S诊断矩阵,它可以跟踪知识掌握和问题模式的转变,可以更容易地应用到不同的应用程序。大量的实验表明,我们提出的模型的有效性和可解释性。
2022-08-29 cs.AI cs.CY cs.LG
No Task Left Behind: Multi-Task Learning of Knowledge Tracing and Option Tracing for Better Student Assessment
Riiid AI Research(Riiid人工智能研究院)
学生评价是人工智能教育(AIEd)领域最基本的任务之一。知识追踪(Knowledge Tracing,KT)是一种最常见的学生评估方法,它通过预测学生是否正确回答给定的问题来评估学生的知识状态。然而,在多项选择(多分类)问题的上下文中,常规KT方法的局限性在于它们仅考虑二元(二分法)正确性标签(即,正确或不正确),并忽略学生选择的特定选项。同时,选项跟踪(OT)试图通过预测学生将选择哪个选项来为给定问题建模,但忽略了正确性信息。在本文中,我们提出了二分-多分多任务学习(DP-MTL),一个多任务学习框架,结合KT和OT更精确的学生评估。特别是,我们证明了KT目标在DP-MTL框架中作为OT的正则化项,并提出了一个适当的架构,用于在现有的基于深度学习的KT模型之上应用我们的方法。我们的实验证实,DP-MTL显着提高KT和OT性能,也有利于下游任务,如得分预测(SP)。
2022-04-08 cs.AI cs.CY cs.LG
Domain Adaption for Knowledge Tracing
University of Science and Technology of China(中国科学技术大学)
随着网络教育系统的迅速发展,以预测学生知识状态为目的的知识追踪成为个性化教育中的一项重要而基础的任务。传统上,现有的方法是领域指定的。然而,存在更大数量的域(例如,由于现实世界中的学科、学校)以及某些领域数据的缺乏,如何利用其他领域的知识和信息来帮助训练目标领域的知识追踪模型变得越来越重要。我们将这个问题称为知识跟踪的领域自适应(DAKT),它包括两个方面:(1)如何在每个领域实现更好的知识跟踪性能。(2)如何在不同领域之间传递性能良好的知识跟踪模型。为此,在本文中,我们提出了一种新的自适应框架,即自适应知识跟踪(AKT),以解决DAKT问题。具体而言,对于第一个方面,我们将教育特征(例如,滑动,猜测,问题文本)的基础上的深度知识跟踪(DKT),以获得一个良好的性能知识跟踪模型。对于第二个方面,我们提出并采用了三个领域自适应过程。首先,我们预训练一个自动编码器,以选择有用的源实例进行目标模型训练。第二,在最大平均差异(MMD)度量下,最小化特定领域知识状态分布差异,实现领域自适应。第三,针对源域和目标域输出维数不同的问题,采用微调的方法,使模型适用于目标域。在两个私有数据集和七个公共数据集上的大量实验结果清楚地证明了AKT具有良好的知识跟踪性能和卓越的可转移能力。
2020-01-14 cs.AI cs.LG
Temporal Graph Memory Networks For Knowledge Tracing
本文提出深度时间图记忆网络,联合建模知识状态的关系与时间动态,并通过时间衰减约束表示遗忘行为,在多个知识追踪基准上取得优异效果。
2024-09-23 cs.AI cs.CY cs.LG
Knowledge Tracing Challenge: Optimal Activity Sequencing for Students
Cornell University(康奈尔大学)
本文研究了知识追踪问题,在AAAI2023全球知识追踪挑战赛新发布的数据集上实现了两种知识追踪算法,展示了其在评估学习者知识掌握情况方面的应用成果。
2023-11-13 cs.CY cs.LG
Interpretable Knowledge Tracing via Response Influence-based Counterfactual Reasoning
East China Normal University(华东师范大学);Northeastern University(东北大学);Tsinghua University(清华大学)
本文提出RCKT框架,通过反事实推理干预作答并比较事实与反事实序列的预测结果来量化作答影响,结合最大化与推理技术利用累积影响,在四个数据集上优于六个基线模型,提升了知识追踪的可解释性与可信度。
2024-05-31 cs.AI cs.CY cs.LG
SAICL: Student Modelling with Interaction-level Auxiliary Contrastive Tasks for Knowledge Tracing and Dropout Prediction
RIIID AI Research(RIIID人工智能研究院);KAIST(韩国科学技术院)
知识追踪和辍学预测是网络教育评估学生知识状态或防止辍学的关键。虽然传统的系统与学生互动遭受数据稀疏和过拟合,最近的样本级对比学习有助于缓解这个问题。样本级方法的一个主要局限是将学生的行为交互序列视为一个束,因此通常无法编码时间上下文并跟踪其动态变化,从而难以找到用于知识跟踪和辍学预测的最佳表示。为了在序列中应用时间上下文,本研究引入了一种新的学生建模框架SAICL:\textbf{s}学生建模与\textbf{a}辅助\textbf{i}交互水平的\textbf{c}对比\textbf{l}学习。详细地,SAICL可以利用所提出的自监督/监督交互级对比目标:MilCPC(\textbf{M} ulti-\textbf{I} interaction- \textbf{L} level \textbf{C} ontrasive \textbf{P} redictive \textbf{C} oding)和SupCPC(\textbf{Sup} served \textbf{C} ontrasive \textbf{P} redictive \textbf{C} oding)。虽然以前用于学生建模的样本级对比方法高度依赖于数据增强方法,但SAICL没有数据增强,同时在自我监督和监督设置中表现出更好的性能。通过将交叉熵与对比目标相结合,所提出的SAICL在不影响推理成本的情况下实现了与其他…
2022-10-19 cs.AI cs.CY cs.LG
GPT-based Open-Ended Knowledge Tracing
Rice University(莱斯大学);University of Massachusetts Amherst(马萨诸塞大学阿默斯特分校)
在教育应用中,知识追踪是指从学生过去对问题的回答中估计学生随时间变化的概念/技能掌握水平并预测他们未来表现的问题。大多数现有知识追踪方法的一个关键限制是它们将学生对问题的回答视为二进制值,即,无论它们是正确的还是不正确的。回答正确性分析/预测忽略了包含在回答的确切内容中的关于学生知识的重要信息,特别是对于开放式问题。本文通过对预测学生对问题的正确开放式反应这一新任务的研究,对开放式知识追踪(OKT)进行了初步探索。我们的工作是基于领域的计算机科学教育与编程问题。我们开发的OKT问题,学生知识指导的代码生成方法,结合程序合成方法使用语言模型与学生知识跟踪方法的初始解决方案。我们还对真实世界的学生代码数据集进行了一系列定量和定性实验,以验证OKT并展示其在教育应用中的前景。
2023-03-20 cs.CY cs.LG
Knowledge Tracing for Complex Problem Solving: Granular Rank-Based Tensor Factorization
University at Albany - SUNY(纽约州立大学奥尔巴尼分校);University of Pittsburgh(匹兹堡大学);Federal University of Rio de Janeiro(里约热内卢联邦大学)
知识追踪是用户建模的重要应用之一,旨在对学生的知识水平进行建模并预测其表现。现代KT方法根据学生尝试问题的历史表现,在一组课程概念上建模并保持学生知识的最新状态。然而,KT方法被设计为通过观察智能辅导系统中相对较小的问题解决步骤来建模知识。虽然这些方法被成功地应用到学生的知识模型,通过观察学生解决简单问题的解决方案,他们没有表现得很好的学生复杂的问题解决的建模。最重要的是,目前的模型假设,所有的问题尝试是同样有价值的量化当前学生的知识。然而,复杂的问题,涉及到许多概念在同一时间,这个假设是不够的。在本文中,我们认为,并不是所有的尝试是同等重要的发现学生的知识状态,和一些尝试可以总结在一起,以更好地代表学生的表现。我们提出了一种新的学生知识跟踪方法,基于粒度Rank的TEnsor因式分解(GRATE),动态选择学生的尝试,可以聚合,同时预测学生的表现在问题中,并发现其中提出的概念。我们在三个真实世界数据集上的实验表明,与最先进的基线相比,GRATE在学生成绩预测任务中的性能有所提高。进一步的分析表明,尝试聚合消除了学生发现的知识状态中不必要的波动,有助于发现问题中复杂的潜在概念。
2022-10-06 cs.AI cs.CY cs.LG
DKT-STDRL: Spatial and Temporal Representation Learning Enhanced Deep Knowledge Tracing for Learning Performance Prediction
Heilongjiang Institute of Technology(黑龙江工程学院);Central China Normal University(华中师范大学)
知识追踪是智能教育系统的重要组成部分。现有的知识树要么依赖于专家的判断,要么只采用单一的网络结构,影响了学习特征的充分表达。为了充分挖掘学生学习过程的特征,提出了基于时空深度表示学习的深度知识追踪学习成绩预测(DKT-STDRL)方法。DKT-STDRL从学生的学习历史序列中提取空间特征,然后进一步提取时间特征,以提取更深层次的隐藏信息。具体而言,首先,DKT-STDRL模型使用CNN提取学生练习序列的空间特征信息。然后,将空间特征与原始学生的练习特征连接起来,作为联合学习特征。然后,将关节特征输入到BiLSTM部件中。最后,BiLSTM部分从联合学习特征中提取时间特征,以获得学生在下一个时间步是否正确回答的预测信息。在公共教育数据集ASSISTment 2009、ASSISTment 2015、Synthetic-5、ASSISTchall和Statics 2011上的实验证明,DKT-STDRL可以取得比DKT和CKT更好的预测效果。
2023-02-15 cs.AI cs.CY cs.LG
Learning Data Teaching Strategies Via Knowledge Tracing
Australian National University(澳大利亚国立大学)
教学在人类学习中起着基础性的作用。通常,人类教学策略将涉及评估学生的知识进展,以增强学习进展的方式定制教材。人类教师将通过跟踪学生在任务中重要学习概念的知识来实现这一点。然而,这种教学策略在机器学习中还没有得到很好的利用,因为当前的机器教学方法倾向于直接评估单个训练样本的进度,而不关注学习任务中的底层学习概念。在本文中,我们提出了一种新的方法,称为知识增强数据教学(KADT),它可以优化数据教学策略的学生模型,通过跟踪其知识的进步,在多个学习概念的学习任务。具体而言,KADT方法结合了一个知识跟踪模型,以动态地捕捉潜在的学习概念方面的学生模型的知识进展。然后,我们开发了一种注意力池机制,以提取学生模型关于类标签的知识表示,这使得能够在关键训练样本上开发数据教学策略。我们已经评估了KADT方法在四种不同机器学习任务上的性能,包括知识跟踪、情感分析、电影推荐和图像分类。与最先进的方法相比,经验验证了KADT在所有任务上始终优于其他方法。
2021-11-13 cs.AI cs.LG
Deep Knowledge Tracing is an implicit dynamic multidimensional item response theory model
Inria(法国国家信息与自动化研究所);Kyoto University(京都大学)
本文将深度知识追踪建模为编码器-解码器架构,揭示其隐式动态多维项目反应理论本质,并提出更简解码器以提升预测性能。
2023-12-24 cs.CY cs.LG
LANA: Towards Personalized Deep Knowledge Tracing Through Distinguishable Interactive Sequences
Sichuan University(四川大学);Tencent Inc.(腾讯公司)
在教育应用中,知识追踪(KT),通过总结学生的知识状态来准确预测学生对未来问题的回答的问题,已经被广泛研究了几十年,因为它被认为是自适应在线学习的基本任务。由于神经网络的高度灵活性,在所有提出的KT方法中,深度知识跟踪(DKT)及其变体是迄今为止最有效的方法。然而,DKT往往忽视了学生之间的固有差异(例如记忆能力,推理能力,.),平均所有学生的表现,导致缺乏个性化,因此被认为不足以适应性学习。为了缓解这个问题,在本文中,我们提出了分层注意知识跟踪(LANA),它首先使用一种新的学生相关的特征提取器(SRFE),以提取学生的独特的固有属性从他们各自的互动序列。其次,枢轴模块被用来动态地重建神经网络的解码器上提取的特征的注意,成功地区分学生之间的表现随着时间的推移。此外,受项目反应理论(IRT)的启发,可解释的Rasch模型被用来聚类学生的能力水平,从而利用分层学习分配不同的编码器到不同的学生群体。通过pivot模块重构学生个体的解码器和群体的分层学习专用编码器,实现了个性化的DKT。在两个真实世界的大规模数据集上进行的广泛实验表明,我们提出的LANA将AUC分数提高了至少1.00%(即EdNet 1.46%和RAIEd2020 1.00%),大大超过了其他最先进的KT方法。
2021-04-21 cs.AI cs.CY cs.LG
Dynamic Key-Value Memory Networks for Knowledge Tracing
The Chinese University of Hong Kong(香港中文大学);Hong Kong University of Science and Technology(香港科技大学)
知识追踪(KT)是追踪学生在一系列学习活动中关于一个或多个概念的知识状态的任务。KT的一个重要目的是个性化的练习序列,以帮助学生有效地学习知识概念。然而,现有的方法,如贝叶斯知识跟踪和深度知识跟踪,要么模型知识状态为每个预定义的概念分别或无法准确地指出哪些概念是学生擅长或不熟悉。为了解决这些问题,这项工作引入了一个新的模型,称为动态键值记忆网络(DKVMN),可以利用底层概念之间的关系,并直接输出学生的掌握水平的每个概念。与标准的记忆增强神经网络,促进一个单一的记忆矩阵或两个静态记忆矩阵,我们的模型有一个静态矩阵称为键,存储的知识概念和其他动态矩阵称为值,存储和更新相应的概念的掌握水平。实验表明,我们的模型在一系列KT数据集中始终优于最先进的模型。此外,DKVMN模型可以自动发现通常由人类注释执行的练习的基本概念,并描绘学生不断变化的知识状态。
2017-02-17 cs.AI cs.LG
On the Interpretability of Deep Learning Based Models for Knowledge Tracing
ZheJiang GongShang University(浙江工商大学);Southern Methodist University(南卫理公会大学)
知识追踪允许智能辅导系统推断学生已经掌握了哪些主题或技能,从而相应地调整课程。基于深度学习的模型,如深度知识跟踪(DKT)和动态键值记忆网络(DKVMN),与贝叶斯知识跟踪(BKT)和性能因素分析(PFA)等模型相比,已经取得了显着的改进。然而,这些基于深度学习的模型不像其他模型那样可解释,因为研究界并不完全理解深度神经网络学习的决策过程。在以前的工作中,我们批判性地研究了DKT模型,可视化和分析了DKT在高维空间中的行为。在这项工作中,我们用更大的数据集扩展了我们的原始分析,并增加了关于DKVMN模型的内存状态的讨论。我们发现,深度知识追踪有一些关键的陷阱:1)DKT更有可能学习一种“能力”模型,而不是通过时间来追踪每一种技能; 2)DKT的循环性质强化了它在追踪任务中使用的不相关信息; 3)未经训练的递归网络可以实现与训练的DKT模型类似的结果,支持了这样的结论,即递归关系没有被正确地学习,相反,改进仅仅是投影到高维稀疏向量空间中的益处。基于这些观察,我们提出了改进和未来的方向进行知识跟踪研究使用深度神经网络模型。
2021-01-27 cs.CY cs.LG
AAKT: Enhancing Knowledge Tracing with Alternate Autoregressive Modeling
School of Computer Science and Engineering, Beihang University(北京航空航天大学计算机科学与工程学院);School of Information Technology & Management, University of International Business and Economics(对外经济贸易大学信息技术与管理学院)
本研究提出AAKT框架,将知识追踪视为生成过程,通过问题-响应交替序列的自回归编码表示知识状态,结合辅助信息,在四个数据集上AUC、ACC、RMSE均优于基线,验证了关键组件有效性。
2025-02-17 cs.AI cs.CY cs.LG
pyBKT: An Accessible Python Library of Bayesian Knowledge Tracing Models
University of California, Berkeley(加州大学伯克利分校)
贝叶斯知识追踪是一种用于认知掌握估计的模型,是自适应学习研究的标志,也是部署的智能辅导系统(ITS)的一个组成部分。在本文中,我们提供了一个简短的历史知识跟踪模型的研究和介绍pyBKT,一个可访问的和计算效率的图书馆的模型扩展文献。该库提供数据生成,拟合,预测和交叉验证例程,以及一个简单易用的数据助手界面来摄取典型的导师日志数据集格式。我们使用各种数据集大小评估运行时,并与过去的实现进行比较。此外,我们使用模拟数据进行实验来评估其EM参数学习的准确性,并使用真实世界的数据来验证其预测,将pyBKT支持的模型变体与最初引入它们的论文中的结果进行比较。该图书馆是开放源代码和开放许可证,目的是使研究和实践社区更容易获得知识追踪,并通过更容易复制过去的方法来促进该领域的进展。
2021-05-29 cs.AI cs.CY cs.LG
Personalized Knowledge Tracing through Student Representation Reconstruction and Class Imbalance Mitigation
South China Normal University(华南师范大学);Jinan University(暨南大学)
针对现有知识追踪模型忽略学生个体特征、数据集类别不平衡导致预测偏差的问题,提出融合学生交互序列表示重构与focal loss的PKT方法,在四个公开数据集上优于16种现有最优模型。
2024-09-10 cs.AI cs.CY cs.LG
AdvKT: An Adversarial Multi-Step Training Framework for Knowledge Tracing
Shanghai Jiao Tong University(上海交通大学);Jilin University(吉林大学);Huawei Noah’s Ark Lab(华为诺亚实验室)
AdvKT通过对抗学习框架解决知识追踪中的误差积累和数据稀疏性问题,提升智能辅导系统推荐模型性能。
2026-01-04 cs.AI cs.CY cs.LG
Enhancing Deep Knowledge Tracing via Diffusion Models for Personalized Adaptive Learning
Prairie View A&M University(Prairie View A&M大学);Texas A&M University System(德克萨斯农工大学系统);Alabama A&M University(阿拉巴马农工大学)
针对个性化自适应学习中学生记录不足的问题,本文采用扩散模型TabDDPM生成合成教育数据以增强DKT,并在ASSISTments上验证其在小训练、大测试场景下的显著效果。
2024-04-25 cs.AI cs.CY cs.LG
Domain Generalizable Knowledge Tracing via Concept Aggregation and Relation-Based Attention
本文针对新教育系统数据稀缺导致知识追踪性能下降的问题,提出领域泛化框架DGKT,通过概念聚合、SeqIN归一化和DGRKT模型缓解跨领域差异,在五个基准数据集上验证了其有效性。
2025-06-06 cs.AI cs.LG
Deep-IRT: Make Deep Learning Based Knowledge Tracing Explainable Using Item Response Theory
Find Solution Ai Limited(Find Solution Ai有限公司)
基于深度学习的知识追踪模型已被证明优于传统的知识追踪模型,而不需要人工工程的功能,但其参数和表示长期以来一直被批评为无法解释。在本文中,我们提出了Deep-IRT,这是一个综合的项目反应理论(IRT)模型和知识追踪模型,是基于深度神经网络架构称为动态键值记忆网络(DKVMN),使深度学习为基础的知识追踪可解释。具体来说,我们使用DKVMN模型来处理学生的学习轨迹,并估计学生的能力水平和项目难度水平随着时间的推移。然后,我们使用IRT模型来估计概率,学生将正确回答一个项目使用估计的学生能力和项目的难度。实验表明,Deep-IRT模型保留了DKVMN模型的性能,同时提供了对学生和项目的直接心理解释。
2019-04-26 cs.AI cs.LG stat.ML
Knowledge Tracing Machines: Factorization Machines for Knowledge Tracing
RIKEN Center for Advanced Intelligence Project(理化学研究所先进智能项目中心);Kyoto University(京都大学)
知识追踪是一个序列预测问题,其目标是预测学生在与学习平台交互时对问题的结果。通过跟踪一些学生知识的演变,可以优化教学。现有的方法要么是基于时间潜变量模型,或因素分析的时间特征。我们在这里表明,因子分解机(FM),回归或分类模型,包括几个现有的模型在教育文献中的特殊情况下,特别是添加剂因子模型,性能因子模型,和多维项目反应理论。我们表明,使用几个真实的数据集的成千上万的用户和项目,FM可以准确和快速地估计学生的知识,即使学生的数据是稀疏观察,并处理边信息,如多个知识组件和尝试次数在项目或技能水平。我们的方法允许适应比现有模型更高维度的学生模型,并提供了一个测试平台来尝试新的功能组合,以改善现有模型。
2018-11-15 cs.AI cs.IR cs.LG
Addressing Label Leakage in Knowledge Tracing Models
University of Applied Sciences(应用科学大学);Karlsruhe University of Education(卡尔斯鲁厄教育大学)
本文针对知识追踪模型中因将项目展开为知识概念而引发的标签泄漏问题,提出多种通用防泄漏方法,使模型变体一致超越原始模型并在多个基准上取得最优性能。
2025-04-07 cs.AI cs.CY cs.LG
Advancing Knowledge Tracing by Exploring Follow-up Performance Trends
Aalborg University(奥尔堡大学);Northeastern University(东北大学)
本文针对知识追踪中历史序列与未来表现的相关性冲突问题,提出前瞻性知识追踪方法FINER,通过提取并融合后续表现趋势,在六个数据集上显著超越十种最先进方法。
2025-09-22 cs.AI cs.CY cs.LG
Lifting Data-Tracing Machine Unlearning to Knowledge-Tracing for Foundation Models
Boston University(波士顿大学)
本文提出将数据追踪的机器遗忘提升为基础模型的知识追踪,以应对多样化遗忘请求,并更接近人类遗忘机制,通过视觉语言模型案例展示实现范式。
2026-05-25 cs.CV cs.LG
Differentiating Student Feedbacks for Knowledge Tracing
East China Normal University(华东师范大学);Microsoft China(微软中国);Tencent China(腾讯中国)
针对当前知识追踪(KT)模型忽视历史回答不平衡区分度的缺陷,提出基于回答区分度重新加权贡献的框架及自适应预测分数融合技术,提升了三种主流KT方法在三个数据集上的性能。
2025-02-13 cs.AI cs.CY cs.LG
Extending Deep Knowledge Tracing: Inferring Interpretable Knowledge and Predicting Post-System Performance
Graduate School of Education, University of Pennsylvania(宾夕法尼亚大学教育研究生院);Human-Computer Interaction Institute, Carnegie Mellon University(卡内基梅隆大学人机交互研究所)
最近的学生知识建模算法,如深度知识跟踪(DKT)和动态键值记忆网络(DKVMN),已被证明可以在同一个学习系统中准确预测问题的正确性。然而,这些算法并不试图直接推断学生的知识。在本文中,我们提出了一个扩展这些算法也推断知识。我们将此扩展应用于DKT和DKVMN,从而使知识估计与后测的相关性优于贝叶斯知识追踪(BKT)(一种旨在推断知识的算法)和另一种经典算法性能因素分析(PFA)的知识估计。我们还将我们的扩展BKT和PFA的正确性预测,发现它产生的知识估计相关性更好地与后测比BKT和PFA的标准知识估计。这些发现意义重大,因为教育的主要目的是让学生为即时学习活动之外的后续经历做好准备。
2020-08-31 cs.CY cs.LG stat.ML
Knowledge Tracing: A Survey
Australian National University(澳大利亚国立大学)
人类通过教学转移知识的能力是人类智力的重要方面之一。人类教师可以跟踪学生的知识,以根据学生的需求定制教学。随着在线教育平台的兴起,机器也需要跟踪学生的知识并定制他们的学习体验。这在文献中被称为知识追踪(KT)问题。有效地解决KT问题将释放计算机辅助教育应用的潜力,如智能辅导系统,课程学习和学习材料的推荐。此外,从更一般的角度来看,学生可以代表任何类型的智能代理,包括人类和人工代理。因此,KT的潜力可以扩展到任何寻求为学生代理定制学习体验的机器教学应用场景(即,机器学习模型)。在本文中,我们提供了一个全面和系统的回顾KT文献。我们涵盖了广泛的方法,从早期的尝试到最近使用深度学习的最先进的方法,同时强调模型的理论方面和基准数据集的特征。除此之外,我们还阐明了密切相关的方法之间的关键建模差异,并以易于理解的格式对其进行了总结。最后,我们讨论了目前的研究差距在KT文献和可能的未来研究和应用方向。
2022-01-08 cs.AI cs.CY cs.LG
Application of Deep Self-Attention in Knowledge Tracing
Zhejiang University(浙江大学)
智能教学系统的发展极大地改变了学生的学习和实践方式,提高了学生的学习效率。智能教学系统在向学习者提供反馈和建议之前,必须对学习者掌握的知识进行建模,因此一类称为“知识追踪”的算法就显得尤为重要。基于PTA的数据,提出了深度自主知识追踪(Deep Self-Attentive Knowledge Tracing,DSAKT)方法,以帮助学生提高学习效率。在PTA数据集上的实验表明,DSAKT模型的AUC平均提高了2.1%,在ASSIST数据集上也有很好的性能。
2021-05-23 cs.LG
Equity and Fairness of Bayesian Knowledge Tracing
University of Vienna(维也纳大学);Max-Planck Institute for Software Systems(马克斯·普朗克软件系统研究所)
我们考虑从知识追踪模型中得出的课程的公平性和公正性。我们首先定义了一个统一的概念,一个公平的辅导系统作为一个系统,实现最大可能的知识,在最短的时间为每个学生与它互动。实现完美的公平需要辅导系统,可以提供个性化的课程,每个学生。特别是,我们调查的公平辅导系统,从知识追踪模型的课程设计。我们首先表明,许多现有的模型,包括经典的贝叶斯知识跟踪(BKT)和深度知识跟踪(DKT),以及它们的衍生课程可能无法实现公平的辅导。为了克服这个问题,我们提出了一种新的模型,贝叶斯-贝叶斯知识跟踪(BBKT),自然使在线个性化,从而更公平的辅导。我们证明,从我们的模型派生的课程是更有效和公平的比那些来自经典的BKT模型。此外,我们强调,改进模型的重点是下一步预测的公平性可能不足以开发公平的辅导系统。
2022-05-04 cs.LG
DAGKT: Difficulty and Attempts Boosted Graph-based Knowledge Tracing
Hefei University of Technology(合肥工业大学);Jianzai Tech(建在科技)
在智能教育领域,知识追踪(KT)越来越受到关注,它通过对学生掌握的知识概念进行估计和追踪,以提供高质量的教育。在KT模型中,问题和知识概念之间存在着自然的图结构,因此一些研究探索了图神经网络(GNNs)的应用,以改善没有使用图结构的KT模型的性能。然而,大多数教师忽视了问题的难度和学生的提问尝试。实际上,知识概念相同的试题难度不同,学生尝试的不同也代表着知识掌握的不同。在本文中,我们提出了一个困难和尝试推进基于图的KT(DAGKT),利用丰富的信息,从学生的记录。此外,设计了一种新的方法来建立问题的相似性关系的启发F1得分。在三个真实数据集上的实验证明了DAGKT的有效性。
2022-10-18 cs.CY cs.LG
Incorporating Features Learned by an Enhanced Deep Knowledge Tracing Model for STEM/Non-STEM Job Prediction
Hong Kong University of Science and Technology(香港科技大学)
2017年ASSISTments数据采掘竞赛旨在使用来自纵向研究的数据来预测学生的全新结果,这些数据以前从未被教育数据采掘研究界研究过。具体来说,它有助于开发预测模型的研究,这些模型可以预测大学毕业生的第一份工作是否属于STEM(科学,技术,工程和数学的首字母缩写)领域。这是基于学生在ASSISTments混合学习平台上的学习历史,以中学期间收集的广泛点击流数据的形式。为了应对这一挑战,我们首先使用深度知识追踪(DKT)模型和增强的DKT(DKT+)模型来估计学生在不同数学技能方面的预期知识状态。然后,我们将与DKT/DKT+预期知识状态相对应的特征与直接从数据集中的学生档案中提取的其他特征相结合,以训练几个机器学习模型来进行STEM/非STEM工作预测。我们的实验表明,使用组合特征训练的模型通常比单独使用学生配置文件训练的模型表现更好。对学生知识状况的详细分析表明,与非STEM学生相比,STEM学生通常在数学方面表现出更高的掌握水平和更高的学习收益。
2018-06-06 cs.AI cs.CY cs.LG
DASKT: A Dynamic Affect Simulation Method for Knowledge Tracing
University of Science and Technology of China(中国科学技术大学);School of Computer Science and Technology, University of Science and Technology of China(中国科学技术大学计算机科学与技术学院);Liupanshui normal university(六盘水师范学院)
针对非情感导向教育数据中学生情感难以评估并融入知识追踪的问题,本文提出 DASKT,通过情感因素提取、聚类、时空序列建模与时序分析模拟动态情感并推断知识状态,在两个真实数据集上取得更合理状态与更优预测性能。
2025-01-18 cs.AI cs.CY cs.LG
Consistency and Monotonicity Regularization for Neural Knowledge Tracing
Riiid! AI Research;Graduate School of AI, KAIST(韩国科学技术院人工智能研究生院)
知识追踪(KT),跟踪人类的知识获取,是在线学习和人工智能教育的核心组成部分。在本文中,我们提出了一个简单而有效的策略,以提高KT模型的泛化能力:我们提出了三种类型的新的数据增强,杜撰的替换,插入和删除,以及相应的正则化损失,施加一定的一致性或单调性偏差的模型的预测的原始和增强序列。在各种KT基准测试上的大量实验表明,我们的正则化方案在3个广泛使用的神经网络和4个公共基准测试下,在DKT模型和ASSISTmentsChall数据集下,AUC改善了6.3%。
2021-05-03 cs.AI cs.LG
Disentangling Knowledge States with Ability and Proficiency Modeling for Knowledge Tracing
School of the Information Management, Wuhan University(武汉大学信息管理学院);School of Computer Science and Artificial Intelligence, Hubei University of Technology(湖北工业大学计算机科学与人工智能学院);Faculty of Artificial Intelligence in Education, Central China Normal University(华中师范大学人工智能教育学部)
研究旨在通过能力和熟练程度建模进行知识追踪,提出PAKT框架,基于定制机制分解学生交互,设计多分支Transformer捕获知识状态,通过因果分析揭示偏差,实验证明该方法优于基线。
2026-07-16 cs.AI cs.LG
Enhancing Deep Knowledge Tracing with Auxiliary Tasks
Jinan University(暨南大学);Guangdong Institute of Smart Education(广东省智慧教育研究院);TAL Education Group(好未来教育集团);Think Academy International Education(学而思国际教育)
知识追踪(KT)是基于学生与智能教学系统的历史交互来预测学生未来表现的问题。最近的研究已经应用了多种类型的深度神经网络来解决KT问题。然而,现实世界的教育数据中有两个重要因素没有得到很好的体现。首先,大多数现有的作品增加输入表示的问题和知识成分的共现矩阵\footnote{\label{ft:kc}A KC is a generalization of everyday terms like concept, principle, fact, or skill.}(KCs),但没有明确地将这种内在的关系到最终的响应预测任务。第二,学生的个性化历史表现没有得到很好的捕捉。在本文中,我们提出了\emph{AT-DKT}来提高原始深度知识追踪模型的预测性能,并使用两个辅助学习任务,即,\emph{question tagging (QT) prediction task}和\emph{individualized prior knowledge (IK) prediction task}。具体来说,QT任务通过预测问题是否包含特定的KC来帮助学习更好的问题表征。IK任务通过逐步预测隐藏在学生历史学习交互中的学生水平先验知识来捕获学生的全局历史表现。我们在三个真实世界的教育数据集上进行了全面的实验,并将所提出的方法与深度序列KT模型和非序列模型进行了比较。实验结果表明,\emph{AT-D…
2023-02-14 cs.AI cs.CY cs.LG
MemoryKT: An Integrative Memory-and-Forgetting Method for Knowledge Tracing
School of Computer Science, South China Normal University, Guangzhou, China(华南师范大学计算机科学学院);School of Computing, National University of Singapore, Singapore(新加坡国立大学计算学院);Sichuan Artificial Intelligence Research Institute, Sichuan, China(四川省人工智能研究院)
本文提出基于时序变分自编码器的知识追踪模型memoryKT,通过学习记忆特征分布、重构练习反馈并嵌入个性化遗忘模块以动态调节存储强度,联合建模完整的记忆编码-存储-检索循环,显著提升了模型性能与个体差异感知能力。
2025-08-11 cs.AI cs.LG
Attentive Q-Matrix Learning for Knowledge Tracing
Lanzhou University(兰州大学)
本文提出了一种端到端的QAKT模型,通过基于q-matrix和Rasch模型的混合嵌入方法,在无预定义技能标签的场景下高效学习Q矩阵并分层建模问题,在多种数据集上取得了优于现有方法的性能且具备高度可解释性。
2023-05-17 cs.AI cs.CY cs.LG
pyKT: A Python Library to Benchmark Deep Learning based Knowledge Tracing Models
Guangdong Institute of Smart Education(广东省智慧教育研究院);Jinan University(暨南大学);Think Academy International Education(学而思国际教育);TAL Education Group(好未来教育集团);Michigan State University(密歇根州立大学)
知识追踪(KT)的任务是使用学生的历史学习互动数据来模拟他们的知识掌握随着时间的推移,从而对他们未来的互动表现作出预测。最近,使用各种深度学习技术来解决KT问题已经取得了显着的进展。然而,基于深度学习的知识追踪(DLKT)方法背后的成功仍然是未知的,并且这些DLKT方法的适当测量和分析仍然是一个挑战。首先,在现有的作品中,数据预处理过程往往是私人和定制的,这限制了实验标准化。此外,现有的DLKT研究往往在评估协议方面有所不同,并且远离现实世界的教育背景。为了解决这些问题,我们引入了一个全面的基于Python的基准测试平台,\textsc{pyKT},以保证有效的比较DLKT方法通过彻底的评估。\textsc{pyKT}库包含一套标准化的集成数据预处理程序,适用于7个不同领域的流行数据集,以及10个经常比较的DLKT模型实现,用于透明实验。从我们的细粒度和严格的经验KT研究的结果产生了一组有效DLKT的观察和建议,例如,错误的评估设置可能会导致标签泄漏,这通常会导致性能膨胀;与Piech等人(\cite{piech2015deep})提出的第一个DLKT模型相比,许多DLKT方法的改进微乎其微。我们在https://pykt.org/上开放了\textsc{pyKT}的源代码和我们的实验结果。我们欢迎其他研究团体和从业人员的贡献。
2023-01-09 cs.AI cs.CY cs.LG
A Self-Attentive model for Knowledge Tracing
University of Minnesota(明尼苏达大学)
知识追踪是对每个学生在一系列学习活动中对知识概念的掌握进行建模的任务。每个学生的知识是通过估计学生在学习活动中的表现来建模的。为学生提供个性化的学习平台是一个重要的研究领域。近年来,基于递归神经网络(RNN)的方法,如深度知识跟踪(DKT)和动态键值记忆网络(DKVMN),由于它们能够捕捉人类学习的复杂表示,因此优于所有传统方法。然而,这些方法面临的问题是,在处理稀疏数据时不能很好地泛化,这是真实世界数据的情况,因为学生与很少的KC交互。为了解决这个问题,我们开发了一种方法,从学生的过去的活动,是\textit{relevant}到给定的KC,并预测他/她的掌握相对较少的KC,它选择的基础上的KC。由于预测是基于相对较少的过去活动进行的,因此它比基于RNN的方法更好地处理数据稀疏性问题。为了识别知识中心之间的相关性,我们提出了一种基于自我注意的方法,自我注意知识追踪(SAKT)。在各种真实数据集上的广泛实验表明,我们的模型优于最先进的知识跟踪模型,平均将AUC提高了4.43%。
2019-07-16 cs.CY cs.LG stat.ML
Deep Graph Memory Networks for Forgetting-Robust Knowledge Tracing
Australian National University(澳大利亚国立大学)
追踪学生的知识对于定制学习体验至关重要。最近的知识追踪方法往往响应这些挑战,通过建模知识状态动态学习概念。然而,它们仍然面临着一些固有的挑战,包括:模拟遗忘行为和识别潜在概念之间的关系。为了解决这些问题,在本文中,我们提出了一种新的知识跟踪模型,即\emph{Deep Graph Memory Network}(DGMN)。在这个模型中,我们将一个遗忘门控机制到一个注意力记忆结构,以捕捉遗忘行为动态知识追踪过程中。特别是,这种遗忘门控机制是建立在潜在概念的注意力遗忘特征上的,考虑到它们的相互依赖性。此外,该模型具有根据学生不断发展的知识状态从动态潜在概念图中学习潜在概念之间的关系的能力。使用四个成熟的基准数据集进行了全面的实验评估。结果表明,DGMN在所有数据集上的表现始终优于最先进的KT模型。在我们的实验中,也分析了建模遗忘行为和学习潜在概念图的有效性。
2021-08-18 cs.LG
KTCF: Actionable Recourse in Knowledge Tracing via Counterfactual Explanations for Education
KTCF通过反事实解释为教育中的知识追踪提供可操作的救济,提升教育AI的实用性和责任性。
2026-01-14 cs.AI cs.CY cs.LG
Towards Interpretable Deep Learning Models for Knowledge Tracing
Advanced Innovation Center for Future Education(未来教育高精尖创新中心);School of Educational Technology, Beijing Normal University(北京师范大学教育技术学院)
传统的知识追踪模型作为学习者知识状态建模的重要技术,已被广泛应用于智能教学系统和MOOC平台。在深度学习技术快速发展的推动下,深度神经网络最近已被用于设计新的KT模型以实现更好的预测性能。然而,这些模型的可解释性的缺乏痛苦地阻碍了它们的实际应用,因为它们的输出和工作机制受到不透明的决策过程和复杂的内部结构的影响。因此,我们建议采用事后方法来解决基于深度学习的知识跟踪(DLKT)模型的可解释性问题。具体来说,我们专注于应用逐层相关传播(LRP)方法来解释基于RNN的DLKT模型,通过将相关性从模型的输出层反向传播到输入层。实验结果表明,使用LRP方法解释DLKT模型的预测的可行性,并部分验证了计算的相关性得分从问题层面和概念层面。我们相信,这将是充分解释DLKT模型并促进其在教育领域实际应用的坚实一步。
2020-05-13 cs.AI cs.LG
RKT : Relation-Aware Self-Attention for Knowledge Tracing
University of Minnesota(明尼苏达大学)
为应对最近的Covid 19大流行,世界已经过渡到在线学习的新阶段。现在比以往任何时候都更重要的是,以各种方式推动在线学习的极限,以保持教育系统的繁荣。在线学习的一个重要组成部分是知识追踪(KT)。KT的目的是根据学生对一系列练习(称为互动)的回答来模拟学生的知识水平。学生在解决练习的同时获得技能,每个这样的互动对学生解决未来练习的能力有明显的影响。该\textit{impact}的特征在于:1)交互中涉及的练习之间的关系和2)学生遗忘行为。传统的知识追踪研究没有明确的模型,这两个组件联合估计这些相互作用的影响。本文提出了一种新的面向知识追踪的自注意力模型RKT。我们引入了一个关系感知的自注意力层,结合了上下文信息。该上下文信息通过其文本内容以及学生成绩数据和遗忘行为信息两者集成,通过对指数衰减的核函数建模。在三个真实世界的数据集上进行了大量的实验,其中两个新的集合向公众发布,表明我们的模型优于最先进的知识跟踪方法。此外,可解释的注意力权重有助于可视化人类学习过程中交互和时间模式之间的关系。
2020-08-28 cs.AI cs.LG stat.ML
Efficient Knowledge Tracing Leveraging Higher-Order Information in Integrated Graphs
Graduate School of Data Science, KAIST(韩国科学技术院数据科学研究生院);Data Platform Team, SOCAR(SOCAR数据平台团队);Division of Computer Engineering, Hansung University(翰山大学计算机工程系);Department of Industrial and Systems Engineering, KAIST(韩国科学技术院工业与系统工程系)
针对大型图与长学习序列导致知识追踪计算成本升高的问题,提出DGAKT模型,通过处理学生—习题—KC相关子图利用高阶信息,在提升预测性能的同时显著降低内存与计算开销。
2025-07-24 cs.AI cs.LG
Last Query Transformer RNN for knowledge tracing
Samsung Electronics(三星电子)
本文提出了一个有效的模型来预测学生的答案的正确性,他过去的学习活动。基本上,我使用Transformer编码器和RNN来处理时间序列输入。该模型的创新之处在于在Transformer编码器中只使用最后一个输入作为查询,而不是所有的序列,这使得Transformer编码器中的QK矩阵乘法具有O(L)时间复杂度,而不是O(L^2)。它允许模型输入更长的序列。使用这个模型,我取得了第一名在'Riiid!答案正确性预测“竞赛在kaggle上举办。
2021-02-10 cs.CY cs.LG
Cognition-Mode Aware Variational Representation Learning Framework for Knowledge Tracing
Beijing University of Posts and Telecommunications(北京邮电大学)
提出认知模式感知的变分表示学习框架(CMVF),通过概率建模和变分推断解决知识追踪中的数据稀疏问题,提升学生表示的鲁棒性,可应用于现有KT方法。
2023-09-03 cs.AI cs.CY cs.LG
CIKT: A Collaborative and Iterative Knowledge Tracing Framework with Large Language Models
School of Computer Science and Technology, East China Normal University(计算机科学与技术学院,东华大学)
提出CIKT框架,利用大语言模型通过分析师与预测器的协同迭代优化,提升知识追踪的预测准确性、可解释性和可扩展性。
2025-05-23 cs.AI cs.LG
Interpretable Knowledge Tracing: Simple and Efficient Student Modeling with Causal Relations
Univ. Lille(里尔大学);Inria(法国国家信息与自动化研究所);CNRS(法国国家科学研究中心);Centrale Lille(里尔中央理工学院);CEA(法国原子能和替代能源委员会);Kyoto University(京都大学);Singapore Management University(新加坡管理大学)
智能辅导系统在未来的学习环境中变得至关重要。知识追踪(KT)是该系统的重要组成部分。它是关于推断学生的技能掌握和预测他们的表现,以调整相应的课程。与传统模型相比,基于深度学习的KT模型显示出显著的预测性能。然而,很难从神经网络中成千上万的参数中提取出与认知理论相关的心理学上有意义的解释。有几种方法可以实现学生成绩预测的高准确性,但诊断和预测推理在学习科学中更为关键。由于KT问题具有很少的可观察特征(问题ID和学生在每次练习中的正确性),我们通过使用机器学习和数据采掘技术从学生的响应数据中提取有意义的潜在特征。在这项工作中,我们提出了可解释的知识追踪(IKT),一个简单的模型,依赖于三个有意义的潜在特征:个人技能掌握,能力概况(跨技能的学习转移),和问题的难度。IKT对学生未来表现的预测是使用树增强朴素贝叶斯分类器(TAN)进行的,因此它的预测比基于深度学习的学生模型更容易解释。IKT还显示出比基于深度学习的学生模型更好的学生成绩预测,而无需大量参数。我们对每个特征进行消融研究,以研究它们对学生成绩预测的贡献。因此,IKT在现实世界的教育系统中提供具有因果推理的自适应和个性化教学方面具有很大的潜力。
2021-12-15 cs.AI cs.CY cs.LG
Bi-CLKT: Bi-Graph Contrastive Learning based Knowledge Tracing
Deakin University(迪肯大学);Xidian University(西安电子科技大学);China University of Geosciences(中国地质大学);The University of Western Australia(西澳大学)
知识追踪(KT)的目标是根据学生对相关练习的历史学习来评估学生掌握概念的程度。知识追溯的好处是,学生的学习计划可以更好地组织和调整,并在必要时进行干预。随着深度学习的兴起,深度知识追踪(DKT)利用递归神经网络(RNN)来完成这项任务,并取得了一定的成功。其他工作已经尝试引入图神经网络(GNN)并相应地重新定义任务以实现显著的改进。然而,这些努力遭受以下缺点中的至少一个:1)它们过于关注节点的细节,而不是高级语义信息; 2)它们难以有效地建立节点的空间关联和复杂结构;以及3)它们仅表示概念或练习,而不整合它们。受自监督学习最新进展的启发,我们提出了基于双图的对比学习知识追踪(Bi-CLKT)来解决这些限制。具体而言,我们设计了一个两层的对比学习计划的基础上“练习到练习”(E2 E)关系子图。它包括子图的节点级对比学习以获得练习的判别表示,以及图级对比学习以获得概念的判别表示。此外,我们设计了一个联合对比损失,以获得更好的表示,从而更好的预测性能。此外,我们探索了两种不同的变体,使用RNN和记忆增强神经网络作为预测层进行比较,以分别获得更好的练习和概念表示。在四个真实数据集上的大量实验表明,所提出的Bi-CLKT及其变体优于其他基线模型。
2022-01-22 cs.CY cs.LG
Enhancing Knowledge Tracing with Concept Map and Response Disentanglement
Department of Artificial Intelligence, Sungkyunkwan University(成均馆大学人工智能系);Department of AI Development, Poly Inspiration(Poly Inspiration人工智能开发部)
针对传统知识追踪忽略多项选择题具体选项信息的问题,提出CRKT模型,通过概念图编码和解耦表示利用未选选项,在预测准确性和可解释性上优于现有模型。
2024-08-23 cs.AI cs.LG