基于深度学习的知识追踪

喵先生的进阶之路

Knowledge Tracking Model Based on Learning Process一文中,介绍了一种知识追踪模型LPKT。这是一种基于现存深度学习的知识追踪模型的改进,该模型采用了记忆增强神经网络(MANN)的思想。

现存模型的缺陷

  1. 对于计算知识增长的局限性
  2. 模型遗忘机制不完善

知识追踪模型

知识追踪的任务是根据学生与智能教学系统之间的交互,自动跟踪学生的知识状态随时间的变化过程,所以,知识追踪具有自动化个性化的特点。

目前典型的知识追踪方法有:贝叶斯知识追踪(BKT)和深度知识追踪(DKT)

BKT

BKT模型存在以下的问题:

  1. 它需要标记数据
  2. 对每个知识点分别进行表达

所以BKT不能捕捉不同概念之间的相关性,不能有效地表示复杂的概念状态转化。

DKT

DKT模型,是基于长短时记忆网络(LSTM)的深度知识追踪网络。它不仅比BKT模型有更好的预测能力,同时不需要专家对习题的知识点进行标注。

但是LSTM是将所有的记忆存储在一个隐藏的向量中,这使得它很难准确地记住超过数百个时间步长的序列

记忆增强神经网络(MANN)就是用来解决这个问题的。

DKVMN

动态键值记忆网络(DKVMN),它借鉴了MANN的思想,同时又结合的BKTDKT的优点,所以总体来说,它的预测性能是比较好的。与LSTM相比,它能避免过拟合、参数少,以及通过潜在概念自动发现相似练习。

存在的缺陷:

  1. 计算知识增长的局限性
  2. 过于依赖模型本身的遗忘机制
  3. 预测过程中没有考虑遗忘机制

基于学习过程的知识追踪(LPKT)

LPKT旨在通过模拟学生的学习和记忆过程来完成知识追踪。

LPKT过程:

  1. 注意机制:计算一个问题涉及的知识点数和每个知识点所占的比例
  2. 读过程:观察一段时间内学生在学习系统中的学习序列数据
  3. 写过程:给定一个学生问答活动,代表学生的知识状态矩阵V由t-1时刻状态到t时刻状态

image.png

读过程中,模型根据当前知识状态计算知识遗忘量,再参考LSTM的遗忘机制,计算下一个时刻的知识状态。这个知识状态就比较符合学生的学习规律。

写过程则是根据MANN模型机制,在知识追踪的过程中跟新学生的动态知识状态。在更新状态时,会同时考虑遗忘机制,在DKVMN中被称作erase。遗忘过程中,不应该只考虑知识增量,同时还应该考虑学生学习持续时间。

总结

LPKT相较于传统的BKTDKT,都有较大的优势。同时它又结合了DKVMN的思想与优点,改进了遗忘机制上的不足,使得知识追踪的效率得到提高。


参考文献:Knowledge Tracking Model Based on Learning Process

阅读 974

朴世超
个人学习总结与项目实战问题记录
336 声望
19 粉丝
0 条评论
你知道吗?

336 声望
19 粉丝
宣传栏