← 返回列表
基于Transformer的融合领域特征的知识追踪方法
申请人信息
- 申请人:云南师范大学
- 申请人地址:650500 云南省昆明市呈贡区聚贤街768号
- 发明人: 云南师范大学
专利详细信息
| 项目 | 内容 |
|---|---|
| 专利名称 | 基于Transformer的融合领域特征的知识追踪方法 |
| 专利类型 | 发明申请 |
| 申请号 | CN202311775002.3 |
| 申请日 | 2023/12/22 |
| 公告号 | CN117474094A |
| 公开日 | 2024/1/30 |
| IPC主分类号 | G06N5/025 |
| 权利人 | 云南师范大学 |
| 发明人 | 甘健侯; 韩晓瑜; 周菊香; 邹伟; 王俊 |
| 地址 | 云南省昆明市呈贡云南师范大学 |
摘要文本
云南师范大学获取“一种透气窗帘布”专利技术，本发明涉及基于Transformer的融合领域特征的知识追踪方法，属于知识追踪领域和学习分析领域。本发明结合知识追踪的领域特征对Transformer模型的解码器进行变形，并训练得到由编码器和解码器组成的TKT‑DF知识追踪模型，编码器和解码器均由N层堆栈组成，每一层堆栈由多头注意力机制和前馈神经网络组成，并且结合残差连接和层归一化；在编码器上形成结合上下文的对题目的向量表征，在解码器上计算题目的表征向量之间的相似度，更新学生的知识掌握程度，并通过Mask机制来处理序列中未来的信息，最后在解码器上更新的学生知识掌握程度向量上拼接将要预测的题目，完成对学生题目答题正误的预测。本发明在大规模数据集和小规模数据集上提升了Transformer系列知识追踪模型的预测准确率。
专利主权项内容
1.一种基于Transformer的融合领域特征的知识追踪方法，其特征在于：将Transformer模型结合知识追踪的领域特征进行变形，并训练得到由编码器和解码器组成的TKT-DF知识追踪模型，编码器和解码器均由N层堆栈组成，每一层堆栈由多头注意力机制和前馈神经网络组成，并且结合残差连接和层归一化；在编码器上形成结合上下文的对题目的向量表征，在解码器上计算题目的表征向量之间的相似度，来更新学生的知识掌握程度，并通过Mask机制来处理序列中未来的信息，最后在解码器上更新的学生知识掌握程度向量上拼接将要预测的题目，完成对学生题目答题正误的预测。。来自马-克-数-据