一种用户信息增强的长文本细粒度情感分析方法
申请人信息
- 申请人:华东交通大学
- 申请人地址:330000 江西省南昌市经济技术开发区双港东大街808号
- 发明人: 华东交通大学
专利详细信息
| 项目 | 内容 |
|---|---|
| 专利名称 | 一种用户信息增强的长文本细粒度情感分析方法 |
| 专利类型 | 发明申请 |
| 申请号 | CN202410156109.8 |
| 申请日 | 2024/2/4 |
| 公告号 | CN117688185A |
| 公开日 | 2024/3/12 |
| IPC主分类号 | G06F16/35 |
| 权利人 | 华东交通大学 |
| 发明人 | 邬昌兴; 陈家雨; 汪恒; 杨亚连 |
| 地址 | 江西省南昌市经济技术开发区双港东大街808号 |
摘要文本
本发明提供一种用户信息增强的长文本细粒度情感分析方法,本发明通过全局信息引导的编码模块把文档级的全局信息引入层次Transformer子模块中,以更好地学习文档的语义表示,用户表示的学习和集成模块通过一个共享网络在相似用户之间共享信息,以学习更好的用户表示,继而集成用户表示到Transformer层的多头注意力机制和多层前向神经网络中,以建模用户情感表达的偏好,通过融合对比学习的总代价计算模块计算模型训练的总代价,本发明提出的方法能够较好地学习长文本的语义表示、有效地利用用户信息、能够准确区分细粒度的情感,分析性能较现有的方法有实质性的提高。。数据由马 克 团 队整理
专利主权项内容
1.一种用户信息增强的长文本细粒度情感分析方法,其特征在于,应用于情感分析模型,所述情感分析模型包括全局信息引导的编码模块、用户表示的学习和集成模块、分类模块、融合对比学习的总代价计算模块;所述全局信息引导的编码模块包括一个词嵌入层和多个层次Transformer子模块,每个层次Transformer子模块包括一个句子级Transformer层和一个文档级Transformer层;所述方法包括:在全局信息引导的编码模块中,通过词嵌入层得到词和句子的初始语义表示,再在文档级全局信息的引导下,句子级Transformer层通过自注意力机制建模词与词之间、词与句子之间、词与文档之间的交互,优化词、句子和文档的语义表示,文档级Transformer层在句子级Transformer层输出的句子和文档表示的基础上,通过自注意力机制建模句子之间、句子与文档之间的交互,继续优化句子和文档的语义表示,最后基于各个层次Transformer子模块的输出计算得到文档的最终语义表示/>;在用户表示的学习和集成模块中,通过一个共享网络在相似用户之间共享信息,该共享网络是一个多层前向神经网络,以用户的初始语义表示为输入,输出用户的最终语义表示,进而把用户的最终语义表示集成到全局信息引导的编码模块的所有句子级Transformer层和文档级Transformer层中,以建模用户与词、用户与句子以及用户与文档之间的关系;在分类模块中,根据文档的最终语义表示/>,计算得到分类结果/>,分类结果/>是一个维的向量,表示情感类别的类别总数;RR通过融合对比学习的总代价计算模块计算情感分析模型训练的总代价,引入对比学习策略缩小正训练实例对之间的语义表示距离,同时拉大负训练实例对之间的语义表示距离。