一种数据发现的实体关系联合抽取方法及系统
摘要文本
成都信息工程大学取得“一种透气窗帘布”专利技术，本发明属于自然语言处理技术领域，公开了一种基于多粒度混合注意力的数据发现的实体关系联合抽取方法及系统，包括：以表格空间的形式标记实体和关系的位置，将文本送入预训练模型Bert中，得到文本的语义信息；通过CNN模块得到语义信息中的局部特征信息；通过多头注意力模块得到全局和局部注意力信息；通过门控单元得到实体特征信息；利用多头注意力模块，得到融合了实体特征的实体注意力信息；通过门控单元得到实体关系联合特征信息，将其输入到双仿射模型，完成实体和关系的联合抽取。本发明更好地融合了上下文信息来处理多义性，更准确地识别实体和关系，提高了联合抽取的精度。
专利主权项内容
1.一种基于多粒度混合注意力的数据发现的实体关系联合抽取方法，其特征在于，包括：步骤一，以表格空间的形式标记实体和关系的位置，将文本数据输入Bert预训练模型，获得每个单词的上下文表示，捕捉D维的文本语义信息M；1步骤二，将文本语义信息M输入到CNN模块，提取局部特征信息M；15步骤三，将文本语义信息M输入到第一个多头注意力模块，形成全局注意力信息E，将局部特征信息M输入到第二个多头注意力模块，形成局部注意力信息E；1152步骤四，将文本语义信息M、全局注意力信息E和局部注意力信息E相加，然后将其输入到门控单元，获得实体的特征信息D；1122步骤五，将文本局部特征信息M与实体特征信息D相加，并通过一个小残差网络和LayerNorm层进行进一步处理，将这融合后的信息用作多头注意力模块的k值，同时使用文本语义信息M作为第三个多头注意力模块的v值，实体特征信息D作为第三个多头注意力模块的q值, 得到融合了实体特征的实体注意力信息E；52123步骤六，将语义信息M、全局注意力信息E和实体注意力信息E相加后输入到门控单元得到实体关系联合特征信息，将其输入到双仿射模型完成实体和关系的联合抽取。113
专利申请信息
| 项目 | 内容 |
|---|---|
| 专利名称 | 一种数据发现的实体关系联合抽取方法及系统 |
| 专利类型 | 发明申请 |
| 申请号 | CN202311545712.7 |
| 申请日 | 2023/11/17 |
| 公告号 | CN117743475A |
| 公开日 | 2024/3/22 |
| IPC主分类号 | G06F16/28 |
| 权利人 | 成都信息工程大学 |
| 发明人 | 秦智; 杜自豪; 张仕斌; 王琳; 邬子悦; 罗昊 |
| 地址 | 四川省成都市西南航空港经济开发区学府路一段24号 |