基于指令微调和检索增强生成的在线智能问答方法及装置
申请人信息
- 申请人:杭州有赞科技有限公司
- 申请人地址:310023 浙江省杭州市西湖区西溪路698号6幢102室
- 发明人: 杭州有赞科技有限公司
专利详细信息
| 项目 | 内容 |
|---|---|
| 专利名称 | 基于指令微调和检索增强生成的在线智能问答方法及装置 |
| 专利类型 | 发明申请 |
| 申请号 | CN202410118530.X |
| 申请日 | 2024/1/29 |
| 公告号 | CN117688163A |
| 公开日 | 2024/3/12 |
| IPC主分类号 | G06F16/332 |
| 权利人 | 杭州有赞科技有限公司 |
| 发明人 | 刘纪稳; 王永想 |
| 地址 | 浙江省杭州市西湖区西溪路698号6幢102室 |
摘要文本
本发明公开了基于指令微调和检索增强生成的在线智能问答方法及装置,包括:获取用户在线提问信息,基于大语言模型对用户在线提问信息进行提炼,对经提炼的提问进行相似提问扩充;基于已训练的语义向量模型对用户在线提问和扩充的相似提问进行向量化处理,得到在线提问文本向量;基于两路检索召回策略将在线提问文本向量与预设知识库内的数据进行检索比较得到相似数据后,基于相似数据和TopK策略从对应的缓存区域中召回与相似数据对应的多个目标文本块;基于重排序策略对召回文本块进行重排序,得到重排序文本块;基于大语言模型和提示词,对用户在线提问、召回文本块及重排序文本块进行润色归纳,得到在线回答结果。提升了智能问答准确率。 来自:马 克 团 队
专利主权项内容
1.一种基于指令微调和检索增强生成的在线智能问答方法,其特征在于,所述方法包括:获取用户在线提问信息,基于大规模语言模型对所述用户在线提问信息进行理解和提炼处理,得到经提炼理解的用户在线提问,并基于所述大规模语言模型对所述经提炼理解的用户在线提问进行相似提问扩充,得到扩充的相似提问;其中,所述用户在线提问信息包括用户在线提问、与所述用户在线提问相关的上下文语境信息;基于已训练的语义向量模型对所述用户在线提问和所述扩充的相似提问进行向量化处理,得到在线提问文本向量;基于两路检索召回策略将所述在线提问文本向量与预设知识库内的数据进行检索比较,从所述预设知识库中得到与所述在线提问文本向量相似的相似数据,并基于所述相似数据和TopK策略从对应的缓存区域中映射召回与所述相似数据对应的多个目标文本块;基于交叉编码器对所述用户在线提问和召回的多个目标文本块分别进行相关性计算,得到所述用户在线提问与各目标文本块之间的相关性分数,并基于所述用户在线提问与各目标文本块之间的相关性分数对所述召回的多个目标文本块进行重排序,得到重排序文本块;基于所述大规模语言模型和预设的提示词,对所述用户在线提问、所述召回的多个目标文本块及所述重排序文本块进行文字润色处理和词汇归纳处理,得到与所述用户在线提问相对应的在线回答结果。