← 返回列表
一种大模型幻觉治理方法、装置、设备及存储介质
摘要文本
本发明公开了一种大模型幻觉治理方法、装置、设备及存储介质。该方法包括:获取目标问答对,其中,所述目标问答对包括:目标问题和待校验答案;将所述目标问答对输入目标模型,得到目标问答对对应的问答类型,其中,所述目标模型通过训练样本集迭代训练待训练模型得到;根据问答类型确定校验规则,基于校验规则和目标问答对对所述待校验答案进行校验,若校验通过,则确定所述待校验答案为目标答案,通过本发明的技术方案,能够减少模型生成结果出现幻觉的可能性,提升模型结果的可信度。
申请人信息
- 申请人:星环信息科技(上海)股份有限公司
- 申请人地址:200233 上海市徐汇区虹漕路88号B栋11-12楼
- 发明人: 星环信息科技(上海)股份有限公司
专利详细信息
| 项目 | 内容 |
|---|---|
| 专利名称 | 一种大模型幻觉治理方法、装置、设备及存储介质 |
| 专利类型 | 发明申请 |
| 申请号 | CN202311376701.0 |
| 申请日 | 2023/10/23 |
| 公告号 | CN117556920A |
| 公开日 | 2024/2/13 |
| IPC主分类号 | G06N20/00 |
| 权利人 | 星环信息科技(上海)股份有限公司 |
| 发明人 | 夏正勋; 黄珈菘; 蒋浩博 |
| 地址 | 上海市徐汇区虹漕路88号B栋11-12楼 |
专利主权项内容
1.一种大模型幻觉治理方法,其特征在于,包括:获取目标问答对,其中,所述目标问答对包括:目标问题和待校验答案;将所述目标问答对输入目标模型,得到目标问答对对应的问答类型,其中,所述目标模型通过训练样本集迭代训练待训练模型得到;根据问答类型确定校验规则,基于校验规则和目标问答对对所述待校验答案进行校验,若校验通过,则确定所述待校验答案为目标答案。。马 克 数 据 网