面向应用的大语言模型调用接口系统、方法、设备及介质
摘要文本
本发明属于人工智能技术领域,涉及一种面向应用的大语言模型调用接口系统、方法、设备及介质,所述系统包括:人机交互窗口;解决方案库准备模块,其包括数据库、SoAPI库、SoAPI关系图、解决方案库、大语言模型、提示词库和代码虚拟执行环境;解决方案辅助推理模型,其包括解决方案准备子模块、程序生成子模块、程序执行子模块和答案生成子模块。其使得大语言模型能够理解并正确执行SoAPI之间存在的复杂的耦合嵌套关系,从而便于大语言模型通过复杂的执行逻辑来正确组合SoAPI以完成复杂任务。 来源:马 克 数 据 网
申请人信息
- 申请人:北京智谱华章科技有限公司
- 申请人地址:100086 北京市海淀区中关村东路1号院9号楼10层整层
- 发明人: 北京智谱华章科技有限公司
专利详细信息
| 项目 | 内容 |
|---|---|
| 专利名称 | 面向应用的大语言模型调用接口系统、方法、设备及介质 |
| 专利类型 | 发明申请 |
| 申请号 | CN202410040583.4 |
| 申请日 | 2024/1/11 |
| 公告号 | CN117829297A |
| 公开日 | 2024/4/5 |
| IPC主分类号 | G06N5/04 |
| 权利人 | 北京智谱华章科技有限公司 |
| 发明人 | 张静; 王元淳; 于济凡; 姚子俊; 袁会会 |
| 地址 | 北京市海淀区中关村东路1号院9号楼10层整层 |
专利主权项内容
1.一种面向应用的大语言模型调用接口系统,其特征在于,包括:人机交互窗口,其用于供用户输入提问问题和展示执行结果;解决方案库准备模块,其包括数据库、SoAPI库、SoAPI关系图、解决方案库、大语言模型、提示词库和代码虚拟执行环境,所述SoAPI关系图根据所述数据库和所述SoAPI库中的各个SoAPI构建而成,用以解析所述SoAPI库内的各个SoAPI之间的耦合嵌套关系;所述解决方案库中存储有解决方案,所述解决方案是在所述SoAPI关系图上采样得到的具有实际语义的执行路径;所述提示词库存储有依据所述解决方案为所述大语言模型撰写的提示词;解决方案辅助推理模型,其包括解决方案准备子模块、程序生成子模块、程序执行子模块和答案生成子模块,所述解决方案准备子模块用于基于所述人机交互窗口输入的提问问题利用所述提示词库中的提示词引导所述大语言模型参考所述解决方案库中的解决方案为所述提问问题生成一条问题解决方案;所述程序生成子模块用于根据所述问题解决方案引导所述大语言模型生成一段程序;所述程序执行子模块用于利用所述代码虚拟执行环境执行该段程序,以拿到所述数据库中的相应信息;所述答案生成子模块用于利用所述提示词库中的提示词引导所述大语言模型根据所述提问问题以及所述程序执行子模块从所述数据库中拿到的相应信息为所述提问问题生成一段自然语言形式的答案。 更多数据: