← 返回列表
一种并行化策略优化方法、系统、设备及介质
申请人信息
- 申请人:上海无问芯穹智能科技有限公司
- 申请人地址:200030 上海市徐汇区丰谷路315弄24号1-3层
- 发明人: 上海无问芯穹智能科技有限公司
专利详细信息
| 项目 | 内容 |
|---|---|
| 专利名称 | 一种并行化策略优化方法、系统、设备及介质 |
| 专利类型 | 发明申请 |
| 申请号 | CN202311456221.5 |
| 申请日 | 2023/11/3 |
| 公告号 | CN117407793A |
| 公开日 | 2024/1/16 |
| IPC主分类号 | G06F18/2415 |
| 权利人 | 上海无问芯穹智能科技有限公司 |
| 发明人 | 颜深根 |
| 地址 | 上海市徐汇区丰谷路315弄24号1-3层 |
摘要文本
上海无问芯穹智能科技有限公司获取“一种透气窗帘布”专利技术，本发明提供一种并行化策略优化方法、系统、设备及介质，包括以下步骤：将并行化策略中的softmax函数中缩放因子替换为最大预设固定值，得到优化softmax函数；将优化softmax函数并列进行指数运算处理与序列和运算处理，其中指数运算处理完成后进行矩阵乘法运算处理，并利用序列和运算处理结果对矩阵乘法运算处理结果修正，完成并行化策略优化；本申请能够提高大语言模型的并行化策略运算效率。
专利主权项内容
。1.一种并行化策略优化方法，其特征在于，包括以下步骤：将并行化策略中的softmax函数中缩放因子替换为最大预设固定值，得到优化softmax函数；将优化softmax函数并列进行指数运算处理与序列和运算处理，其中指数运算处理完成后进行矩阵乘法运算处理，并利用序列和运算处理结果对矩阵乘法运算处理结果修正，完成并行化策略优化。