← 返回列表
一种算子的切分方式确定方法、装置、设备及介质
摘要文本
本发明公开了一种算子的切分方式确定方法、装置、设备及介质。包括获取加载目标算子的处理器的运行时参数;根据运行时参数构建屋顶线性能模型;根据运行时参数所构建的切分约束条件确定出目标算子的切分参数集合,并根据切分参数集合构建针对目标算子的切分方式集合;基于屋顶线性能模型获取切分方式中各切分方式的静态切分特征,并根据静态切分特征从切分方式集合中筛选出与目标算子匹配的目标切分方式。通过处理器的运行时参数实时确定出切分方式集合,并根据屋顶线性能模型从切分方式集合中准确筛选出与目标算子匹配的目标切分方式,从而在按照所确定的目标切分方式进行算子切分时,能够保证计算资源得到充分地应用,避免了计算资源的浪费。
申请人信息
- 申请人:上海燧原智能科技有限公司
- 申请人地址:201306 上海市浦东新区中国(上海)自由贸易试验区临港新片区业盛路188号A-522室
- 发明人: 上海燧原智能科技有限公司
专利详细信息
| 项目 | 内容 |
|---|---|
| 专利名称 | 一种算子的切分方式确定方法、装置、设备及介质 |
| 专利类型 | 发明申请 |
| 申请号 | CN202410217894.3 |
| 申请日 | 2024/2/28 |
| 公告号 | CN117785492A |
| 公开日 | 2024/3/29 |
| IPC主分类号 | G06F9/50 |
| 权利人 | 上海燧原智能科技有限公司 |
| 发明人 | 于召韦; 谢宝磊; 刘志丹; 邓辉; 陈松涛 |
| 地址 | 上海市浦东新区中国(上海)自由贸易试验区临港新片区业盛路188号A-522室 |
专利主权项内容
1.一种算子的切分方式确定方法,其特征在于,包括:获取加载目标算子的处理器的运行时参数,其中,所述处理器包括多级存储空间;根据所述运行时参数构建屋顶线性能模型,其中,所述屋顶线性能模型中包括计算强度和可用算力的对应关系;根据所述运行时参数所构建的切分约束条件确定出所述目标算子的切分参数集合,并根据所述切分参数集合构建针对所述目标算子的切分方式集合;基于所述屋顶线性能模型获取所述切分方式中各切分方式的静态切分特征,并根据所述静态切分特征从所述切分方式集合中筛选出与所述目标算子匹配的目标切分方式。