← 返回列表

一种神经网络计算图的分割方法、装置、设备及存储介质

申请号: CN202410058689.7
申请人: 芯瞳半导体技术(山东)有限公司
申请日期: 2024/1/16

摘要文本

本申请公开一种神经网络计算图的分割方法、装置、设备及存储介质,涉及神经网络技术领域,能够实现对任意的神经网络计算图进行子图切分。具体方案包括:获取待分割的计算图;根据各节点的处理类型为计算图中的各个节点标记对应的设备标识,得到标记后的第一计算图,设备标识用于指示各节点的执行设备;针对第一计算图中具有相同设备标识的节点,根据子网络结构模板以及各相邻节点之间的融合代价进行节点融合,得到融合后的第二计算图;针对第二计算图,根据各执行设备对应的内存对第二计算图进行分割,得到分割后的目标计算图,目标计算图中包括多个子计算图;根据各个子计算图对应的设备标识,将各个子计算图部署至分布式设备上进行并行处理。

专利详细信息

项目 内容
专利名称 一种神经网络计算图的分割方法、装置、设备及存储介质
专利类型 发明申请
申请号 CN202410058689.7
申请日 2024/1/16
公告号 CN117576125A
公开日 2024/2/20
IPC主分类号 G06T7/11
权利人 芯瞳半导体技术(山东)有限公司
发明人 梁喜军; 刘奔; 王祥
地址 山东省烟台市福山区长江路300号内7号402号

专利主权项内容

1.一种神经网络计算图的分割方法,其特征在于,所述方法包括:获取待分割的计算图,所述计算图中包括多个节点以及多个节点之间的边,所述节点中包括计算单元,所述边用于指示计算间的依赖关系;根据各所述节点的处理类型为所述计算图中的各个节点标记对应的设备标识,得到标记后的第一计算图,所述设备标识用于指示各所述节点的执行设备;针对所述第一计算图中具有相同设备标识的节点,根据预定义的子网络结构模板以及各相邻节点之间的融合代价进行节点融合,得到融合后的第二计算图;针对所述第二计算图,根据各所述执行设备对应的内存对所述第二计算图进行分割,得到分割后的目标计算图,所述目标计算图中包括多个子计算图;根据各个子计算图对应的设备标识,将各个子计算图部署至对应的分布式设备上进行并行处理。