数据迁移方法、装置、服务器及存储介质
摘要文本
本申请涉及数据处理的领域,尤其是涉及一种数据迁移方法、装置、服务器及存储介质,该方法包括获取待剪枝的神经网络中每个网络层的结构信息,将相邻的每两个网络层中的上网络层的输出矩阵和下网络层的参数矩阵中顺位相同且通道数量相同的维度节点之间建立链接关系,将在同一链接关系中所有的维度节点确定为一个目标组,确定每个目标组中可剪枝的可变维度节点,将存在可变维度节点的目标组确定为可变组,确定相似度大于等于预设阈值的两个通道为可剪枝通道组;对每个可剪枝通道组进行剪枝,对剪枝后的各个网络层进行重构,得到剪枝后的神经网络;将剪枝后的神经网络进行迁移。本申请的方案能够减少对神经网络进行剪枝造成的性能损失。
申请人信息
- 申请人:河北神玥软件科技股份有限公司; 清华大学
- 申请人地址:050200 河北省石家庄市鹿泉区鹿泉经济开发区御园路99号光谷科技园A区4-1号楼
- 发明人: 河北神玥软件科技股份有限公司; 清华大学
专利详细信息
| 项目 | 内容 |
|---|---|
| 专利名称 | 数据迁移方法、装置、服务器及存储介质 |
| 专利类型 | 发明申请 |
| 申请号 | CN202311545921.1 |
| 申请日 | 2023/11/20 |
| 公告号 | CN117610634A |
| 公开日 | 2024/2/27 |
| IPC主分类号 | G06N3/082 |
| 权利人 | 河北神玥软件科技股份有限公司; 清华大学 |
| 发明人 | 熊浩; 刘伟森; 赖泽祺 |
| 地址 | 河北省石家庄市鹿泉区鹿泉经济开发区御园路99号光谷科技园A区4-1号楼; 北京市海淀区清华园1号 |
专利主权项内容
1.一种数据迁移方法,其特征在于,包括:获取待剪枝的神经网络中每个网络层的结构信息,所述结构信息包括网络层的参数矩阵和输出矩阵,所述输出矩阵是网络层的输入数据经过所述参数矩阵变换得到的,每个矩阵中包括至少一个类型的维度节点,每个维度节点包括至少两个通道;将相邻的每两个网络层中的上网络层的所述输出矩阵和下网络层的所述参数矩阵中顺位相同且通道数量相同的两个维度节点之间建立链接关系,其中,所述上网络层的输出矩阵为所述下网络层的输入数据;将在同一链接关系中所有的维度节点确定为一个目标组,同一网络层的参数矩阵和输出矩阵中,相同顺位的维度节点之间存在链接关系;确定每个所述目标组中可剪枝的维度节点为可变维度节点,并将存在所述可变维度节点的所述目标组确定为可变组;对于每个所述可变组,确定所述可变组中每两个通道之间的,并确定相似度大于等于预设阈值的两个通道为可剪枝通道组;对每个所述可剪枝通道组进行剪枝以删除一个通道,得到剪枝后的各个网络层;基于所述剪枝后的各个网络层进行重构,得到剪枝后的神经网络;将所述剪枝后的神经网络进行迁移。