← 返回列表
一种模型优化的方法、装置、存储介质及电子设备
摘要文本
本申请公开了一种模型优化的方法、装置、存储介质及电子设备，可以在用户指定目标模型后，即可通过调用预设的各数据采集程序，采集用户所指定的目标模型中包含的不同粒度的模型单元的运行数据，并可以对目标模型中包含的处于不同粒度下的模型单元的运行数据进行分析处理，从而可以确定出目标模型中包含的不同粒度下的模型单元的硬件资源使用信息，并根据确定出的目标模型中包含的不同粒度下的模型单元的硬件资源使用信息，从多种粒度层面对目标模型进行评估优化，进而可以有效的提升目标模型的性能。。 （来自 专利查询网）
申请人信息
- 申请人:摩尔线程智能科技(成都)有限责任公司
- 申请人地址:610041 四川省成都市中国(四川)自由贸易试验区成都高新区天府大道中段1366号2栋E5座12层23-32
- 发明人: 摩尔线程智能科技(成都)有限责任公司
专利详细信息
| 项目 | 内容 |
|---|---|
| 专利名称 | 一种模型优化的方法、装置、存储介质及电子设备 |
| 专利类型 | 发明申请 |
| 申请号 | CN202311774499.7 |
| 申请日 | 2023/12/20 |
| 公告号 | CN117455015A |
| 公开日 | 2024/1/26 |
| IPC主分类号 | G06N20/00 |
| 权利人 | 摩尔线程智能科技(成都)有限责任公司 |
| 发明人 | 请求不公布姓名; 请求不公布姓名; 请求不公布姓名 |
| 地址 | 四川省成都市中国(四川)自由贸易试验区成都高新区天府大道中段1366号2栋E5座12层23-32 |
专利主权项内容
1.一种模型优化的方法，其特征在于，包括：获取目标模型；调用预设的各数据采集程序，采集所述目标模型中不同粒度的模型单元的运行数据，和硬件设备在运行所述目标模型时的硬件资源全局使用信息；其中，各粒度的模型单元包括：算子粒度下的算子单元、计算图粒度下的计算图单元以及模型粒度下的目标模型中的至少一种；根据所述运行数据以及所述硬件资源全局使用信息，确定不同粒度的模型单元对应的硬件资源使用信息；根据所述硬件资源使用信息以及所述运行数据，对所述目标模型进行优化，得到优化后目标模型。。