← 返回列表
基于深度学习模型的数据处理方法和装置、设备及介质
摘要文本
本申请实施例提供一种基于深度学习模型的数据处理方法和装置、设备及介质，属于深度学习技术领域。该方法包括：获取模型包，模型包包括模型配置文件和模型文件，模型配置文件包括芯片信息和模型格式；基于芯片信息和结点拥有的芯片对结点进行筛选，得到目标结点；根据模型格式和模型文件向目标结点发送启动服务命令；通过启动服务命令，控制目标结点根据模型格式从预设的候选镜像选取出目标镜像，并根据模型文件启动目标镜像的推理服务代码，用于执行推理任务；其中，在每个结点运行多个候选镜像，在每个候选镜像上运行一种模型格式。本申请实施例实现了支持异构硬件平台与多种模型结构的技术效果。
申请人信息
- 申请人:博瀚智能(深圳)有限公司
- 申请人地址:518000 广东省深圳市南山区粤海街道高新区社区科技南一路28号达实大厦2201
- 发明人: 博瀚智能(深圳)有限公司
专利详细信息
| 项目 | 内容 |
|---|---|
| 专利名称 | 基于深度学习模型的数据处理方法和装置、设备及介质 |
| 专利类型 | 发明申请 |
| 申请号 | CN202311572571.8 |
| 申请日 | 2023/11/22 |
| 公告号 | CN117519736A |
| 公开日 | 2024/2/6 |
| IPC主分类号 | G06F8/61 |
| 权利人 | 博瀚智能(深圳)有限公司 |
| 发明人 | 郭玮; 苏力强; 王忠强; 许佳; 陈鹏 |
| 地址 | 广东省深圳市南山区粤海街道高新区社区科技南一路28号达实大厦2201 |
专利主权项内容
1.一种基于深度学习模型的数据处理方法，其特征在于，所述数据处理方法应用于结点网络的多个结点中的主结点，所述方法包括：获取模型包，所述模型包包括模型配置文件和模型文件，所述模型配置文件包括芯片信息和模型格式；基于所述芯片信息和所述结点拥有的芯片对所述结点进行筛选，得到目标结点；根据所述模型格式和所述模型文件向所述目标结点发送启动服务命令；通过所述启动服务命令，控制所述目标结点根据所述模型格式从预设的候选镜像选取出目标镜像，并根据所述模型文件启动所述目标镜像的推理服务代码，用于执行推理任务；其中，在每个所述结点运行多个所述候选镜像，在每个所述候选镜像上运行一种模型格式。。来源：百度马 克 数据网