← 返回列表

一种异构分布式学习方法、装置、设备、系统及介质

申请号: CN202410230139.9
申请人: 浪潮电子信息产业股份有限公司
申请日期: 2024/2/29

摘要文本

本发明提供一种异构分布式学习方法、装置、设备、系统及介质,涉及计算机技术领域,方法应用于边缘设备,联邦学习系统包含多个边缘设备,多个边缘设备已划分至多个设备簇,方法包括:利用本地训练数据对本地的机器学习模型进行迭代训练;各边缘设备中的机器学习模型对应相同的模型结构及推理任务;对训练后的机器学习模型进行压缩,并将压缩后的机器学习模型参数发送至自身所在设备簇的簇头边缘设备;当自身属于簇头边缘设备时,对接收到的机器学习模型参数进行簇内聚合得到簇内聚合模型参数,并将簇内聚合模型参数发送至边缘云服务器进行全局聚合;可通过设备分簇及模型压缩减少联邦学习过程中的通信量,从而可提升通信效率。

专利详细信息

项目 内容
专利名称 一种异构分布式学习方法、装置、设备、系统及介质
专利类型 发明申请
申请号 CN202410230139.9
申请日 2024/2/29
公告号 CN117808129A
公开日 2024/4/2
IPC主分类号 G06N20/00
权利人 浪潮电子信息产业股份有限公司
发明人 赵坤; 范宝余; 张润泽; 曹芳; 郭振华; 李仁刚; 赵雅倩; 鲁璐; 王立; 贺蒙
地址 山东省济南市高新区草山岭南路801号9层东侧

专利主权项内容

1.一种异构分布式学习方法,其特征在于,应用于边缘设备,联邦学习系统包含多个所述边缘设备,多个所述边缘设备已划分至多个设备簇,所述方法包括:利用本地训练数据对本地的机器学习模型进行迭代训练;各所述边缘设备中的机器学习模型对应相同的模型结构及推理任务;对训练后的机器学习模型进行压缩,并将压缩后的机器学习模型参数发送至自身所在设备簇的簇头边缘设备;当自身属于所述簇头边缘设备时,对接收到的机器学习模型参数进行簇内聚合得到簇内聚合模型参数,并将所述簇内聚合模型参数发送至边缘云服务器进行全局聚合。。来源:百度马 克 数据网