一种基于多云互享的联邦学习系统、方法及装置
摘要文本
本发明涉及计算机技术领域，公开了一种基于多云互享的联邦学习系统、方法及装置，多个联邦学习子系统，联邦学习子系统包括用户簇和云服务器，用户簇包括多个用户端；用户端用于获取局部模型的当前梯度，并将当前梯度发送至对应的云服务器；云服务器用于接收用户簇中各用户端发送的当前梯度，确定簇内平均梯度；多个联邦学习子系统中的云服务器共享簇内平均梯度，以使各联邦学习子系统中的云服务器得到目标梯度，并根据目标梯度，确定目标模型参数，将目标模型参数反馈给用户簇中各用户端；用户端用于根据目标模型参数，优化局部模型，直至得到最优局部模型。通过为每个用户簇分配一台云服务器，多台云服务器灵活配置，提高了用户端的可扩展性。
申请人信息
- 申请人:苏州元脑智能科技有限公司
- 申请人地址:215000 江苏省苏州市吴中经济开发区郭巷街道官浦路1号9幢
- 发明人: 苏州元脑智能科技有限公司
专利详细信息
| 项目 | 内容 |
|---|---|
| 专利名称 | 一种基于多云互享的联邦学习系统、方法及装置 |
| 专利类型 | 发明授权 |
| 申请号 | CN202311825176.6 |
| 申请日 | 2023/12/27 |
| 公告号 | CN117474130B |
| 公开日 | 2024/3/22 |
| IPC主分类号 | G06N20/00 |
| 权利人 | 苏州元脑智能科技有限公司 |
| 发明人 | 张旭; 孙华锦; 胡雷钧; 王小伟 |
| 地址 | 江苏省苏州市吴中经济开发区郭巷街道官浦路1号9幢 |
专利主权项内容
1.一种基于多云互享的联邦学习系统，其特征在于，包括：多个联邦学习子系统，所述联邦学习子系统包括用户簇和云服务器，所述用户簇包括多个用户端；所述用户端用于获取局部模型的当前梯度，并将所述当前梯度发送至对应的云服务器；所述云服务器用于接收所述用户簇中各用户端发送的当前梯度，确定簇内平均梯度；所述多个联邦学习子系统中的云服务器共享所述簇内平均梯度，以使各所述联邦学习子系统中的云服务器得到目标梯度，并根据所述目标梯度，确定目标模型参数，将所述目标模型参数反馈给所述用户簇中各用户端；所述用户端用于根据所述目标模型参数，优化所述局部模型，直至得到最优局部模型；所述云服务器，用于：基于如下公式，确定所述目标梯度：
，/>其中，表示在/>时刻云服务器/>当前模型参数/>的目标梯度，，/>表示在/>时刻共享云服务器/>的共享权重，/>表示在时刻云服务器/>当前模型参数/>的共享簇内平均梯度，当/>时，/>表示在/>时刻云服务器/>当前模型参数/>的本地的簇内平均梯度。。该数据由<马克数据网>整理