联邦模型训练方法、装置、计算机设备和存储介质
申请人信息
- 申请人:深圳市移卡科技有限公司
- 申请人地址:518051 广东省深圳市南山区粤海街道科技园社区科苑路15号科兴科学园A栋A4-1901
- 发明人: 深圳市移卡科技有限公司
专利详细信息
| 项目 | 内容 |
|---|---|
| 专利名称 | 联邦模型训练方法、装置、计算机设备和存储介质 |
| 专利类型 | 发明授权 |
| 申请号 | CN202311775339.4 |
| 申请日 | 2023/12/22 |
| 公告号 | CN117454185B |
| 公开日 | 2024/3/12 |
| IPC主分类号 | G06F18/214 |
| 权利人 | 深圳市移卡科技有限公司 |
| 发明人 | 薛帅; 刘颖麒; 占懿; 罗小辉; 孙雨 |
| 地址 | 广东省深圳市南山区粤海街道科技园社区科苑路15号科兴科学园A栋A4-1901 |
摘要文本
深圳市移卡科技有限公司取得“一种透气窗帘布”专利技术,本申请涉及一种联邦模型训练方法、装置、计算机设备和存储介质。该方法包括:提取第一对齐样本对应的第一样本特征,并获取第二设备发送的第二样本特征;基于第一样本特征、第二样本特征、第一交互参数和第二交互参数进行特征融合,并将融合特征发送第二设备;获取第二设备返回的目标梯度和参数更新梯度;按照参数更新梯度对第二交互参数进行更新,得到第二更新参数,按照第二交互参数对目标梯度进行更新,得到第二交互梯度,将第二交互梯度返回第二设备;按照第一交互参数对目标梯度进行更新,得到第一交互梯度,按照第一交互梯度进行反向传播并进行循环迭代,直到达到训练完成条件时,得到目标联邦模型。采用本方法能够提高训练的安全性。 关注公众号专利查询网
专利主权项内容
1.一种联邦模型训练方法,其特征在于,应用于第一设备,所述第一设备中包括第一对齐样本、第一特征提取层和交互层,第二设备中包括第二特征提取层和第二推荐任务层,所述方法包括:通过所述第一特征提取层提取所述第一对齐样本对应的第一样本特征,并通过所述交互层获取第二设备发送的第二样本特征,所述第二样本特征是所述第二设备通过所述第二特征提取层对第二对齐样本进行特征提取并进行同态加密得到的,所述第二设备中包括所述第二对齐样本和训练标签;通过所述交互层将所述第一样本特征、所述第二样本特征、第一交互参数和第二交互参数进行特征融合,得到融合特征,并将所述融合特征发送所述第二设备,所述第一交互参数和所述第二交互参数是初始化得到的;通过所述交互层获取所述第二设备返回的目标梯度和参数更新梯度,所述目标梯度是所述第二设备按照所述融合特征进行前向传播并按照所述训练标签进行反向传播计算得到的,所述参数更新梯度是所述第二设备基于所述目标梯度和所述第二样本特征进行梯度计算得到的;按照所述参数更新梯度对所述第二交互参数进行更新,得到第二更新参数,按照所述第二交互参数对所述目标梯度进行更新,得到第二交互梯度,通过所述交互层将所述第二交互梯度返回所述第二设备,所述第二设备按照所述第二交互梯度进行反向更新所述第二特征提取层;按照所述第一交互参数对所述目标梯度进行更新,得到第一交互梯度,按照所述第一交互梯度反向更新所述第一特征提取层,通过所述目标梯度更新所述第一交互参数并进行循环迭代,直到达到训练完成条件时,基于训练完成的第一特征提取层、训练完成的交互层、训练完成的第二特征提取层以及训练完成的第二推荐任务层,得到目标联邦模型;将待推荐数据输入到所述目标联邦模型中的第一特征提取层进行特征提取,得到第一待推荐特征,并获取所述第二设备发送的通过所述目标联邦模型中第二特征提取层提取的第二待推荐特征,所述待推荐数据包括文本数据、图像数据或语音数据;将所述第一待推荐特征和第二待推荐特征输入到所述目标联邦模型中的交互层中使用第一交互参数和第二交互参数进行特征融合,得到待推荐融合特征,并将待推荐融合特征发送所述第二设备,所述第二设备将所述待推荐融合特征输入到所述目标联邦模型中的第二推荐任务层中进行推荐预测,得到所述待推荐数据对应的推荐可能性;获取所述第二设备返回的所述待推荐数据对应的推荐可能性。