联邦学习中双向模型投毒检测方法与系统

专利主权项内容

1.联邦学习中双向模型投毒检测方法，其特征在于，包括：收集数据并构建数据集；客户端基于所述数据集训练本地模型，获取客户端本地梯度并上传至中央服务器；所述中央服务器基于所述客户端本地梯度执行聚合，获取全局梯度，并发送给验证器；所述验证器基于预设的双向投毒防御模型，对所述全局梯度进行验证，并将验证通过的全局梯度发送至所述中央服务器；所述中央服务器基于所述验证通过的全局梯度更新全局模型，完成所述客户端和中央服务器的投毒检测；其中，所述验证器基于预设的双向投毒防御模型，对所述全局梯度进行验证包括：所述验证器基于所述全局梯度生成验证向量，将所述验证向量发送至所述客户端和中央服务器；所述客户端和中央服务器基于所述验证向量获取验证信息，并将所述验证信息发送回所述验证器；所述验证器将所述验证信息和全局梯度输入所述双向投毒防御模型中，验证所述客户端和中央服务器是否投毒；所述验证器基于所述全局梯度生成验证向量包括：基于所述全局梯度随机生成一个满足的单位向量为第(t-1)轮的全局梯度，/>为随机生成的向量，/>为余弦相似度阈值，当/>小于0时，令单位向量/>，确保/>始终大于0；基于计算/>，其中，/>始终大于0；基于生成所述验证向量，其中，/>为验证向量；所述验证信息包括客户端验证信息集和服务器验证信息集，所述客户端验证信息集为，其中，/>为客户端编号，/>为客户端本地梯度与验证向量点积值，/>为客户端本地梯度，/>为客户端集合；所述服务器验证信息集为，其中，/>为全局梯度与验证向量点积值，/>为向中央服务器发送本地梯度的客户端集合；验证器将所述验证信息和全局梯度输入所述双向投毒防御模型中，验证所述客户端和中央服务器是否投毒包括：所述验证器基于所述客户端验证信息集过滤恶意客户端，并在剩余客户端中识别出投毒客户端；获取所述恶意客户端和投毒客户端的本地梯度，对所述恶意客户端和投毒客户端的本地梯度进行验证，获取有害梯度；对所述有害梯度进行清除处理，获取验证通过的全局梯度；基于所述验证通过的全局梯度和验证向量验证所述中央服务器是否投毒。