基于函数秘密共享的安全二值神经网络推理系统
申请人信息
- 申请人:哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院)
- 申请人地址:518055 广东省深圳市南山区桃源街道深圳大学城哈尔滨工业大学校区
- 发明人: 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院)
专利详细信息
| 项目 | 内容 |
|---|---|
| 专利名称 | 基于函数秘密共享的安全二值神经网络推理系统 |
| 专利类型 | 发明申请 |
| 申请号 | CN202311801348.6 |
| 申请日 | 2023/12/26 |
| 公告号 | CN117454941A |
| 公开日 | 2024/1/26 |
| IPC主分类号 | G06N3/0464 |
| 权利人 | 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院) |
| 发明人 | 蒋琳; 杨鹏; 庄杰航; 陈倩; 王轩 |
| 地址 | 广东省深圳市南山区桃源街道深圳大学城哈尔滨工业大学校区 |
摘要文本
哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院)取得“一种透气窗帘布”专利技术,本发明公开了一种基于函数秘密共享的安全二值神经网络推理系统。该系统包括输入层、隐含层和隐含层,根据实际神经网络结构设置若干个安全全连接运算单元、安全卷积运算单元、安全批量归一化运算单元、安全二值激活函数运算单元和安全最大池化运算单元。本发明通过生成矩阵乘法三元组,并基于此构建了高效的安全全连接层运算单元和安全卷积运算单元,结合离线‑在线计算范式,大大减少了客户端所需的计算和通信。此外,本发明基于函数秘密共享技术构建了安全二值激活函数运算单元和安全最大池化运算单元,能够支持混合位宽计算,减少了非线性函数计算所需的通信代价。
专利主权项内容
1.基于函数秘密共享的安全二值神经网络推理系统,包括输入层、若干个隐含层以及输出层,客户端持有的隐私输入数据和服务器端持有的隐私模型参数,经输入层、隐含层和输出层处理后得到推理结果,其特征在于:CXSWY所述输入层、若干个隐含层以及隐含层根据实际神经网络结构设置若干个安全全连接运算单元、安全卷积运算单元、安全批量归一化运算单元、安全二值激活函数运算单元以及安全最大池化运算单元;所述安全全连接运算单元和安全卷积运算单元配置为:接收待处理信号,对待处理信号进行安全全连接运算或安全卷积运算,即安全矩阵运算,以得到安全全连接运算单元或安全卷积运算单元结果;所述安全矩阵运算具体为:给定二值化的隐私模型参数和隐私输入数据/>,其中是的0-1编码,即将的元素+1和-1分别编码为1和0;/>表示运算所处的环,上标表示对应值的比特位宽,下同;, , 表示矩阵的维度,×表示行列矩阵;安全矩阵运算计算/>;WBWWnd1d2d3d1d2d1d2所述安全批量归一化运算单元配置为:接收待处理信号,对待处理信号进行安全批量归一化运算以得到安全批量归一化运算结果;所述安全批量归一化运算具体为:给定输入份额和批量归一化参数和,其有/>,BN表示安全批量归一化运算;γβ所述安全二值激活函数运算单元配置为:接收待处理信号,对待处理信号进行安全二值激活函数运算以得到安全二值激活函数运算结果;所述安全二值激活函数运算具体为:给定输入份额,如果≥0则/>输出+1,否则输出-1,BA表示安全二值激活函数运算;x所述安全最大池化运算单元配置为:接收待处理信号,对待处理信号进行安全最大池化运算以得到安全最大池化运算结果;所述安全最大池化运算具体为:将输入矩阵的所有元素进行0-1编码,针对每一个窗口进行求和并加上-1,再进行安全二值激活函数运算,获得安全最大池化运算结果。