← 返回列表
一种目标检测模型的窃取脆弱性分析方法和系统
摘要文本
本发明公开了一种目标检测模型的窃取脆弱性分析方法和系统，属于模型窃取和人工智能知识产权保护分析领域。包括：获取相应任务场景和预测类别的无标注样本集；基于不确定度的主动学习方法，从无标注样本集中筛选查询数据集并迭代训练替代模型；基于互联网样本的数据集增强，更新查询数据集；基于目标检测的多尺度一致性，优化更新后的查询数据集中的标注；基于优化标注后的查询数据集训练替代模型；根据替代模型和目标模型的性能分析结果判断目标模型的窃取脆弱性。本发明填补了现有研究中针对目标检测深度学习模型的模型窃取威胁分析的空缺。 （来 自 马 克 数 据 网）
申请人信息
- 申请人:浙江大学
- 申请人地址:310058 浙江省杭州市西湖区余杭塘路866号
- 发明人: 浙江大学
专利详细信息
| 项目 | 内容 |
|---|---|
| 专利名称 | 一种目标检测模型的窃取脆弱性分析方法和系统 |
| 专利类型 | 发明申请 |
| 申请号 | CN202311374926.2 |
| 申请日 | 2023/10/23 |
| 公告号 | CN117496118A |
| 公开日 | 2024/2/2 |
| IPC主分类号 | G06V10/25 |
| 权利人 | 浙江大学 |
| 发明人 | 纪守领; 李泽宇; 施程辉; 张旭鸿; 蒲誉文; 沈剑; 江莉; 周颖杰; 杨星 |
| 地址 | 浙江省杭州市西湖区余杭塘路866号 |
专利主权项内容
1.一种目标检测模型的窃取脆弱性分析方法，其特征在于，包括以下步骤：(1)获取待分析的目标模型的任务场景和所有预测类别，获取任务场景下的样本，得到一个无标注样本集；(2)通过基于不确定度的主动学习方法，从无标注样本集中选取数据构成查询数据集并通过目标模型标注，基于查询数据集迭代训练替代模型；(3)针对查询数据集中的稀有类别，通过关键词搜索互联网样本，并通过替代模型的置信度筛选后得到增强数据集，将增强数据集通过目标模型标注后加入到查询数据集中，更新查询数据集；(4)基于目标检测的多尺度一致性，优化更新后的查询数据集中的标注；(5)基于优化标注后的查询数据集训练替代模型；(6)根据替代模型和目标模型的性能分析结果判断目标模型的窃取脆弱性。