基于结构化实例图的知识蒸馏方法、装置、设备和介质
申请人信息
- 申请人:深圳思谋信息科技有限公司; 上海思谋科技有限公司
- 申请人地址:518051 广东省深圳市南山区高新南九道45号三航科技大厦22楼
- 发明人: 深圳思谋信息科技有限公司; 上海思谋科技有限公司
专利详细信息
| 项目 | 内容 |
|---|---|
| 专利名称 | 基于结构化实例图的知识蒸馏方法、装置、设备和介质 |
| 专利类型 | 发明授权 |
| 申请号 | CN202110551061.7 |
| 申请日 | 2021/5/20 |
| 公告号 | CN113255915B8 |
| 公开日 | 2024/2/6 |
| IPC主分类号 | G06N5/02 |
| 权利人 | 深圳思谋信息科技有限公司; 上海思谋科技有限公司 |
| 发明人 | 陈亦新; 陈鹏光; 沈小勇; 吕江波 |
| 地址 | 广东省深圳市南山区高新南九道45号三航科技大厦22楼; 上海市徐汇区龙兰路277号2号楼11楼01、02、06室 |
摘要文本
深圳思谋信息科技有限公司; 上海思谋科技有限公司获取“一种透气窗帘布”专利技术，本申请涉及一种基于结构化实例图的知识蒸馏方法、装置、计算机设备和存储介质。本申请能够使得教师网络中的前景特征与背景特征都能够被有效地迁移到学生网络中，进一步提高了目标检测的准确度。该方法包括：获取训练图像，分别将训练图像输入至教师网络学生网络，得到第一特征图和第二特征图；再分别将第一特征图和第二特征图输入区域候选网络中，得到包含边界框的第一待检测图和第二待检测图；基于各边界框中的对象实例进行编码，得到第一结构图和第二结构图；基于第一结构图和第二结构图，得到蒸馏损失部分；根据第二待检测图的检测结果与真实标签之间的距离得到基础损失部分；基于蒸馏损失部分和基础损失部分，对学生网络进行训练。
专利主权项内容
1.一种基于结构化实例图的知识蒸馏方法，其特征在于，所述方法包括：获取训练图像；将所述训练图像输入至教师网络的骨干网络，得到第一特征图，以及将所述训练图像输入至学生网络的骨干网络，得到第二特征图；分别将所述第一特征图和所述第二特征图输入区域候选网络中，得到包含边界框的第一待检测图和包含边界框的第二待检测图；基于所述第一待检测图的边界框中的对象实例和所述第二待检测图的边界框中的对象实例进行编码，得到第一结构图和第二结构图；所述对象实例使用节点和相应的边进行表征；基于所述第一结构图与所述第二结构图，结合预设的蒸馏损失函数，得到蒸馏损失部分；根据所述第二待检测图的检测结果与真实标签之间的距离得到基础损失部分；基于所述蒸馏损失部分和基础损失部分，对所述学生网络进行训练；所述蒸馏损失部分包括前景节点损失部分、背景节点损失部分和边损失部分；所述边损失部分用于使得所述学生网络中对象实例的节点与所述教师网络中对象实例的节点产生的相关性进行对齐；所述蒸馏损失函数通过前景节点的蒸馏损失和前景节点的蒸馏损失权重，背景节点的蒸馏损失和背景节点的蒸馏损失权重，以及边损失和边的蒸馏损失权重进行加权处理得到。