← 返回列表
一种自适应量化方法及装置、设备、介质
摘要文本
本申请公开了自适应量化方法及装置、设备、介质。该方法包括：分别对多个原始输入张量进行第一量化处理，得到定点数形式的输入张量，以及计算该定点数形式的输入张量的量化偏移；计算多个原始输入张量对应的综合的量化偏移，以及自适应量化系数；根据所述自适应量化系数和所述综合的量化偏移，对所述定点数形式的输入张量及其量化偏移进行第二量化处理，得到量化结果。本申请有利于提高量化精度，提高卷积神经网络性能，降低硬件功耗和设计难度。。马 克 数 据 网
申请人信息
- 申请人:嘉楠明芯(北京)科技有限公司
- 申请人地址:100094 北京市海淀区东北旺西路8号中关村软件园一期27号楼C座2层206号
- 发明人: 嘉楠明芯(北京)科技有限公司
专利详细信息
| 项目 | 内容 |
|---|---|
| 专利名称 | 一种自适应量化方法及装置、设备、介质 |
| 专利类型 | 发明授权 |
| 申请号 | CN201811358824.0 |
| 申请日 | 2018年11月15日 |
| 公告号 | CN111191783B |
| 公开日 | 2024年4月5日 |
| IPC主分类号 | G06N3/082 |
| 权利人 | 嘉楠明芯(北京)科技有限公司 |
| 发明人 | 郭晖; 张楠赓 |
| 地址 | 北京市海淀区东北旺西路8号中关村软件园一期27号楼C座2层206号 |
专利主权项内容
1.一种自适应量化方法，其特征在于，包括：分别对多个原始输入张量进行第一量化处理，得到定点数形式的输入张量，以及计算该定点数形式的输入张量的量化偏移；计算多个原始输入张量对应的综合的量化偏移，以及自适应量化系数；根据所述自适应量化系数和所述综合的量化偏移，对所述定点数形式的输入张量及其量化偏移进行第二量化处理，得到量化结果；所述计算多个原始输入张量对应的综合的量化偏移，以及自适应量化系数，具体包括：根据所述多个原始输入张量分别的最值，确定综合的最值；根据所述综合的最值，计算综合的量化缩放系数和量化偏移；根据所述综合的量化缩放系数和所述第一量化处理过程中使用的量化缩放系数，计算自适应量化系数。