← 返回列表
数据处理方法、装置、计算装置、图形处理器和存储介质
摘要文本
本公开涉及数据处理方法、装置、计算装置、图形处理器和存储介质。该方法用于计算单元，计算单元包括运算单元和移位器，该方法包括：移位器获取运算单元输出的中间计算结果，中间计算结果为浮点数；移位器对中间计算结果的尾数进行移位处理，输出目标计算结果，目标计算结果中尾数的最低位为舍入操作对应的近似位，近似位用于运算单元对目标计算结果进行舍入操作。根据本申请实施例，可以使得运算单元处理压力降低，处理速度提高，提升了运算单元的计算效率，节省了硬件的计算资源和运算时间。。 （更多数据，详见专利查询网）
申请人信息
- 申请人:摩尔线程智能科技(北京)有限责任公司
- 申请人地址:100080 北京市海淀区翠微中里14号楼四层B655
- 发明人: 摩尔线程智能科技(北京)有限责任公司
专利详细信息
| 项目 | 内容 |
|---|---|
| 专利名称 | 数据处理方法、装置、计算装置、图形处理器和存储介质 |
| 专利类型 | 发明申请 |
| 申请号 | CN202311790497.7 |
| 申请日 | 2023/12/22 |
| 公告号 | CN117762375A |
| 公开日 | 2024/3/26 |
| IPC主分类号 | G06F7/499 |
| 权利人 | 摩尔线程智能科技(北京)有限责任公司 |
| 发明人 | 请求不公布姓名 |
| 地址 | 北京市海淀区翠微中里14号楼四层B655 |
专利主权项内容
1.一种数据处理方法，其特征在于，所述方法用于计算单元，所述计算单元包括运算单元和移位器，所述方法包括：所述移位器获取所述运算单元输出的中间计算结果，所述中间计算结果为浮点数；所述移位器对所述中间计算结果的尾数进行移位处理，输出目标计算结果，所述目标计算结果中尾数的最低位为舍入操作对应的近似位，所述近似位用于所述运算单元对所述目标计算结果进行所述舍入操作。