← 返回列表
硬件加速器及其调度方法
申请人信息
- 申请人:苏州元脑智能科技有限公司
- 申请人地址:215128 江苏省苏州市吴中经济开发区郭巷街道官浦路1号9幢
- 发明人: 苏州元脑智能科技有限公司
专利详细信息
| 项目 | 内容 |
|---|---|
| 专利名称 | 硬件加速器及其调度方法 |
| 专利类型 | 发明申请 |
| 申请号 | CN202410219345.X |
| 申请日 | 2024/2/28 |
| 公告号 | CN117787366A |
| 公开日 | 2024/3/29 |
| IPC主分类号 | G06N3/063 |
| 权利人 | 苏州元脑智能科技有限公司 |
| 发明人 | 杨宏斌; 董刚; 赵雅倩; 曹其春; 胡克坤; 梁玲燕 |
| 地址 | 江苏省苏州市吴中经济开发区郭巷街道官浦路1号9幢 |
摘要文本
本发明涉及人工智能技术领域，尤其涉及一种硬件加速器及其调度方法。硬件加速器包括：调度核单元、特征缓存单元、权重缓存单元以及多个计算部件，多个计算部件包括：矩阵乘计算部件、Softmax计算部件以及层归一化计算部件；调度核单元用于接收并缓存外接设备传输的启动关联数据；接收外接设备传输的启动计算命令，在接收到启动计算命令的情况下，基于启动关联数据，对全部计算部件进行控制与调度，以使计算部件执行神经网络模型各个计算层的计算任务。本加速器能够较好地实现对神经网络模型各个计算层的计算加速，并且，实现高效数据存储与调度，可实施性较强，成本较低。
专利主权项内容
1.一种硬件加速器，其特征在于，包括：调度核单元、特征缓存单元、权重缓存单元以及多个计算部件，多个所述计算部件包括：矩阵乘计算部件、Softmax计算部件以及层归一化计算部件；所述调度核单元用于接收并缓存外接设备传输的启动关联数据，所述启动关联数据包括：各个所述计算部件的访存参数、计算控制参数、量化参数以及开始信号；并且，接收所述外接设备传输的启动计算命令，在接收到所述启动计算命令的情况下，基于所述启动关联数据，对全部所述计算部件进行控制与调度，以使所述计算部件执行神经网络模型各个计算层的计算任务，其中，所述矩阵乘计算部件通过加载所述特征缓存单元与所述权重缓存单元中缓存的数据，以完成计算任务的执行；所述调度核单元还用于接收全部所述计算部件返回的任务完成信号，基于所述任务完成信号，提示所述外接设备读取全部所述计算部件的任务处理结果。