← 返回列表
用于掩码张量转换的方法、计算设备和存储介质
摘要文本
来自马-克-数-据 本发明的实施例涉及一种用于掩码张量转换的方法、计算设备和存储介质。该方法包括:基于预定转换规则,将原始掩码张量转换成第一中间掩码张量,其中第一中间掩码张量中的数据为比特型数据;在第一维度上,对第一中间掩码张量的数据进行分组,以获取多个初始数据块;以及对多个初始数据块中的数据进行重排,以得到第二中间掩码张量,其中第二中间掩码张量包括多个重排后的数据块,其中每个重排后的数据块包括每个初始数据块中的一部分数据。本发明的实施例能够对原始掩码张量的大小进行压缩,减小数据计算过程中对板卡带宽的压力,并且避免数据堵塞在数据加载阶段,极大提高板卡上数据计算的执行性能。
申请人信息
- 申请人:北京壁仞科技开发有限公司; 上海壁仞科技股份有限公司
- 申请人地址:100102 北京市朝阳区望京东园四区13号楼-4至33层101内10层201室
- 发明人: 北京壁仞科技开发有限公司; 上海壁仞科技股份有限公司
专利详细信息
| 项目 | 内容 |
|---|---|
| 专利名称 | 用于掩码张量转换的方法、计算设备和存储介质 |
| 专利类型 | 发明申请 |
| 申请号 | CN202410101362.3 |
| 申请日 | 2024/1/24 |
| 公告号 | CN117632085A |
| 公开日 | 2024/3/1 |
| IPC主分类号 | G06F7/76 |
| 权利人 | 北京壁仞科技开发有限公司; 上海壁仞科技股份有限公司 |
| 发明人 | 请求不公布姓名; 请求不公布姓名; 请求不公布姓名 |
| 地址 | 北京市海淀区上地信息路26号1层0106-508室; 上海市闵行区陈行公路2388号16幢13层1302室 |
专利主权项内容
1.一种用于掩码张量转换的方法,其特征在于,包括:基于预定转换规则,将原始掩码张量转换成第一中间掩码张量,其中所述第一中间掩码张量中的数据为比特型数据;在第一维度上,对所述第一中间掩码张量的数据进行分组,以获取多个初始数据块;以及对所述多个初始数据块中的数据进行重排,以得到第二中间掩码张量,其中所述第二中间掩码张量包括多个重排后的数据块,其中每个重排后的数据块包括每个初始数据块中的一部分数据。。