← 返回列表

支持动态形状的计算的方法、装置、介质和程序产品

申请号: CN202410072607.4
申请人: 北京壁仞科技开发有限公司; 上海壁仞科技股份有限公司
申请日期: 2024/1/18

摘要文本

本发明涉及一种用于支持动态形状的计算的方法、装置、介质和程序产品。该方法包括:将用户输入的形状拆分至针对单计算核的形状,以便至少基于针对单计算核的形状确定核函数的循环结构;将核函数的循环结构分解为内层循环和外层循环,以使得内层循环匹配缓冲区并且循环展开;以及将核函数的循环结构的循环层拆分为循环块,以便通过复用循环块以使得核函数支持动态维度。本发明能够避免访存和算力的浪费,提高执行性能。

专利详细信息

项目 内容
专利名称 支持动态形状的计算的方法、装置、介质和程序产品
专利类型 发明申请
申请号 CN202410072607.4
申请日 2024/1/18
公告号 CN117609670A
公开日 2024/2/27
IPC主分类号 G06F17/10
权利人 北京壁仞科技开发有限公司; 上海壁仞科技股份有限公司
发明人 请求不公布姓名; 请求不公布姓名; 请求不公布姓名; 请求不公布姓名; 请求不公布姓名; 请求不公布姓名; 请求不公布姓名; 请求不公布姓名
地址 北京市朝阳区望京东园四区13号楼-4至33层101内10层201室; 上海市闵行区陈行公路2388号16幢13层1302室

专利主权项内容

1.一种用于支持动态形状的计算的方法,其特征在于,所述方法包括:将用户输入的形状拆分至针对单计算核的形状,以便至少基于针对单计算核的形状确定核函数的循环结构;将核函数的循环结构分解为内层循环和外层循环,以使得内层循环匹配缓冲区并且循环展开;以及将核函数的循环结构的循环层拆分为循环块,以便通过复用循环块以使得核函数支持动态维度。