← 返回列表
面向动态图框架和异构芯片的编译与运行方法和装置
摘要文本
本发明公开了面向动态图框架和异构芯片的编译与运行方法和装置,属于人工智能技术领域。该方法包括,针对动态图框架注册编译器接口,以向编译器提供待编译对象,从动态图框架中获取FX graph计算图;将FX graph计算图编译生成中间表示并进行优化,基于中间表示生成设备可执行代码,构建输出计算图,其中中间表示与前端框架及芯片架构无关;获取并执行输出计算图,根据计算图节点的属性信息为每个计算图节点分配设备资源,等待设备调度执行。本发明提升了编译器跨平台性和易迁移性。
申请人信息
- 申请人:北京智源人工智能研究院
- 申请人地址:100084 北京市海淀区成府路150号智源大厦
- 发明人: 北京智源人工智能研究院
专利详细信息
| 项目 | 内容 |
|---|---|
| 专利名称 | 面向动态图框架和异构芯片的编译与运行方法和装置 |
| 专利类型 | 发明申请 |
| 申请号 | CN202311411611.0 |
| 申请日 | 2023/10/27 |
| 公告号 | CN117331541A |
| 公开日 | 2024/1/2 |
| IPC主分类号 | G06F8/30 |
| 权利人 | 北京智源人工智能研究院 |
| 发明人 | 白童心; 吕斯哲; 吴静迪; 陈飞宇; 李之昕 |
| 地址 | 北京市海淀区成府路150号智源大厦 |
专利主权项内容
1.一种面向动态图框架和异构芯片的编译与运行方法,其特征在于,包括:针对动态图框架注册编译器接口,以向编译器提供待编译对象,并从所述动态图框架中获取FX graph计算图;将所述FX graph计算图编译生成中间表示并进行优化,基于所述中间表示生成设备可执行代码,构建输出计算图,其中所述中间表示与前端框架及芯片架构无关;获取并执行所述输出计算图,根据计算图节点的属性信息为每个计算图节点分配设备资源,等待设备调度执行。