← 返回列表
一种对于基于图形处理器运行的服务的调度方法和装置
摘要文本
本说明书实施例提供了一种对于基于图形处理器运行的服务的调度方法和装置，该方法包括：获取多个图形处理器各自已用于运行服务的消耗显存容量、多个图形处理器各自对应的总显存容量；获取多个图形处理器上各自运行的服务实例的种类和数量，其中，每个图形处理器上运行一到多种服务的服务实例，每种服务的服务实例运行于一到多个图形处理器上；根据多个图形处理器的消耗显存容量、多个图形处理器各自的总显存容量，以及多个图形处理器上各自运行的服务实例的种类和数量，确定各种服务的服务实例分别消耗的预测显存容量，所述预测显存容量用于向基于图形处理器运行的服务实例分配显存。
申请人信息
- 申请人:支付宝(杭州)信息技术有限公司
- 申请人地址:310000 浙江省杭州市西湖区西溪路556号8层B段801-11
- 发明人: 支付宝(杭州)信息技术有限公司
专利详细信息
| 项目 | 内容 |
|---|---|
| 专利名称 | 一种对于基于图形处理器运行的服务的调度方法和装置 |
| 专利类型 | 发明授权 |
| 申请号 | CN202410040401.3 |
| 申请日 | 2024/1/9 |
| 公告号 | CN117573371B |
| 公开日 | 2024/3/29 |
| IPC主分类号 | G06F9/50 |
| 权利人 | 支付宝(杭州)信息技术有限公司 |
| 发明人 | 刘佳 |
| 地址 | 浙江省杭州市西湖区西溪路556号8层B段801-11 |
专利主权项内容
1.一种对于基于图形处理器运行的服务的调度方法，包括：获取多个图形处理器各自已用于运行服务的消耗显存容量、多个图形处理器各自对应的总显存容量、以及多个图形处理器上各自运行的服务实例的种类和数量，其中，每个图形处理器上运行一到多种服务的服务实例，每种服务的服务实例运行于一到多个图形处理器上；将所述多个图形处理器的消耗显存容量、多个图形处理器各自的总显存容量，以及多个图形处理器上各自运行的服务实例的种类和数量，带入多个图形处理器对应的多个预设不等式，所述预设不等式用于表示所述图形处理器上运行的服务实例消耗的预测显存容量之和，大于等于所述图形处理器的消耗显存容量、且小于等于所述图形处理器的总显存容量；求解所述多个预设不等式，得到各种服务的单一服务实例消耗的预测显存容量，所述预测显存容量用于向基于图形处理器运行的服务实例分配显存。。来自：