面向边缘异构硬件的深度学习级联任务调度方法及装置

摘要文本

本申请提供了一种面向边缘异构硬件的深度学习级联任务调度方法及装置，所述方法包括：获取响应时间要求，以及，获取待处理的视频帧；预测视频帧对应的级联任务图，所述级联任务图表征按照顺序执行的多个深度学习网络任务，在级联任务图中一个深度学习网络任务的输出作为另一个深度学习网络任务的输入；根据响应时间要求，将级联任务图与离线级联任务图模板进行匹配；在级联任务图与离线级联任务图模板至少部分匹配的情况下，按照匹配的离线级联任务图模板对应的调度策略，将级联任务图中的多个深度学习网络任务调度到异构硬件上执行。如此，优化了级联任务场景下的多个深度学习网络任务的执行，实现级联任务的高吞吐量和高效率调度。