摘要
本申请公开了一种端边协同多任务调度方法,方法包括:分别在端设备和边缘服务器上,针对不同的深度神经网络类别,训练端设备和所述边缘服务器的性能预测器;端设备接收深度神经网络任务请求时,利用训练完成的性能预测器,根据基于资源感知的任务划分策略,以最小化预估延迟为目标动态生成任务的最佳分区点,由端设备及边缘服务器协同完成任务;当深度神经网络任务成批打包时,根据任务的剩余服务质量进行任务的优化编排;采用任务批处理策略,将一个批次里面不规则分区任务按起始层排序区分,并合并分区任务执行批处理,实现端边协同多任务处理。本发明方法提出了一种高通量的端边协同多任务调度优化方法,提升系统在多任务场景下的处理能力。