(19)中华 人民共和国 国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202111622444.5 (22)申请日 2021.12.28 (71)申请人 浪潮云信息技 术股份公司 地址 250100 山东省济南市高新区浪潮路 1036号浪潮科技园S01号楼 (72)发明人 翁辉　杨镇铭　田昌英　安晓博　 (74)专利代理 机构 济南信达专利事务所有限公 司 37100 代理人 冯春连 (51)Int.Cl. G06F 9/50(2006.01) G06N 20/00(2019.01) (54)发明名称 一种基于应用场景的算法自适应调度系统 及方法 (57)摘要 本发明公开一种基于应用场景的算法自适 应调度系统及方法， 涉及资源调度技术领域， 包 括： 定时获取当前应用场景的硬件资源信息； 定 时获取不同算法的能力和负载、 各时间段内各类 任务的负载和资源利用情况、 各类任务的运行及 积压信息、 用户使用习惯； 构建资源使用情况的 机器学习模 型， 机器学习模型自动分析在某一应 用场景下定时获取的信息， 并学习模拟出适合当 前应用场景的算法调度方案； 基于机器学习模型 输出的算法调度方案， 进行不同算法的启停和资 源再分配； 基于不同算法的启停和资源再分配结 果， 更新算法的能力和负载、 各时间段内各类任 务的负载和资源利用情况、 各类任务的运行及积 压信息、 用户使用习惯。 本发明可 以实现资源的 高效利用。 权利要求书2页 说明书5页 附图1页 CN 114168350 A 2022.03.11 CN 114168350 A 1.一种基于应用场景的算法自适应调度系统， 其特 征在于， 其结构包括： 信息统计模块， 用于 定时获取当前应用场景的硬件资源信息； 协调算法模块， 用于定时获取不同算法的能力和负载、 各时间段内各类任务的负载和 资源利用情况、 各类任务的运行及积压信息、 用户使用习惯， 并将获取信息定时上传至信息 统计模块； 构建模块， 用于构建资源使用情况的机器学习模型， 机器学习模型自动分析信息统计 模块在某一应用场景下定时获取的信息， 并学习模拟出适合当前应用场景的算法调度方 案； 算法管理模块， 用于基于机器学习模型输出的算法调度方案， 进行不同算法的启停和 资源再分配； 算法服务模块， 用于基于不同算法的启停和资源再分配结果， 将算法的能力和负载、 各 时间段内各类任务的负载和资源利用情况、 各类任务的运行及积压信息、 用户使用 习惯定 时上传至协调算法模块。 2.根据权利要求1所述的一种基于应用场景的算法自适应调度系统， 其特征在于， 机器 学习模型自动分析信息统计模块在某一应用场景下定时获取的信息后， 可以得到如下信 息： (a)根据各类型任务在过去不同时间段内的负载情况， 得出当前应用场景下各时间段 内不同类型任务的负载分布； (b)得出不同时间段的不同类型任务消耗的GPU、 CPU、 存储硬件资源， 以及当前硬件资 源在某个时间段内能够支持启动多少个某类算法服 务； (c)得出用户下发任务的习惯， 并预测在未来 一定时间段内用户下发任务的类型偏好。 3.根据权利要求2所述的一种基于应用场景的算法自适应调度系统， 其特征在于， 通过 不同时间段各类型任务的负载、 以及用户下发任务的类型偏好， 机器学习模型学习模拟出 算法调度方案， 所述 算法调度方案中包括 不同时间段启动的算法类型及算法数量。 4.根据权利要求3所述的一种基于应用场景的算法自适应调度系统， 其特征在于， 基于 机器学习模型输出 的算法调度方案， 算法管理模块进行不同算法的启停和资源再分配， 这 一过程中： 根据不同应用场景下的任务类型， 算法管理模块通过算法敏捷集成框架负责算法服务 镜像包的导入、 导出、 检索， 将算法快速实例化， 随后通过这种算法快速实例化启动、 停止的 方式， 使当前时刻各类算法服务数与算法调度方案中的数量一致， 使得算法服务的数量与 当前场景、 任务类型、 负载、 CPU、 GPU的资源匹配关系达 到最优。 5.根据权利要求4所述的一种基于应用场景的算法自适应调度系统， 其特征在于， 基于 机器学习模型输出 的算法调度方案， 算法管理模块进行不同算法的启停和资源再分配， 这 一过程中： 算法管理模块与视图管理模块交互， 进行算法服务结果的存储索引创建、 升级、 回滚操 作。 6.一种基于应用场景的算法自适应调度方法， 其特 征在于， 其调度过程包括： (1)定时获取当前应用场景的硬件资源信息， 同时， 定时获取不同算法的能力和负载、 各时间段内各类任务的负载和资源利用情况、 各类任务的运行及积压信息、 用户使用习惯；权　利　要　求　书 1/2 页 2 CN 114168350 A 2(2)构建资源使用情况的机器学习模型， 机器学习模型自动分析步骤(1)的信息， 并学 习模拟出适 合当前应用场景的算法调度方案； (3)基于机器学习模型输出的算法调度方案， 进行不同算法的启停和资源再分配； (4)基于不同算法的启停和资源再分配结果， 定时上传算法的能力和 负载、 各时间段内 各类任务的负载和资源利用情况、 各类任务的运行及积压信息、 用户使用习惯， 以更新步骤 (1)中的信息 。 7.根据权利要求6所述的一种基于应用场景的算法自适应调度方法， 其特征在于， 执行 步骤(2)， 机器学习模型自动分析步骤(1)的信息后， 可以得到如下信息： (i)根据各类型任务在过去不同时间段内的负载情况， 得出当前应用场景下各时间段 内不同类型任务的负载分布； (ii)得出不同时间段的不同类型任务消耗的GPU、 CPU、 存储硬件资源， 以及当前硬件资 源在某个时间段内能够支持启动多少个某类算法服 务； (iii)得出用户下发任务的习惯， 并预测在未来一定时间段内用户下发任务的类型偏 好。 8.根据权利要求7所述的一种基于应用场景的算法自适应调度方法， 其特征在于， 通过 不同时间段各类型任务的负载、 以及用户下发任务的类型偏好， 机器学习模型学习模拟出 算法调度方案， 所述 算法调度方案中包括 不同时间段启动的算法类型及算法数量。 9.根据权利要求8所述的一种基于应用场景的算法自适应调度方法， 其特征在于， 执行 步骤(3)， 基于机器学习模型输出的算法调度方案， 进行不同算法的启停和资源再分配， 这 一过程中： 根据不同应用场景下的任务类型， 通过算法敏捷集成框架负责算法服务镜像包的导 入、 导出、 检索， 将算法快速实例化， 随后通过这种算法快速实例化启动、 停止的方式， 使当 前时刻各类算法服务数与算法调度方案中的数量一致， 使得算法服务的数量与当前场景、 任务类型、 负载、 CPU、 GPU的资源匹配关系达 到最优。权　利　要　求　书 2/2 页 3 CN 114168350 A 3