买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉平安科技(深圳)有限公司申请的专利用于多模型推断的任务调度方法、装置、设备及存储介质获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119271374B 。

龙图腾网通过国家知识产权局官网在2025-11-25发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411350348.3，技术领域涉及：G06F9/48；该发明授权用于多模型推断的任务调度方法、装置、设备及存储介质是由瞿晓阳;王健宗设计研发完成，并于2024-09-26向国家知识产权局提交的专利申请。

本用于多模型推断的任务调度方法、装置、设备及存储介质在说明书摘要公布了：本申请涉及数据处理领域，本申请提供一种用于多模型推断的任务调度方法、装置、计算机设备及计算机可读存储介质，所述方法将模型库分为存储于内存中的在线模型库以及存储于磁盘中的离线模型库，并基于记录任务与模型之间映射关系的任务模型映射表，预先确定任务请求队列中各个请求任务对应的全部待调用模型。然后基于请求任务对应的全部待调用模型的所属位置，确定各个请求任务的优先级，并对全部待调用模型均存储于在线模型库中的请求任务进行优先处理，以最小化模型载入和卸载次数，从而在大幅度降低资源的消耗的同时，进一步提高整体模型的响应速度以及提升模型处理性能。

本发明授权用于多模型推断的任务调度方法、装置、设备及存储介质在权利要求书中公布了：1.一种用于多模型推断的任务调度方法，其特征在于，所述任务调度方法包括以下步骤： 获取任务请求队列中的各个请求任务，并基于任务模型映射表，确定各个请求任务对应的全部待调用模型； 基于所述各个请求任务对应的全部待调用模型，在各个请求任务中确定第一优先级任务，其中，所述第一优先级任务对应的全部待调用模型均存储于在线模型库中，所述在线模型库存储于内存中，所述在线模型库基于高频率模型生成，所述高频率模型基于各个模型的调用频率确定； 调用所述在线模型库中所述第一优先级任务对应的全部待调用模型，对所述第一优先级任务进行处理，并在处理完所述第一优先级任务后，对除所述第一优先级任务之外的其他任务进行处理，其中，所述其他任务对应的至少一个待调用模型存储于离线模型库中，所述离线模型库存储于磁盘中，所述离线模型库基于除所述高频率模型之外的其他模型生成； 其中，所述调用所述在线模型库中所述第一优先级任务对应的全部待调用模型，对所述第一优先级任务进行处理，并在处理完所述第一优先级任务后，对除所述第一优先级任务之外的其他任务进行处理之前，还包括： 获取所述任务请求队列中各个请求任务的等待时间，并确定所述任务请求队列中是否存在等待时间超过预设时间阈值的第二优先级任务； 若所述任务请求队列中存在所述第二优先级任务，则在所述第二优先级任务对应的全部待调用模型中确定存储于所述离线模型库中的待载入模型； 获取所述在线模型库中可卸载模型数量，其中，可卸载模型为所述在线模型库中除所述第一优先级任务对应的全部待调用模型之外的模型； 在所述待载入模型的待载入模型数量不超过所述可卸载模型数量时，在所述在线模型库中，基于所述待载入模型数量卸载所述可卸载模型，并将所述待载入模型载入所述在线模型库中； 调用所述在线模型库中所述第二优先级任务对应的全部待调用模型，对所述第二优先级任务进行处理。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人平安科技(深圳)有限公司，其通讯地址为：518057 广东省深圳市福田区福田街道福安社区益田路5033号平安金融中心23楼；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。