合肥领航磐云信息科技有限公司吴治辉获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉合肥领航磐云信息科技有限公司申请的专利一种GPU任务队列管理方法及系统、装置获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119003149B 。
龙图腾网通过国家知识产权局官网在2025-09-05发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202410968226.4,技术领域涉及:G06F9/50;该发明授权一种GPU任务队列管理方法及系统、装置是由吴治辉;华烨设计研发完成,并于2024-07-18向国家知识产权局提交的专利申请。
本一种GPU任务队列管理方法及系统、装置在说明书摘要公布了:本发明公开一种GPU任务队列管理方法及系统、装置,所述方法包括:根据GPU划分规则,将物理GPU显卡资源划分为多个GPU算力单元;以所述GPU算力单元为基础,构建GPU资源池;实时监测所述GPU资源池的运行状态信息,根据所述运行状态信息获取GPU资源池内任务参数,根据任务参数构建具有优先级的任务队列;基于资源调度策略对GPU任务队列中的待调度任务、所述GPU算力单元进行动态分配,并基于GPU算力单元的资源参数信息对所述GPU任务队列进行资源调度管理。本发明避免了资源的浪费和闲置提高GPU资源的管理和调度效率,实现GPU资源池的最大化价值利用。
本发明授权一种GPU任务队列管理方法及系统、装置在权利要求书中公布了:1.一种GPU任务队列管理方法,其特征在于,所述方法包括: 根据GPU划分规则,将物理GPU显卡资源划分为多个GPU算力单元;所述GPU算力单元根据资源参数信息进行区分,所述资源参数信息包括GPU显卡的厂商名字、GPU显卡类型、单元类型、GPU算力数量和或GPU显存数量; 以所述GPU算力单元为基础,构建GPU资源池; 实时监测所述GPU资源池的运行状态信息,根据所述运行状态信息获取GPU资源池内任务参数,根据任务参数构建具有优先级的任务队列; 基于资源调度策略对GPU任务队列中的待调度任务、所述GPU算力单元进行动态分配,并基于GPU算力单元的资源参数信息对所述GPU任务队列进行资源调度管理; 所述资源调度策略包括: 根据待调度任务的任务参数以及GPU算力单元的资源确定最优执行任务以及最优GPU算力单元,进行任务分配;所述任务参数包括任务优先级以及任务最短执行时间、等待时长; 在收到新任务时,将所述新任务插入任一待调度任务队列中排队等待调度,定时查询当前GPU资源池中GPU算力单元是否存在空闲资源可用,根据待调度任务的任务参数以及GPU算力单元的资源参数信息确定最优执行任务以及最优GPU算力单元; 根据待调度任务的任务参数以及GPU算力单元的资源确定最优执行任务以及最优GPU算力单元,还包括: 确定待调度任务的任务优先级以及任务最短执行时间、等待时长、所需算力单元数量以及弹性扩缩容类型,确定匹配的空闲GPU算力单元; 当存在多个待调度任务匹配同一个空闲GPU算力单元时,根据匹配距离以及优先级确定该最优GPU算力单元的最优执行任务; 基于所述资源参数信息对所述GPU任务队列进行资源调度管理,包括: 遍历当前执行中的任务队列,更新满足结束条件的任务状态,并释放对应的GPU资源到GPU资源池中; 遍历GPU资源池,根据待调度任务的任务参数匹配空闲GPU资源,分配对应的GPU算力单元,启动对应的任务进程; 若待调度任务队列中仍有待调度任务,则确定满足结束条件的任务,更新满足结束条件的任务状态,并释放对应的GPU资源到GPU资源池中; 将对应资源分配给待调度任务,并将该满足结束条件的任务放入待调度任务队列中。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人合肥领航磐云信息科技有限公司,其通讯地址为:230000 安徽省合肥市庐阳区大杨镇林湖路666号合肥金融广场D3幢504室;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。