中国电信股份有限公司肖潇获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉中国电信股份有限公司申请的专利显存资源分配方法及装置获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN116010092B 。
龙图腾网通过国家知识产权局官网在2026-02-06发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202211697912.X,技术领域涉及:G06F9/50;该发明授权显存资源分配方法及装置是由肖潇;徐玉清;廖晓雪;满雅文;康华文设计研发完成,并于2022-12-28向国家知识产权局提交的专利申请。
本显存资源分配方法及装置在说明书摘要公布了:本申请公开了一种显存资源分配方法及装置。其中,该方法包括:响应于创建推理任务的创建指令,与图形处理器虚拟资源池建立连接;预估推理任务需占用的第一显存资源值,从图形处理器虚拟资源池中为推理任务分配第一显存资源值的显存资源;运行推理任务,监控推理任务运行过程中所占用的显存资源值的变化状态,并依据变化状态确定推理任务运行过程中需占用的最大显存资源值;向图形处理器虚拟资源池返还第一显存资源值的显存资源,并重新从图形处理器虚拟资源池中为推理任务分配最大显存资源值的显存资源。本申请解决了相关技术无法对显存资源进行合理分配,从而降低显存资源浪费的技术问题。
本发明授权显存资源分配方法及装置在权利要求书中公布了:1.一种显存资源分配方法,其特征在于,包括: 响应于创建推理任务的创建指令,与图形处理器虚拟资源池建立连接; 预估所述推理任务需占用的第一显存资源值,从所述图形处理器虚拟资源池中为所述推理任务分配所述第一显存资源值的显存资源; 运行所述推理任务,监控所述推理任务运行过程中所占用的显存资源值的变化状态,并依据所述变化状态确定所述推理任务运行过程中需占用的最大显存资源值,其中,依据多个不同的时间间隔分别周期性采集所述推理任务运行过程中所占用的显存资源值,得到多个随时间变化的显存资源占用值序列;以队列格式存储多个所述显存资源占用值序列,并依据先进先出原则比较各个所述显存资源占用值序列中的值;在发现多个所述显存资源占用值序列中的相同值时,判断所述相同值是否满足预设条件,其中,所述预设条件包括:在每个所述显存资源占用值序列中,所述相同值的上一值与所述相同值之间的斜率为正,所述相同值的下一值与所述相同值之间的斜率为负;若满足,则确定所述相同值为所述最大显存资源值; 向所述图形处理器虚拟资源池返还所述第一显存资源值的显存资源,并重新从所述图形处理器虚拟资源池中为所述推理任务分配所述最大显存资源值的显存资源。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人中国电信股份有限公司,其通讯地址为:100033 北京市西城区金融街31号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励