国网江苏省电力有限公司扬州供电分公司;国网江苏省电力有限公司龚在刚获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉国网江苏省电力有限公司扬州供电分公司;国网江苏省电力有限公司申请的专利基于DAG结构深度学习模型任务放置的流水线训练优化方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119005269B 。
龙图腾网通过国家知识产权局官网在2025-09-19发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202410820368.6,技术领域涉及:G06N3/063;该发明授权基于DAG结构深度学习模型任务放置的流水线训练优化方法是由龚在刚;霍雪松;杜云龙;戴强晟;徐云清;陈思宇;丰颖;薛晨;周星辰;薛钟兵设计研发完成,并于2024-06-24向国家知识产权局提交的专利申请。
本基于DAG结构深度学习模型任务放置的流水线训练优化方法在说明书摘要公布了:本发明提供一种基于DAG结构深度学习模型任务放置的流水线训练优化方法,包含:异构GPU集群中计算节点内的并行模式确定问题、不同计算节点间的并行方案组合问题、有向无环计算图的任务放置问题。本发明首先设计了一种异构集群节点内的GPU并行模式求解算法,以获得适用于节点内部的所有可用的并行模式。然后针对每个计算节点的并行方案选择问题,利用隔板法确定不同类型节点的并行方案。最后通过贪心思想,设计有向无环图结点任务放置算法,分配深度学习模型对应的有向无环图中的每一个结点,基于流水线混合并行总时间为执行时间最长的阶段的训练时间这一原理,最终得到整体训练时间最小的最优方案。本发明提高了效率,可靠性高。
本发明授权基于DAG结构深度学习模型任务放置的流水线训练优化方法在权利要求书中公布了:1.基于DAG结构深度学习模型任务放置的流水线训练优化方法,其特征在于:该方法包括: 根据每种节点的GPU配置,确定所有类型的节点内部可能的并行模式; 在所有节点的并行模式中进行选择,获得不同节点间的若干个并行方案; 将深度学习模型的有向无环图在不同并行方案中进行子图划分,得到划分结果并计算总体代价,选择最优方案; 确定节点内部可能的并行模式为: 将每种节点内GPU可能的并行模式作为无序整数拆分进行求解,得到计算节点内部的并行模式划分方案; 确定不同节点间的并行方案的过程包括: 对确定并行方案问题分析; 设计求解算法得出可能的并行方案选择结果; 将深度学习模型的计算流程建模为有向无环图; 在每个并行方案上都执行子图划分算法; 计算划分后流水线并行的训练时间取其中训练时间最短的方案; 采用贪心思想,对深度学习模型对应的有向无环图中的结点v计算其在每一个阶段中的得分,并最终把结点v放到得分最高的阶段中。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人国网江苏省电力有限公司扬州供电分公司;国网江苏省电力有限公司,其通讯地址为:225009 江苏省扬州市维扬路179号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励