买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉北京智源人工智能研究院申请的专利异构硬件集群分布式训练方法、装置、电子设备及介质获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120066731B 。

龙图腾网通过国家知识产权局官网在2025-11-07发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510229319.X，技术领域涉及：G06F9/48；该发明授权异构硬件集群分布式训练方法、装置、电子设备及介质是由李志宇;敖玉龙;何咏哲;曹州;赵英利设计研发完成，并于2025-02-27向国家知识产权局提交的专利申请。

本异构硬件集群分布式训练方法、装置、电子设备及介质在说明书摘要公布了：本申请提供了异构硬件集群分布式训练方法、装置、电子设备及介质，属于计算机技术领域。该方法包括：基于待训练模型和异构硬件，确定异构并行训练策略；基于异构并行训练策略以及异构硬件，构建用于执行待训练模型的模型训练任务的进程网格；不同进程网格与异构硬件中的不同硬件类型具有映射关系；进程网格被调用后在具有映射关系的硬件类型对应的异构硬件上执行；基于异构并行训练策略以及映射关系，构建进程网格之间的异构通信组；调用进程网格执行所述待训练模型的模型训练任务。本申请的技术方案可以实现任意多款硬件集群混合，实现异构集群的高效扩展，可以基于待训练模型和异构硬件确定优选的异构并行训练策略，提供更加灵活的并行策略。

本发明授权异构硬件集群分布式训练方法、装置、电子设备及介质在权利要求书中公布了：1.一种异构硬件集群分布式训练方法，其特征在于，包括： 基于待训练模型和异构硬件，确定异构并行训练策略；所述异构并行训练策略包括流水线并行策略、数据并行策略和张量并行策略； 基于所述异构并行训练策略以及异构硬件，构建用于执行所述待训练模型的模型训练任务的进程网格；其中，不同的所述进程网格与所述异构硬件中的不同硬件类型具有映射关系；所述进程网格被调用后在具有映射关系的硬件类型对应的异构硬件上执行； 基于所述异构并行训练策略以及所述映射关系，构建进程网格之间的异构通信组； 调用所述进程网格执行所述待训练模型的模型训练任务；在模型训练过程中，待执行在某种硬件类型的硬件上的训练任务，通过调用与该硬件类型具有映射关系的进程来执行； 其中，所述基于所述异构并行训练策略以及所述映射关系，构建进程网格之间的异构通信组，包括： 所述基于所述流水线并行策略、数据并行策略和张量并行策略，确定在不同流水线阶段对应的进程网格之间的数据对应关系和数据重排结果； 基于所述数据对应关系和所述数据重排结果，建立一个进程发送数据至多个进程和或多个进程发送数据至一个进程的异构通信组。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人北京智源人工智能研究院，其通讯地址为：100084 北京市海淀区成府路150号5层501号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。