上海壁仞科技股份有限公司请求不公布姓名获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉上海壁仞科技股份有限公司申请的专利多模态模型的分布式训练方法、电子设备和存储介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN121144857B 。
龙图腾网通过国家知识产权局官网在2026-02-24发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202511688420.8,技术领域涉及:G06F18/214;该发明授权多模态模型的分布式训练方法、电子设备和存储介质是由请求不公布姓名设计研发完成,并于2025-11-18向国家知识产权局提交的专利申请。
本多模态模型的分布式训练方法、电子设备和存储介质在说明书摘要公布了:本发明涉及人工智能技术领域,提供一种多模态模型的分布式训练方法、电子设备和存储介质,方法包括:获取多模态模型中各模态的模态特性指标,各模态的模态特性指标用于表征各模态的计算特性、数据特性及通信特性;根据各模态的模态特性指标,计算各模态的训练资源需求;基于各模态的训练资源需求,为各模态差异化地确定并行策略;基于各模态的并行策略,在分布式计算环境中执行多模态模型的训练过程。本发明能够精准匹配各模态在训练过程中的动态、异构的资源需求,从而有效解决了因策略与资源不匹配导致的硬件资源空闲或瓶颈问题,避免了资源浪费,显著提升了多模态大模型在分布式环境下的整体训练效率和资源利用率。
本发明授权多模态模型的分布式训练方法、电子设备和存储介质在权利要求书中公布了:1.一种多模态模型的分布式训练方法,其特征在于,包括: 获取多模态模型中各模态的模态特性指标,各模态的模态特性指标用于表征各模态的计算特性、数据特性及通信特性;所述多模态模型是指融合多种数据模态进行联合训练的深度学习模型; 根据各模态的模态特性指标,计算各模态的训练资源需求; 基于各模态的训练资源需求,为各模态差异化地确定并行策略;差异化地确定并行策略是指根据不同模态的训练资源需求,为每个模态或模态组合选择最合适的并行技术组合; 基于各模态的并行策略,在分布式计算环境中执行所述多模态模型的训练过程; 各模态的模态特性指标包括计算特性指标、数据特性指标以及通信特性指标; 所述根据各模态的模态特性指标,计算各模态的训练资源需求,包括: 根据各模态的计算特性指标,确定各模态的参数量; 根据各模态的数据特性指标,确定其它模态数据量与各模态数据量之间的比值; 根据各模态的通信特性指标,确定各模态所在环境的最大带宽与当前带宽; 基于各模态的参数量、其它模态数据量与各模态数据量之间的比值以及各模态所在环境的最大带宽与当前带宽之间的差值,计算各模态的训练资源需求; 所述获取多模态模型中各模态的模态特性指标,包括: 对所述多模态模型进行动态代码分析,统计各模态的计算特性指标,所述计算特性指标包括每秒执行浮点运算次数、参数量及计算密集层占比; 对所述多模态模型的训练数据进行样本预扫描,统计各模态的数据特性指标,所述数据特性指标包括单样本数据大小、批次量范围及数据加载耗时; 执行所述多模态模型的模拟训练,记录各模态的通信特性指标,所述通信特性指标包括每个训练步数的通信同步频率、跨模态交互数据量及通信影响程度。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人上海壁仞科技股份有限公司,其通讯地址为:201114 上海市闵行区陈行公路2388号16幢13层1302室;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励