Document
拖动滑块完成拼图
个人中心

预订订单
商城订单
发布专利 发布成果 人才入驻 发布商标 发布需求

请提出您的宝贵建议,有机会获取IP积分或其他奖励

投诉建议

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 积分商城 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 中移(苏州)软件技术有限公司;中国移动通信集团有限公司王德朋获国家专利权

中移(苏州)软件技术有限公司;中国移动通信集团有限公司王德朋获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉中移(苏州)软件技术有限公司;中国移动通信集团有限公司申请的专利参数优化方法、装置、电子设备、存储介质及计算机程序产品获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120875051B

龙图腾网通过国家知识产权局官网在2026-01-27发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202511362451.4,技术领域涉及:G06N5/04;该发明授权参数优化方法、装置、电子设备、存储介质及计算机程序产品是由王德朋;段朦;潘宇轩;骆远泽;鲍盈海设计研发完成,并于2025-09-23向国家知识产权局提交的专利申请。

参数优化方法、装置、电子设备、存储介质及计算机程序产品在说明书摘要公布了:本申请公开了一种参数优化方法、装置、电子设备、存储介质及计算机程序产品,其中,方法包括:基于第一数量和第二数量,构建初始化列表;第一数量表征第一模型中的注意力头的数量,第二数量表征所述第一模型中的神经网络层数,第一模型为分离式大语言模型;初始化列表中包括一组或多组三维并行参数;通过模拟仿真平台,在初始化列表中一组或多组三维并行参数下,分别模拟运行第一模型,得到一组或多组三维并行参数中每组三维并行参数下的第一性能参数;基于一组或多组三维并行参数中每组三维并行参数下的第一性能参数,从一组或多组三维并行参数中确定出目标三维并行参数,目标三维并行参数用于在真实的GPU环境中部署第一模型。

本发明授权参数优化方法、装置、电子设备、存储介质及计算机程序产品在权利要求书中公布了:1.一种参数优化方法,其特征在于,所述方法包括: 基于第一数量和第二数量,构建初始化列表;所述第一数量表征第一模型中的注意力头的数量,所述第二数量表征所述第一模型中的神经网络层数,所述第一模型为分离式大语言模型;所述初始化列表中包括一组或多组三维并行参数;所述三维并行参数包括张量并行度、流水线并行度和数据并行度; 通过模拟仿真平台,在所述初始化列表中一组或多组三维并行参数下,分别模拟运行所述第一模型,得到所述一组或多组三维并行参数中每组三维并行参数下的第一性能参数;所述第一性能参数表征所述模拟仿真平台中运行所述第一模型的图形处理器GPU每秒处理请求数;所述模拟运行所述第一模型,包括:基于所述第一模型支持的最大批大小、最大输入长度和最大输出长度,确定所述第一模型的多组预配置信息,基于所述多组预配置信息中的每组预配置信息运行所述第一模型,确定所述每组预配置信息对应的第一耗时,基于所述每组预配置信息和每组预配置信息对应的所述第一耗时,训练得到线性回归模型,基于所述线性回归模型和所述一组或多组三维并行参数对应的预设最大词元数量,模拟运行所述第一模型;所述第一耗时包括预填充耗时和解码耗时;所述线性回归模型表征预配置信息与第一耗时之间的线性关系; 基于所述一组或多组三维并行参数中每组三维并行参数下的第一性能参数,从所述一组或多组三维并行参数中确定出目标三维并行参数;所述目标三维并行参数用于在真实的GPU环境中部署所述第一模型。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人中移(苏州)软件技术有限公司;中国移动通信集团有限公司,其通讯地址为:215163 江苏省苏州市高新区昆仑山路58号1幢中移软件园;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。