上海光羽芯辰科技有限公司请求不公布姓名获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉上海光羽芯辰科技有限公司申请的专利基于硬件与模型特征的大语言模型配对方法、装置、终端、介质及产品获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN121009379B 。
龙图腾网通过国家知识产权局官网在2026-03-31发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202511084920.0,技术领域涉及:G06F18/22;该发明授权基于硬件与模型特征的大语言模型配对方法、装置、终端、介质及产品是由请求不公布姓名;请求不公布姓名设计研发完成,并于2025-08-04向国家知识产权局提交的专利申请。
本基于硬件与模型特征的大语言模型配对方法、装置、终端、介质及产品在说明书摘要公布了:本申请提供一种基于硬件与模型特征的大语言模型配对方法、装置、终端、介质及产品。该方法包括:根据获取的目标配对需求,获取至少一个硬件平台以及至少一个大语言模型;获取各硬件平台的硬件特征参数,并令各大语言模型分别执行对应的预设目标任务,得到各大语言模型的特性参数;基于各硬件平台的硬件特征参数以及各大语言模型的特性参数,利用预测函数,预测出各大语言模型分别部署在各硬件平台时的关键指标参数;利用优化目标函数,基于各大语言模型分别部署在各硬件平台时的关键指标参数,确定满足所述目标配对需求的硬件平台和大语言模型的配对结果。本申请充分考虑了硬件平台与大语言模型的特征,确保了模型能够更好地匹配硬件平台。
本发明授权基于硬件与模型特征的大语言模型配对方法、装置、终端、介质及产品在权利要求书中公布了:1.一种基于硬件与模型特征的大语言模型配对方法,其特征在于,包括: 获取目标配对需求,并根据所述目标配对需求,获取至少一个硬件平台以及至少一个大语言模型; 获取各硬件平台的硬件特征参数,并令各大语言模型分别执行对应的预设目标任务,得到各大语言模型的特性参数;其中,硬件特征参数包括:硬件平台的有效计算能力、有效内存带宽、计算操作单位能耗以及内存访问单位能耗;特性参数包括:总浮点运算次数以及总数据搬运量; 基于各硬件平台的硬件特征参数以及各大语言模型的特性参数,利用预测函数,预测出各大语言模型分别部署在各硬件平台时的关键指标参数;其中,预测函数包括:延迟预测函数以及能耗预测函数;基于各硬件平台的硬件特征参数以及各大语言模型的特性参数,利用预测函数,预测出各大语言模型分别部署在各硬件平台时的关键指标参数,包括: 基于每个硬件平台的有效计算能力以及有效内存带宽,并基于每个大语言模型的总浮点运算次数以及总数据搬运量,利用延迟预测函数,预测出每个大语言模型部署在每个硬件平台时的执行时间; 基于每个硬件平台的计算操作单位能耗以及内存访问单位能耗,并基于每个大语言模型的总浮点运算次数以及总数据搬运量,利用能耗预测函数,预测出每个大语言模型部署在每个硬件平台时的总能耗; 将每个大语言模型部署在每个硬件平台时的执行时间以及总能耗输出为每个大语言模型部署在每个硬件平台时的关键指标参数; 利用优化目标函数,基于各大语言模型分别部署在各硬件平台时的关键指标参数,确定满足所述目标配对需求的硬件平台和大语言模型的配对结果。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人上海光羽芯辰科技有限公司,其通讯地址为:201400 上海市奉贤区川南奉公路9222号1幢;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励