苏州元脑智能科技有限公司陈奎丞获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉苏州元脑智能科技有限公司申请的专利模型推理优化方法、装置、设备、介质和程序产品获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119783833B 。
龙图腾网通过国家知识产权局官网在2025-08-01发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510294761.0,技术领域涉及:G06N5/04;该发明授权模型推理优化方法、装置、设备、介质和程序产品是由陈奎丞设计研发完成,并于2025-03-13向国家知识产权局提交的专利申请。
本模型推理优化方法、装置、设备、介质和程序产品在说明书摘要公布了:本申请公开了一种模型推理优化方法、装置、设备、介质和程序产品,涉及计算机技术领域,包括:获取目标模型包括的至少一个网络层的网络特性;根据网络特性生成与至少一个网络层适配的内核代码;内核代码表征了网络层在目标模型当前推理过程中的计算方式;基于待进行目标模型推理的目标设备的硬件资源配置内核参数;内核参数是指内核代码在目标设备上执行的相关参数;对内核代码进行编译,生成可执行的内核文件;调用内核文件进行目标模型的推理。基于网络特性生成了和各网络层适配的内核代码,并根据硬件资源灵活设置内核参数,解决了固定代码灵活性差以及硬件资源利用率低的技术问题,达到了提升模型推理效率和资源利用率的技术效果。
本发明授权模型推理优化方法、装置、设备、介质和程序产品在权利要求书中公布了:1.一种模型推理优化方法,其特征在于,包括: 获取目标模型包括的至少一个网络层的网络特性;其中,所述网络特性用于表征网络层在所述目标模型中的作用及网络层对硬件资源的需求; 根据所述网络特性生成与所述至少一个网络层适配的内核代码;其中,所述内核代码表征了所述网络层在所述目标模型当前推理过程中的计算逻辑、优化策略和硬件策略;所述内核代码可供所述网络层的相似层复用,所述相似层是根据所述网络特性确定的; 基于待进行所述目标模型推理的目标设备的硬件资源配置内核参数,以实时配置所述硬件策略;其中,所述内核参数是指所述内核代码在所述目标设备上执行的相关参数; 对所述内核代码进行编译,生成可执行的内核文件; 调用所述内核文件进行所述目标模型的推理。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人苏州元脑智能科技有限公司,其通讯地址为:215000 江苏省苏州市吴中经济开发区郭巷街道官浦路1号9幢;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。