买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉济南浪潮数据技术有限公司申请的专利推理服务的部署方法、电子设备及存储介质获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120631601B 。

龙图腾网通过国家知识产权局官网在2025-12-09发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202511130817.5，技术领域涉及：G06F9/50；该发明授权推理服务的部署方法、电子设备及存储介质是由杨勇;孟志慧;乔霖;李少凯;付辰设计研发完成，并于2025-08-13向国家知识产权局提交的专利申请。

本推理服务的部署方法、电子设备及存储介质在说明书摘要公布了：本申请公开了一种推理服务的部署方法、电子设备及存储介质，该方法包括：响应于创建推理服务，读取模型信息配置表和引擎信息配置表，并根据创建推理服务时预先配置的模型名称，对模型信息配置表和引擎信息表进行匹配处理，得到容器调度平台上可用于加载推理服务的处理资源、推理引擎镜像标识以及推理引擎启动参数，并基于此创建用于承载推理服务的工作负载元数据；通过将工作负载元数据分配至目标集群节点，实现推理服务在容器调度平台上的部署。通过该方法解决了相关技术中依赖于人工对工作负载元数据中的参数进行手动配置造成的部署效率较低的技术问题，实现了简化模型推理服务的部署流程、提高部署效率的技术效果。

本发明授权推理服务的部署方法、电子设备及存储介质在权利要求书中公布了：1.一种推理服务的部署方法，其特征在于： 包括： 响应于推理服务的创建，读取预先保存的模型信息配置表和引擎信息配置表，其中，所述模型信息配置表中包括至少一个模型文件，所述引擎信息配置表中包括至少一种推理引擎的描述信息； 基于创建所述推理服务时配置的模型名称，对所述模型信息配置表和所述引擎信息配置表进行匹配处理，得到与所述推理服务适配的资源描述信息、推理引擎镜像标识和推理引擎启动参数； 基于所述资源描述信息、所述推理引擎镜像标识和所述推理引擎启动参数，创建用于承载所述推理服务的工作负载元数据，其中，所述工作负载元数据用于描述容器化应用程序的执行策略； 将所述工作负载元数据分配至目标集群节点，以将所述推理服务部署在所述目标集群节点上； 其中，所述基于创建所述推理服务时配置的模型名称，对所述模型信息配置表和所述引擎信息配置表进行匹配处理，包括：基于所述模型名称，对所述模型信息配置表和所述引擎信息配置表进行模糊匹配，得到与所述推理服务适配的所述资源描述信息、所述推理引擎镜像标识和所述推理引擎启动参数，其中，所述模型信息配置表中包括所述模型名称与硬件设备的设备类型、以及运行所述模型名称对应的目标模型所需的所述推理引擎镜像标识之间的映射关系，所述引擎信息配置表中包括以第一元数结构形式保存的所述推理引擎镜像标识和所述推理引擎启动参数。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人济南浪潮数据技术有限公司，其通讯地址为：250000 山东省济南市自由贸易试验区济南片区浪潮路1036号浪潮科技园S05楼S311室；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。