买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉苏州元脑智能科技有限公司申请的专利推理服务管理系统、设备、管理方法、介质及程序产品获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN121433812B 。

龙图腾网通过国家知识产权局官网在2026-03-27发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202512035461.3，技术领域涉及：G06F9/455；该发明授权推理服务管理系统、设备、管理方法、介质及程序产品是由范如意设计研发完成，并于2025-12-30向国家知识产权局提交的专利申请。

本推理服务管理系统、设备、管理方法、介质及程序产品在说明书摘要公布了：本申请公开了一种推理服务管理系统、设备、管理方法、介质及程序产品，涉及人工智能技术领域，通过工作组件的入口脚本和预训练语言模型的模型文件存储于存储模块，将存储模块与第一容器组之间进行挂载，通过入口脚本启动工作组件，实现了入口脚本和镜像容器的解耦，通过挂载的方式实现业务代码与推理环境的解耦，在对镜像容器进行扩展时无需考虑入口脚本对于扩展的影响，实现容器镜像的灵活扩展，提升容器镜像的可扩展性，同时将工作组件挂载在镜像容器中，实现工作组件和镜像容器之间的非侵入式管理，且通过管理组件与推理模块和工作组件之间的双重管理，实现镜像容器的灵活管理和推理服务的灵活管理，从而提供推理服务非侵入式及可扩展的管理。

本发明授权推理服务管理系统、设备、管理方法、介质及程序产品在权利要求书中公布了：1.一种推理服务管理系统，其特征在于，包括： 存储模块，用于存储工作组件的入口脚本和预训练语言模型的模型文件； 推理模块，用于响应所述预训练语言模型的部署指令，在所述推理模块内部署至少一个第一容器组，在所述第一容器组内部署至少一个镜像容器，将所述存储模块与所述第一容器组之间进行挂载，通过所述入口脚本启动所述工作组件；所述推理模块用于解析所述部署指令中的资源配置和资源对象，根据所述资源配置在所述推理模块内部署至少一个第一容器组，根据所述资源对象在所述第一容器组内部署至少一个镜像容器；所述推理模块解析所述资源对象中的模型名称、引擎类型、镜像名称和目标路径，根据所述模型名称确定所述预训练语言模型的模型文件，将所述入口脚本和所述模型文件挂载到所述目标路径下，根据所述引擎类型和所述镜像名称在所述第一容器组内部署至少一个镜像容器； 所述工作组件挂载在所述镜像容器中，所述工作组件启动所述镜像容器内的推理引擎，所述推理引擎加载所述模型文件对应的所述预训练语言模型，以通过所述预训练语言模型提供推理服务，所述工作组件响应所述推理服务的管理指令，对所述推理服务进行管理； 控制模块，所述控制模块内部署有第二容器组，在所述第二容器组内部署管理组件，所述管理组件发送所述部署指令至所述推理模块，所述管理组件发送所述管理指令至所述工作组件。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人苏州元脑智能科技有限公司，其通讯地址为：215000 江苏省苏州市吴中经济开发区综保区经一路1号8幢；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。