买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉麒麟软件有限公司申请的专利一种基于推理服务的大语言模型后端实现系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN121457543B 。

龙图腾网通过国家知识产权局官网在2026-03-17发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202610013771.7，技术领域涉及：G06N3/063；该发明授权一种基于推理服务的大语言模型后端实现系统是由宾泽民;刘意虎;张铎;张超;李真能;吴江;朱晨设计研发完成，并于2026-01-07向国家知识产权局提交的专利申请。

本一种基于推理服务的大语言模型后端实现系统在说明书摘要公布了：本发明提供一种基于推理服务的大语言模型后端实现系统，属于计算机技术领域，所述系统包括硬件模块、推理框架模块、大语言模型后端模块和推理服务模块，其中，所述硬件模块包括CPU、GPU、NPU计算资源；所述推理框架模块包括开源大语言模型框架和通用第三方自研推理框架；所述大语言模型后端模块包括通用模块和大语言模型实例模块；所述推理服务模块包括vllm推理服务、llama.cpp服务或者自研推理服务。本发明多种推理服务通过大语言模型后端模块实现了不同推理框架推理，提高了开发者使用效率。

本发明授权一种基于推理服务的大语言模型后端实现系统在权利要求书中公布了：1.一种基于推理服务的大语言模型后端实现系统，其特征在于，所述系统包括硬件模块、推理框架模块、大语言模型后端模块和推理服务模块，其中， 所述硬件模块与推理框架模块通信连接，包括CPU、GPU、NPU计算资源，用于提供大语言模型运算所用的算力； 所述推理框架模块与硬件模块和大语言模型后端模块均通信连接，包括开源大语言模型框架和通用第三方自研推理框架，用于提供各种推理框架； 所述大语言模型后端模块与推理框架模块和推理服务模块均通信连接，包括通用模块和大语言模型实例模块，用于调用对应的推理框架执行大语言模型任务； 所述推理服务模块与大语言模型后端模块和应用均通信连接，包括vllm推理服务、llama.cpp服务或者自研推理服务，用于接收应用的推理任务请求并转入大语言模型后端模块中执行大语言模型推理任务； 所述大语言模型实例模块包括模型状态模块、模型实例状态模块、推理度量模块、推理服务引擎模块、推理服务请求队列模块、推理服务响应队列模块、推理插槽模块以及推理策略模块； 所述模型状态模块用于解析后端模型的配置文件，并设置运行时参数； 所述模型实例状态模块用于模型实例生命周期的管理、请求入队、任务调度与执行以及响应的管理； 所述推理度量模块用于获取推理相关性能信息，实时获取prefill阶段和generation阶段token生成数，以及高低算力设备； 所述推理服务引擎模块用于模型推理框架初始化、模型加载的初始化流程，用于prefill阶段prompt处理，以及generation阶段token的生成； 所述推理服务请求队列模块用于管理大语言模型内部任务队列和调度循环，负责模型实例与插槽之间传递任务和执行； 所述推理服务响应队列模块用于获取大语言模型后端生成的结果； 所述推理插槽模块通过系统中实际任务运行动态分配插槽，每一个插槽对应着相应的任务请求，并负责每个插槽在prefill、generation流程中的所有运行时信息； 所述推理策略模块提供插槽历史消息检索、自适应系统提示词的策略。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人麒麟软件有限公司，其通讯地址为：300450 天津市滨海新区滨海高新区塘沽海洋科技园信安创业广场3号楼6-8层；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。