芯瞳半导体技术(厦门)有限公司张皓喆获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉芯瞳半导体技术(厦门)有限公司申请的专利一种基于大模型集群的对话消息队列管理系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN121187825B 。
龙图腾网通过国家知识产权局官网在2026-02-03发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202511724673.6,技术领域涉及:G06F9/54;该发明授权一种基于大模型集群的对话消息队列管理系统是由张皓喆;刘周平;牛磊;曹江锋设计研发完成,并于2025-11-24向国家知识产权局提交的专利申请。
本一种基于大模型集群的对话消息队列管理系统在说明书摘要公布了:本发明属于人工智能技术领域,具体涉及一种基于大模型集群的对话消息队列管理系统。系统包括消息预处理模块、消息路由器、多个独立的优先级队列、资源调度器、对话状态管理器及大模型集群。消息预处理模块接收外部对话请求,构造元数据对象,分配优先级队列标签,计算静态分数并记录时间戳;消息路由器依据标签将请求分发至对应优先级队列;资源调度器执行调度策略,计算动态优先级分数,实现负载均衡,并从对话状态管理器检索历史上下文信息,将请求与上下文组合为处理任务分派至大模型集群;大模型集群向资源调度器返回模型响应,且对话状态管理器负责上下文存储与更新。本系统的各个组件通过紧密协作,可以高效地处理对话消息请求。
本发明授权一种基于大模型集群的对话消息队列管理系统在权利要求书中公布了:1.一种基于大模型集群的对话消息队列管理系统,其特征在于,包括: 消息预处理模块,用于接收对话消息请求,并通过融合来自客户端、认证系统及请求内容本身的多维度信息,构造结构化的元数据对象;基于元数据对象,通过查询可配置的映射规则表,为请求动态分配优先级队列标签;并基于所述元数据对象确定请求的静态基础分并记录请求的入队时间戳;其中,所述结构化的元数据对象包括:服务契约标识、任务类型标识、紧急标志、任务复杂度评分、用户标识以及速率限制策略;所述服务契约标识用于标识用户的服务等级和业务权限; 消息路由器,用于根据优先级队列标签将请求分发到对应的优先级队列中; 对话状态管理器,用于根据对话标识符存储和检索对话的历史上下文信息; 资源调度器,用于执行如下步骤: 根据可配置的调度策略从多个独立的优先级队列中选取目标优先级队列;所述调度策略的决策依据为以下任一种:1、队列的静态优先级;2、队列的静态优先级、静态权重与动态信用值;3、队列的静态优先级与令牌桶当前令牌数;4、队列的静态优先级、队列的实时压力状态、系统负载状态及任务预估复杂度; 通过请求的静态基础分及入队后的等待时间,确定目标优先级队列中请求的动态优先级分数,并将动态优先级分数最高的请求确定为待处理请求; 从对话状态管理器中检索并关联待处理请求的历史上下文信息,形成待处理任务;基于负载均衡与任务匹配原则选择目标大模型实例,并向目标大模型实例分派所述待处理任务。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人芯瞳半导体技术(厦门)有限公司,其通讯地址为:361024 福建省厦门市厦门火炬高新区软件园三期诚毅北大街63号802单元;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励