北京硅基流动科技有限公司李一鹏获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉北京硅基流动科技有限公司申请的专利大模型的负载均衡路由系统及方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120144301B 。
龙图腾网通过国家知识产权局官网在2026-02-17发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510246765.1,技术领域涉及:G06F9/50;该发明授权大模型的负载均衡路由系统及方法是由李一鹏;张文骁;朱平;廖星宇;柳俊丞设计研发完成,并于2025-03-04向国家知识产权局提交的专利申请。
本大模型的负载均衡路由系统及方法在说明书摘要公布了:本公开涉及一种用于大模型的负载均衡路由系统及方法。所述系统包括:请求解析组件,接收用户的数据处理请求,以获取数据处理请求的token信息;子集分割组件,以预定token数为基数,每次从所接收到的数据处理请求的token信息的头部开始划分出的一个token子集,并生成所划分出的每个token子集的hash值,从而形成一个或多个hash值集合;负载信息采集组件,针对每个目的地处理实例采集hash值集合和正在处理的数据处理请求的负载量;评分组件基于当前数据处理请求与每个目的地处理实例的hash值集合之间的匹配度和每个目的地处理实例负载量,并对每个目的地处理实例进行评分;以及转发组件,将当前数据处理请求路由转发给评分最高或多个评分最高的一个目的地处理实例。
本发明授权大模型的负载均衡路由系统及方法在权利要求书中公布了:1.一种大模型的负载均衡路由系统,包括: 请求解析组件, 接收用户的数据处理请求,以获取数据处理请求的token信息; 子集分割组件,以预定token数为基数,每次从所接收到的数据处理请求的token信息的头部开始划分出的一个token子集,直到划分到token信息的末尾为止,并利用hash函数生成所划分出的每个token子集的hash值,从而形成所述数据处理请求的一个或多个hash值集合; 负载信息采集组件,针对每个目的地处理实例,采集并缓存转发组件向其转发的每个数据处理请求的hash值集合和每个目的地处理实例正在处理的数据处理请求的负载量; 评分组件,基于当前数据处理请求对应的hash值集合与负载信息采集组件针对每个目的地处理实例所采集的其所接收过的数据处理请求所对应hash值集合之间的匹配度和每个目的地处理实例的负载量,对每个目的地处理实例进行评分;以及转发组件,将当前数据处理请求路由转发给评分最高或多个评分最高的一个目的地处理实例。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人北京硅基流动科技有限公司,其通讯地址为:100039 北京市海淀区王庄路1号院清华同方科技大厦4号楼8层0803;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励