Document
拖动滑块完成拼图
个人中心

预订订单
服务订单
发布专利 发布成果 人才入驻 发布商标 发布需求

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 小哆智能科技(北京)有限公司刘晓玉获国家专利权

小哆智能科技(北京)有限公司刘晓玉获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉小哆智能科技(北京)有限公司申请的专利一种基于多级缓存机制的大模型部署方法及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119739809B

龙图腾网通过国家知识产权局官网在2025-07-08发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510245377.1,技术领域涉及:G06F16/31;该发明授权一种基于多级缓存机制的大模型部署方法及系统是由刘晓玉设计研发完成,并于2025-03-04向国家知识产权局提交的专利申请。

一种基于多级缓存机制的大模型部署方法及系统在说明书摘要公布了:本申请提供一种基于多级缓存机制的大模型部署方法及系统,其中,建立第一级动态语义缓存,在新请求匹配时优先反馈重构的答案,对于未命中请求,则启动第二级上下文关联缓存,通过提取隐式语义轨迹向量和构建动态关联图谱识别潜在上下文依赖关系,实现渐进式答案拼接,若仍未能覆盖,则激活第三级意图决策缓存,利用多层级解析结构进行场景归类、状态标记,基于知识拓扑网络生成查询指令并抽取多模态响应元素以生成组合式应答,系统同步执行多级缓存协同优化,根据用户反馈调整缓存策略,并自适应地扩容与淘汰缓存数据,本申请实施例提供的技术方案显著提升了大模型部署的响应速度、上下文理解能力和个性化服务水平。

本发明授权一种基于多级缓存机制的大模型部署方法及系统在权利要求书中公布了:1.一种基于多级缓存机制的大模型部署方法,其特征在于,包括以下步骤: 建立第一级动态语义缓存,实时捕获在线会话的语义特征编码生成唯一标识符,基于动态访问权重统计高频语义片段,当新请求的语义标识符与高频语义片段的重叠度满足预设条件时,聚合高频语义片段重构完整应答逻辑并优先反馈; 针对未命中请求启动第二级上下文关联缓存,提取会话隐式语义轨迹向量,结合历史交互路径构建动态关联图谱,识别跨会话的潜在上下文依赖关系,当检测到关联图谱中存在与当前请求形成逻辑链路的连续语义节点时,触发渐进式答案拼接机制; 当第二级缓存未覆盖时激活第三级意图决策缓存,通过多层级解析结构对请求进行场景归类和状态标记,基于知识拓扑网络生成结构化查询指令,动态调整知识检索路径权重,提取多模态响应元素生成组合式应答; 同步执行多级缓存协同优化,根据大模型响应结果及用户反馈动态调整缓存语义覆盖范围和匹配优先级,并基于会话流量特征实现缓存容量自适应扩容与淘汰逻辑联动; 其中,第一级缓存的语义标识符与第二级缓存的语义轨迹向量空间正交互补,第二级缓存的关联图谱节点与第三级缓存的知识拓扑网络通过语义桥接层映射,且各级缓存更新条件与会话流复杂度动态负相关。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人小哆智能科技(北京)有限公司,其通讯地址为:100080 北京市海淀区西北旺东路10号院23号楼三层346室;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。