买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉北京趋境科技有限责任公司申请的专利一种用于大模型长上下文推理的算法方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN121365738B 。

龙图腾网通过国家知识产权局官网在2026-03-27发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202511588603.2，技术领域涉及：G06N5/04；该发明授权一种用于大模型长上下文推理的算法方法是由陈祥麟;董建威;艾智远;王卓设计研发完成，并于2025-11-03向国家知识产权局提交的专利申请。

本一种用于大模型长上下文推理的算法方法在说明书摘要公布了：本发明公开了一种用于大模型长上下文推理的算法方法，涉及大语言模型技术领域，包括以下步骤：将输入的长文本序列划分为多个初始文本块；基于初始文本块生成语义摘要，并对语义摘要进行聚类分析，将语义相近的初始文本块合并为语义超块，形成具有语义代表性的上下文组织结构；在大模型预处理阶段生成各token的键值缓存数据，以语义超块为逻辑边界对键值缓存数据进行分组，建立记录各语义超块存储位置与状态的映射表；基于语义超块，结合语义超块的语义代表向量，计算查询向量与各语义超块之间的相关性评分，块重要性预测模型基于上下文依赖特征进行学习，为后续注意力筛选提供高阶语义先验，避免因位置偏移导致的关键信息遗漏。

本发明授权一种用于大模型长上下文推理的算法方法在权利要求书中公布了：1.一种用于大模型长上下文推理的算法方法，其特征在于：包括以下步骤： 将输入的长文本序列划分为多个初始文本块； 基于所述初始文本块生成语义摘要，并对语义摘要进行聚类分析，将语义相近的初始文本块合并为语义超块，形成具有语义代表性的上下文组织结构； 在大模型预处理阶段生成各token的键值缓存数据，以语义超块为逻辑边界对键值缓存数据进行分组，建立记录各语义超块存储位置与状态的映射表； 基于语义超块，结合所述语义超块的语义代表向量，计算查询向量与各语义超块之间的相关性评分，块重要性预测模型基于上下文依赖特征进行学习； 根据相关性评分对全部语义超块进行排序，确定参与当前注意力计算的目标语义超块，查询所述映射表获取目标语义超块的物理存储位置，根据存储位置将键值缓存数据加载至中央处理器主存； 对加载完成的目标语义超块的键值缓存数据执行注意力计算，生成上下文加权向量，将上下文加权向量传输至图形处理器，输出新文本单元； 在生成过程中记录各语义超块的访问频次，根据访问频次的变化更新映射表中的热度状态，依据热度状态触发键值缓存数据在固态硬盘与中央处理器迁移操作。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人北京趋境科技有限责任公司，其通讯地址为：100083 北京市海淀区成府路28号优盛大厦D座1209；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。