买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉瀚博半导体(上海)股份有限公司申请的专利处理请求的方法、装置、设备、介质和程序产品获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN121397087B 。

龙图腾网通过国家知识产权局官网在2026-03-17发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202511946343.1，技术领域涉及：H04L67/566；该发明授权处理请求的方法、装置、设备、介质和程序产品是由吴青松设计研发完成，并于2025-12-23向国家知识产权局提交的专利申请。

本处理请求的方法、装置、设备、介质和程序产品在说明书摘要公布了：根据本公开的实施例，提供了处理请求的方法、装置、设备、介质和程序产品。该方法包括：响应于接收到会话请求，由调度单元分配权重服务节点和注意力服务节点；在预填充阶段，由权重服务节点，基于会话请求所对应的完整输入序列，生成与完整输入序列对应的键值缓存信息，其中与预填充阶段对应的注意力计算在权重服务节点处执行；向注意力服务节点传输键值缓存信息，以在注意力服务节点维护键值缓存信息；在解码阶段，由权重服务节点，确定新令牌的特征表示；由注意力服务节点基于键特征和值特征更新键值缓存信息，并基于查询特征确定新令牌的注意力信息；由权重服务节点基于注意力信息，解码得到新令牌。本公开有效提高了会话请求对应的处理效率。

本发明授权处理请求的方法、装置、设备、介质和程序产品在权利要求书中公布了：1.一种处理请求的方法，其特征在于，所述方法包括： 响应于接收到针对语言模型的会话请求，由调度单元为所述会话请求分配权重服务节点和注意力服务节点； 在所述语言模型的预填充阶段，由所述权重服务节点，基于所述会话请求所对应的完整输入序列，生成与所述完整输入序列对应的键值缓存信息，其中与所述预填充阶段对应的注意力计算在所述权重服务节点处执行； 由所述权重服务节点向所述注意力服务节点传输所述键值缓存信息，以在所述注意力服务节点本地维护所述键值缓存信息； 在所述语言模型的解码阶段，由所述权重服务节点，确定所述语言模型待输出的新令牌的特征表示，所述特征表示包括所述新令牌的查询特征、键特征和值特征； 由所述注意力服务节点基于所述键特征和所述值特征更新所述键值缓存信息，并由所述注意力服务节点基于所述查询特征确定所述新令牌的注意力信息；以及 由所述权重服务节点基于所述注意力信息，解码得到所述新令牌，以生成针对所述会话请求的响应内容。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人瀚博半导体(上海)股份有限公司，其通讯地址为：200233 上海市闵行区合川路2570号2幢602；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。