买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉深存科技(无锡)有限公司申请的专利基于异构计算架构的深度学习模型推理加速方法及系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN121212377B 。

龙图腾网通过国家知识产权局官网在2026-03-03发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202511784605.9，技术领域涉及：G06N5/04；该发明授权基于异构计算架构的深度学习模型推理加速方法及系统是由请求不公布姓名;请求不公布姓名;请求不公布姓名;请求不公布姓名;请求不公布姓名设计研发完成，并于2025-12-01向国家知识产权局提交的专利申请。

本基于异构计算架构的深度学习模型推理加速方法及系统在说明书摘要公布了：本发明涉及深度学习推理加速技术领域，公开了基于异构计算架构的深度学习模型推理加速方法及系统。该方法包括通过分析模型层的计算操作类型获得计算密集度指标，并据此将模型划分为前置、动态和后置三个计算区域。将计算密集且规则的前置与后置区域分配至神经网络处理器，将动态稀疏区域分配至中央处理器。神经网络处理器执行前置计算，生成前置激活值向量并传输至中央处理器；中央处理器完成动态计算后，将生成的动态激活值向量传回神经网络处理器；由神经网络处理器执行后置计算并输出结果。该方法通过计算特征指导的精细任务划分与处理器间的协同调度，提升了异构硬件资源的利用效率，降低了整体推理时延。

本发明授权基于异构计算架构的深度学习模型推理加速方法及系统在权利要求书中公布了：1.基于异构计算架构的深度学习模型推理加速方法，其特征在于，所述方法包括： 提取待推理的深度学习模型的结构信息，根据模型层的计算操作类型分析计算特征，获得计算密集度指标，包括： 解析深度学习模型的网络架构，获取每一层的类型定义和配置参数； 识别每一层的计算操作类型，包括全连接操作、卷积操作、注意力机制操作或混合专家操作； 针对每一层，评估计算操作的密集度和规则性，其中密集度基于计算复杂度判断，规则性基于操作是否具有动态路由判断； 根据评估结果，为每一层分配计算密集度评分； 汇总所有层的计算密集度评分，生成计算密集度指标； 基于所述计算密集度指标，将模型层划分为前置计算区域、动态计算区域和后置计算区域，包括： 根据计算密集度指标，筛选计算密集度评分高的层作为前置计算区域候选，计算密集度评分低的层作为动态计算区域候选，输出投影相关的层作为后置计算区域候选； 调整候选区域边界，确保前置计算区域包含词嵌入层、归一化层和全连接层，动态计算区域包含混合专家层，后置计算区域包含最终全连接投影层； 确定划分后的区域边界，输出前置计算区域、动态计算区域和后置计算区域的范围描述； 所述前置计算区域包含计算密集且规则的操作，所述动态计算区域包含动态稀疏的操作，所述后置计算区域包含输出投影操作； 将所述前置计算区域和后置计算区域分配给异构计算架构中的神经网络处理器，将所述动态计算区域分配给异构计算架构中的中央处理器； 在所述神经网络处理器上执行前置计算区域的推理计算，生成前置激活值向量； 将所述前置激活值向量从神经网络处理器传输至中央处理器； 在所述中央处理器上执行动态计算区域的推理计算，接收所述前置激活值向量，生成动态激活值向量； 将所述动态激活值向量从中央处理器传输至神经网络处理器； 在所述神经网络处理器上执行后置计算区域的推理计算，接收所述动态激活值向量，生成模型输出结果。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人深存科技(无锡)有限公司，其通讯地址为：214000 江苏省无锡市新吴区弘毅路10号金乾座401、402室；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。