买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉北京清微智能科技有限公司申请的专利一种神经网络模型在硬件设备上的高延迟缓解方法及装置获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN117273108B 。

龙图腾网通过国家知识产权局官网在2026-01-02发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202310988571.X，技术领域涉及：G06N3/082；该发明授权一种神经网络模型在硬件设备上的高延迟缓解方法及装置是由李艳鹏;韩振华;欧阳鹏设计研发完成，并于2023-08-07向国家知识产权局提交的专利申请。

本一种神经网络模型在硬件设备上的高延迟缓解方法及装置在说明书摘要公布了：本发明公开了一种神经网络模型在硬件设备上的高延迟缓解方法及装置。方法包括：初始化深度神经网络模型的基本的超参数及相关环境，构建深度神经网络模型的剪枝计算图，通过剪枝计算图确定深度神经网络模型中适合进行剪枝的网络层，合并拥有共同父节点的兄弟节点；重置神经网络模型的探索环境，设置预定探索次数，并通过智能体获取每次探索环境中的状态对应的观测值，确定每次探索适合进行剪枝的每个网络层的剪枝数量；根据每次探索的每个网络层的剪枝数量对深度神经网络模型进行裁剪，确定剪枝后的预定探索次数的深度神经网络模型；使用采集的真实数据集评估预定探索次数的深度神经网络模型的精度，确定最优深度神经网络模型及其每层的剪枝参数。

本发明授权一种神经网络模型在硬件设备上的高延迟缓解方法及装置在权利要求书中公布了：1.一种神经网络模型在硬件设备上的高延迟缓解方法，其特征在于，包括： 初始化深度神经网络模型的基本的超参数及相关环境，构建深度神经网络模型的剪枝计算图，通过剪枝计算图确定所述深度神经网络模型中适合进行剪枝的网络层； 重置所述神经网络模型的探索环境，设置预定探索次数，并通过智能体获取每次所述探索环境中的状态对应的观测值，确定每次探索适合进行剪枝的每个网络层的剪枝数量，其中所述观测值由一组向量组成，其中包含网络层的类型信息、计算量、参数量及通道数，还包含该网络层在硬件上的计算数、从DMA读数据字节数、向DMA写数据字节数； 根据每次探索的每个网络层的剪枝数量对深度神经网络模型进行裁剪，确定剪枝后的预定探索次数的深度神经网络模型； 使用采集的真实数据集评估所述预定探索次数的所述深度神经网络模型的精度，确定最优深度神经网络模型及其每层的剪枝参数； 使用采集的真实数据集评估所述预定探索次数的所述深度神经网络模型的精度，确定最优深度神经网络模型及其每层的剪枝参数，包括： 使用所述真实数据集，根据所述深度神经网络模型的任务类型获取相关的精度指标； 获取所述深度神经网络模型在具体推理设备上的推理时间； 将所述精度指标和所述推理时间进行融合，计算所述预定探索次数的深度神经网络模型对应的智能体的奖励，确定所述最优深度神经网络模型及其每层的剪枝参数； 将所述精度指标和所述推理时间进行融合的公式如下： 其中，ind表示剪枝模型在在真实数据集上的精度指标；timepruning表示剪枝模型在特定硬件上的实际推理时间；timedense表示原始的神经网络模型在特定硬件上的推理时间；α为辅助系数，当α＝1时，将剪枝模型的精度指标作为智能体的奖励；当α＝0时，将剪枝模型的推理时间作为智能体的奖励；当α∈0,1时，将剪枝模型的精度指标和推理时间同时作为智能体的奖励。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人北京清微智能科技有限公司，其通讯地址为：100089 北京市海淀区宝盛南路1号院26号楼2层201；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。