买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉北京理工大学;北京理工大学前沿技术研究院申请的专利一种用于资源受限异构设备的神经网络协同推理方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN118839767B 。

龙图腾网通过国家知识产权局官网在2025-12-12发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202410844731.8，技术领域涉及：G06N5/04；该发明授权一种用于资源受限异构设备的神经网络协同推理方法是由徐冠宇;郝志伟;胡晗;范戎飞;郇鑫焘设计研发完成，并于2024-06-27向国家知识产权局提交的专利申请。

本一种用于资源受限异构设备的神经网络协同推理方法在说明书摘要公布了：本发明公开的一种用于资源受限异构设备的神经网络协同推理方法，属于边缘计算领域。本发明实现方法为：构建针对资源受限异构设备的推理时延预测器，采用贝叶斯优化拆分方法，拆分需要部署推理的原始神经网络模型得到多个适配资源受限异构设备计算性能和硬件资源约束的子模型；使用渐进增强蒸馏方法依次训练所有子模型，将训练好的所有子模型部署到对应的资源受限异构设备上，当接收到推理任务请求时，联合多个空闲的资源受限异构设备并行执行子模型的计算，计算结果通过资源受限设备间的局域网传输到中心节点进行汇聚后得到最终推理结果，节省多资源受限异构设备的计算开销和存储资源，降低多资源受限异构设备的推理时延和能量损耗。

本发明授权一种用于资源受限异构设备的神经网络协同推理方法在权利要求书中公布了：1.一种用于资源受限异构设备的神经网络协同推理方法，其特征在于：包括以下步骤， 步骤一：收集神经网络在每种资源受限异构设备上的推理时延数据，使用每种资源受限异构设备的推理时延数据训练多个推理时延预测器； 步骤二：建立资源受限异构设备联合推理时延和精度损失模型，针对每个资源受限异构设备计算性能和硬件资源的约束，设定需要拆分的原始神经网络中可用切分点，建立资源受限异构设备联合推理时延和精度损失最小的优化问题； 步骤三：采用贝叶斯优化拆分方法求解资源受限异构设备联合推理精度和时延最小的优化问题，将原始神经网络拆分为适配资源受限异构设备计算性能和硬件资源约束的不同子模型； 步骤四：将原始Transformer模型作为监督,使用渐进增强蒸馏算法依次训练步骤三中得到的所有Transformer子模型，帮助Transformer子模型学习原始Transformer模型中丰富的语义特征，提高Transformer子模型的预测精度； 步骤五：将步骤四中训练好的所有Transformer子模型部署到对应的资源受限异构设备上，当接收到推理任务请求时，联合多个空闲的资源受限异构设备并行执行Transformer子模型的计算，计算结果通过资源受限设备间的局域网传输到中心节点进行汇聚后得到最终神经网络，利用汇聚后得到的最终神经网络进行协同推理，节省多资源受限异构设备的计算开销和存储资源，降低多资源受限异构设备的推理时延和能量损耗。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人北京理工大学;北京理工大学前沿技术研究院，其通讯地址为：100081 北京市海淀区中关村南大街5号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。