买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉北京邮电大学申请的专利基于知识蒸馏的深度学习模型协同推演方法、装置及设备获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN116562364B 。

龙图腾网通过国家知识产权局官网在2025-10-24发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202310305693.4，技术领域涉及：G06N3/098；该发明授权基于知识蒸馏的深度学习模型协同推演方法、装置及设备是由王莉;徐连明;费爱国;李靚;彭鲜;吴鑫设计研发完成，并于2023-03-27向国家知识产权局提交的专利申请。

本基于知识蒸馏的深度学习模型协同推演方法、装置及设备在说明书摘要公布了：本发明提供一种基于知识蒸馏的深度学习模型协同推演方法、装置及设备，包括：获取各边缘节点对应的FLOPS、存储容量、数据成功传输概率；基于FLOPS、存储容量和数据成功传输概率，对各边缘节点分簇处理，得到K个目标节点簇用于冗余备份；对预设教师模型最后一个卷积层的多个卷积滤波器进行集合划分处理，得到K个滤波器集合；基于K个目标节点簇、K个滤波器集合和多个预设模型，确定与各目标节点簇的能力适配的待训练模型；基于多个预设样本数据，采用知识蒸馏技术对各目标节点簇的待训练模型联合训练，得到各目标节点簇的学生模型；针对各目标节点簇，分别将目标节点簇的学生模型部署至目标节点簇中的各边缘节点，以提升推演性能。

本发明授权基于知识蒸馏的深度学习模型协同推演方法、装置及设备在权利要求书中公布了：1.一种基于知识蒸馏的深度学习模型协同推演方法，其特征在于，包括： 获取各边缘节点对应的每秒浮点运算次数FLOPS、存储容量和数据成功传输概率； 基于所述FLOPS、所述存储容量和所述数据成功传输概率，对所述各边缘节点进行分簇处理，得到K个目标节点簇； 对预设教师模型中最后一个卷积层的多个卷积滤波器进行集合划分处理，得到K个滤波器集合； 基于所述K个目标节点簇、所述K个滤波器集合和多个预设模型，确定各目标节点簇的待训练模型； 基于多个预设样本数据，采用知识蒸馏技术对所述各目标节点簇的待训练模型进行联合训练，得到所述各目标节点簇的学生模型； 针对所述各目标节点簇，分别将所述目标节点簇的学生模型部署至所述目标节点簇中的各边缘节点中；所述各目标节点簇中的各边缘节点在运行对应的学生模型时用于执行协同推演； 其中，K个目标节点簇满足如下分簇处理规则： 其中，表示包含多个目标节点簇的集合，Mk表示目标节点簇，mi表示边缘节点，表示mi的存储容量，表示Mk的平均存储容量，表示mi的FLOPS，表示Mk的平均FLOPS，表示Mk的累积传输成功概率，pth表示预设概率阈值，Mi表示第i个目标节点簇，Mj表示第j个目标节点簇，∩表示交集； 在联合训练的过程中，损失函数值的计算模型为： 其中，LθS表示损失函数值，θS表示参数向量，包括各目标节点簇的待训练模型的参数，表示标准交叉熵运算，表示知识蒸馏损失函数中的硬标签损失，y表示真实标签向量，包括多个预设样本数据的真实标签，PS表示预测标签向量，各目标节点簇的待训练模型输出的预测标签，表示知识蒸馏损失函数中的软标签损失，表示预设教师模型的softmax层输出的标签的概率分布，PSτ表示各目标节点簇的待训练模型的softmax层输出的标签的概率分布，P表示中的一个滤波器集合，表示包括K个滤波器集合的集合，表示预设教师模型中P的卷积层激活值向量，表示待训练学生模型中P的卷积层激活值向量，表示将卷积滤波器的知识从教师模型迁移到待训练模型的激活迁移损失，α表示硬标签损失的权重，β表示软标签损失的权重。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人北京邮电大学，其通讯地址为：100876 北京市海淀区西土城路10号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。