买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉鹏城实验室申请的专利知识蒸馏方法、装置、计算机设备及可读存储介质获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120745748B 。

龙图腾网通过国家知识产权局官网在2025-11-18发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202511219508.5，技术领域涉及：G06N3/096；该发明授权知识蒸馏方法、装置、计算机设备及可读存储介质是由李若南;刘劼;顾钊铨;冯文英;赵昂霄;景晓;向夏雨;关华设计研发完成，并于2025-08-28向国家知识产权局提交的专利申请。

本知识蒸馏方法、装置、计算机设备及可读存储介质在说明书摘要公布了：本申请实施例提供了一种知识蒸馏方法、装置、计算机设备及可读存储介质。包括：基于预设边缘部署模型和引导模型，针对样本数据集中的样本数据输出的预测概率分布差异构建输出分布损失；基于引导模型和边缘部署模型输出的注意力矩阵差异构建注意力蒸馏损失；基于引导模型和边缘部署模型特征提取层级输出的特征图差异构建多层级特征蒸馏损失；基于引导模型和边缘部署模型输出的特征相似性差异，构建关系蒸馏损失；基于注意力蒸馏损失、多层级特征蒸馏损失与关系蒸馏损失构建综合损失，根据多个引导模型对应的多个输出分布损失和多个综合损失对预设边缘部署模型进行知识蒸馏，得到目标边缘部署模型。以此，能够提高边缘部署模型的泛化能力和性能。

本发明授权知识蒸馏方法、装置、计算机设备及可读存储介质在权利要求书中公布了：1.一种知识蒸馏方法，其特征在于，所述方法包括： 获取样本数据集，并基于预设边缘部署模型和每个引导模型，针对所述样本数据集中的每个样本数据输出的预测概率分布之间的差异，构建对应的输出分布损失； 基于所述每个引导模型和所述边缘部署模型的每个注意力头，针对所述每个样本数据输出的注意力矩阵之间的差异，构建对应的注意力蒸馏损失； 基于所述每个引导模型和所述边缘部署模型的每个特征提取层级，针对所述每个样本数据输出的特征图之间的差异，构建对应的多层级特征蒸馏损失； 基于所述每个引导模型和所述边缘部署模型，针对所述样本数据集中的任意样本数据对输出的特征相似性之间的差异，构建对应的关系蒸馏损失； 基于所述注意力蒸馏损失、所述多层级特征蒸馏损失与所述关系蒸馏损失，构建所述每个引导模型的综合损失，并获取所述样本数据对应的数据性质，其中，所述数据性质包括图像性质、文本性质和多模态性质中的至少一种；获取所述每个引导模型的网络架构对所述数据性质的适配性指数，并基于所述适配性指数，确定所述每个引导模型对应的融合权重；根据所述每个引导模型对应的融合权重，对每个输出分布损失和每个综合损失进行调节，得到对应的目标输出分布损失和目标综合损失；根据多个引导模型对应的多个目标输出分布损失和多个目标综合损失，对所述预设边缘部署模型进行知识蒸馏，得到目标边缘部署模型，其中，所述多个引导模型之间具有互异的网络架构。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人鹏城实验室，其通讯地址为：518000 广东省深圳市南山区兴科一街2号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。