买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉电子科技大学长三角研究院(湖州)申请的专利自适应调节知识蒸馏温度的模型压缩方法、系统及介质获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN116778295B 。

龙图腾网通过国家知识产权局官网在2025-11-25发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202310655889.6，技术领域涉及：G06N3/0495；该发明授权自适应调节知识蒸馏温度的模型压缩方法、系统及介质是由黄磊;丁卓越;张成;叶润;闫斌;周小佳设计研发完成，并于2023-06-05向国家知识产权局提交的专利申请。

本自适应调节知识蒸馏温度的模型压缩方法、系统及介质在说明书摘要公布了：本发明属于模型压缩技术领域，公开了一种自适应调节知识蒸馏温度的模型压缩方法、系统及介质，采集图像样本，对图像样本中的异常数据和缺失数据进行数据清洗，包括直接丢弃异常数据和采用最邻近插值或双线性插值法恢复缺失数据；采用Mosaic‑4数据增强方法随机对图像样本进行翻转、缩放、裁剪等操作，并任意选取4张变换后的图像进行拼接，进而增强图像样本；建立最小化自适应蒸馏损失函数，完成教师模型的知识到学生模型的传递，实现知识蒸馏；采用训练集对学生模型进行训练，确定最优化的总损失函数，实现模型压缩。本发明更好地平衡教师模型知识向学生模型的传递，进而获得更轻量化的学生模型。

本发明授权自适应调节知识蒸馏温度的模型压缩方法、系统及介质在权利要求书中公布了：1.一种自适应调节知识蒸馏温度的模型压缩方法，其特征在于，包括以下步骤： 第一步，采集图像样本，对图像样本中的异常数据和缺失数据进行数据清洗，包括直接丢弃异常数据和采用最邻近插值或双线性插值法恢复缺失数据； 第二步，采用Mosaic-4数据增强方法随机对图像样本进行翻转、缩放、裁剪操作，并任意选取4张变换后的图像进行拼接，进而增强图像样本； 第三步，建立最小化自适应蒸馏损失函数，完成教师模型的知识到学生模型的传递，实现知识蒸馏；采用训练集对学生模型进行训练，确定最优化的总损失函数，实现模型压缩； 所述第三步包括：最小化自适应蒸馏损失函数LAD，使L1和L2之间的散度最小，完成教师模型的知识到学生模型的传递，实现知识蒸馏；其中教师模型的软标签L1，学生模型的软标签L2； 采用训练集对学生模型进行训练，并选择激活函数Softmax，确定学生模型的硬标签L3； 最小化学生模型的损失函数LS，使L3与真实标签之间的散度最小； 根据LAD和LS，确定最优化的总损失函数Ltotal，实现模型压缩； 进一步包括： 1在知识蒸馏过程中，利用具有蒸馏温度TT的激活函数Softmax对教师模型第i类第j个样本的输出结果TPij进行激活操作，确定Tij； 2利用具有蒸馏温度TS的激活函数Softmax对学生模型第i类第j个样本的输出结果SPij进行激活操作，确定Sij； 3自适应蒸馏损失函数LAD表示为： 4学生模型的损失函数LS表示为： 其中，yij表示第i类第j个样本的真实标签值； 5总损失函数Ltotal表示为： Ltotal＝λLAD+1-λLS 其中，λ表示权重因子； 6初始化教师模型的蒸馏温度TT，根据stdTTT＝stdSTS关系式和总损失函数Ltotal最优化原则，自适应调节学生模型的蒸馏温度TS； 7当Ltotal小于预设的损失因子α时，确定学生模型的最优蒸馏温度TS＝t，进而完成教师模型的知识向学生模型的传递，最终实现自适应调节知识蒸馏温度的模型压缩。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人电子科技大学长三角研究院(湖州)，其通讯地址为：313000 浙江省湖州市西塞山路819号科技创新综合体B1幢；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。