买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉中国科学技术大学申请的专利一种通用于DETR类检测器的知识蒸馏方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN117315392B 。

龙图腾网通过国家知识产权局官网在2026-03-03发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202311259031.4，技术领域涉及：G06V10/774；该发明授权一种通用于DETR类检测器的知识蒸馏方法是由赵峰;常家豪设计研发完成，并于2023-09-26向国家知识产权局提交的专利申请。

本一种通用于DETR类检测器的知识蒸馏方法在说明书摘要公布了：本发明公开了一种通用于DETR类检测器的知识蒸馏方法，将预处理后的图像输送到已训练完成的学生模型中，以输出预测结果；学生模型的训练过程如下：S1：构建训练集；S2：选定教师模型和学生模型，将教师模型充分训练至收敛；S3：将训练集中的图像同时输送到教师模型和学生模型中；S4：通过教师模型对学生模型进行logits‑level蒸馏；S5：通过教师模型对学生模型进行feature‑level蒸馏；S6：通过教师模型对学生模型进行assignment‑level蒸馏；该知识蒸馏方法可以较为准确的将教师模型蕴含的知识转移到学生模型中，提高了DETR检测器的检测性能。

本发明授权一种通用于DETR类检测器的知识蒸馏方法在权利要求书中公布了：1.一种通用于DETR类检测器的知识蒸馏方法，其特点在于，将预处理后的图像输送到已训练完成的学生模型中，以输出预测结果； 所述学生模型的训练过程如下： S1：构建训练集，所述训练集包括多个预处理后的图像； S2：选定教师模型和学生模型，将教师模型充分训练至收敛，并将教师模型的参数冻结，所述教师模型包括依次连接的编码器和解码器； S3：将训练集中的图像同时输送到教师模型和学生模型中； S4：将教师模型的解码器输出的知识基于渐进式蒸馏方式转移到学生模型的解码器输出，实现通过教师模型对学生模型进行logits-level蒸馏； S5：将教师模型编码器输出的特征图和解码器预测的教师query查询进行暂存并计算得到每张特征图的前、背景划分区域，以实现教师模型对学生模型自适应的feature-level蒸馏； S6：保存教师模型中预训练完成的教师query查询并在线收集每个批次内教师query查询与GT的样本匹配结果，将教师query查询作为一组额外训练样本输入进学生模型的解码器部分并提供assignment-level蒸馏损失函数作为监督，以实现教师模型对学生模型的assignment-level蒸馏； S7：基于logits-level蒸馏、feature-level蒸馏和assignment-level蒸馏对学生模型进行训练，直至学生模型收敛； 在步骤S4中，具体包括： 将教师模型解码器输出的预测结果按照最小化损失的方式划分为正负样本：，学生模型的预测表达为：，其中和表示教师模型和学生模型的预测结果集，和分别为正样本和负样本数量，N表示学生模型的查询数量，表示正样本划分，表示负样本划分，表示教师模型正样本预测结果，表示教师模型负样本的预测结果，表示学生模型每个查询对应的预测结果； 使用DETR检测器中自带的训练损失函数分别对所述正负样本集进行匈牙利匹配，得到和匹配关系，基于匹配关系得到logits-level蒸馏的初始损失函数，其中表示匹配关系下的损失函数，表示匹配关系下的损失函数； 基于教师模型和学生模型的解码器均包含多个级联结构的阶段，采用渐进式蒸馏方式将教师模型不同阶段的解码器输出蕴含的知识转移到学生模型不同阶段的解码器部分； 渐进式蒸馏方式公式如下： 其中，是解码器总层数，表示解码器的当前层数，表示对应层数处的蒸馏损失。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人中国科学技术大学，其通讯地址为：230026 安徽省合肥市包河区金寨路96号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。