中国科学技术大学赵峰获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉中国科学技术大学申请的专利一种基于双提示的小模型目标检测蒸馏方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119443203B 。
龙图腾网通过国家知识产权局官网在2025-09-09发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411301242.4,技术领域涉及:G06N3/096;该发明授权一种基于双提示的小模型目标检测蒸馏方法是由赵峰;祁禹坤设计研发完成,并于2024-09-18向国家知识产权局提交的专利申请。
本一种基于双提示的小模型目标检测蒸馏方法在说明书摘要公布了:本发明涉及目标检测技术领域,公开了一种基于双提示的小模型目标检测蒸馏方法,外部提示蒸馏操作通过教师特征来初始化教师外部提示,通过多头自注意力机制进行交互来避免信息重复;以动量更新的方式对教师外部提示进行更新;对学生特征初始化后,与教师外部提示进行多头交叉注意力交互,然后以残差的方式加回到学生特征中;内部提示蒸馏操作初始化学生内部提示,与学生特征相乘,然后对学生特征进行更新;将更新后的学生特征再经过ConvLoRA操作,得到主干网络阶段最终的学生特征;通过特征蒸馏操作对学生模型的参数进行更新;本发明能够在小模型蒸馏上取得更优异的性能。
本发明授权一种基于双提示的小模型目标检测蒸馏方法在权利要求书中公布了:1.一种基于双提示的小模型目标检测蒸馏方法,其特征在于,通过知识蒸馏过程,将教师模型中的知识传递至学生模型,在测试过程中,将图像输入至完成知识蒸馏过程的学生模型,检测出图像中的物体以及物体的类别;教师模型和学生模型均包括主干网络和颈部网络,知识蒸馏过程包括主干网络阶段和颈部网络阶段;目标检测蒸馏方法具体包括以下步骤: 步骤一,主干网络阶段包括外部提示蒸馏操作和内部提示蒸馏操作;具体包括以下步骤: S11,外部提示蒸馏操作包括:通过教师模型的主干网络输出的教师特征FT,来初始化教师外部提示E,通过多头自注意力机制进行交互来避免信息重复;以动量更新的方式对教师外部提示E进行更新;同时,对学生模型的主干网络输出的学生特征FS进行初始化操作,然后与更新后的教师外部提示进行多头交叉注意力交互,将得到的交互特征以残差的方式加回到学生模型主干网络输出的学生特征FS中; S12,内部提示蒸馏操作包括:初始化可学习的学生内部提示,与学生模型的主干网络输出的学生特征FS相乘,然后进行Sigmoid操作,得到学生特征的掩码,所述掩码再与学生特征FS做点积,以残差的形式加回到学生特征中,实现对学生特征进行更新;将更新后的学生特征FS1再经过一层ConvLoRA操作,得到主干网络阶段最终的学生特征 步骤二,颈部网络阶段包括特征蒸馏操作; 其中,特征蒸馏操作包括:将主干网络阶段最终的学生特征经过一层投影层,使学生特征的通道数与教师特征FT的通道数相同,然后计算学生特征和教师特征FT的皮尔逊相似度,用计算得到的结果作为特征蒸馏监督损失,对学生模型的参数进行更新; 步骤三,在测试阶段,将图像输入至完成知识蒸馏过程的学生模型,检测出图像中的物体以及物体的类别;在测试阶段中,保留内部提示蒸馏操作,以及知识蒸馏过程得到的外部教师提示;在测试过程中外部教师提示用于直接和学生特征进行多头交叉注意力机制交互。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人中国科学技术大学,其通讯地址为:230026 安徽省合肥市包河区金寨路96号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励