Document
拖动滑块完成拼图
个人中心

预订订单
商城订单
发布专利 发布成果 人才入驻 发布商标 发布需求

请提出您的宝贵建议,有机会获取IP积分或其他奖励

投诉建议

在线咨询

联系我们

龙图腾公众号
专利交易 商标交易 积分商城 国际服务 IP管家助手 科技果 科技人才 会员权益 需求市场 关于龙图腾 更多
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 之江实验室;浙江大学宋杰获国家专利权

之江实验室;浙江大学宋杰获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉之江实验室;浙江大学申请的专利一种基于模型权重混合的在线知识蒸馏方法及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN115731433B

龙图腾网通过国家知识产权局官网在2026-03-31发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202211503704.1,技术领域涉及:G06V10/774;该发明授权一种基于模型权重混合的在线知识蒸馏方法及系统是由宋杰;张天立;王玉柱;潘淑设计研发完成,并于2022-11-28向国家知识产权局提交的专利申请。

一种基于模型权重混合的在线知识蒸馏方法及系统在说明书摘要公布了:一种基于模型权重混合的在线知识蒸馏方法及系统,包括:1服务端收集标注数据,划分为训练集和验证集;2选取N个相同架构的学生模型,并通过线性加权学生参数构建权重混合模型;3选取数据增强将训练集扩充成N+1份,分别输入N个学生和权重混合模型中,得到N+1个预测输出以及他们的平均集成预测;4计算每个学生和权重混合模型的分类损失;5计算每个学生输出与集成预测之间的知识蒸馏损失;6计算每个学生的参数优化目标并更新N个学生的参数;7重复3‑6步骤,每个轮次后根据更新后的学生重新构建混合权重模型,并每隔固定轮次Δ,将混合权重模型的参数融合到学生中;8选取验证集上表现最优的模型部署到终端设备上。

本发明授权一种基于模型权重混合的在线知识蒸馏方法及系统在权利要求书中公布了:1.一种基于模型权重混合的在线知识蒸馏方法的行人车辆识别方法,包含如下步骤: 1各终端设备采集待识别行人、车辆相关的图片数据并上传至服务端;服务端统一汇总并标注生成数据集,并按照一定比例将其划分为训练集和验证集; 2选取N个相同架构的深度学习网络模型作为学生模型以开展在线知识蒸 馏,并通过线性加权来构建一个权重混合模型; 3通过任务与数据类型选择N+1组数据增强方式,将训练集数据扩充成N+1份,分别输 入N个学生模型和权重混合模型中,得到N+1个预测输出,以及他们的平均 集成预测; 4计算每个学生和权重混合模型的分类损失; 5计算每个学生输出与集成预测之间的知识蒸馏损失; 6每个学生的参数优化目标分为三部分,自己的和权重混合模型的分类损失 ,以及知识蒸馏损失;根据优化目标计算梯度,并分别更新N个学生的参数; 7重复3-6步骤E个轮次,每个轮次后根据更新后的学生重新构建混合权重模型,并每 隔固定轮次,将混合权重模型的参数融合到学生中; 8在N+1个模型中选取验证集上表现最优的模型部署到终端设备上; 终端设备将获取到的新数据输入训练好的模型,得到预测概率向量,进而完成相关任务; 9终端设备将获取到的新图片输入训练好的模型,得到预测概率向量,进而完成行人或车辆的识别任务; 步骤2所述的线性加权N个学生模型的参数来构建权重混合模型,以及步骤7所述的根据更新后的学生重新构建混合权重模型,其过程如下式所述: 其中,和分别表示权重混合模型和第i个学生的参数,N是学生模型的总数量;是满足的权重向量;在训练的每个轮次,动态地从狄 利克雷分布中采样,其中是N维全一向量,是狄利克雷分布的参数。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人之江实验室;浙江大学,其通讯地址为:311100 浙江省杭州市余杭区之江实验室南湖总部;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。