Document
拖动滑块完成拼图
个人中心

预订订单
商城订单
发布专利 发布成果 人才入驻 发布商标 发布需求

请提出您的宝贵建议,有机会获取IP积分或其他奖励

投诉建议

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 积分商城 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 清华大学朱文武获国家专利权

清华大学朱文武获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉清华大学申请的专利神经网络架构通道数搜索方法、装置、设备及存储介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN114118360B

龙图腾网通过国家知识产权局官网在2025-10-31发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202111258622.0,技术领域涉及:G06N3/096;该发明授权神经网络架构通道数搜索方法、装置、设备及存储介质是由朱文武;王鑫;关超宇;秦一鉴;卫志坤;张泽阳;张紫昭设计研发完成,并于2021-10-27向国家知识产权局提交的专利申请。

神经网络架构通道数搜索方法、装置、设备及存储介质在说明书摘要公布了:本申请实施例涉及数据处理技术领域,具体涉及一种神经网络架构通道数搜索方法、装置、设备及存储介质,旨在提高基于超网络进行神经网络架构通道数搜索的准确性。所述方法包括:采用深度共享策略和维度共享策略,通过多个子网络构建一个超网络;依据三明治法则和公平采样策略,从所述超网络中采样得到多个网络架构;使用动态知识蒸馏的方法对所述多个网络架构进行训练,得到训练后的多个网络架构;将所述训练后的多个网络架构和训练数据输入所述超网络中,对所述超网络进行参数优化,重复执行上述采样、训练以及参数优化步骤,将所述超网络的参数迭代优化至收敛,得到参数调整至最优的超网络。

本发明授权神经网络架构通道数搜索方法、装置、设备及存储介质在权利要求书中公布了:1.一种神经网络架构通道数搜索方法,其特征在于,所述方法包括: 采用深度共享策略和维度共享策略,通过多个子网络构建一个超网络,包括:在执行图像识别任务时,将图像识别网络ResNet20网络分为三类操作,卷积操作、批量归一化操作以及全连接操作;对于所述卷积操作,采用所述深度共享策略;对于所述批量归一化操作和所述全连接操作,采用所述维度共享策略,令不同的子网络之间相同位置的相同维度批量归一化操作的参数设置为共享参数; 依据三明治法则和公平采样策略,从所述超网络中采样得到多个网络架构,包括:从所述超网络中选取最大的图像识别网络架构和最小的图像识别网络架构,再从剩余的架构中选取多个网络架构; 使用动态知识蒸馏的方法,利用图像识别任务的图像数据集对所述多个网络架构进行训练,得到训练后的多个网络架构,包括:从图像识别任务的图像数据集中随机采样多个图像数据作为训练数据,对所述训练数据进行预处理,标注出需要识别的物体,将标注后的图像数据输入所述最大的图像识别网络架构中,使用交叉熵对所述最大的图像识别网络架构进行训练;利用训练后的最大的图像识别网络架构对所述多个网络架构中除所述最大的图像识别网络架构外剩余的图像识别网络架构进行训练,得到训练后的多个图像识别网络架构; 将所述训练后的多个网络架构和训练数据输入所述超网络中,对所述超网络进行参数优化,包括:将图像识别任务的图像数据集和所述训练后的多个网络架构一起输入所述超网络中,对所述超网络进行训练,得到训练好的超网络,所述训练好的超网络用于进行图像识别任务的神经网络架构通道的搜索; 重复执行上述采样、训练以及参数优化步骤,将所述超网络的参数迭代优化至收敛,得到参数调整至最优的超网络; 从训练好的超网络中提取目标子网络,包括:在针对图像识别任务训练出的超网络中,提取出其中一个图像识别网络作为目标子网络; 使用测试数据对所述目标子网络进行效果评估,得到子网络评估结果,包括:将测试集中的图像数据输入所述目标子网络中,所述目标子网络对测试集中的图像数据进行识别,输出识别结果,根据识别结果的准确性,对所述目标子网络的性能进行打分,以提升针对图像识别任务训练出的超网络对于模型排序的准确性; 使用所述测试数据对所述目标子网络进行参数修正,得到参数修正后的子网络; 将目标任务数据输入所述超网络中;所述目标任务数据至少包括:待识别的图像数据; 所述超网络根据所述目标任务数据进行通道数搜索,得到所述目标任务数据对应的最佳网络架构,包括:所述超网络根据其中每个子网络对图像的提取和识别效果,选择图像识别网络每一层的通道数,确定图像识别网络的结构,得到执行图像识别任务的最佳的网络架构; 使用所述目标任务数据对所述最佳网络架构进行训练,得到参数调整至最优的最佳网络架构,包括:将图像识别任务的图像数据集重新输入图像识别网络的最佳网络架构中,对图像识别网络的最佳网络架构进行训练,进而得到参数调整至最优的最佳网络架构; 将所述目标任务数据输入所述最佳网络架构中,执行所述目标任务数据对应的任务,输出目标任务结果,包括:将图片输入最佳网络架构中,执行图像识别任务,输出图像识别的结果; 其中,采用深度共享策略和维度共享策略,通过多个子网络构建一个超网络,包括: 将所述多个子网络放置于同一个网络空间中; 将所述多个子网络中同一层的卷积操作的参数按照输出维度设置为共享参数; 将所述多个子网络中相同位置的参数设置为共享参数。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人清华大学,其通讯地址为:100084 北京市海淀区清华园1号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。