浙江工业大学陈晋音获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉浙江工业大学申请的专利基于神经元加固的图像分类深度模型中毒防御方法及装置获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN115688866B 。
龙图腾网通过国家知识产权局官网在2025-07-18发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202211241175.2,技术领域涉及:G06N3/045;该发明授权基于神经元加固的图像分类深度模型中毒防御方法及装置是由陈晋音;李潇;张任杰;赵云波设计研发完成,并于2022-10-11向国家知识产权局提交的专利申请。
本基于神经元加固的图像分类深度模型中毒防御方法及装置在说明书摘要公布了:本发明公开了一种基于神经元加固的图像分类深度模型中毒防御方法及装置,该方法将一批干净样本输入到模型中,以神经元激活值和其出现频率,以及其对模型性能的影响为基准,寻找需要加固的神经元,之后将其他神经元固定下来,只加固这些选定的神经元,将训练集中的样本输入到模型中,通过对损失函数梯度上升作为导向来更新加固神经元,不断迭代直到模型趋于收敛稳定,得到干净的图像分类深度模型,用于图像分类任务。本发明解决了现有模型中毒防御方法在祛毒的同时没有增强模型鲁棒性的问题,并且模型在主任务上仍保留很高的准确率。本发明只需要用到少量的测试样本即可获得不错的效果,适用性较好。
本发明授权基于神经元加固的图像分类深度模型中毒防御方法及装置在权利要求书中公布了:1.一种基于神经元加固的深度学习模型中毒防御方法,其特征在于,包括以下步骤: S1,准备图像数据集,选择深度学习网络,利用中毒攻击方法生成中毒样本并添加到训练集中,训练得到中毒模型; S2,寻找需要加固的神经元,包括以下子步骤: S2.1,将训练集中的干净样本作为测试样本,选取一类的某测试样本输入到中毒模型中,统计模型全连接层激活值的Top-K神经元,同时记录全连接层上抽样得到的测试样本对应的Top-K神经元中频率最高的K个神经元,作为此类的主要神经元,最终得到各类的主要神经元; S2.2,在各类主要神经元中统计公共部分,构成神经元集合N; S2.3,将神经元集合N中的各神经元按其在各类测试样本上Top-K神经元中出现的次数之和进行排序,定义集合在神经元集合N中从前向后依次选取神经元添加至集合M中,在每次添加后将集合M中的所有神经元权重降低至20%以下,使用模型的准确率下降程度作为加固神经元判别标准,如果准确率下降小于等于10%,则在神经元集合N中继续选取神经元进行添加操作,否则将集合M中最近添加的神经元去除后作为加固神经元集合; S3,将不需要加固的神经元固定下来,之后进行加固神经元操作,具体为:计算图像分类深度模型损失函数的梯度并反向传播,依据梯度来微调加固神经元,最终得到干净的图像分类深度模型,用于图像分类任务。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人浙江工业大学,其通讯地址为:310014 浙江省杭州市下城区潮王路18号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。