南京审计大学;南京邮电大学邓海松获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉南京审计大学;南京邮电大学申请的专利一种基于重要神经元的深度神经网络对抗攻击方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120106233B 。
龙图腾网通过国家知识产权局官网在2026-01-20发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510586370.6,技术领域涉及:G06N5/045;该发明授权一种基于重要神经元的深度神经网络对抗攻击方法是由邓海松;朱富坤;薛世喆;邵文泽设计研发完成,并于2025-05-08向国家知识产权局提交的专利申请。
本一种基于重要神经元的深度神经网络对抗攻击方法在说明书摘要公布了:本发明涉及可信人工智能与计算机视觉技术领域,具体涉及一种基于重要神经元的深度神经网络对抗攻击方法,包括:对源模型设置对应的运行参数,当迭代次数与运行参数匹配时,当迭代次数达到预先设置的运行参数时,计算源模型中所有神经元的重要性得分,生成二值掩膜,获得掩膜后的掩膜模型;输出对抗样本,分别通过掩膜模型和源模型计算对抗样本与对应的真实标签的交叉熵损失,并对应获取交叉熵损失关于对抗样本的第一梯度和第二梯度,加权第一梯度和第二梯度得到总梯度;根据总梯度依次更新迭代对抗样本,直至迭代结束,生成终版对抗样本;能更好定位对应图像类别的重要特征,提升对抗样本面向不同攻击目标模型的对抗攻击成功率。
本发明授权一种基于重要神经元的深度神经网络对抗攻击方法在权利要求书中公布了:1.一种基于重要神经元的深度神经网络对抗攻击方法,其特征在于,所述方法包括: 依次准备数据集和源模型,所述数据集包括输入样本及对应的真实标签,输入样本为从ImageNet-compatible数据集中筛选得到的图像,真实标签为对应图像中主体的名称;并对源模型设置对应的运行参数,对数据集进行迭代,当迭代次数达到预先设置的运行参数时,计算源模型中所有神经元的重要性得分,生成二值掩膜,获得掩膜后的掩膜模型; 所述运行参数包括迭代总次数、最大允许失真、动量因子、掩膜比例、掩膜次数、平衡参数、步长和更新周期,所述更新周期对应的计算公式为: ; 其中,表示更新周期;表示迭代总次数;表示掩膜次数; 其中,当迭代次数达到预先设置的运行参数时,计算源模型中所有神经元的重要性得分,生成二值掩膜,获得掩膜后的掩膜模型,包括: 当迭代次数达到更新周期时,基于输入样本每次输入一张图像与对应的真实标签至源模型中,采用神经元重要性计算方法得到源模型中所有神经元的重要性得分,对应的计算公式为: ; 其中,表示第层的第个神经元关于输入样本的重要性得分;表示数据集的输入样本通过源模型的网络输出;表示输入样本且神经元激活响应趋于0时的网络输出;表示第层的第个神经元的激活响应值; 基于重要性得分对每层神经元降序排序,通过掩膜比例逐层确定二值掩膜,对应的逻辑表达式为: ; 其中,表示掩膜比例; 根据二值掩膜结合源模型获得掩膜后的掩膜模型,对应的计算公式为: ; 其中,表示掩膜模型;表示源模型;表示神经元与二值掩膜之间的逐元素级乘积;表示二值掩膜; 所述掩膜模型为通过对源模型的重要神经元进行重要性得分评估,并根据掩膜比例,将重要神经元保留其激活响应值,而将非重要神经元将其激活响应值置为0后得到的模型; 基于迭代次数达到预先设置的运行参数后输出对抗样本,分别通过掩膜模型和源模型计算对抗样本与对应的真实标签的交叉熵损失,并对应获取交叉熵损失关于对抗样本的第一梯度和第二梯度,加权第一梯度和第二梯度得到总梯度; 根据总梯度依次更新迭代对抗样本,直至迭代结束,生成终版对抗样本。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人南京审计大学;南京邮电大学,其通讯地址为:211815 江苏省南京市浦口区江浦街道雨山西路86号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励