广东工业大学凌捷获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉广东工业大学申请的专利一种基于相同语义特征的对抗样本生成方法与系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN116757274B 。
龙图腾网通过国家知识产权局官网在2026-01-06发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202310818420.X,技术领域涉及:G06N3/094;该发明授权一种基于相同语义特征的对抗样本生成方法与系统是由凌捷;凌海;罗玉设计研发完成,并于2023-07-04向国家知识产权局提交的专利申请。
本一种基于相同语义特征的对抗样本生成方法与系统在说明书摘要公布了:本发明公开了一种基于相同语义特征的对抗样本生成方法与系统,涉及人工智能安全的技术领域,包括获取原始图像样本并对应生成扰动样本,输入待攻击的神经网络模型,计算第一相似性分数和第二相似性分数;对相似性分数设置权重因子调整扰动样本,获得优化后的扰动样本;计算优化后的扰动样本的上界并进行约束,获得初始对抗样本;判断初始对抗样本是否满足预设要求,若不满足,将初始对抗样本作为新的扰动样本进行新一轮迭代,否则获得最终对抗样本。本发明稳定性和成功率高,不限制特定的数据集,使得生成的对抗样本更具有普适性和可迁移性,且误导分类器时保持高度不可感知,提高了对抗攻击的可靠性和实用性,达到有效欺骗分类器的目的。
本发明授权一种基于相同语义特征的对抗样本生成方法与系统在权利要求书中公布了:1.一种基于相同语义特征的对抗样本生成方法,其特征在于,包括: S1:获取原始图像样本和待攻击的神经网络模型,并对原始图像样本对应生成扰动样本; S2:将原始图像样本和扰动样本输入待攻击的神经网络模型,计算扰动样本和相对应的原始图像样本的第一相似性分数、扰动样本和其他原始图像样本的第二相似性分数; 将原始图像样本和扰动样本输入待攻击的神经网络模型,计算扰动样本和相对应的原始图像样本的第一相似性分数具体方法为: 将原始图像样本和扰动样本按批次输入待攻击的神经网络模型,经待攻击的神经网络模型处理后,获得原始图像样本输出结果和扰动样本输出结果; 根据扰动样本输出结果和相对应的原始图像样本输出结果,计算自反相似性分数,作为第一相似性分数: 式中,S′i,i表示第i个扰动样本与第i个原始图像样本的第一相似性分数,x′i表示第i个扰动样本,xi表示第i个原始图像样本;f*表示待攻击的神经网络模型,fxi'表示第i个扰动样本输出结果,fxi表示第i个原始图像样本输出结果;*T表示求取转置操作,||*||2表示求取L2范数操作; 将原始图像样本和扰动样本输入待攻击的神经网络模型,计算扰动样本和其他原始图像样本的第二相似性分数的具体方法为: 对于每个其他原始图像样本输出结果,分别与扰动样本输出结果计算差值相似性分数: 式中,S′i,j表示第i个扰动样本与第j个原始图像样本的第一相似性分数差值相似性分数,xj表示第j个原始图像样本,fxj表示第j个原始图像样本输出结果,i≠j; 将所有差值相似性分数中分数值最小的差值相似性分数作为第二相似性分数min{S′i,j|j≠i}; S3:对第一相似性分数和第二相似性分数设置相应的权重因子,根据第一相似性分数及其权重因子、第二相似性分数及其权重因子对扰动样本进行调整,获得优化后的扰动样本; S4:利用一阶导数逼近算法计算所述优化后的扰动样本的上界,利用所述上界对所述优化后的扰动样本进行约束,获得初始对抗样本; S5:判断所述初始对抗样本是否满足预设要求;若满足,将所述初始对抗样本作为最终对抗样本;若不满足,将所述初始对抗样本作为新的扰动样本,重复步骤S2-S5,直到满足预设要求,获得最终对抗样本。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人广东工业大学,其通讯地址为:510080 广东省广州市越秀区东风东路729号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励