南京理工大学付安民获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉南京理工大学申请的专利一种基于自定义后门行为的触发器样本检测方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN115098855B 。
龙图腾网通过国家知识产权局官网在2026-01-06发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202210736403.7,技术领域涉及:G06F21/55;该发明授权一种基于自定义后门行为的触发器样本检测方法是由付安民;王尚;周纯毅;苏铓;俞研设计研发完成,并于2022-06-27向国家知识产权局提交的专利申请。
本一种基于自定义后门行为的触发器样本检测方法在说明书摘要公布了:本发明公开了一种基于自定义后门行为的在线输入样本检测方法,包括自定义触发器构造;自定义后门注入;输入样本拟合程度测算;干净数据拟合程度收集;触发器样本检测阈值确认等步骤。本发明基于自定义触发器向模型注入自定义后门,通过嵌入自定义触发器干扰输入样本的预测过程且不影响输入样本的主要组件,保证本发明的鲁棒性;其次,基于干扰机制测算输入样本的拟合程度,由于触发器样本具有过拟合特性,以干净数据的拟合程度执行异常检测能够识别触发器样本,显著提高了触发器样本的检测成功率,同时不影响干净样本的分类精度;本发明操作简洁且容易部署,仅需少量预测行为即可识别触发器样本并拒绝提供服务,大大降低了防御者的资源开销。
本发明授权一种基于自定义后门行为的触发器样本检测方法在权利要求书中公布了:1.一种基于自定义后门行为的触发器样本检测方法,其特征在于,分为两个阶段:离线准备阶段与在线预测阶段,分别具体为: 离线准备阶段:用户端将自定义后门注入外包模型副本,并利用输入样本拟合程度测算方法获得部分干净数据集对应的良性拟合程度集合,以此确定异常检测阈值,具体步骤为: 步骤1,确定自定义触发器与目标类别; 防御者选择设定数量的像素块作为自定义触发器m,并选择任一类别作为目标类别t1; 步骤2,注入自定义后门; 防御者从训练数据集D中随机选取5%的数据,将自定义触发器m嵌入选取的数据的固定位置,并将其标签修改为目标类别t1,得到中毒数据集Dp; 防御者复制现有模型得到模型副本,利用中毒数据集Dp调整模型副本得到嵌入自定义触发器的模型副本M1; 步骤3,输入样本测算方法; 针对输入样本x,防御者利用自定义触发器m衡量其拟合程度,输入样本x的预测值为t0; 按照透明度递增顺序构造自定义触发器的副本m1,m2,…,mk,其中m1为不透明触发器副本,而mk全透明触发器副本; 生成相应数量的输入样本副本x1,x2,…,xk,依次将触发器副本嵌入输入样本副本得到x1',x2',…,xk'; 将携带自定义触发器的输入样本副本依次输入嵌入自定义后门的外包模型副本中,当预测标签由t1转为t0时,记录此时自定义触发器对应的透明度,即为其拟合程度; 步骤4,构造良性拟合程度集合; 防御者从训练数据集中随机选择部分干净数据,依次按照步骤3获得所有干净数据的拟合程度,并构造良性拟合程度集合Q; 步骤5,根据检测假阳率设置异常检测阈值T; 防御者设置检测假阳率f,按照拟合程度递增的顺序排列集合Q,选择Q中第f个的拟合程度作为异常检测阈值T 在线检测阶段:通过输入样本测算方法获得样本的拟合程度,并判断其是否为触发器样本,确定输入样本是否携带触发器。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人南京理工大学,其通讯地址为:210094 江苏省南京市玄武区孝陵卫200号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励