南京航空航天大学史云迪获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉南京航空航天大学申请的专利一种基于prompt模板的梯度搜索攻击方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN115358224B 。
龙图腾网通过国家知识产权局官网在2026-04-03发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202210848456.8,技术领域涉及:G06F40/284;该发明授权一种基于prompt模板的梯度搜索攻击方法是由史云迪;李丕绩;刘哲设计研发完成,并于2022-07-19向国家知识产权局提交的专利申请。
本一种基于prompt模板的梯度搜索攻击方法在说明书摘要公布了:本发明公开了一种基于prompt模板的梯度搜索攻击方法,具体步骤为:自动寻找标签映射词汇:通过自动标签选择方法,生成标签对应词集;构建候选词集:通过基于梯度的搜索方法,在生成的标签对应词集中寻找最可能导致模型预测错误的100个词构成候选词集;构建模板:选出候选词集中的一个或多个词汇,构造token序列,选出使模型准确率下降最多的序列作为最终模板。实验表明,三种恶意模板构建方法可以有效降低预训练模型在数据集上的预测准确率,这意味着可以达到攻击目的。
本发明授权一种基于prompt模板的梯度搜索攻击方法在权利要求书中公布了:1.一种基于prompt模板的梯度搜索攻击方法,其特征在于,包括以下步骤: 1自动寻找标签映射词汇:通过自动标签选择方法,生成标签对应词集; 2构建候选词集:通过基于梯度的搜索方法,在步骤1生成的标签对应词集中寻找最可能导致模型预测错误的100个词构成候选词集; 3构建模板:选出候选词集中的一个或多个词汇,构造token序列,选出使模型准确率下降最多的序列作为最终模板; 步骤1所述自动寻找标签映射词汇包括以下步骤: 11训练一个逻辑分类器,使用包含[MASK]标记的上下文作为输入来预测类标签,将这个分类器的输出写为: 其中,hi表示transformer对进行编码的结果,和是学习权重和偏差项,i表示[MASK]的索引,表示包含[MASK]标记的上下文; 12将hi替换为PLM的输出词的embeddingwout以获得分数sy,w=py|wout,用sy,w表示tokenw与labely之间的联系;选出词汇表V中的k个得分最高的单词构建标签对应词集: ; 步骤2所述构建候选词集包括以下步骤: 21真实标签的预测概率表示为py|Xprompt: 22利用词汇表V中每个token依次替换triggertoken序列中的第j个token,token用w表示,这个替换过程的损失变化的一阶近似值: 其中win是tokenw的输入embedding;利用词汇表V中各个token替换triggertoken序列中的第j个token,计算tokenw关于真实标签y的损失,然后反向传播得到tokenw的梯度; 23为了达到最终导致预测结果错误的效果,选择使近似值最小的k个单词作为triggertoken的候选词集Vcand: 。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人南京航空航天大学,其通讯地址为:210016 江苏省南京市秦淮区御道街29号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励