浙江大学滨江研究院韩蒙获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉浙江大学滨江研究院申请的专利一种基于注意力机制的对抗文本防御方法及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN113887208B 。
龙图腾网通过国家知识产权局官网在2026-03-17发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202111078755.X,技术领域涉及:G06F40/279;该发明授权一种基于注意力机制的对抗文本防御方法及系统是由韩蒙;林昶廷;张旭鸿;徐晓东;纪守领设计研发完成,并于2021-09-15向国家知识产权局提交的专利申请。
本一种基于注意力机制的对抗文本防御方法及系统在说明书摘要公布了:本发明公开了一种基于注意力机制的对抗文本防御方法及系统,包括:将待识别文本输入到以编码器‑解码器为基本结构的自然语言处理模型中,利用单词评分函数计算文本中的每个单词的重要性得分,取重要性得分的倒数,构成重构评分向量;根据注意力公式计算每个隐藏层向量的权重,得到注意力权重向量;使用超参数与重构评分向量相乘的方式来平衡重构评分向量和注意力权重向量,将重构评分向量和注意力权重向量中的对应元素逐个相乘,得到最终的重构注意力向量;利用重构注意力向量与隐藏层特征向量相乘得到重构语义编码,解码后得到输出。本发明泛化性能好,应对新的对抗攻击时不用重新训练模型;对字符级对抗攻击及单词级对抗攻击都有一定的效果。
本发明授权一种基于注意力机制的对抗文本防御方法及系统在权利要求书中公布了:1.一种基于注意力机制的对抗文本防御方法,其特征在于,包括以下步骤: 1将待识别文本输入到以编码器-解码器为基本结构的自然语言处理模型中,利用单词评分函数计算文本中的每个单词的重要性得分,取每个单词的重要性得分的倒数,构成文本的重构评分向量,包括: 1-1根据评分函数公式计算单词在文本中的时序评分: ; 其中,为文本中第i个单词;F为分类器; 1-2根据尾部时序评分函数公式计算单词在文本中的尾部时序评分: ; 其中,为文本中第i个单词;F为分类器;T为文本中单词的总数; 1-3根据综合评分函数公式计算单词的重要性得分: ; 其中,为超参数,取值范围为0,1]; 1-4对每个单词的重要性得分取倒数,最终得到文本的重构评分向量: ; 2根据注意力公式计算每个隐藏层向量的权重,得到注意力权重向量; 3使用超参数与重构评分向量相乘的方式来平衡重构评分向量和注意力权重向量,将重构评分向量和注意力权重向量中的对应元素逐个相乘,得到最终的重构注意力向量; 4利用重构注意力向量与隐藏层特征向量相乘得到重构语义编码向量,解码后得到输出。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人浙江大学滨江研究院,其通讯地址为:310051 浙江省杭州市滨江区东信大道66号二号楼301;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励