Document
拖动滑块完成拼图
个人中心

预订订单
商城订单
发布专利 发布成果 人才入驻 发布商标 发布需求

请提出您的宝贵建议,有机会获取IP积分或其他奖励

投诉建议

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 积分商城 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 中国科学院自动化研究所徐常胜获国家专利权

中国科学院自动化研究所徐常胜获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉中国科学院自动化研究所申请的专利一种跨模态可转移后门攻击方法和装置获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119740633B

龙图腾网通过国家知识产权局官网在2026-01-27发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510254668.7,技术领域涉及:G06N3/094;该发明授权一种跨模态可转移后门攻击方法和装置是由徐常胜;钱胜胜;王兵设计研发完成,并于2025-03-05向国家知识产权局提交的专利申请。

一种跨模态可转移后门攻击方法和装置在说明书摘要公布了:本发明涉及计算机视觉与自然语言处理技术领域,提供一种跨模态可转移后门攻击方法和装置,包括:基于未标注的原始数据集构建含有触发器的后门数据集;将原始数据集和含有触发器的后门数据集输入预先构建的黑客网络,分别计算干净数据沉默损失和带有触发器的后门毒性损失;通过最小化干净数据沉默损失和后门毒性损失,预训练预先构建的黑客网络;通过目标类别的图像数据和文本数据计算目标类别的特征表示,利用预训练后的黑客网络和目标类别的特征表示进行后门转移生成带有后门的目标CLIP模型;利用生成的模型进行攻击。能在多模态数据中同时嵌入后门触发器,具有较强的跨模态可转移性和隐蔽性,且不依赖大规模标注数据。

本发明授权一种跨模态可转移后门攻击方法和装置在权利要求书中公布了:1.一种跨模态可转移后门攻击方法,其特征在于,包括: 获取未标注的原始数据集,基于所述原始数据集构建含有触发器的后门数据集; 将所述原始数据集和所述含有触发器的后门数据集输入预先构建的黑客网络,分别计算干净数据沉默损失和带有触发器的后门毒性损失;其中,干净数据沉默损失对应所述原始数据集,所述带有触发器的后门毒性损失对应所述含有触发器的后门数据集; 通过最小化所述干净数据沉默损失和所述带有触发器的后门毒性损失,预训练所述预先构建的黑客网络,得到预训练后的黑客网络; 通过目标类别的图像数据和文本数据计算目标类别的特征表示,利用所述预训练后的黑客网络和所述目标类别的特征表示进行后门转移,生成带有后门的目标CLIP模型; 利用所述带有后门的目标CLIP模型进行后门攻击,将含有触发器的图像数据和文本数据输入到所述带有后门的目标CLIP模型中,通过对比攻击前后的模型输出,使用准确率、召回率、F1分数指标来衡量攻击的成功率,评估后门攻击对模型行为的影响程度,用于模型安全性分析; 所述原始数据集包括图像数据集和文本数据集,所述后门数据集包括包含触发器的图像数据集和包含触发器的文本数据集;所述干净数据沉默损失包括干净图像静默损失和干净文本静默损失,所述带有触发器的后门毒性损失包括后门图像毒性损失和后门文本毒性损失,所述预先构建的黑客网络包括视觉黑客网络和文本黑客网络; 干净图像静默损失和干净文本静默损失为: ; 式中,和分别为图像数量和文本数量,和分别为干净图像和干净文本,和分别为图像数据集和文本数据集; 后门图像毒性损失和后门文本毒性损失为: ; ; 式中,和分别为后门图像和后门文本,通过对干净图像和干净文本分别添加触发器生成和;和分别为包含触发器的图像数据集和包含触发器的文本数据集,为预设阈值,表示取最大值; 所述预训练后的黑客网络包括预训练后的视觉黑客网络和预训练后的文本黑客网络;所述利用所述预训练后的黑客网络和所述目标类别的特征表示进行后门转移,生成带有后门的目标CLIP模型,包括: 利用所述预训练后的黑客网络的输出和所述目标类别的特征表示通过下式进行后门转移,生成带有后门的目标CLIP模型: ; ; 式中,为输入数据,和分别为带有后门的目标CLIP模型输出的图像特征和文本特征,为归一化函数,和分别为目标CLIP模型的图像编码器和文本编码器,为预训练后的视觉黑客网络的输出,为预训练后的文本黑客网络的输出,为目标类别的特征表示。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人中国科学院自动化研究所,其通讯地址为:100190 北京市海淀区中关村东路95号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。