买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉华中科技大学;武汉金银湖实验室申请的专利一种抵御稠密语言检索模型后门攻击的方法及系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120409613B 。

龙图腾网通过国家知识产权局官网在2026-02-10发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510512500.1，技术领域涉及：G06N3/094；该发明授权一种抵御稠密语言检索模型后门攻击的方法及系统是由梁仕;李珍;唐喜;邹德清设计研发完成，并于2025-04-23向国家知识产权局提交的专利申请。

本一种抵御稠密语言检索模型后门攻击的方法及系统在说明书摘要公布了：本申请属于人工智能模型安全技术领域，具体公开了一种抵御稠密语言检索模型后门攻击的方法及系统，包括：计算训练样本的学习损失值，筛选出损失值最高和最低的训练样本，形成两个代理数据集并持续更新；计算两个代理数据集对模型参数的梯度，预测最佳防御时机；在最佳防御时机，将损失值最高的代理数据集的查询标记为毒性样本，将损失值最低的代理数据集的查询标记为干净样本，并训练毒性样本标识器；之后，每次更新代理数据集时，使用代理数据集对毒性样本标识器进行增量训练，并标记训练样本中的可疑样本；对可疑样本实施梯度反向优化，对非可疑样本则采用正常的梯度下降优化。通过本申请，可显著提高稠密语言检索模型抵御后门攻击的能力。

本发明授权一种抵御稠密语言检索模型后门攻击的方法及系统在权利要求书中公布了：1.一种抵御稠密语言检索模型后门攻击的方法，其特征在于，包括： 计算训练样本的学习损失值，筛选出损失值最高和最低的训练样本，形成两个代理数据集；在训练过程中，持续更新两个代理数据集，确保始终包含损失值最大和最小的训练样本；训练样本包括一条查询文本和至少一个答案文本； 计算两个代理数据集对模型参数的梯度，基于梯度余弦相似度预测最佳防御时机； 在最佳防御时机，将损失值最高的代理数据集的查询标记为毒性样本，将损失值最低的代理数据集的查询标记为干净样本，并使用被标记的查询训练一个二分类模型，作为毒性样本标识器；在最佳防御时机之后，每次更新代理数据集时，使用代理数据集对毒性样本标识器进行增量训练，并使用毒性样本标识器标记训练样本中的可疑样本； 对可疑样本实施梯度反向优化，对非可疑样本则采用正常的梯度下降优化； 所述持续更新两个代理数据集，包括： 每个训练批次，计算当前批次训练数据的学习损失值以及代理数据集的学习损失值，对损失值进行排序，选择损失值排在最前面的前K个数据为更新后的损失值最大的代理数据集；选择损失值排在最后面的后K个数据为更新后的损失值最小的代理数据集； 第一个训练批次时，直接计算当前批次数据的学习损失值，对损失值进行排序，选择损失值排在最前面的前K个数据为损失值最大的代理数据集；选择损失值排在最后面的后K个数据为损失值最小的代理数据集； 所述基于梯度余弦相似度预测最佳防御时机，包括： 计算损失值最大的代理数据集的平均损失对于模型参数的梯度，同时计算损失值最小的代理数据集的平均损失对于模型参数的梯度，计算两个梯度的余弦相似度； 使用平滑算法对每个训练批次得到的梯度余弦相似度进行平滑处理，当平滑后的梯度余弦相似度低于预设阈值，即认为这个批次为最佳防御时机，其中。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人华中科技大学;武汉金银湖实验室，其通讯地址为：430074 湖北省武汉市洪山区珞喻路1037号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。