买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉北京大学申请的专利一种基于对抗攻击的大模型评测方法和装置获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120144484B 。

龙图腾网通过国家知识产权局官网在2026-02-06发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510629074.X，技术领域涉及：G06F11/3698；该发明授权一种基于对抗攻击的大模型评测方法和装置是由叶蔚;谢睿;张世琨设计研发完成，并于2025-05-16向国家知识产权局提交的专利申请。

本一种基于对抗攻击的大模型评测方法和装置在说明书摘要公布了：本发明提供一种基于对抗攻击的大模型评测方法和装置，涉及人工智能技术领域，方法包括：利用预构建的结构性因果模型，分析混杂因子通过混杂路径对大模型预测结果的混杂效应；基于所述结构性因果模型的分析结果，通过对比不同提示的输出差异，筛选受混杂效应影响的关键样本；针对所述关键样本，通过黑盒方法或白盒方法生成对抗样本；利用所述对抗样本，对所述大模型进行评测。本发明通过对大模型的混杂效应进行分析，并通过因果理论降低混杂因子的影响，从而找到数据集中的关键样本；针对关键样本，提出黑盒与白盒场景下的对抗样本生成方法，将该对抗样本用于大模型评测，能够更加有效的评估大模型的鲁棒性。

本发明授权一种基于对抗攻击的大模型评测方法和装置在权利要求书中公布了：1.一种基于对抗攻击的大模型评测方法，其特征在于，所述大模型为针对离散数据输入文本的实体识别任务，识别文本中具有特定意义的词，所述方法包括： 利用预构建的结构性因果模型，分析混杂因子通过混杂路径对大模型预测结果的混杂效应，所述结构性因果模型具体用于识别预训练知识对模型输出的混杂效应； 基于所述结构性因果模型的分析结果，通过对比不同提示的输出差异，筛选受混杂效应影响的，针对同一输入文本进行不同提示得到不同结果的关键样本；所述不同提示包括简单提示和复杂提示，其中，所述简单提示仅包含任务名称和泛化表述，所述复杂提示包括详细任务描述、解决步骤、潜在干扰项、约束条件和示例中的一项或多项； 相应地，基于所述结构性因果模型的分析结果，通过对比不同提示的输出差异，筛选受混杂效应影响的关键样本，具体包括： 将同一输入样本分别与简单提示、复杂提示拼接，形成两个输入序列； 将两个输入序列分别输入大模型生成预测结果，记录每个预测结果的概率分布； 计算两个预测结果的置信度差异，若置信度差异的计算结果大于预设阈值，则将所述输入样本确定为关键样本； 针对所述关键样本，通过黑盒方法或白盒方法生成对抗样本，所述白盒方法包括： 基于梯度的对抗样本生成理论生成最优扰动向量； 遍历输入样本的所有位置，将第i个位置单词替换为掩码，形成新的输入样本； 将编码后得到的向量与最优扰动向量进行对比，选择距离最小的输入样本位置作为最优扰动位置； 所述黑盒方法包括： 遍历输入样本的所有位置，将第i个位置单词替换为掩码，形成新的输入样本； 通过模型输出确定输入样本每个位置的重要性评分； 选择评分最高的输入样本位置的单词进行字符级、单词级、句子级、混合级扰动； 利用所述对抗样本，对所述大模型进行评测，评测的指标包括语义理解与泛化能力评测、因果可解释性。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人北京大学，其通讯地址为：100871 北京市海淀区颐和园路5号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。