买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉复旦大学申请的专利一种基于集成重建机制的对抗样本攻击的防御方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN115409078B 。

龙图腾网通过国家知识产权局官网在2026-01-02发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202110591329.X，技术领域涉及：G06N3/094；该发明授权一种基于集成重建机制的对抗样本攻击的防御方法是由邱锡鹏;李林阳设计研发完成，并于2021-05-28向国家知识产权局提交的专利申请。

本一种基于集成重建机制的对抗样本攻击的防御方法在说明书摘要公布了：本发明提供了一种基于集成重建机制的对抗样本攻击的防御方法，用于语言模型防御对抗样本攻击，包括以下步骤：步骤1，在语言模型的训练过程中，同时加入三个预定的损失函数来保持语言模型对于带噪声样本的重建能力；步骤2，对语言模型的输入样本注入不同的噪声，重建得到多个不同的重建样本，并对重建样本进行集成推理完成一次样本重建，并得到一个取平均值的模型置信度的打分，通过多次样本重建来防御对抗样本攻击，其中，损失函数包括模型下游任务的微调损失函数、预训练采用的MASK掩码预测损失以及基于梯度回传的重建原有字词的损失。

本发明授权一种基于集成重建机制的对抗样本攻击的防御方法在权利要求书中公布了：1.一种基于集成重建机制的对抗样本攻击的防御方法，用于语言模型防御对抗样本攻击，其特征在于，包括以下步骤： 步骤1，在所述语言模型的训练过程中，同时加入三个预定的损失函数来保持所述语言模型对于带噪声样本的重建能力； 步骤2，对所述语言模型的输入样本注入不同的噪声，重建得到多个不同的重建样本，并对所述重建样本进行集成推理，得到一个取平均值的模型置信度的打分，通过重建得到多个重建样本来防御对抗样本攻击， 其中，所述损失函数包括模型下游任务的微调损失函数、预训练采用的MASK掩码预测损失以及基于梯度回传的重建原有字词的损失， 所述模型下游任务的微调损失函数的公式如下： 公式1中，θ为模型参数，L为交叉熵损失函数，Fc为模型分类器，为重建后的输入，y为输入标签， 所述预训练采用的MASK掩码预测损失的公式如下： 公式2中，θ为模型参数，L为交叉熵损失函数，Fm为模型分类器，为重建后的输入，y为输入标签， 所述基于梯度回传的重建原有字词的损失利用语言模型在进行下游任务微调和语言模型预测时产生的损失，将损失通过梯度回传的方式返回到词嵌入层，通过将梯度直接累计在词嵌入层的向量表示上来构建虚拟的序列表示，并使模型重新预测原有序列，计算公式如下： 公式3中，θ为模型参数，L为交叉熵损失函数，Fm为模型语言模型分类器，为重建前的输入，δ为模型梯度，||gδ||F为对模型求Frobenius范数。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人复旦大学，其通讯地址为：200433 上海市杨浦区邯郸路220号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。