买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉北京邮电大学申请的专利一种大语言模型越狱提示词的检测方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120409461B 。

龙图腾网通过国家知识产权局官网在2025-12-16发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510549773.3，技术领域涉及：G06F40/205；该发明授权一种大语言模型越狱提示词的检测方法是由尚煜茗;冷骏;张熙;郭三川;李朝卓设计研发完成，并于2025-04-29向国家知识产权局提交的专利申请。

本一种大语言模型越狱提示词的检测方法在说明书摘要公布了：本发明提出了一种新颖的越狱提示检测框架，通过激活和探测两个步骤实现检测，核心思想是通过利用大语言模型的内在价值防御机制来增强检测器的能力，使检测器站在大语言模型的肩膀上。具体来说，在激活阶段，向输入提示添加特殊后缀以激活大语言模型的内在防御机制，放大越狱提示和良性提示在大语言模型内的特征分布差异。在探测阶段，设计一个基于CNN的检测模型来处理激活大语言模型层的隐藏特征，以提取越狱和良性原型，从而有效检测候选提示。通过本发明大语言模型厂家能够仅在一次推理的时间内检测候选提示是否为越狱提示，大大提高了越狱检测的效率和准确率。

本发明授权一种大语言模型越狱提示词的检测方法在权利要求书中公布了：1.一种大语言模型越狱提示词的检测方法，其特征在于，所述方法包括： S1、为提示词增加激活后缀，将添加了后缀的提示词输入大语言模型，获得提示词在大语言模型内部的表示特征；表示特征是指大语言模型内部的层隐藏状态；将所有隐藏层状态堆叠为矩阵； S2、将大语言模型的隐藏层状态矩阵输入检测模型，获得提示词的分类；其中，检测模型包括顺次连接的神经网络、池化层和多层感知机； 在S1中，对给定添加激活后缀后的输入提示x，大语言模型的层隐藏状态表示为： h0＝Ex1 hl+1＝hl+MSAhl+MLPhl2 其中h表示层隐藏状态，l是大语言模型的层数，E是嵌入向量的投影空间；MSA表示多头自注意力机制，MLP为多层感知器，将所有隐藏层状态堆叠为矩阵： 其中act表示激活方法，dl表示嵌入空间的维度； 在S2中，卷积神经网络扫描堆叠的特征矩阵Hact，并堆叠多个卷积模块以捕获不同感受视野下的特征，在每个卷积块中，使用ReLU激活函数引入非线性，并使用批量归一化层BN通过对每个向量进行归一化，卷积神经网络结构如下： Cact＝StackReLUBNConvHact4 然后，引入了平均池化层实现跨多层的特征选择和聚合，表示为： Pact＝AvgPoolCcat5 通过应用线性变换，使用多层感知器MLP提取池化特征，得到原型向量，表示为： pk＝MLPPact6 其中pk是提取的提示词的特征，用作候选原型向量，k是训练数据集的标签； 检测模型比较原型向量与越狱原型和良性原型的欧几里得距离，如果距离越狱原型比距离良性原型近，则认为该原型向量代表的提示词为越狱提示词，反之为良性提示词。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人北京邮电大学，其通讯地址为：100081 北京市海淀区西土城路10号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。