中国科学技术大学廖勇获国家专利权
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
龙图腾网获悉中国科学技术大学申请的专利一种基于神经元修正的大语言模型提示词攻击预防方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119577441B 。
龙图腾网通过国家知识产权局官网在2025-09-16发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411619012.2，技术领域涉及：G06F18/214；该发明授权一种基于神经元修正的大语言模型提示词攻击预防方法是由廖勇;梁胜伟设计研发完成，并于2024-11-13向国家知识产权局提交的专利申请。
本一种基于神经元修正的大语言模型提示词攻击预防方法在说明书摘要公布了：本发明涉及人工智能可解释技术领域，公开了一种基于神经元修正的大语言模型提示词攻击预防方法，包括：构建攻击提示词数据集，对攻击提示词进行改写，得到对照提示词数据组成的对照提示词数据集；构建探针，获取大语言模型中所有神经元在推理时的输出值，进而获取大语言模型的神经元激活状态；将攻击提示词和对应的对照提示词输入到大语言模型，对得到的神经元激活状态表进行归纳总结，得到攻击提示词所对应的额外的激活神经元；将提示词攻击数据输入到大语言模型，并通过将所述额外的激活神经元中的一个神经元或者多个神经元的输出强制置零。通过对关键神经元进行修正，均衡了模型性能和预防效果，提高了大语言模型的安全性。
本发明授权一种基于神经元修正的大语言模型提示词攻击预防方法在权利要求书中公布了：1.一种基于神经元修正的大语言模型提示词攻击预防方法，其特征在于，包括以下步骤： 步骤一，构建攻击提示词数据集，对攻击提示词进行改写，得到由对照提示词数据组成的对照提示词数据集；其中，将对照提示词输入大语言模型时，无法从大语言模型得到回答； 步骤二，构建探针，获取大语言模型中所有神经元在推理时的输出值，进而获取大语言模型的神经元激活状态； 步骤三，将攻击提示词和对应的对照提示词输入到大语言模型，对得到的神经元激活状态表进行归纳总结，得到攻击提示词所对应的额外的激活神经元； 步骤四，将提示词攻击数据输入到大语言模型，并通过将所述额外的激活神经元中的一个神经元或者多个神经元的输出强制置零，使得大语言模型的输出为拒绝回答或者其他证明攻击不成功的回答，实现大语言模型的提示词攻击预防。
如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人中国科学技术大学，其通讯地址为：230026 安徽省合肥市包河区金寨路96号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号
请提出您的宝贵建议，有机会获取IP积分或其他奖励