买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉浙江大学申请的专利一种基于自然语言提示机制的持续小样本意图识别方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN115688872B 。

龙图腾网通过国家知识产权局官网在2025-09-09发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202211237121.9，技术领域涉及：G06N3/0455；该发明授权一种基于自然语言提示机制的持续小样本意图识别方法是由张寅;李国趸;翟雨晨设计研发完成，并于2022-10-10向国家知识产权局提交的专利申请。

本一种基于自然语言提示机制的持续小样本意图识别方法在说明书摘要公布了：本发明公开了一种基于自然语言提示机制的持续小样本意图识别方法。本发明包括如下步骤：1教师模型准备：在新任务上从零初始化教师模型，并进行基于对比学习方式的微调；2执行知识蒸馏：冻结教师模型，利用新任务数据，对旧任务上训练得到的模型执行知识蒸馏，迁移教师表征；3执行内存重放：利用从旧任务中保存的少量数据在当前学生模型上执行对比学习方式的重放。和现有技术相比，本发明针对持续学习场景下的小样本意图识别问题，首次提出了一种参数高效的自然语言提示机制，结合内存重放和知识蒸馏策略，能够极大地缓解持续学习过程中的知识遗忘问题和知识负迁移问题。

本发明授权一种基于自然语言提示机制的持续小样本意图识别方法在权利要求书中公布了：1.一种基于自然语言提示机制的持续小样本意图识别方法，其特征在于，步骤如下： S1：在意图识别场景的新任务上，初始化一个与学生模型结构相同的教师模型；所述学生模型和教师模型均采用SimCSE-RoBERTa作为原始编码器，并在原始编码器内部的每个多头注意力层中引入可学习的前缀提示参数并与原有的键值表征进行连接从而形成前缀提示引导的多头注意力层，同时在原始编码器内部的每层前馈层后插入可学习的适配器结构；在新任务对应的意图识别任务数据集基础上基于对比学习方式对所述教师模型进行训练，且训练过程中需冻结原始编码器参数，仅微调相对于原始编码器新引入的网络结构； S2：冻结S1中训练好的教师模型，并基于新任务对应的意图识别任务数据集，利用该教师模型对已在旧任务上训练得到的学生模型执行知识蒸馏，得到教师模型和学生模型对于相同样本输出的不同表征之间的均方误差损失； S3：在对学生模型进行新任务训练时，利用从旧任务中缓存的数据在当前学生模型上执行对比学习方式的内存重放，计算得到基于对比学习的内存重放损失；所述旧任务中缓存的数据为所述学生模型在该旧任务上训练结束后保存下来的每个类别中距离对应类别表征在余弦距离上最近和最远的两个样本； S4：同时通过S2的知识蒸馏和S3的内存重放任务对所述学生模型进行新任务的迭代训练，训练的总损失为所述均方误差损失和所述内存重放损失的加权和； S5：在新任务训练结束后，将该新任务中每个类别的所有训练样本送入编码器并输出样本表征，将每个类别中所有样本表征的平均值作为这个类别的表征；将每个类别中距离该类别表征在余弦距离上最近和最远的两个样本缓存起来，用于进行下一次新任务训练时的内存重放； S6：在测试或实际应用时，将用户的查询文本输入到当前最新的学生模型中通过编码得到查询表征，将查询表征分别与所有类别表征计算余弦相似度，并将与查询表征最相似的类别作为预测的意图类别。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人浙江大学，其通讯地址为：310058 浙江省杭州市西湖区余杭塘路866号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。