Document
拖动滑块完成拼图
个人中心

预订订单
服务订单
发布专利 发布成果 人才入驻 发布商标 发布需求

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 武汉大学钱铁云获国家专利权

武汉大学钱铁云获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉武汉大学申请的专利基于终身蒸馏的开放域对话生成方法及设备获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN115455138B

龙图腾网通过国家知识产权局官网在2025-09-12发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202210983974.0,技术领域涉及:G06F40/35;该发明授权基于终身蒸馏的开放域对话生成方法及设备是由钱铁云;姜聪聪;徐马一设计研发完成,并于2022-08-17向国家知识产权局提交的专利申请。

基于终身蒸馏的开放域对话生成方法及设备在说明书摘要公布了:本发明提供了一种基于终身蒸馏的开放域对话生成方法及设备。所述方法包括:步骤1至步骤3。本发明提出由浅入深依次顺序建模不同层次的对话数据,保证每种对话层次特征能够被准确建模,能够有效提升模型的准确性,采用旧层次对话训练的模型当作教师,在建模新层次对话时蒸馏该教师的知识给学生,学生能够综合建模各种对话特征,有利于保持对话的多样性。

本发明授权基于终身蒸馏的开放域对话生成方法及设备在权利要求书中公布了:1.一种基于终身蒸馏的开放域对话生成方法,其特征在于,包括: 步骤1:对原始数据进行预处理,得到验证集、测试集、以及包含历史话语数量不超过3个多段对话的训练集; 步骤2:构建基于终身蒸馏的开放域对话生成模型,将训练样本与验证样本批量随机地输入基于终身蒸馏的开放域对话生成模型中,开始迭代模型训练过程,得到训练集与验证集上的评价指标,当验证集上的指标不再上升或迭代达到预定次数后停止,保存验证集上的最优模型,所述构建基于终身蒸馏的开放域对话生成模型包括:构建基础编解码模型结构、构建基于终身蒸馏的教师-学生架构、构建目标函数;其中,所述构建基础编解码模型结构包括:采用基于Transformer的序列到序列生成框架,构建嵌入层、编码器、解码器及输出层; 所述构建基于终身蒸馏的教师-学生架构包括:在构建模型时引入旧模型作为教师帮助蒸馏之前层次的对话知识,将上一时刻训练好的模型Mm-1当作当前时刻m训练模型Mm的教师,到下一时刻m+1,当前模型Mm作为教师指导模型Mm+1的训练,以此类推进行顺序蒸馏; 所述构建目标函数包括:为在当前训练过程中,能够保存部分之前训练过程中学习到的知识,让模型能够学习不同轮次对话的特征,提高模型的准确性和多样性,在每个样例除硬标签与预测分布之间的损失之外,引入上一个过程训练好的模型,将其作为教师模型,输出的软标签指导当前模型进行预测; 步骤3:加载在验证集上评价指标最优的基于终身蒸馏的开放域对话生成模型,采用测试样本批量进行测试,输出与保存对话生成的结果。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人武汉大学,其通讯地址为:430072 湖北省武汉市武昌区珞珈山街道八一路299号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由AI智能生成
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。