昆明理工大学余正涛获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉昆明理工大学申请的专利基于领域特定子网络DsCN的多领域自适应神经机器翻译方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN116542266B 。
龙图腾网通过国家知识产权局官网在2025-07-15发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202310582479.3,技术领域涉及:G06F40/58;该发明授权基于领域特定子网络DsCN的多领域自适应神经机器翻译方法是由余正涛;徐金磊;文永华;黄双宏设计研发完成,并于2023-05-23向国家知识产权局提交的专利申请。
本基于领域特定子网络DsCN的多领域自适应神经机器翻译方法在说明书摘要公布了:本发明提供基于领域特定子网络DsCN的多领域自适应神经机器翻译方法,涉及自然语言处理技术领域。多领域自适应神经机器翻译旨在利用单个模型来翻译多个域,多个域之间的联合训练被证明是成功的。然而,这种联合训练会导致资源丰富的领域,即一般领域的性能下降,将其归因于参数干扰。为了解决这些问题,本发明DsCN学习每个领域的子网络以对抗参数干扰。在英语到德语和中文到英语的多领域数据集上的大量实验表明,本发明的方法明显优于各种基线,分别提高了3BLEU。
本发明授权基于领域特定子网络DsCN的多领域自适应神经机器翻译方法在权利要求书中公布了:1.基于领域特定子网络DsCN的多领域自适应神经机器翻译方法,其特征在于:所述方法的具体步骤如下: Step1、在机器翻译比赛网站下载训练数据集,使用工具对数据进行分词、字节对处理的数据预处理操作; Step2、初始化多领域NMT模型,各领域使用继承标准评估模型的所有参数,生成领域子网络; Step3、最后通过混合由领域标签控制的通用领域和特定领域数据联合训练并获得一个统一的多领域神经机器翻译模型,利用统一好的模型进行翻译; 所述Step2的具体步骤为: 首先,初始化一个完全共享的多领域NMT模型,并训练几个轮次; 其次,对每个特定领域分别使用继承标准评估父网络的所有参数;并将其分类为可继承或不可继承;符合继承标准的参数被认为是可继承的,将掩码矩阵中与之相对应的值置为1,而不符合条件的参数被视为不可继承并被丢弃,将掩码矩阵中与之相对应的值置为0; 然后,将父网络与特定领域的掩码矩阵相点乘得到领域特定子网络; 最后,在反向传播训练中,只更新子网络的参数,继续迭代更新这些参数,直到达到收敛; 所述对每个特定领域分别使用继承标准评估父网络的所有参数中的所述继承标准用于确定来自父网络的参数是否应该在特定领域的子网络中继承,定义了基于领域间梯度余弦相似性的评估准则,称为继承准则; 参数θi最初保存在的特定领域d1和d2的网络中,为了找到在通用领域D和特定领域d1和d2中都适合联合训练的参数,首先定义了领域间梯度余弦相似度作为继承准则;更正式地,为了确定父网络中的第i个参数θi是否应该保留在特定领域的子网络中,参数θi的适合度分数被定义为: 其中和是参数θi上的通用领域D和特定领域dk的梯度方向; 直观地说,梯度决定了优化方向,梯度表示领域dk中的全局最优方向; 对于每个特定领域,父网络中的所有参数的梯度在验证集数据上被评估,计算参数θi在特定区域dk上的适应度有助于识别对联合训练造成严重干扰的参数,并通过比较适应度阈值FT来标记这些参数的优越性; 将每个参数作为个体来处理,并假设模型参数θi的适应度得分大于领域dk的适应度阈值FT,表明该参数在通用领域D和特定领域dk中都具有较强的生存能力;因此,参数θi能继承到dk的子网络中,该参数对应的设置为1,即: 通过这种方式,获得领域dk的领域特定子网络θk: θk=θ⊙Mk3。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人昆明理工大学,其通讯地址为:650500 云南省昆明市呈贡区景明南路727号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。