买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉中国人民解放军战略支援部队信息工程大学申请的专利语义融合预训练模型构建方法及跨语言摘要生成方法和系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN116955594B 。

龙图腾网通过国家知识产权局官网在2025-07-29发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202310256966.0，技术领域涉及：G06F16/34；该发明授权语义融合预训练模型构建方法及跨语言摘要生成方法和系统是由潘航宇;席耀一;胡瑞娟;余文涛;李勇;赵俭;刘剑;赵新伟;岳智慧;许岩;孙绍为设计研发完成，并于2023-03-16向国家知识产权局提交的专利申请。

本语义融合预训练模型构建方法及跨语言摘要生成方法和系统在说明书摘要公布了：本发明涉及跨语言处理领域，特别涉及一种语义融合预训练模型构建方法及跨语言摘要生成方法和系统，通过使用语义融合目标函数上对mBART模型进行微调，在自然语言生成任务的交叉熵对数似然目标函数的基础上引入单语语义相似度和跨语言语义相似度提供的语义信息来指导训练过程，其中，单语语义相似度能够从语义层面充分衡量模型产生的摘要与目标语言参考摘要间的相似性，为模型的训练提供文本深层语义的抽象有监督信息，使模型能够从语料中更有效地学习跨语言摘要对齐信息，跨语言语义相似度能够从语义层面充分衡量模型产生的摘要与源语言参考摘要间的相似性，为模型提供更真实准确的语义信息，降低跨语言摘要数据集的误差，提高模型的泛化能力。

本发明授权语义融合预训练模型构建方法及跨语言摘要生成方法和系统在权利要求书中公布了：1.一种语义融合预训练模型构建方法，其特征在于，包含： 构建用于执行摘要任务的多语言预训练模型及用于模型训练的语义融合目标函数，其中，语义融合目标函数采用交叉熵对数似然目标函数，并在所述交叉熵对数似然目标函数中融合单语语义相似度和跨语言语义相似度使模型在文本表层形式和深层语义形式两者有监督信息的共同反馈下进行优化，构建的语义融合目标函数表示为： Ltotal＝1-λLCLSθ+λLssimθ+Lxsimθ，λ为平衡因子，θ为模型参数集合，LCLSθ为模型在跨语言摘要数据集上的传统目标函数，Lssimθ为模型在跨语言摘要数据集上的单语语义目标函数，Lxsimθ为模型在跨语言摘要数据集上的跨语言语义目标函数；模型在跨语言摘要数据集上的传统目标函数表示为：T为跨语言摘要数据集的样本数，Xsrc为源语言参考摘要，Ytgt为目标语言参考摘要，logPYtgt|Xsrc；θ为模型产生摘要的对数条件概率；且模型在跨语言摘要数据集上的单语语义目标函数中，通过计算目标语言参考摘要和将源语言文本输入模型所产生的目标语言摘要两者的余弦相似度来获取单语语义相似度，利用单语语义相似度来表示单语语义目标函数；针对模型在跨语言摘要数据集上的跨语言语义目标函数，首先，针对源语言参考摘要和将源语言文本输入模型所产生的目标语言摘要，利用预训练模型XLM-RoBERTa进行上下文嵌入编码并分别生成token的表示向量；接着，通过计算源语言参考摘要和目标语言摘要中的每个token表示向量之间的内积来获取相似矩阵，基于相似矩阵对源语言参考摘要和目标语言摘要的最大相似性得分进行累加和归一化处理，并获取XLM-RoBERTa模型中源语言参考摘要和目标语言摘要的召回率和精度；然后，利用召回率和精度并通过贪婪匹配来获取XLM-RoBERTa模型中源语言参考摘要和目标语言摘要的F1分数；最后，将F1分数作为源语言参考摘要和目标语言摘要的跨语言语义相似度，利用跨语言语义相似度来表示跨语言语义目标函数； 基于语义融合目标函数并利用跨语言摘要数据集对多语言预训练模型进行训练优化，将训练优化后的多语言预训练模型作为最终用于执行摘要任务的语义融合预训练模型。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人中国人民解放军战略支援部队信息工程大学，其通讯地址为：450000 河南省郑州市高新区科学大道62号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。