买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉南开大学申请的专利一种基于预训练模型的完全生成式知识问答对生成方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN116089576B 。

龙图腾网通过国家知识产权局官网在2025-07-08发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202211398794.2，技术领域涉及：G06F16/3329；该发明授权一种基于预训练模型的完全生成式知识问答对生成方法是由刘杰;林绍鑫设计研发完成，并于2022-11-09向国家知识产权局提交的专利申请。

本一种基于预训练模型的完全生成式知识问答对生成方法在说明书摘要公布了：一种基于预训练模型的完全生成式知识问答对生成方法，包括：选择原始数据集，处理成文本，问题，答案的格式；通过预训练模型学习文本中每个词的高层语义表示以及问题和答案的最终输出表示；结合答案的输出表达与学习到的文本高层语义表示，借助指针生成网络可以从源文本中复制单词，最终通过生成器最终的答案；在生成完答案之后，将已经生成的信息通过答案引导的多头注意力机制融入到问题的输出表示中，最后利用生成器生成问题。本发明考虑了答案和问题生成的语义兼容性，利用统一生成式的模型解决在训练过程中答案和问题之间跨任务交流，提高了答案生成的综合表达能力，缓解了由于任务难度引起了优化不平衡问题。

本发明授权一种基于预训练模型的完全生成式知识问答对生成方法在权利要求书中公布了：1.一种基于预训练模型的完全生成式知识问答对生成方法，其训练过程包括下列步骤： 步骤1选择原始数据集并其中的每条数据处理成文本，问题，答案的形式； 根据知识问答对的任务形式，选取阅读理解型数据集进行训练，根据模型的输入输出要求，单条文本只对应一个问答对，因此需要将原始数据集中的每条标准数据切分成文本，问题，答案的形式； 步骤2每条数据中的“文本”经过基于大型预训练模型的分词器后获得每个词的浅层表示； 步骤3将步骤2中的文本浅层语义编码表示送入预训练模型的编码器，学习“文本”中每个词的高层语义编码； 步骤4根据步骤3得到的“文本”高层语义编码输出，训练时需要将该表示以及目标“答案”送入预训练模型解码器进行解码，最后通过答案生成器得到“答案”在词典上的输出向量表示； 步骤5根据步骤4中获得“答案”的向量表示，配合指针网络使得生成的“答案”能直接从输入文本中获取信息，从而得到“答案”最终在词典上的向量表示； 在训练时，需要将步骤4得到的“答案”在词典上的输出向量表示输入到指针网络中，使得学习到的“答案”在词典上的输出向量能够既能自己生成又可以从“文本”所表达的信息中选择，从而可以直接复制“文本”中的内容，最后以这种方式得到更加全面的“答案”向量表达； 步骤6根据步骤3得到的“文本”高层语义编码输出，需要将该表示送入预训练模型解码器中进行解码，之后利用答案引导的多头注意力机制融合步骤4得到的“问题”向量表达，从而得到“问题”解码后的向量表示； 在训练时，需要将数据集中标准的“问题”以及编码器学到的“文本”表示一起送入到同一预训练模型的编码器中进行学习，得到解码之后的“问题”表示，之后通过多头注意力机制将步骤3得到的“答案”向量表示融入到解码之后“问题”的向量表示中，得到最终的“问题”向量表示； 步骤7根据步骤6得到“问题”的最终向量表示，利用问题生成器进行“问题”生成，得到在词典上的向量分布。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人南开大学，其通讯地址为：300350 天津市津南区海河教育园同砚路38号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。