买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉中国科学院自动化研究所申请的专利基于预训练的语言模型的文本生成方法、装置、设备、介质获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120893395B 。

龙图腾网通过国家知识产权局官网在2026-02-06发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510996276.8，技术领域涉及：G06F40/16；该发明授权基于预训练的语言模型的文本生成方法、装置、设备、介质是由王丹力;王欣源设计研发完成，并于2025-07-18向国家知识产权局提交的专利申请。

本基于预训练的语言模型的文本生成方法、装置、设备、介质在说明书摘要公布了：本公开提供了一种基于预训练的语言模型的文本生成方法、装置、设备、介质，可以应用于文本生成技术领域。该方法包括：将目标问题文本输入至预训练的语言模型中，生成目标路径；基于逻辑步骤序列中每个步骤的条件概率，生成困惑值；响应于确定困惑值大于预定阈值，利用预训练的语言模型对逻辑步骤序列中的至少一个步骤进行校正，得到修正后的逻辑步骤序列；利用预训练的语言模型，按照修正后的逻辑步骤序列处理目标问题文本，生成目标答复文本，确保逻辑步骤序列中每个步骤的正确性，提升推理效率，减少计算资源的消耗，同时提升了目标答复文本的鲁棒性和可解释性。

本发明授权基于预训练的语言模型的文本生成方法、装置、设备、介质在权利要求书中公布了：1.一种基于预训练的语言模型的文本生成方法，其特征在于，所述方法包括： 将目标问题文本输入至预训练的语言模型中，生成目标路径，其中，所述目标路径指示了从目标问题文本得到初始答复文本的逻辑步骤序列和条件概率，所述目标路径包括M个步骤，M为大于等于1的整数； 基于所述逻辑步骤序列中每个步骤的条件概率，生成困惑值，所述困惑值表征由第m个步骤推理得到第m+1个步骤的可信度，m为大于等于1且小于等于M-1的整数； 响应于确定所述困惑值大于预定阈值，利用所述预训练的语言模型对逻辑步骤序列中的至少一个步骤进行校正，得到修正后的逻辑步骤序列； 利用所述预训练的语言模型，按照所述修正后的逻辑步骤序列处理所述目标问题文本，生成目标答复文本； 所述第m个步骤由N个推理词组成，N为大于等于1的整数，第m个步骤的条件概率是通过以下方法确定的： 针对所述N个推理词中的第一个推理词，基于预设起始标记得到第一条件概率，所述第一条件概率为输出所述第一个推理词的概率； 针对所述N个推理词中的第n个推理词，基于前n-1个推理词得到第n条件概率，以获得N-1个条件概率，n为大于1小于等于N的整数，第n概率为在确定前n-1个推理词的情况下输出所述第n个推理词的概率； 基于第一概率至第N概率生成所述第m个步骤的条件概率； 所述基于所述逻辑步骤序列中每个步骤的条件概率，生成困惑值，包括： 对所述第一条件概率和所述N-1个条件概率进行对数运算，得到N个推理词条件概率； 基于所述N个推理词条件概率得到平均推理词条件概率； 基于所述平均推理词条件概率生成所述困惑值； 所述第m个步骤包括第m推理思考数据、第m推理动作数据和第m推理观察数据，所述利用所述预训练的语言模型对逻辑步骤序列中的至少一个步骤进行校正，得到修正后的逻辑步骤序列，包括： 将第m个步骤输入至所述预训练的语言模型中，得到反思数据，所述反思数据表征所述预训练的语言模型对所述第m个步骤的评估和改进； 利用所述预训练的语言模型，基于所述反思数据确定第m推理思考数据，所述第m推理思考数据表征第m推理步骤的逻辑推理； 利用所述预训练的语言模型，基于所述第m推理思考数据确定第m推理动作数据，所述第m推理动作数据表征第m推理步骤的执行动作； 利用所述预训练的语言模型，基于所述第m推理动作数据得到第m推理观察数据，所述第m推理观察数据为所述第m推理动作数据的执行结果； 所述预训练的语言模型是通过如下方法训练得到的： 获取样本问题文本和第一样本标签，所述第一样本标签指示了从样本问题文本得到正确答复文本的逻辑步骤序列； 将所述样本问题文本输入至初始语言模型中，得到样本逻辑步骤序列； 基于第一损失函数，根据所述样本推理步骤序列和所述第一样本标签生成推理损失值； 基于所述推理损失值调整所述初始语言模型的第一低秩自适应矩阵，得到所述预训练的语言模型，所述第一低秩自适应矩阵用于调整所述初始语言模型适用于推理的参数。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人中国科学院自动化研究所，其通讯地址为：100190 北京市海淀区中关村东路95号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。