买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉北京理工大学申请的专利一种生成多会话对话的大语言模型获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119760096B 。

龙图腾网通过国家知识产权局官网在2026-02-03发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411946785.1，技术领域涉及：G06F16/3329；该发明授权一种生成多会话对话的大语言模型是由吴之璟;刘东硕;宋丹丹设计研发完成，并于2024-12-27向国家知识产权局提交的专利申请。

本一种生成多会话对话的大语言模型在说明书摘要公布了：本发明提供一种生成多会话对话的大语言模型，包括原始大语言模型、VAE单元、LoRA单元和隐藏状态生成单元；VAE单元接收当前查询，或从对话历史中提取每轮对话中的查询，然后生成当前查询和对话历史对应的隐式向量表征，并将该隐式向量表征传送到隐藏状态生成单元；LoRA单元连接在原始大语言模型的每一层的输出之后，将每一层的输出叠加权重矩阵，然后将结果传送给隐藏状态生成单元；隐藏状态生成单元接收LoRA单元和VAE单元的输出以及原始大模型每一层的参数，将三者相加得到原始大语言模型每一层的新的隐藏状态。本发明可以生成和对话历史一致的回复，提升大语言模型的对话能力，可以丰富用户的对话体验并吸引用户的对话兴趣。

本发明授权一种生成多会话对话的大语言模型在权利要求书中公布了：1.一种生成多会话对话的大语言模型，其特征在于，包括原始大语言模型、隐藏状态改进模块；隐藏状态改进模块，用于为原始大语言模型每一层生成新的隐藏状态，包括VAE单元、LoRA单元和隐藏状态生成单元，其中， VAE单元，用于接收当前查询，或从对话历史中提取每轮对话中的查询，然后生成当前查询和对话历史对应的隐式向量表征，并将该隐式向量表征传送到隐藏状态生成单元；在VAE单元中，训练时，将当前查询和标准回答输入给编码器获得表征向量；然后使用重参数技术对两个表征向量进行采样以保证训练中所有步骤均能够计算梯度；为了保证先验知识的一致性，使用KL散度逼近两个采样后的向量； LoRA单元，具有LoRA权重矩阵，连接在原始大语言模型的每一层的输出之后，用于将每一层的输出叠加权重矩阵，然后将结果传送给隐藏状态生成单元； 隐藏状态生成单元，用于接收LoRA单元和VAE单元的输出以及原始大模型每一层的参数，将三者相加得到原始大语言模型每一层的新的隐藏状态。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人北京理工大学，其通讯地址为：100081 北京市海淀区中关村南大街5号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。