西湖大学魏龙获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉西湖大学申请的专利一种基于奖励自适应强化学习探索的大语言模型推理能力增强方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120671822B 。
龙图腾网通过国家知识产权局官网在2026-03-13发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510737591.9,技术领域涉及:G06N5/04;该发明授权一种基于奖励自适应强化学习探索的大语言模型推理能力增强方法是由魏龙;吴泰霖;邓文豪;余成磊设计研发完成,并于2025-06-04向国家知识产权局提交的专利申请。
本一种基于奖励自适应强化学习探索的大语言模型推理能力增强方法在说明书摘要公布了:本发明公开了一种基于奖励自适应强化学习探索的大语言模型推理能力增强方法,包括:选取一个预训练的大语言模型作为参考模型;选择训练数据集;采用正向KL散度替代反向KL散度正则化项,构建含最大化奖励和熵,同时最小化正向KL散度的训练目标函数,实现分布外探索;构建奖励自适应的参考模型分布重新加权机制,对参考模型进行动态重新加权,得到重新加权后的参考模型,推动分布内自适应探索;将重新加权后的参考模型与训练目标函数相结合,形成最终的目标函数;结合训练数据集对模型进行训练;应用过程中,将问题输入训练好的模型,得到答案。本发明可以解决现有RLVR方法因反向KL散度限制而导致的探索能力不足问题。
本发明授权一种基于奖励自适应强化学习探索的大语言模型推理能力增强方法在权利要求书中公布了:1.一种基于奖励自适应强化学习探索的大语言模型推理能力增强方法,其特征在于,包括以下步骤: S1,选取一个预训练的大语言模型作为参考模型;选择训练数据集,训练数据集中的每条数据包含问题、回答和答案; S2,采用正向KL散度替代反向KL散度正则化项,构建含最大化奖励和熵,同时最小化正向KL散度的训练目标函数,实现分布外探索; S3,构建奖励自适应的参考模型分布重新加权机制,对参考模型进行动态重新加权,得到重新加权后的参考模型,推动分布内自适应探索;公式为: 式中,为重新加权后的参考模型,x表示问题,y表示问题对应的回答,rx,y为奖励;φr是重加权函数,根据奖励rx,y调整参考模型πref的指数,Z为归一化因子;重加权函数φr为单调递增函数,取值范围在[0,1]之间;当奖励rx,y越高,φr越趋近于1,使接近πref,充分利用现有推理能力;当奖励rx,y越低,φr越趋近于0,使趋向于均匀分布,以鼓励探索; S4,将步骤S3中重新加权后的参考模型与步骤S2中的训练目标函数相结合,形成最终的目标函数: 式中,Px表示问题的分布,E表示计算概率期望,Hπθ表示πθ的熵,α和β分别表示超参数,均大于0;DKL表示正向KL散度; S5,基于最终的目标函数,结合训练数据集对待优化的模型πθ进行训练,得到训练好的模型 S6,应用过程中,将问题输入训练好的模型得到答案。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人西湖大学,其通讯地址为:310024 浙江省杭州市西湖区转塘街道石龙山街18号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励