恭喜吴东获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网恭喜吴东申请的专利大模型在线推理与训练一体化方法及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN117668153B 。
龙图腾网通过国家知识产权局官网在2025-07-01发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202311340706.8,技术领域涉及:G06F16/334;该发明授权大模型在线推理与训练一体化方法及系统是由吴东设计研发完成,并于2023-10-16向国家知识产权局提交的专利申请。
本大模型在线推理与训练一体化方法及系统在说明书摘要公布了:本申请涉及一种大模型在线推理与训练一体化方法及装置,该方法包括接收用户输入数据并输入微调模型,得到模型回复结果;判断模型回复结果是否存在纠正情况;在存在纠正情况时,将相应的用户输入数据和模型回复结果存入消息中间件;获取消息中间件的训练数据,并利用在线SFT和RLHF分别对微调模型进行监督微调及强化训练,得到符合预设要求的微调模型。本申请通过将用户输入数据和微调模型的回复结果存入消息中间件,借此充分利用推理过程中的前向过程向量和用户反馈,从而实现重复利用的目的,有效的解决每次模型迭代都需要人工启动流程的问题。
本发明授权大模型在线推理与训练一体化方法及系统在权利要求书中公布了:1.一种大模型在线推理与训练一体化方法,其特征在于,包括如下步骤: 接收用户输入数据并输入微调模型,得到模型回复结果; 判断所述模型回复结果是否存在纠正情况; 在存在所述纠正情况时,将相应的所述用户输入数据和所述模型回复结果存入消息中间件; 获取所述消息中间件的训练数据,并利用在线SFT和RLHF分别对所述微调模型进行监督微调及强化训练,得到符合预设要求的所述微调模型; 在对微调模型进行在线训练之前,实时监听消息中间件中的消息数量,当存在纠正语义的消息数量达到预设训练批次大小时,一次性提取数据开始在线训练流程。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人吴东,其通讯地址为:100085 北京市海淀区上地十街辉煌国际大厦2号楼1210;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。