Document
拖动滑块完成拼图
个人中心

预订订单
商城订单
发布专利 发布成果 人才入驻 发布商标 发布需求

请提出您的宝贵建议,有机会获取IP积分或其他奖励

投诉建议

在线咨询

联系我们

龙图腾公众号
专利交易 积分商城 国际服务 IP管家助手 科技果 科技人才 商标交易 会员权益 需求市场 关于龙图腾 更多
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 西南财经大学杨新获国家专利权

西南财经大学杨新获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉西南财经大学申请的专利一种基于小模型驱动的大模型协同持续学习方法及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN121212271B

龙图腾网通过国家知识产权局官网在2026-02-27发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202511777042.0,技术领域涉及:G06N3/096;该发明授权一种基于小模型驱动的大模型协同持续学习方法及系统是由杨新;喻皓;任灵飞;范博洋;李响;王向坤;李太勇设计研发完成,并于2025-11-28向国家知识产权局提交的专利申请。

一种基于小模型驱动的大模型协同持续学习方法及系统在说明书摘要公布了:本发明公开了一种基于小模型驱动的大模型协同持续学习方法及系统,属于人工智能与持续学习技术领域,方法包括:S1.获取当前持续学习任务的文本数据;S2.利用小模型对所述文本数据进行特征提取,并将提取后的特征输入至参数生成器动态生成持续学习任务特定的适配器参数;S3.基于所述适配器参数对执行持续学习任务的基础大模型进行微调;S4.利用微调后的基础大模型进行预测。其中,小模型通过任务增量微调与经验回放缓解遗忘问题,同时,引入信息模型优化缓冲区内样本的选取,本发明通过将持续学习的负担转移至小模型,避免了直接微调大模型带来的高昂计算成本与灾难性遗忘问题,有效实现了在资源受限环境下模型对连续任务流的稳定、高效学习。

本发明授权一种基于小模型驱动的大模型协同持续学习方法及系统在权利要求书中公布了:1.一种基于小模型驱动的大模型协同持续学习方法,应用于金融风控、智能驾驶、工业物联网,其特征在于,包括以下步骤: S1.获取当前持续学习任务的文本数据; S2.利用小模型对所述文本数据进行特征提取,并将提取后的特征输入至参数生成器动态生成持续学习任务的适配器参数;所述小模型的训练包括: 基于缓冲区回放与知识蒸馏的一致性微调策略对所述小模型进行训练;所述小模型训练时使用如下损失函数: ,其中,表示损失函数,表示缓冲区中样本的集合,表示中的数据样本,表示中样本的数据,表示中样本的标签,和是超参数,表示当前小模型提取的特征,表示历史小模型提取的特征,表示由当前参数生成器生成的适配器参数表示,表示由历史参数生成器生成的适配器参数表示,表示L2范数的平方;所述适配器参数为以下任一种形式: 软提示向量,用于拼接至基础大模型的输入嵌入序列中; LoRA的低秩矩阵,用于与所述基础大模型内部冻结的权重矩阵相加,以形成适配后的权重; S3.基于所述适配器参数对执行持续学习任务的基础大模型进行微调; S4.利用微调后的基础大模型进行预测;所述微调后的基础大模型的损失函数为: ,其中,表示在第n个任务上的总体损失函数,为期望值运算符,表示第n个任务,表示交叉熵损失函数,表示分类头,表示微调后的基础大模型,表示输入样本,表示对应的真实标签。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人西南财经大学,其通讯地址为:610072 四川省成都市青羊区光华村街55号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。