山东大学罗昕获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉山东大学申请的专利一种基于提示的联邦类增量学习方法及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120725098B 。
龙图腾网通过国家知识产权局官网在2026-01-23发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202511148643.5,技术领域涉及:G06N3/096;该发明授权一种基于提示的联邦类增量学习方法及系统是由罗昕;姜慧涵;刘晓倩;陈振铎;许信顺设计研发完成,并于2025-08-18向国家知识产权局提交的专利申请。
本一种基于提示的联邦类增量学习方法及系统在说明书摘要公布了:本发明提供了一种基于提示的联邦类增量学习方法及系统,涉及联邦类增量学习领域,针对流任务序列中的每个增量学习任务,进行联邦类增量学习的具体步骤为:全局服务器将最新的全局模型分发给选中的若干个客户端;客户端基于本地的私有训练样本和提示池,采用基于键值对的动态提示选择机制,在本地训练过程中优化提示向量,引导模型输出更加具有区分度的特征;客户端将优化后的提示池及模型参数上传至全局服务器;全局服务器对提示池及模型参数进行全局融合,融合后的提示池及模型参数构成新的全局模型;本发明有效解决联邦类增量问题中由于新类别数据的连续到达以及新客户端的动态加入导致的数据异构性问题,解决对旧知识的灾难性遗忘问题。
本发明授权一种基于提示的联邦类增量学习方法及系统在权利要求书中公布了:1.一种基于提示的联邦类增量学习方法,其特征在于,针对流任务序列中的每个增量学习任务,进行联邦类增量学习的具体步骤为: 全局服务器将最新的全局模型分发给选中的若干个客户端; 客户端基于本地的私有训练样本和提示池,采用基于键值对的动态提示选择机制,在本地训练过程中优化提示向量,引导模型输出更加具有区分度的特征;本地训练完成后,客户端将优化后的提示池及模型参数上传至全局服务器; 全局服务器对提示池及模型参数进行全局融合,融合后的提示池及模型参数构成新的全局模型,用于下一轮的全局训练,直至完成所有全局训练轮次; 所述提示池由若干组键值对组成: 其中,表示可学习的提示键,用于表示提示的语义索引;表示提示向量; 采用基于键值对的动态提示选择机制,在本地训练过程中优化提示向量,具体为: 提示池由提示键及对应的提示向量组成,通过查询函数计算输入图像的查询特征,使用余弦距离作为标准衡量查询特征与提示键之间的相似度,根据相似度选择提示池中与输入图像最相关的预设个数的提示向量,将选择的提示向量与图像嵌入拼接,并引入分类标记,作为最终视觉编码器的输入序列; 本地训练的损失函数包括基于图像和文本特征的对比损失、细粒度图像块对比损失和蒸馏损失;基于图像和文本特征的对比损失,是通过对比学习拉近整体图像特征与其对应文本描述的距离;细粒度图像块对比损失,代表局部区域的图像特征,与文本语义进行对齐;蒸馏损失是将全局模型的图像特征作为软标签,通过最小化本地模型图像特征和全局模型图像特征的L2范数距离,使本地模型在视觉表征层保持与全局模型的一致性; 所述提示池的全局融合,是采用基于提示键的聚类聚合机制,使全局模型以更加结构化的方式融合来自异构数据分布下各个客户端的提示信息,具体为: 将提示键视作空间中的点,采用K-Means算法,通过最小化簇内平方和的方式,将提示键语义空间相似的提示聚合在一起,实现不同客户端提示池的对齐,生成更加稳健并且具有更好泛化能力的全局提示池;对于第个簇,找到所有属于该簇的提示值和提示键的索引集合,则该簇的新的全局提示值和提示键为: 其中,和为原始提示值和提示键。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人山东大学,其通讯地址为:250000 山东省济南市历城区山大南路27号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励