香港中文大学(深圳)王方鑫获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉香港中文大学(深圳)申请的专利基于聚类的异构联邦基础模型自适应微调方法及计算机装置获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119646552B 。
龙图腾网通过国家知识产权局官网在2025-07-11发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411759651.9,技术领域涉及:G06F18/23213;该发明授权基于聚类的异构联邦基础模型自适应微调方法及计算机装置是由王方鑫;王贤达设计研发完成,并于2024-12-03向国家知识产权局提交的专利申请。
本基于聚类的异构联邦基础模型自适应微调方法及计算机装置在说明书摘要公布了:本发明涉及异构联邦基础模型调整领域,具体涉及一种基于聚类的异构联邦基础模型自适应微调方法及计算机装置。方案包括:通过多因素异构感知聚类模块,为每个簇选定一个代表客户端,代表客户端将根据自身的算力限制选定一个对应的模型作为簇模型;通过知识感知模型架构搜索算法,为每个簇内的所有客户端搜索出基于簇模型最优子模型,并将最优子模型部署在客户端;将参数上传到代表客户端,在代表客户端上进行对应参数的聚合,聚合后下发给簇内的客户端,通过集群感知的知识转移模块,将每个簇的知识传递给服务器模型,通过反向知识蒸馏,将服务器模型的知识回传并更新每个簇的代表客户端。本发明适用于异构联邦基础模型自适应微调。
本发明授权基于聚类的异构联邦基础模型自适应微调方法及计算机装置在权利要求书中公布了:1.基于聚类的异构联邦基础模型自适应微调方法,其特征在于,包括: S1、通过多因素异构感知聚类模块,综合考虑每个客户端的算力资源限制与数据分布进行聚类,为每个簇选定一个代表客户端,代表客户端将根据自身的算力限制选定一个对应的模型作为簇模型; S2、通过知识感知模型架构搜索算法,根据每个客户端异构的算力限制,为每个簇内的所有客户端搜索出基于簇模型最优子模型,并将最优子模型部署在客户端; S3、对每个簇内的客户端进行本地训练,然后将参数上传到代表客户端,在代表客户端上进行对应参数的聚合,聚合后下发给簇内的客户端,重复步骤S3,直至簇内训练完成; S4、通过集群感知的知识转移模块,将每个簇的知识传递给服务器模型,实现服务器模型的训练; S5、通过反向知识蒸馏,将服务器模型的知识回传并更新每个簇的代表客户端,更新后的代表客户端将对应的参数下发给簇内的每个客户端。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人香港中文大学(深圳),其通讯地址为:518172 广东省深圳市龙岗区龙城街道龙翔大道2001号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。