中南大学郑美光获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉中南大学申请的专利基于联邦学习的平稳参数冻结稀疏化方法、系统及介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN116562367B 。
龙图腾网通过国家知识产权局官网在2025-12-12发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202310586782.0,技术领域涉及:G06N3/098;该发明授权基于联邦学习的平稳参数冻结稀疏化方法、系统及介质是由郑美光;张艺镪;化韬斐;刘正杰设计研发完成,并于2023-05-23向国家知识产权局提交的专利申请。
本基于联邦学习的平稳参数冻结稀疏化方法、系统及介质在说明书摘要公布了:本发明涉及数据处理技术领域,尤其涉及一种基于联邦学习的平稳参数冻结稀疏化方法、系统及介质,该方法在客户端使用模型在本地训练集上进行本地训练,在训练时保证被置零冻结的参数保持不变以得到训练好的模型;将训练好的模型进行稀疏化,得到稀疏化后的模型;将稀疏化后的模型发送至服务器进行聚合得到最终精度最高的全局模型。这样,在冻结过程中,未冻结参数不会受到冻结参数的束缚,进而能够顺着正确的收敛路线找到一个更优的值。对于被冻结的参数,在其解冻后,因为未冻结的参数寻找到更优的点,解冻参数会受到它们的影响,重新寻找一个更优的点,使整个模型朝着更好的方向收敛,进而能够提高模型精度。
本发明授权基于联邦学习的平稳参数冻结稀疏化方法、系统及介质在权利要求书中公布了:1.一种基于联邦学习的平稳参数冻结稀疏化方法,其特征在于,包括: 在客户端使用模型在本地训练集上进行本地训练,将待识别对象的历史数据集划分为测试集和训练集;将训练集平均划分到各个客户端中,待识别对象是图像信息或者自然语言信息;在训练时保证被置零冻结的参数保持不变以得到训练好的模型;在训练过程中,若本轮训练属于检查轮,检查模型参数的稳定性,将之前被置零冻结的参数解冻,将稳定的参数置零冻结一个检查周期,冻结期间内参数不会在模型训练的反向传播时发生变化; 将训练好的模型进行稀疏化,得到稀疏化后的模型; 将稀疏化后的模型发送至服务器进行聚合得到最终精度最高的全局模型;所述服务器进行聚合时采用的聚合方式如下: 式中,wt+1,i表示聚合后的模型的第i个参数的权重,表示聚合前稀疏模型中的第i个参数的权重,K表示客户端数目,n表示所有客户端数据集样本数目总和,nk表示客户端的数据集样本数; 将获取的待识别对象的数据输入至所述全局模型,获取所述全局模型输出的识别结果; 所述检查模型参数的稳定性采用如下方式实现: 式中,Pt表示有效扰动,Et表示模型梯度的指数移动平均值,表示模型梯度绝对值的指数移动平均值,Δt表示第t轮更新时的模型梯度,α表示平滑因子,当参数震动能够相互抵消时,有效扰动Pt接近于0,否则接近于1,其中,若发现Pt小于阈值τ,则认为该参数是稳定的。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人中南大学,其通讯地址为:410083 湖南省长沙市岳麓区麓山南路932号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励