Document
拖动滑块完成拼图
个人中心

预订订单
商城订单
发布专利 发布成果 人才入驻 发布商标 发布需求

请提出您的宝贵建议,有机会获取IP积分或其他奖励

投诉建议

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 积分商城 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 安徽师范大学吕军获国家专利权

安徽师范大学吕军获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉安徽师范大学申请的专利基于动态自适应知识蒸馏的联邦学习模型聚合方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN116681144B

龙图腾网通过国家知识产权局官网在2025-09-23发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202310682277.6,技术领域涉及:G06N20/20;该发明授权基于动态自适应知识蒸馏的联邦学习模型聚合方法是由吕军;马晓静;赵瑞欣;付佳韵;陈付龙;苌婉婷设计研发完成,并于2023-06-09向国家知识产权局提交的专利申请。

基于动态自适应知识蒸馏的联邦学习模型聚合方法在说明书摘要公布了:本发明提供了一种基于动态自适应知识蒸馏的联邦学习模型聚合方法,可以有效缓解数据异质性带来的精度下降问题。方法包括全局模型初始化、本地模型训练、聚合生成全局模型三个阶段。本发明在本地模型训练阶段使用知识蒸馏技术促进客户端学习全局模型,动态调整知识蒸馏比例使客户端可以根据各自情况自适应学习全局模型,并且动态调整教师模型输出分布使客户端更有效地利用知识蒸馏中教师模型的知识,使得聚合后服务器能够有效生成性能更优的全局模型,同时保证不泄露聚合过程中局部模型和全局模型的额外隐私。本发明能够在保证用户隐私安全的前提下,协同多方训练生成更优的全局模型。

本发明授权基于动态自适应知识蒸馏的联邦学习模型聚合方法在权利要求书中公布了:1.基于动态自适应知识蒸馏的联邦学习模型聚合方法,其特征在于:包括如下步骤: 步骤1:服务器初始化全局模型并将其发送至参与本轮训练的客户端; 步骤2:客户端接收到全局模型后,确定本轮知识蒸馏中对收到的全局模型学习的比例,自适应调整学习本地数据集和全局模型的比例,并动态调整教师模型的输出,使其处于最适合学习的分布状态,训练生成本地模型,并上传给服务器; 步骤3:对接收到的本地模型进行聚合生成新的全局模型从而完成本轮训练过程; 步骤2中包括: 步骤2.1:客户端保存全局模型作为知识蒸馏的教师模型,计算当前客户端对于教师模型的知识蒸馏比例; 步骤2.2:客户端计算教师模型输出分布平缓程度; 步骤2.3:客户端把全局模型作为本地模型的初始模型,利用本地训练数据集训练本地模型;并且把本地模型作为知识蒸馏中的学生模型,使用步骤2.1、2.2中计算出的知识蒸馏比例和输出分布平缓程度约束教师模型的知识蒸馏过程; 步骤2.4:客户端将本地模型上传给服务器; 步骤2.1中: 利用本地数据集确定本轮知识蒸馏中对收到的全局模型学习的比例;客户端ci接收服务器下发的模型M,作为本地模型mi的教师模型,参与本地模型mi优化训练过程,其中1≤i≤n;客户端利用本地训练数据集Di=x,y,测试教师模型在本地训练数据集Di上的准确度Ai;已知数据样本x和对应标签y,输入教师模型,模型产生logit向量zx,然后通过softmax函数输出预测的概率px;px中预测概率最高的类别即为模型预测结果,如与对应样本标签y一致,则预测成功,否则预测失败;统计所有样本的预测结果,得到预测准确度并且考虑随着训练过程进行教师模型的变化,加入时间因素,根据当前通信回合轮数t和最终通信回合数T,计算得出本轮教师模型在客户端ci的知识蒸馏比例αi,kd=Ai*tT。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人安徽师范大学,其通讯地址为:241000 安徽省芜湖市弋江区花津南路安徽师范大学;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。