复旦大学王智慧获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉复旦大学申请的专利一种基于知识蒸馏的面向设备异构的联邦学习方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN115983397B 。
龙图腾网通过国家知识产权局官网在2025-09-26发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202211517710.2,技术领域涉及:G06N20/00;该发明授权一种基于知识蒸馏的面向设备异构的联邦学习方法是由王智慧;焦孟骁设计研发完成,并于2022-11-29向国家知识产权局提交的专利申请。
本一种基于知识蒸馏的面向设备异构的联邦学习方法在说明书摘要公布了:本发明属于数据信息隐私保护技术领域,具体为一种基于知识蒸馏的面向设备异构的联邦学习方法。本发明涉及的系统包括K个客户端、1个服务器;每个客户端上有一个分类模型;为高效地进行客户端模型表示层之间知识蒸馏,把每轮通信分为服务器训练阶段和本地训练阶段;在服务器训练阶段,首先以推断样本低维表示的后验分布为目标在服务器上建立生成模型,然后把训练好的生成模型传递给客户端;在本地训练阶段,客户端一方面用私有样本计算任务损失,一方面用生成模型输出的均值样本计算调优表示层的损失。这样在多轮迭代之后,各个客户端可以得到比传统训练方法精度更高的模型。
本发明授权一种基于知识蒸馏的面向设备异构的联邦学习方法在权利要求书中公布了:1.一种基于知识蒸馏的面向设备异构的联邦学习方法,所涉及的系统包括有K个客户端、1个服务器;其特征在于: 每个客户端上有1个根据软硬件资源设置的分类模型,客户端的分类模型划分为表示层和决策层,表示层用于把样本映射为低维表示,决策层用于把低维表示映射为概率向量;客户端模型表示层之间知识蒸馏的目标函数定义式: 其中,K是客户端数量;Xk是第k个客户端的私有数据集,x、y是样本和标签;Lk是分类任务的损失函数;φ·是客户端模型的决策层函数,fk·是客户端模型的表示层函数,θk是表示层参数;γ是超参数;各个客户端上的分类模型的表示层结构和参数不同,而决策层的结构和初始化参数均相同; 所述服务器上设置1个生成模型,由共享输入的均值函数和方差函数构成;系统的目标是高效地求解1式;为此,把每轮通信分为两个阶段:服务器训练阶段和本地训练阶段; 在服务器训练阶段,首先以推断样本低维表示的后验分布为目标在服务器上建立生成模型,然后把训练好的生成模型传递给客户端; 在本地训练阶段,客户端一方面用私有样本计算任务损失,一方面用生成模型输出的均值样本计算调优表示层的损失; 这样在多轮迭代之后,各个客户端可以得到比传统训练方法精度更高的模型。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人复旦大学,其通讯地址为:200433 上海市杨浦区邯郸路220号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励