买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉四川大学申请的专利一种基于两阶段特征蒸馏的联邦学习信息共享方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119312944B 。

龙图腾网通过国家知识产权局官网在2025-12-12发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411430744.7，技术领域涉及：G06N20/00；该发明授权一种基于两阶段特征蒸馏的联邦学习信息共享方法是由陈良银;黄飞炀;张媛媛;刘静雯;程健峰;孙扬;张国彬;廖鑫源;罗张伟设计研发完成，并于2024-10-14向国家知识产权局提交的专利申请。

本一种基于两阶段特征蒸馏的联邦学习信息共享方法在说明书摘要公布了：本发明的目的在于提出一种基于两阶段特征蒸馏的联邦学习信息共享方法来解决联邦学习的数据异构性和模型精度问题。本发明通过两阶段特征蒸馏，最终分割出性能敏感的特征用于全局共享，并训练了一个分类器来预测目标，与原有的联邦学习方法相比，本发明能够减轻联邦学习的异构数据问题，同时，由于各个客户端只用给服务器非全量的特征，所以可以减少网络通信的成本，此外，由于性能鲁棒的特征保存到了本地，减少了信息共享的数量，所以本发明可以加快收敛速度。此外，由于共享的是信息敏感的特征，可以最大程度上反映出模型收敛的趋势，也能保证模型的精度。

本发明授权一种基于两阶段特征蒸馏的联邦学习信息共享方法在权利要求书中公布了：1.一种基于两阶段特征蒸馏的联邦学习信息共享方法，其特征在于：所述方法包含以下步骤： 步骤1、通过联邦学习的方法进行训练，首先需要初始化全局服务器和各个客户端，对于Server，我们初始化全局模型φ0，以及当前全局训练的轮数Tr然后Server将全局参数φ0发送给所有客户端；对于每个客户端，得到的输入有当前的Epoch，客户端的本地数据集Dk，以及学习率ηk； 步骤2、考虑联邦学习客户端和服务器的关系，客户端通过基于两阶段特征蒸馏的训练方法，返回性能敏感的特征给服务器，服务器进行全局参数整合，通过分类器可以预测出结果； 步骤2中对于第一步蒸馏，根据信息瓶颈的方法，用Z表示从输入X和其标签Y中提取的信息,I·指相互信息，那第一步特征蒸馏的目标为： 然后，构建损失函数来解决这个优化问题；其中θ是为了生成敏感特征z·；θ，x,y服从第k个客户端的分布PXk,Yk；py|·是Y＝y的可能性；所以，优化的表达式如下： 由于上述式子不能很好地用于划分特征，不能保证分解出来的性能鲁棒特征与原始特征在形式或特性上是保留的，所以通过引入一种竞争机制，通过显示地建模两类特征；首先，性能鲁棒特征qx；θ是明确建模出来的，保证这些特征是保留原始特征信息的部分；然后性能敏感的特征zx；θ是通过公式zx；θ＝x-qx；θ隐含地建模出来的；换句话说，性能敏感特征是通过原始特征减去性能鲁棒特征得出来的；我们转换后的原理式如下： 对于计算出来的性能敏感的特征zx；θ＝x-qx；θ，我们可以通过引入一个本地分类器f·；wk，这个分类器的参数是wk，它的任务是根据输入的性能敏感特征zx；θ来预测标签y；换句话说，分类器利用生成的性能敏感特征来完成预测任务，而生成模型则提取与预测相关的重要特征；通过交叉熵损失函数l·用于衡量预测标签和真实标签的差异；因此，本地分类器会根据性能敏感特征zx；θ来预测标签y并计算相应的损失lfzx；θ；wk,y；其完整优化目标的计算式为： 在第一阶段特征蒸馏之后，开始第二阶段的特征蒸馏；第二阶段的特征蒸馏主要对第一阶段筛选出来的性能敏感的特征进行进一步的提纯操作；由于IB只是基于信息瓶颈理论进行划分，其忽视了特征的独立贡献，可能具有信息损失的风险，所以我们考虑特征之间的交互效应，利用Shapley算法评估每个特征的贡献度；其原理式如下： 其中Фiv是特征i的Shapley值，S是特征F的一个子集，不包含特征i；vS是由特征集合S构成的模型的精确度；vS∪{i}-vS是特征i加入特征集合S后带来的边际增益；是每个子集的权重，确保所有可能的特征排列组合都被公平考虑； 步骤2中为了保护隐私，可以给全局共享的性能敏感的特征加入高斯噪声或拉普拉斯噪声。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人四川大学，其通讯地址为：610065 四川省成都市武侯区一环路南一段24号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。