买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉曲阜师范大学申请的专利一种在非独立同分布数据上实现高效通信的个性化联邦学习方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN116757276B 。

龙图腾网通过国家知识产权局官网在2026-02-27发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202310869681.4，技术领域涉及：G06N3/098；该发明授权一种在非独立同分布数据上实现高效通信的个性化联邦学习方法是由马春梅;李祥前;黄宝贵;李光顺设计研发完成，并于2023-07-17向国家知识产权局提交的专利申请。

本一种在非独立同分布数据上实现高效通信的个性化联邦学习方法在说明书摘要公布了：本发明实现了一种在非独立同分布数据上实现高效通信的个性化联邦学习方法。联邦学习的重大挑战是客户端数据的非独立同分布性，即统计异质性，以及客户端和云服务器之间的通信资源有限。统计异质性和通信资源限制给联邦学习的实施带来了障碍。为了应对这些挑战，本发明提供了一种在非独立同分布数据上实现高效通信的个性化联邦学习方法，使每个客户端能够训练个性化模型，同时大幅降低通信成本。具体来说，每个客户端在上传梯度之前对其进行压缩，并通过将压缩前后的梯度误差保存然后在下一轮中将误差加入到要压缩的梯度中来缓解梯度压缩的不良影响。通过仅上传压缩后的稀疏梯度，可以显著降低通信成本。在云服务器端，将接收到的稀疏梯度恢复为模型，并对这些模型进行相似度聚合，以促进客户端之间的协作。收到全局模型后，客户进行本地更新以获得个性化模型。本发明不仅获得了具有较高精度的模型，而且还大幅降低了客户端的通信成本。

本发明授权一种在非独立同分布数据上实现高效通信的个性化联邦学习方法在权利要求书中公布了：1.一种在非独立同分布数据上实现高效通信的个性化联邦学习方法，其特征在于，包括以下步骤： 第一步：客户端将上一轮的梯度和上一轮的误差相加得到本轮要压缩的累积梯度； 第二步：客户端将本轮的累积梯度的L2范数与客户端维护的阈值进行比较，如果累积梯度的L2范数大于阈值，则代表客户端在本轮需要与云服务器进行通信，如果累积梯度的L2范数小于阈值，则代表客户端在本轮不需要与云服务器进行通信；如果客户端被判断为需要与云服务器进行通信，则客户端使用“Topk”方法压缩累积梯度从而得到本轮的稀疏梯度，如果客户端被判断为不需要与云服务器进行通信，则客户端设置本轮的稀疏梯度等于0； 第三步：客户端将本轮的累积梯度和本轮的稀疏梯度做差得到本轮的误差； 第四步：如果客户端在第二步中得到的稀疏梯度不等于0，则客户端将稀疏梯度上传给云服务器，如果客户端在第二步中得到的稀疏梯度等于0，则客户端在本轮不上传； 第五步：云服务器收到客户端上传的稀疏梯度后，先将稀疏梯度恢复成模型得到本轮的恢复模型，然后对恢复模型进行相似度聚合，得到本轮的全局模型； 第六步：云服务器将本轮的全局模型下发给对应的各个客户端； 第七步：客户端收到本轮云服务器下发的全局模型后进行本地训练，从而得到本轮的本地模型以及本轮的梯度，本轮的本地模型就是本轮的个性化模型； 云服务器维护一组恢复模型和一组全局模型u1,...,um；云服务器下连接m个客户端，用ci1≤i≤m表示其中的某个客户端，用wi表示客户端ci的本地模型，用αi表示ci的阈值，用ei表示ci的误差，用gi表示ci的梯度，用T表示联邦学习的总轮数； 第一轮训练开始前，云服务器初始化恢复模型并将它们发送给相应的客户端作为客户端的本地模型即客户端ci设置自己的阈值αi，客户端ci初始化误差和梯度初始值均为0，第t1≤t≤T轮训练的任务是更新以获得新模型 第t轮过程的梯度其中是上一轮的本地模型，是本轮训练后得到的新模型； 将和相加，得到累计梯度其中表示第t-1轮的误差，是第t-1轮的梯度； 所述Topk方法：给定向量p∈Rd，Topkp∈Rd，Topkp的第个元素定义为 其中|·|是一个返回绝对值的函数，pl表示p的第l个元素，thr是p的元素中的第k个最大的绝对值； 的压缩过程总结如下： 第t轮过程的误差其中是本轮累计梯度，是压缩后的稀疏梯度； 云服务器收到后，根据和得到本轮的恢复模型其中是上一轮的恢复模型； 如果云服务器没有收到则使当t＝1时云服务器得到将聚合得到全局模型 任意一个模型的权重：其中σ是缩放超参数，是指定ci的模型在ci的聚合模型中的贡献的超参数，云服务器使用计算出的权重来聚合ci的本轮的全局模型ui：

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人曲阜师范大学，其通讯地址为：273165 山东省济宁市曲阜市静轩西路57号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。