Document
拖动滑块完成拼图
个人中心

预订订单
商城订单
发布专利 发布成果 人才入驻 发布商标 发布需求

请提出您的宝贵建议,有机会获取IP积分或其他奖励

投诉建议

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 积分商城 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 西安电子科技大学郭晶晶获国家专利权

西安电子科技大学郭晶晶获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉西安电子科技大学申请的专利一种针对联邦学习中参与方贡献评估的方法、系统、设备及介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN116776971B

龙图腾网通过国家知识产权局官网在2026-02-17发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202310767210.2,技术领域涉及:G06N3/0985;该发明授权一种针对联邦学习中参与方贡献评估的方法、系统、设备及介质是由郭晶晶;李佳星;马勇;刘志全;熊宇鹏设计研发完成,并于2023-06-27向国家知识产权局提交的专利申请。

一种针对联邦学习中参与方贡献评估的方法、系统、设备及介质在说明书摘要公布了:一种针对联邦学习中参与方贡献评估的方法、系统、设备及介质,其方法通过模型更新相似性的角度来评判参与方更新对全局模型收敛的贡献,采用参与方局部模型更新在全局模型收敛方向上的投影大小以及夹角关系来计算某参与方在某一训练轮次的贡献值;该贡献是对参与方上传模型的评估,包含了参与方的数据贡献以及模型训练贡献,得到各个参与方在本次联邦学习中的贡献百分比归一化结果,并形成结果向量评估结果为构建保障联邦学习公平性的激励机制提供依据;其系统、设备及介质根据基于投影的针对联邦学习中参与方贡献评估的方法,实现对参与方的贡献进行合理评估,且无需测试数据集,具有评估简单高效,精度高的优点。

本发明授权一种针对联邦学习中参与方贡献评估的方法、系统、设备及介质在权利要求书中公布了:1.一种针对联邦学习中参与方贡献评估的方法,其特征在于,联邦学习采用MNIST手写字符集与CIFAR10作为数据集进行训练;通过模型更新相似性的角度来评判参与方更新对全局模型收敛的贡献,采用参与方局部模型更新在全局模型收敛方向上的投影大小以及夹角关系来计算某参与方在某一训练轮次的贡献值;该贡献是对参与方上传模型的评估,包含了参与方的数据贡献以及模型训练贡献,得到各个参与方在本次联邦学习中的贡献百分比归一化结果,并形成结果向量;具体包括以下步骤: S1.系统初始化:服务器与各参与方协商联邦学习采用的机器学习模型结构,服务器聚合规则以及模型训练的相关超参数,确定初始化全局模型; S2.模型训练:首先,服务器下发初始化后的全局模型;接着,各参与方接收全局模型,并采用本地数据集在全局模型上进行训练,得到局部模型更新并上传至中央服务器;而后,服务器接收各参与方局部模型更新,按照聚合规则聚合各局部模型,得到新的全局模型;重复上述步骤,直至全局模型收敛或是达到预定义的训练轮次; S3.贡献评估:服务器利用各参与方上传的局部模型信息以及聚合所得的全局模型信息,计算局部模型更新向量以及全局模型收敛方向,根据局部模型更新向量以及全局模型收敛方向的投影与夹角关系,评估各参与方在联邦学习中产生的具体贡献,具体方法为: S301. 使用模型压缩的方法计算模型中各层的敏感度,根据层敏感度排序以及贡献百分比,选择敏感度高的层次参与贡献评估;具体方法为: a模型参数分组将模型结构层次按照模型结构顺序进行分组,每个分组中选择第一个层次作为代表层;在残差连接或是密集连接的神经网络结构中,相邻层次间的参数变化类似,将参数按照模型结构顺序进行分组评估,组间相对关系按照小组代表进行计算得到,以降低层次筛选部分的时间消耗; b层敏感度计算定义层敏感度:全局模型收敛方向表示为,这里的表示模型结构中的第层的变化向量,模型参数共有层;在第轮,全局模型收敛方向表示为;将第层的变化记为: 每一层的参数变化量,称之为层敏感度,其中是模型结构中第层的参数数目,是中第个元素的取值; 根据上述敏感度定义,计算各分组代表层的敏感度,得到层敏感度字典,其中,表示第层参数的名称,表示第层参数的层敏感度,表示模型参数层分组的组内成员数; C评估层次选择将敏感度字典按照值降序排序,记录按值降序排序后的对应参数名称,得到敏感度降序参数列表,其中表示第个参数层的名称;选择降序列表中前的参数层组成待评估列表; d参与方贡献值计算采用待评估列表中的参数,生成参与方的重构局部模型更新向量以及重构全局模型收敛方向,并根据公式6计算参与方在第轮联邦学习中的贡献;最后一轮学习结束后,按照公式7计算各参与方总贡献; e结果处理粗粒度评估结果:按照步骤d计算的各参与方总贡献值进行贡献排序,得到排序向量; 细粒度评估结果:最后一轮学习结束后,将各参与方总贡献按照公式9对各参与方的贡献值进行归一化处理,得到各个参与方在本次联邦学习中的贡献百分比归一化结果,并形成结果向量;S302. 假设系统共进行T轮联邦学习,参与方在第轮联邦学习时接收到的全局模型为,所产生的局部模型为,本轮次聚合得到的全局模型为,最终全局模型为; 由公式2计算参与方的局部模型更新向量,即本轮次模型与上一轮次全局模型之间的变化向量,由公式3计算全局模型收敛方向,即联邦学习模型训练过程中各轮次全局模型与最终全局模型之间的变化向量: 计算参与方的贡献:根据参与方在第轮的局部模型更新向量在全局模型收敛方向上的投影大小以及两向量之间的夹角来衡量参与方在第轮联邦学习中产生的贡献,如公式6所示;公式7用于计算参与方在整个联邦学习过程中产生的贡献: 其中,表示参与方在第轮联邦学习中局部模型更新向量与全局模型收敛方向间的夹角,其计算方法如公式4所示;表示参与方在第轮联邦学习中局部模型更新向量在全局模型收敛方向上的投影大小,如公式5所示。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人西安电子科技大学,其通讯地址为:710071 陕西省西安市雁塔区太白南路2号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。