买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉浙江大学滨江研究院申请的专利支持多模态异构客户端的联邦大模型知识协同训练方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN121365752B 。

龙图腾网通过国家知识产权局官网在2026-03-27发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202511937171.1，技术领域涉及：G06N20/00；该发明授权支持多模态异构客户端的联邦大模型知识协同训练方法是由韩蒙;索佳慧;李荣昌;林昶廷;杨波;熊婧;芦天亮;李晓波设计研发完成，并于2025-12-22向国家知识产权局提交的专利申请。

本支持多模态异构客户端的联邦大模型知识协同训练方法在说明书摘要公布了：本发明公开了一种支持多模态异构客户端的联邦大模型知识协同训练方法，包括：各客户端接收中央服务器端下发的模型初始化参数，基于本地私有数据并施加自适应差分隐私噪声独立训练异构轻量模型；将施加噪声后的模型更新及其模态标识上传至中央服务器端；接收各客户端的模型更新及模态标识后，基于模态感知加权共识融合机制，融合各客户端知识以更新全局大模型；中央服务器端将更新后的全局大模型的表示层参数下发至客户端，用于下一轮本地训练的初始化。本发明无需依赖公共数据集或特定任务设定的前提下，实现了对数据异构性、客户端动态参与、模型多样性及隐私保护需求的全面兼容，显著提升了大模型联邦训练的适应性、稳定性与知识利用效率。

本发明授权支持多模态异构客户端的联邦大模型知识协同训练方法在权利要求书中公布了：1.一种支持多模态异构客户端的联邦大模型知识协同训练方法，其特征在于，包括以下步骤： 步骤1：各客户端接收中央服务器端下发的模型初始化参数，基于本地私有数据独立训练客户端部署的异构轻量模型，获得本地模型更新； 步骤2：各客户端在本地训练过程中，对本地模型更新施加自适应差分隐私噪声，其中噪声强度根据模型的层级功能重要性进行动态调整； 步骤3：各客户端将施加噪声后的模型更新及其模态标识上传至中央服务器端； 步骤4：中央服务器端接收各客户端的模型更新及模态标识，基于模态感知加权共识融合机制，融合各客户端知识以更新全局大模型，具体包括：根据模态标识对客户端进行分类；利用公共数据集，获取各客户端模型对公共样本的预测输出；基于各客户端预测输出的方差计算其预测置信度；根据客户端的模态标识与所述公共数据集任务模态的一致性，确定其模态匹配因子；根据所述预测置信度和所述模态匹配因子，为各客户端分配融合权重；基于所述融合权重，对各客户端的预测输出进行加权平均，生成加权软标签；以最小化全局大模型输出与所述加权软标签之间的差异为目标，更新全局大模型参数，更新全局大模型参数所采用的损失函数还包括多样性正则项，所述多样性正则项通过对比学习机制构建，用于鼓励保留低置信度客户端的独特表征，所述的对比学习机制包括： 对于任一客户端，将其表示层输出与正样本客户端的表示层输出拉近，与负样本客户端的表示层输出推远；其中，所述正样本客户端为与该客户端模态一致且置信度高的客户端，所述负样本客户端为与该客户端模态不同、或模态相同但置信度低的客户端，计算公式如下： ， 式中，表示参与本轮融合的客户端总数，为客户端的表示层输出，表示相似度计算函数，表示客户端的负样本集合，为温度系数，正样本表示与客户端模态一致且置信度高的客户端表示，负样本表示与客户端模态不同，或模态相同但置信度低的客户端表示； 步骤5：中央服务器端将更新后的全局大模型的表示层参数下发至客户端，用于下一轮本地训练的初始化。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人浙江大学滨江研究院，其通讯地址为：310056 浙江省杭州市长河街道聚才路239号2号楼1801；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。