买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉河南理工大学申请的专利基于大小模型与LoRA的隐私大模型自适应调节方法及系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120408696B 。

龙图腾网通过国家知识产权局官网在2026-03-03发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510446350.9，技术领域涉及：G06F21/62；该发明授权基于大小模型与LoRA的隐私大模型自适应调节方法及系统是由王永军;许贵彬;李亚男;任建吉;原永亮;辛云;赵珊设计研发完成，并于2025-04-10向国家知识产权局提交的专利申请。

本基于大小模型与LoRA的隐私大模型自适应调节方法及系统在说明书摘要公布了：本发明涉及一种基于大小模型与LoRA的隐私大模型自适应调节方法及系统，具体地，服务器侧利用数据生成器，并结合差分隐私技术，基于公共数据集生成合成数据；对服务器上相邻两次生成的数据分布计算KL散度，若数据分布KL散度变化小于散度阈值，则将生成的数据输入到用户侧模型，用户将输出表征发给服务器；若相邻两次表征变化大于表征阈值，各用户计算其拥有数据的每个类别对应的模型原型，服务器接收到用户发送的模型原型后，将其投影到已有LoRA组成的基空间上，如果投影残差大于或等于投影阈值，则新增并训练LoRA模块。

本发明授权基于大小模型与LoRA的隐私大模型自适应调节方法及系统在权利要求书中公布了：1.一种基于大小模型与LoRA的隐私大模型自适应调节方法，其特征在于，所述方法包括以下步骤： 服务器侧利用数据生成器，并结合差分隐私技术，基于公共数据集生成合成数据； 对服务器上相邻两次生成的数据分布计算KL散度，若数据分布KL散度变化小于散度阈值，则将生成的数据输入到用户侧模型，用户将输出表征发给服务器； 若相邻两次表征变化大于表征阈值，各用户计算其拥有数据的每个类别对应的模型原 型，服务器接收到用户发送的模型原型后，将其投影到已有LoRA组成的基空间上，如果投 影残差大于或等于投影阈值，则新增并训练LoRA模块； 所述投影的公式为： 其中，是模型原型，B为服务器侧的一个LoRA，是服务器侧所有LoRA组成的基空间， 所述模型原型为用户侧小模型的LoRA结构； 所述新增并训练LoRA模块，具体为： 在大模型侧添加一个新的LoRA模块，并对该模块进行随机初始化，冻结大模型的参 数以及已有的LoRA模块，仅对新增的LoRA模块进行训练；训练过程使用梯度下降法，通过知 识蒸馏损失来优化新增的LoRA模块，更新公式如下： 其中是知识蒸馏损失，用于衡量新LoRA模块与用户侧小模块的一致性， 是新增LoRA模块的参数，是学习率； 在所述新增并训练LoRA模块之后，还包括： 将用户侧异质小模型新增的知识迁移到大模型侧新增的LoRA模块； 通过反向知识蒸馏的方式利用大模型侧的通用知识指导小模型侧的训练。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人河南理工大学，其通讯地址为：454000 河南省焦作市高新区世纪大道2001号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。