买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉吉林省吉林祥云信息技术有限公司申请的专利一种基于语音大模型的低秩自适应层权重矩阵微调方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119623522B 。

龙图腾网通过国家知识产权局官网在2025-09-16发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411589036.8，技术领域涉及：G06N3/0455；该发明授权一种基于语音大模型的低秩自适应层权重矩阵微调方法是由赵阳;王振鑫;刘鸿儒;贺亮;宋进;杜宛泽;张俊鹏;徐光洋设计研发完成，并于2024-11-08向国家知识产权局提交的专利申请。

本一种基于语音大模型的低秩自适应层权重矩阵微调方法在说明书摘要公布了：本发明属于深度学习的大模型技术领域，为了降低低秩自适应方法中低秩权重矩阵相乘过程中的计算复杂度，优化训练模型所需的算力和内存要求，本发明提出一种“大模型低秩自适应层权重矩阵微调方法”，通过将两个低秩权重矩阵分别复制拼接后相加或者将两个低秩权重矩阵分别划分为子矩阵后逐一相加子矩阵，相比于将两个低秩权重矩阵相乘的方式，能够降低矩阵低秩分解的计算复杂度，同时还能提升低秩权重矩阵的秩，针对不同下游任务微调时，独立训练并切换对应的权重参数，提高不同微调权重的训练效率、降低权重内存需求。

本发明授权一种基于语音大模型的低秩自适应层权重矩阵微调方法在权利要求书中公布了：1.一种基于语音大模型的低秩自适应层权重矩阵微调方法，包括如下步骤： 步骤一、固定预训练大模型权重，初始化低秩自适应层权重：预训练大模型权重矩阵低秩自适应层权重矩阵其包含两个低秩权重矩阵A、B，其中矩阵矩阵m为低秩自适应层权重矩阵的行数，n为低秩自适应层权重矩阵的列数，r表示W1的秩，r＜＜minm,n，所述矩阵A为随机高斯初始化，所述矩阵B初始化为零矩阵； 步骤二、使用语音识别数据训练更新低秩分解权重矩阵的参数； 步骤三、通过将步骤一中两个低秩权重矩阵A和B合并为低秩自适应层权重矩阵； 步骤四、合并预训练大模型权重和低秩自适应层权重，针对不同下游任务部署模型； 其特征在于，所述步骤三中两个低秩权重矩阵A和B合并包括将矩阵A和矩阵B分别复制拼接后相加或者将矩阵A和矩阵B分别划分为子矩阵后逐一相加子矩阵； 将矩阵A和矩阵B分别复制拼接后相加，具体为： 将低秩权重矩阵B复制为组，之后在列方向上拼接组低秩权重矩阵B，将拼接后的权重矩阵记为 再将低秩权重矩阵A复制为组，之后在行方向上拼接组低秩权重矩阵A，将拼接后的权重矩阵记为 使用两个拼接后的权重矩阵B'和A'相加结果作为低秩自适应层权重矩阵，即W1＝W′1＝B′+A′； 或者将矩阵A和矩阵B分别划分为子矩阵后逐一相加子矩阵，具体为： 在列方向将低秩权重矩阵B划分为个子矩阵，表示为每个子矩阵表示为其中在行方向将低秩权重矩阵A划分为个子矩阵，表示为每个子矩阵表示为其中新建权重矩阵对W″1进行矩阵分块操作，在行方向上划分为个区间，在列方向上划分为个区间，共划分为个子矩阵，每个子矩阵表示为每个子矩阵的取值是对应的所述矩阵B的子矩阵与所述矩阵A的子矩阵相加的结果，表示为cij＝bi+aj，由此完成对权重矩阵W″1的权重更新，作为低秩自适应层权重矩阵，即W1＝W″1。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人吉林省吉林祥云信息技术有限公司，其通讯地址为：130000 吉林省长春市南关区吉视传媒信息枢纽中心B座20层；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。