买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉齐鲁工业大学(山东省科学院);山东省计算中心(国家超级计算济南中心)申请的专利基于自适应注意力引导的低秩微调的变压器故障诊断方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120873758B 。

龙图腾网通过国家知识产权局官网在2025-12-12发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202511366711.5，技术领域涉及：G06F18/241；该发明授权基于自适应注意力引导的低秩微调的变压器故障诊断方法是由王继彬;范超然;郭莹;潘景山;吴晓明;杨美红设计研发完成，并于2025-09-24向国家知识产权局提交的专利申请。

本基于自适应注意力引导的低秩微调的变压器故障诊断方法在说明书摘要公布了：本发明涉及基于自适应注意力引导的低秩微调的变压器故障诊断方法，属于人工智能技术领域，本发明通过引入注意力评分机制、自适应注意力评分机制、动态秩分配策略与层级学习率调整机制，并进一步融合上下文感知的动态更新策略，根据模型训练过程中的实时性能、损失及梯度动态智能触发关键参数的更新，构建出适用于变压器故障诊断任务的大模型轻量化适配框架，在确保诊断准确率的前提下，显著降低模型微调和部署成本。

本发明授权基于自适应注意力引导的低秩微调的变压器故障诊断方法在权利要求书中公布了：1.基于自适应注意力引导的低秩微调的变压器故障诊断方法，其特征在于，包括以下步骤： S1、数据采集与预处理阶段； S101、采集目标电力系统中变压器的相关运维数据； S102、对采集到的数据进行标准化清洗与预处理，构建本地化变压器故障诊断数据集； S2、初始化阶段； S201、从构建的本地变压器故障诊断数据集中采样数据，对原始预训练语言模型进行前向传播和反向传播，收集各层的梯度、注意力激活图和隐藏状态信息； S202、基于收集的信息，分别计算各层的梯度重要性分数、激活重要性分数和值变化重要性分数，并依据可学习的权重系数λ1,λ2,λ3,λ4,λ5,λ6,λ7,λ8,λ9组合构建统一的注意力评分指标； S203、根据得到的注意力评分分配各层所需的秩值和学习率，同时初始化对应层的LoRA参数矩阵A和B，实现低秩结构的初始配置； S3、微调阶段； S301、在故障诊断数据即变压器的相关运维数据上执行标准的训练批次流程，包括前向传播、损失计算与反向传播，完成参数的局部更新； S302、实时监控基于注意力机制与低秩表示的神经网络模型训练动态，包括性能指标、训练损失和梯度动态； S303、根据监控到的基于注意力机制与低秩表示的神经网络模型表现与训练动态，当满足预设的上下文感知触发条件时，动态地更新注意力评分与秩分配策略，实现低秩结构的自适应调整； S304、在每轮训练末期基于验证集诊断性能评估整体效果，根据基于注意力机制与低秩表示的神经网络模型反馈决定是否调整秩分配策略； S4、自适应调整阶段； S401、监控验证指标变化趋势，若连续多次评估的性能提升微小，自动调整关键超参数或实施学习率重启策略； S402、若多次调整后性能仍无显著提升，触发早停机制，选择验证性能最佳的模型作为最终模型； S5、部署与实时诊断阶段； 将微调完成的基于注意力机制与低秩表示的神经网络模型部署至边缘服务器中，实现对变压器运维日志或实时监控数据的在线解析与诊断； 在S203中，资源分配，基于注意力评分Sn，按照动态秩分配策略和层级自适应学习率机制，分配各层的秩值rn和学习率lrn，包括步骤如下： 基础参数设定与秩值、学习率分配： 设定基础参数，包括基础秩值rbase、最大秩值rmax、缩放因子α、基础学习率lrbase以及学习率调整因子β，基于计算得到的注意力评分Sn，为各层分配秩值rn和学习率lrn； 秩值分配，秩值rn通过如下公式进行分配： rn＝rbase+α·Sn·rmax-rbase； 学习率分配，层级自适应学习率lrn通过如下公式进行分配： lrn＝lrbase×1+β·sn； 对每一层，根据分配的秩值初始化对应的LoRA参数矩阵A和B，操作如下： LoRA参数矩阵初始化，根据分配的秩值初始化对应的LoRA参数矩阵A和B，其中，A矩阵采用正态分布初始化，B矩阵采用全零初始化； 在S203中，根据每N个训练批次后的基于注意力机制与低秩表示的神经网络模型表现，周期性地更新注意力评分与秩分配策略，实现低秩结构的动态适应；包括： 通过滑动窗口平均更新各层注意力评分： Slnew＝0.7·Slold+0.3·Slcurrent； Slold表示第l层上一次更新时的注意力评分，Slcurrent表示当前训练周期中第l层刚计算出的注意力； 周期性地更新秩分配策略，包括： 总秩预算约束为： 秩值计算逻辑：

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人齐鲁工业大学(山东省科学院);山东省计算中心(国家超级计算济南中心)，其通讯地址为：250353 山东省济南市长清区大学路3501号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。