买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉电子科技大学申请的专利基于智能代理的流水线分配自动搜索方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119416865B 。

龙图腾网通过国家知识产权局官网在2025-07-04发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411466156.9，技术领域涉及：G06N3/098；该发明授权基于智能代理的流水线分配自动搜索方法是由文瑞铭;欧杰;陈迅雷;蒋帅宏;田文洪设计研发完成，并于2024-10-21向国家知识产权局提交的专利申请。

本基于智能代理的流水线分配自动搜索方法在说明书摘要公布了：本发明公开了基于智能代理的流水线分配自动搜索方法，属于分布式训练技术领域，具体地：利用性能分析模块获取目标大模型在集群设备上的执行时间，计算目标大模型中各神经网络层的通信时间；构建大语言模型，结合经验数据库，自动生成迭代搜索流水线分配策略。本发明无需进行模型训练，可直接应用进行流水线并行，从而解决现有技术求解速度慢且需在线训练以及无法直接适配新模型的问题；本发明可提升目标大模型的并行训练效率，保证搜索效果的情况下显著缩短搜索时间，并且搜索时间仅随pp的扩大而增加，几乎不受目标大模型的神经网络层总层数的影响，具有良好的通用性与鲁棒性。

本发明授权基于智能代理的流水线分配自动搜索方法在权利要求书中公布了：1.基于智能代理的流水线分配自动搜索方法，其特征在于，包括以下步骤： 步骤1、利用性能分析模块，获取包含N层神经网络层的目标大模型的性能分析结果，包括其中第i层神经网络层的执行时间，其中i＝1,2,…,N，作为目标大模型在集群设备上的执行时间； 步骤2、假设所述目标大模型的全局批量大小为1，用户设定流水线阶段数M和微批量大小，根据目标大模型的网络结构、序列长度、隐藏层和微批量大小，计算第i层神经网络层的激活显存量vi，进而计算得到第i层神经网络层的通信时间ei： 步骤3、构建大语言模型，设置大语言模型的输出数据格式为[p1,p2,...,pM]，其中，pj为第j个流水线阶段包括的神经网络层数，j＝1,2,...,M； 步骤4、自动生成迭代搜索流水线分配策略，具体包括： 步骤4.1、令迭代次数k＝1；对目标大模型的神经网络层数、流水线阶段数、微批量大小以及第i层神经网络层的执行时间、通信时间进行数据拼接，作为第1次迭代的输入数据；构建经验数据库，并令第1次迭代的经验数据库为空； 步骤4.2、在第k次迭代中，将输入数据输入至大语言模型，输出作为流水线分配策略Ak，并将流水线分配策略Ak对应输入数据中N层神经网络层的执行时间和通信时间进行数据拼接，得到第k次迭代的输入Ok； 步骤4.3、对流水线分配策略Ak进行评估，根据评估公式确定第k次迭代所得评价结果Qk； 步骤4.4、构建第k次迭代所得经验为Ok,Ak,Qk，在经验数据库中检索与Ok,Ak,Qk最接近的经验，将检索到的经验与Ok,Ak,Qk共同作为第k+1次迭代的输入数据，若未在经验数据库中检索到与Ok,Ak,Qk最接近的经验，则仅将Ok,Ak,Qk作为第k+1次迭代的输入数据；同时，将Ok,Ak,Qk添加至经验数据库； 步骤4.5、判断迭代次数k是否达到预设迭代次数上限，或者连续多次迭代所得流水线分配策略不变，若均不满足，则令k＝k+1，转回步骤4.2；否则，输出第k次迭代所得流水线分配策略Ak，作为最优流水线分配策略。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人电子科技大学，其通讯地址为：611731 四川省成都市高新区(西区)西源大道2006号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。