买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉湖南工商大学申请的专利基于自注意力的无服务器应用场景的推理模型分区方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120181246B 。

龙图腾网通过国家知识产权局官网在2025-08-26发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510667886.3，技术领域涉及：G06N5/04；该发明授权基于自注意力的无服务器应用场景的推理模型分区方法是由何典;朱方越;李闯;刘刚;梁英设计研发完成，并于2025-05-23向国家知识产权局提交的专利申请。

本基于自注意力的无服务器应用场景的推理模型分区方法在说明书摘要公布了：本发明公开了一种基于自注意力的无服务器应用场景的推理模型分区方法，该方法包括：步骤1：提取复合推理模型CIM的各子推理单元ISU中算子的性能数据，并对算子性能数据进行合并以及预处理；步骤2：构建基于XGBoost的资源预测模型；步骤3：对基于XGBoost的资源预测模型输出的数据进行层级合并与汇总，获得子推理单元的性能数据；步骤4：基于自注意力机制，对子推理单元的性能数据进行分析获得复合推理模型的层间依赖关系，生成分区策略；步骤5：依据分区策略，对复合推理模型进行分区，将每个分区对应的子模块封装为无服务器函数，完成独立部署分区。

本发明授权基于自注意力的无服务器应用场景的推理模型分区方法在权利要求书中公布了：1.一种基于自注意力的无服务器应用场景的推理模型分区方法，其特征在于，包括： 步骤1：提取复合推理模型CIM的各子推理单元ISU中算子的性能数据，并对算子的性能数据进行合并以及预处理； 步骤2：构建基于XGBoost的资源预测模型； 基于XGBoost的资源预测模型的输入数据由算子级特征数据集OLFD和子推理单元ISU层级特征数据集ILFD组成，其中OLFD为采用步骤1获得的预处理后的数据，ILFD为从OLFD提取并计算得到的子推理单元的子单元内部层LI-ISU的层级特征数据；输出数据为算子级预测数据集，包括各算子的资源占用时间和执行时间预测值； 步骤3：对基于XGBoost的资源预测模型输出的数据进行层级合并与汇总，获得子推理单元的性能数据； 步骤4：基于自注意力机制，对子推理单元的性能数据进行分析获得复合推理模型的层间依赖关系，生成分区策略； 步骤5：依据分区策略，对复合推理模型进行分区，将每个分区对应的子模块封装为无服务器函数，完成独立部署分区； 所述基于自注意力机制，对子推理单元的性能数据进行分析获得复合推理模型的层间依赖关系，生成分区策略的具体过程如下： S1：构建复合推理层CIL层间依赖特征向量； 基于获得的复合推理层CIL层级数据为每一层复合推理层CIL构建层间依赖特征向量，包含复合推理层CIL本身的资源预测数据、复合推理层CIL的结构特性以及复合推理层CIL层间连接关系； 复合推理层CIL的结构特性包括CIL层类型、CIL层的输入与输出数据大小、CIL层参数量；复合推理层CIL层间连接关系使用PyTorch或TensorFlow提供的工具提取计算图并生成依赖矩阵确定； S2：计算复合推理层CIL层间注意力权重； 将复合推理层CIL层间依赖特征向量输入至自注意力机制模型中，计算复合推理层CIL的层与层之间的注意力权重，具体包括以下过程： a）Query、Key和Value的生成； 复合推理层CIL层间依赖特征向量输入自注意力机制模型中通过线性变换生成各复合推理层CIL层之间的查询向量Query、键向量Key和值向量Value； b）某一复合推理层CIL与其他复合推理层CIL之间的注意力权重计算； ； 其中，是特征维度，代表查询和键之间的相似性，V表示某一复合推理层CIL与其他复合推理层CIL之间值向量； c）生成注意力矩阵：每一复合推理层CIL与其他复合推理层CIL的注意力权重构成一个矩阵，表示层间依赖关系的强弱； S3：识别关键层与依赖路径； 根据注意力矩阵中各复合推理层CIL与其他复合推理层CIL之间的注意力权重，获得CIM内部的复合推理层CIL层间依赖关系，确定紧密依赖的复合推理层CIL的层组和关键路径，并将紧密依赖的复合推理层CIL以及关键路径上的复合推理层CIL划分到同一分区。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人湖南工商大学，其通讯地址为：410205 湖南省长沙市岳麓区岳麓大道569号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。