买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉中国科学院计算技术研究所申请的专利一种针对动态形状算子的编译优化方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119201130B 。

龙图腾网通过国家知识产权局官网在2026-02-17发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411282501.3，技术领域涉及：G06F8/41；该发明授权一种针对动态形状算子的编译优化方法是由徐勇军;陈文鑫;刁博宇;刘杭达设计研发完成，并于2024-09-13向国家知识产权局提交的专利申请。

本一种针对动态形状算子的编译优化方法在说明书摘要公布了：本发明提供了一种针对动态形状算子的编译优化方法，包括：获取待编译的基于神经网络的模型，确定其内的动态形状算子在当前执行时的输入形状；将输入形状输入多分类器，得到该输入形状对应的预测优化方案，其中，所述多分类器是利用针对该模型收集的训练集预先训练得到的，训练集中包括基于GPU的硬件信息针对模型的所有动态形状算子的多种输入形式进行模拟优化后收集的样本，每个样本包括一种动态形状算子对应的一种确定的输入形状及根据该输入形状在GPU的CUDA核心和Tensor核心上的优化方案的实际运行情况择优选出的最终优化方案；根据预测优化方案对模型中对应的动态形状算子进行编译。

本发明授权一种针对动态形状算子的编译优化方法在权利要求书中公布了：1.一种针对动态形状算子的编译优化方法，其特征在于，包括： 获取待编译的基于神经网络的模型，确定其内的动态形状算子在当前执行时的输入形状； 将输入形状输入多分类器，得到该输入形状对应的预测优化方案，其中，所述多分类器是利用针对该模型收集的训练集预先训练得到的，训练集中包括基于GPU的硬件信息针对模型的所有动态形状算子的多种输入形式进行模拟优化后收集的样本，每个样本包括一种动态形状算子对应的一种确定的输入形状及根据该输入形状在GPU的CUDA核心和Tensor核心上的优化方案的实际运行情况择优选出的最终优化方案，每个模型的训练集按照以下方式收集：获取待编译的基于神经网络的模型、用于执行模型的GPU的硬件信息和预设的调优阈值，将模型按模型计算图拆分为多个计算子图，每个计算子图表示一种算子，其中，硬件信息包括总缓存层级、内存最小存储单位、每层最大缓存容量和最大线程数量；从所述多个计算子图中收集各种动态形状算子，形成第一集合；针对第一集合中的每种算子，收集每种算子可能的输入形状，形成该种算子对应的第二集合，其中，如果算子可能的输入形状的总数量小于等于调优阈值，第二集合收集所有的输入形状，否则第二集合收集采样的多个输入形状；将每种算子对应的第二集合中的每个输入形状的算子与对应计算逻辑组合为一种完整算子；对每种完整算子进行优化以得到对应的最终优化方案，其中，针对CUDA核心优化时按缓存层级进行分层优化，每层优化从基于内存最小存储单位设置的多种切分方式中选择一个能使数据复用率的变化率最高的切分方式对前层存储的完整算子相关的轴进行切分以得到第一优化方案，以及针对Tensor核心利用BOLT技术生成第二优化方案，从第一优化方案和第二优化方案中选择让完整算子运行时间最小的方案作为最终优化方案，其中，第一优化方案需经验证以符合每层最大缓存容量和最大线程数量的要求；将每种输入形状和对应的最终优化方案组合为一个样本，形成训练集； 根据预测优化方案对模型中对应的动态形状算子进行编译。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人中国科学院计算技术研究所，其通讯地址为：100190 北京市海淀区中关村科学院南路6号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。