买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉西安电子科技大学申请的专利通道全局排序指导剪枝和量化联合的神经网络压缩方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN115661511B 。

龙图腾网通过国家知识产权局官网在2025-07-01发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202211217914.4，技术领域涉及：G06V10/764；该发明授权通道全局排序指导剪枝和量化联合的神经网络压缩方法是由谢卫莹;樊潇怡;张鑫;李云松;雷杰设计研发完成，并于2022-09-30向国家知识产权局提交的专利申请。

本通道全局排序指导剪枝和量化联合的神经网络压缩方法在说明书摘要公布了：本发明公开了一种通道全局排序指导剪枝和量化联合的神经网络压缩方法，包括下述步骤：获取训练样本集和测试样本集；构建图像分类卷积神经网络模型；对图像分类卷积神经网络模型进行迭代训练；计算训练好的图像分类卷积神经网络模型中所有通道的重要性得分并获取剪枝量化后的图像分类卷积神经网络模型；更新剪枝量化后的图像分类卷积神经网络模型；获取图像分类卷积神经网络的压缩结果。本发明在通道重要性的全局排序指导下对图像分类卷积神经网络模型联合进行剪枝和量化，解决了现有技术中存在的仅在同一层内比较通道重要性且剪枝和量化互不相关导致在指定压缩比下压缩后网络相比于未压缩网络的分类准确性的下降值大的问题。

本发明授权通道全局排序指导剪枝和量化联合的神经网络压缩方法在权利要求书中公布了：1.一种通道全局排序指导剪枝和量化联合的卷积神经网络压缩方法，其特征在于，包括如下步骤： 1获取训练样本集和测试样本集： 获取包括M个目标类别且每个类别包含N幅RGB图像的数据集X，并对每幅RGB图像中的图像类别进行标注，然后随机选取数据集X中每类别包含的N0幅图像，并将所选取的共MN0幅RGB图像及其标签组成训练样本集Xtrain，将剩余的MN-N0幅RGB图像及其标签组成测试样本集Xtest，其中M≥10，N≥6000，N0≥0.8N； 2构建图像分类卷积神经网络模型O并对其进行迭代训练： 构建包括顺次连接的二维卷积层、批归一化层、分段线性激活层、多个残差单元模块、自适应平均池化层、全连接层和softmax激活函数层的图像分类卷积神经网络模型O；第一残差单元模块包括顺次连接的卷积模块和分段线性激活层，且卷积模块的输入与分段线性激活层跳跃连接；第二残差单元模块包括并行排布的卷积模块和平均池化层，以及与卷积模块和平均池化层的输出端连接的分段线性激活层；卷积模块包括多个二维卷积层、多个批归一化层和一个分段线性激活层；其中二维卷积层和分段线性激活层的总数均为L，L≥55，每个二维卷积层包括I个通道，I≥16； 3对图像分类卷积神经网络模型进行迭代训练： 3a初始化迭代次数为e，最大迭代次数为E，E≥600,第e次迭代图像分类卷积神经网络模型的权值参数为θe，并令e＝0； 3b将训练样本集Xtrain作为O的输入，对每个训练样本进行特征提取，得到MN0个特征图，并对每幅特征图中的目标进行分类，得到每个训练样本的分类结果 3c采用交叉熵损失函数并通过每个训练样本的分类结果及其对应的标签计算O的损失值再采用随机梯度下降法，通过对权值参数θe的偏导值对θe进行更新，得到本次迭代的图像分类卷积神经网络模型Oe； 3d判断e≥E是否成立，若是，得到训练好的图像分类卷积神经网络模型否则，令e＝e+1，Oe＝O，并执行步骤3b； 4计算训练好的图像分类卷积神经网络模型中所有通道的重要性得分并对图像分类卷积神经网络模型进行剪枝和量化： 4a将从训练样本集Xtrain中随机选取的MN1个训练样本及其标签组成的秩生成样本集Xchoose作为的输入，并使用钩子Hook函数提取中输入第c幅图像时每个二维卷积层的每个通道的特征图再对进行奇异值分解，得到输入时每个通道的秩然后根据计算每个通道的平均秩后保存，其中，N1≥0.01N0，1≤l≤L，1≤i≤I； 4b通过每个通道的平均秩计算该通道的重要性得分并对训练好的图像分类卷积神经网络模型中重要性得分最低的ρ个通道进行删除，获得剪枝率为Ω的剪枝后的图像分类卷积神经网络模型，其中，al、bl分别表示中可优化的伸缩变量、偏移变量； 4c通过每个二维卷积层的I个通道组成的稀疏掩模计算该二维卷积层的稀疏性Sl＝||Ψl||0，并根据Sl计算每个二维卷积层的权重量化位宽和每个分段线性激活层量化位宽 其中，表示通道被删除，表示通道未删除，||·||0表示L1范数，表示向上取整操作，是第l个二维卷积层的权重量化位宽上界，是第l个分段线性激活层所需的激活量化位宽上界，p表示惩罚因子； 4d根据每个二维卷积层的权重量化位宽和每个分段线性激活层量化位宽对剪枝后的图像分类卷积神经网络模型中每个二维卷积层的权重向量Wl进行量化，同时替换每个分段线性激活层的激活函数，得到量化后权重向量为分段线性激活层的激活函数为的剪枝量化后的图像分类卷积神经网络模型 5对剪枝量化后的图像分类卷积神经网络模型重新进行剪枝并更新权重、激活层量化位宽： 通过遗传进化算法对中可优化的伸缩变量al、偏移变量bl进行优化，并通过al、bl的优化结果al *、bl *和每个通道的平均秩重新计算每个通道的重要性得分，然后按重新计算的所有通道的重要性得分对剪枝量化后的图像分类卷积神经网络模型重新进行剪枝并更新的权重、激活层量化位宽，得到更新的剪枝量化后的图像分类卷积神经网络模型 6获取图像分类卷积神经网络的压缩结果： 对更新的剪枝量化后的图像分类卷积神经网络模型的权值参数进行微调，获得压缩后的图像分类卷积神经网络模型

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人西安电子科技大学，其通讯地址为：710071 陕西省西安市太白南路2号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。