西安微电子技术研究所;西安电子科技大学马钟获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉西安微电子技术研究所;西安电子科技大学申请的专利基于S_ReLU脉冲神经网络的图像分类方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN116310477B 。
龙图腾网通过国家知识产权局官网在2025-09-05发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202211475875.8,技术领域涉及:G06V10/764;该发明授权基于S_ReLU脉冲神经网络的图像分类方法是由马钟;曹震;李申;张洪伟;马钏烽;张紫艺;侯彪设计研发完成,并于2022-11-23向国家知识产权局提交的专利申请。
本基于S_ReLU脉冲神经网络的图像分类方法在说明书摘要公布了:本发明公开了一种基于S_ReLU脉冲神经网络的图像分类方法,主要解决现有技术模型的损失函数的收敛过程长且脉冲神经元发放率过低的问题。本发明分别构建了S_ReLU脉冲神经网络和S_ReLU人工神经网络,利用训练集训练S_ReLU人工神经网络得到可迁移权重文件,将该权重文件加载到S_ReLU脉冲神经网络中,利用加载可迁移权重文件后的S_ReLU脉冲神经网络对图像进行分类。本发明减少了训练模型的损失函数的收敛时间,提高人工神经网络中神经元的激活率和脉冲神经网络中脉冲神经元的脉冲发放率的匹配度,由此提高了脉冲神经网络进行图像分类的准确度。
本发明授权基于S_ReLU脉冲神经网络的图像分类方法在权利要求书中公布了:1.一种基于S_ReLU脉冲神经网络的图像分类方法,其特征在于,分别构建S_ReLU脉冲神经网络和S_ReLU人工神经网络,利用训练集训练S_ReLU人工神经网络得到可迁移权重文件,将该权重文件加载到S_ReLU脉冲神经网络中;该图像分类方法的步骤包括如下: 步骤1,生成训练集: 步骤1.1,生成包含T个目标类别的K幅光学图像,每个目标类别对应I幅光学图像的样本集,其中,T≥2,K≥100,I≥50; 步骤1.2,将样本集中每个样本的真实类别值进行One-Hot编码,得到每个样本编码后的标签值; 步骤1.3,对样本集中的光学图像进行泊松编码共同组成训练集; 步骤2,构建S_ReLU人工神经网络: 步骤2.1,搭建一个S_ReLU人工神经网络,其结构依次为输入层,第一残差块,第二残差块,第三残差块,第四残差块,输出层; 所述输入层的结构依次为:第一卷积层,第二卷积层,第三卷积层,平均池化层; 所述第一残差块的结构依次为第一卷积层,第一S_ReLU层,第二卷积层,第二S_ReLU层,第三卷积层,第三S_ReLU层,第四卷积层,第四S_ReLU层;第一残差块中的第五卷积层跨接在输入层的平均池化层和第一残差块的第二S_ReLU层之间,第六卷积层跨接在第一残差块的第二S_ReLU层和第一残差块的第四S_ReLU层之间; 所述第二残差块的结构依次为第一卷积层,第一S_ReLU层,第二卷积层,第二S_ReLU层,第三卷积层,第三S_ReLU层,第四卷积层,第四S_ReLU层;第二残差块中的第五卷积层跨接在第一残差块的第四S_ReLU层和第二残差块的第二S_ReLU层之间,第六卷积层跨接在第二残差块的第二S_ReLU层和第二残差块的第四S_ReLU层之间; 所述第三残差块的结构依次为第一卷积层,第一S_ReLU层,第二卷积层,第二S_ReLU层,第三卷积层,第三S_ReLU层,第四卷积层,第四S_ReLU层;第三残差块中的第五卷积层跨接在第二残差块的第四S_ReLU层和第三残差块的第二S_ReLU层之间,第六卷积层跨接在第三残差块的第二S_ReLU层和第三残差块的第四S_ReLU层之间; 所述第四残差块的结构依次为第一卷积层,第一S_ReLU层,第二卷积层,第二S_ReLU层,第三卷积层,第三S_ReLU层,第四卷积层,第四S_ReLU层;第四残差块中的第五卷积层跨接在第三残差块的第四S_ReLU层和第四残差块的第二S_ReLU层之间,第六卷积层跨接在第四残差块的第二S_ReLU层和第四残差块的第四S_ReLU层之间; 所述输出层由平均池化层和全连接层串联组成; 步骤2.2,设置S_ReLU人工神经网络的各层参数如下: 将输入层中第一至第三卷积层的卷积核大小均设置为3*3,步幅大小均设置为2,输出通道分别设置为32,32,64;平均池化层的卷积核大小为3*3,步长为2,填充为1; 将第一残差块中的第一至第四卷积层的卷积核大小均设置为3*3,步幅大小均设置为1,填充均设置为1,输出通道均设置为64;第五卷积层和第六卷积层的卷积核大小均设置为1*1,步幅大小均设置为1,输出通道均设置为64; 将第二残差块中的第一至第四卷积层的卷积核大小均设置为3*3,步幅大小分别设置为2,1,1,1,填充均设置为1,输出通道均设置为128;第五卷积层和第六卷积层的卷积核大小均设置为1*1,步幅大小均设置为1,输出通道均设置为128; 将第三残差块中的第一至第四卷积层的卷积核大小均设置为3*3,步幅大小分别设置为2,1,1,1,填充均设置为1,输出通道均设置为256;第五卷积层和第六卷积层的卷积核大小均设置为1*1,步幅大小均设置为1,输出通道均设置为256; 将第二残差块中的第一至第四卷积层的卷积核大小均设置为3*3,步幅大小分别设置为2,1,1,1,填充均设置为1,输出通道均设置为512;第五卷积层和第六卷积层的卷积核大小均设置为1*1,步幅大小均设置为1,输出通道均设置为512; 所述第一至第四残差块中的所有S_ReLU层均采用S_ReLU激活函数实现; 将输出层中的平均池化层的卷积核大小设置为1*1,步幅大小均设置为1;全连接层的输出设置为10; 步骤3,训练S_ReLU人工神经网络获得可迁移权重文件: 从训练集中每次取出batchsize个样本输入到S_ReLU人工神经网络,其中batchsize10;输出每个样本类别的预测值,将每个样本类别的预测值和其编码后的标签值输入到S_ReLU人工神经网络损失函数中,进行损失值的反向传播;通过小批量梯度下降优化器对网络参数进行迭代更新,直至损失函数收敛为止,得到训练好的S_ReLU人工神经网络,将训练好时的S_ReLU人工神经网络的权重参数保存到可迁移权重文件中; 步骤4,构建S_ReLU脉冲神经网络并加载可迁移的权重文件: 步骤4.1,搭建一个S_ReLU脉冲神经网络,其结构依次为:脉冲输入层,第一脉冲残差块,第二脉冲残差块,第三脉冲残差块,第四脉冲残差块,脉冲输出层; 所述的脉冲输入层的结构依次为:第一卷积层,第一IF层,第二卷积层,第二IF层,第三卷积层,第三IF层,平均池化层,第四IF层; 所述第一脉冲残差块的结构依次为第一卷积层,第一IF层,第二卷积层,第二IF层,第三卷积层,第三IF层,第四卷积层,第四IF层;第一脉冲残差块中的第五卷积层跨接在脉冲输入层的第四IF层和第一脉冲残差块的第二IF层之间,第六卷积层跨接在第一脉冲残差块的第二IF层和第一脉冲残差块的第四IF层之间; 所述第二脉冲残差块的结构依次为第一卷积层,第一IF层,第二卷积层,第二IF层,第三卷积层,第三IF层,第四卷积层,第四IF层;第二脉冲残差块中的第五卷积层跨接在第一脉冲残差块的第四IF层和第二脉冲残差块的第二IF层之间,第六卷积层跨接在第二脉冲残差块的第二IF层和第二脉冲残差块的第四IF层之间; 所述第三脉冲残差块的结构依次为第一卷积层,第一IF层,第二卷积层,第二IF层,第三卷积层,第三IF层,第四卷积层,第四IF层;第三脉冲残差块中的第五卷积层跨接在第二脉冲残差块的第四IF层和第三脉冲残差块的第二IF层之间,第六卷积层跨接在第三脉冲残差块的第二IF层和第三脉冲残差块的第四IF层之间; 所述第四脉冲残差块的结构依次为第一卷积层,第一IF层,第二卷积层,第二IF层,第三卷积层,第三IF层,第四卷积层,第四IF层;第四脉冲残差块中的第五卷积层跨接在第三脉冲残差块的第四IF层和第四脉冲残差块的第二IF层之间,第六卷积层跨接在第四脉冲残差块的第二IF层和第四脉冲残差块的第四IF层之间; 所述输出层的结构依次为:平均池化层,第一IF层,全连接层,第二IF层; 步骤4.2,设置S_ReLU脉冲神经网络的各层参数如下: 将脉冲输入层中第一至第三卷积层的卷积核大小均设置为3*3,步幅大小均设置为2,输出通道分别设置为32,32,64;平均池化层的卷积核大小为3*3,步长为2,填充为1; 将第一脉冲残差块中的第一至第四卷积层的卷积核大小均设置为3*3,步幅大小均设置为1,填充均设置为1,输出通道均设置为64;第五卷积层和第六卷积层的卷积核大小均设置为1*1,步幅大小均设置为1,输出通道均设置为64; 将第二脉冲残差块中的第一至第四卷积层的卷积核大小均设置为3*3,步幅大小分别设置为2,1,1,1,填充均设置为1,输出通道均设置为128;第五卷积层和第六卷积层的卷积核大小均设置为1*1,步幅大小均设置为1,输出通道均设置为128; 将第三脉冲残差块中的第一至第四卷积层的卷积核大小均设置为3*3,步幅大小分别设置为2,1,1,1,填充均设置为1,输出通道均设置为256;第五卷积层和第六卷积层的卷积核大小均设置为1*1,步幅大小均设置为1,输出通道均设置为256; 将第二脉冲残差块中的第一至第四卷积层的卷积核大小均设置为3*3,步幅大小分别设置为2,1,1,1,填充均设置为1,输出通道均设置为512;第五卷积层和第六卷积层的卷积核大小均设置为1*1,步幅大小均设置为1,输出通道均设置为512; 将脉冲输出层中的平均池化层的卷积核大小设置为1*1,步幅大小均设置为1;全连接层的输出设置为10; 将脉冲输入层、第一至第四脉冲残差块以及脉冲输出层中所有IF层的v_reset的值均设置为0,v_threshold值均设置为S_ReLU层中的Vi值; 步骤4.3,通过torch.load函数解析步骤3.4保存的权重文件,利用net.load_state_dict函数将解析后的卷积核权重和全连接层权重加载到S_ReLU脉冲神经网络上; 步骤5,利用加载可迁移的权重文件后的S_ReLU脉冲神经网络对图像进行分类: 步骤5.1,对待分类的光学图像进行泊松编码; 步骤5.2,将编码后的图像输入到加载可迁移权重文件后的S_ReLU脉冲神经网络中,输出光学图像的分类结果。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人西安微电子技术研究所;西安电子科技大学,其通讯地址为:710065 陕西省西安市雁塔区太白南路198号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。