西北工业大学张艳宁获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉西北工业大学申请的专利一种基于内外部蒸馏的持续语义分割方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN117095172B 。
龙图腾网通过国家知识产权局官网在2025-07-04发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202311159231.2,技术领域涉及:G06V10/26;该发明授权一种基于内外部蒸馏的持续语义分割方法是由张艳宁;闫庆森;刘胜强;朱宇;孙瑾秋设计研发完成,并于2023-09-09向国家知识产权局提交的专利申请。
本一种基于内外部蒸馏的持续语义分割方法在说明书摘要公布了:本发明公开了一种基于内外部蒸馏的持续语义分割方法,首先利用特征的统计信息对新旧模型进行内部蒸馏,对于不同尺度特征的外部蒸馏,采用多尺度卷积注意力来捕获不同尺度特征之间的关系,最终通过解码器上采样得到分割图像。本发明的方法更符合现实需要,能够保留学过的知识并学习新知识从而达到持续进行语义分割的目的。
本发明授权一种基于内外部蒸馏的持续语义分割方法在权利要求书中公布了:1.一种基于内外部蒸馏的持续语义分割方法,其特征在于,包括如下步骤: 步骤1:将当前任务T的图像IT输入到旧模型编码器ET-1中,得到中间特征i=1,2,3,4; 所述旧模型是经过任务T-1训练过的模型,能够分割任务0:T-1中所有类别;所述旧模型编码器ET-1是由4个卷积组成,中间特征是4个卷积的输出,如下所示: 式中,是旧模型编码器ET-1中第i个卷积层,为当前任务T的图像IT; 步骤2:将当前任务T的图像IT输入到新模型编码器ET中,经过两个卷积层后分别得到中间特征f1和f2; 所述新模型能够分割任务0:T中所有类别的模型,结构与旧模型相同,且由旧模型进行参数初始化; 任务T的图像IT输入到新模型编码器ET中,经过编码器中第一个卷积层得到第一个中间特征f1,特征f1经过编码器中第二个卷积层得到第二个中间特征f2,过程如下所示: 步骤3:计算新旧模型相邻特征的注意力图和并计算它们之间的L2距离; 步骤3-1:在模型层之间引入注意机制并进行外部特征蒸馏;对于新模型的特征fl-1和fl,对应的注意力图通过以下操作得到:首先通过1×1卷积运算调整它们的维度使其匹配并进行连接操作,过程如下: fl c=Concatfl,Conv1×1fl-14 式中,l表示层中的索引,1×1表示卷积核大小为1,Concat·表示连接操作; 步骤3-2:通过利用逐元素乘法的多尺度卷积注意力MSCA实现空间感知特征提取;MSCA写为: 式中,ConvDW·表示深度卷积,Scalei·对特征进行多尺度处理,多尺度处理的特征经过1×1卷积得到注意力图; 步骤3-3:同理,旧模型的特征和经过同样操作得到注意力图 步骤3-4:计算新旧模型相邻特征的注意力图和之间的L2距离作为外部特征蒸馏损失Lext以防止遗忘,表示如下: 步骤4:将计算的新模型特征注意力图与特征f2相乘得到特征 将计算的新模型特征注意力图融入对应特征中,对于f1和f2,根据步骤3计算出注意力图为将与特征f2相乘,得到特征过程如下: 其中,表示矩阵乘法; 步骤5:特征进入新模型编码器的第三个卷积,得到f3,并重复上述过程得到f4; 特征进入新模型编码器的第三个卷积,得到f3,f3与f2计算特征注意力图并与f3相乘得到 经过新模型编码器的第四个卷积得到f4; 步骤6:新模型的中间特征fl与对应的旧模型中间特征进行内部蒸馏,并计算内部蒸馏损失Lint; 步骤6-1:对特征进行混合池化处理; 令X表示fl中某一特征,其大小为H×W×C;使用Φ函数提取特征X的最大值、最小值和平均值信息,并连接X的H×C宽度混合池切片和W×C高度混合池切片: 式中,Concat.表示通道维度的串联; ΩX是求最大值和最小值并根据对应的维数进行组合的操作,其计算过程如下: ΩX[:,w,:]=ConcatmaxX[:,w,:],minX[:,w,:]9 步骤6-2:在以不同尺度提取的多个区域上计算宽度和高度混合的池化切片来保留局部信息,其中尺度为{12s}s=0...S;给定尺度s,特征X,则在该尺度下特征X的混合池化切片ΨsX表示如下: 式中,这是特征X的一个子区域,对于该子区域的大小为Hs×Ws; 步骤6-3:沿着通道维度连接每个尺度s的混合特征切片ΨsX,获得最终的混合特征切片ΨX: ΨX=ConcatΨ1X,...,ΨsX11 步骤6-4:计算旧模型和当前模型的多个层l∈{1,...,L}的混合特征切片,然后训练时最小化在多个层计算的混合特征切片之间的L2距离;内部特征蒸馏损失Lint定义为: 步骤7:新模型编码器提取的特征f4通过解码器上采样得到分割图像 新模型编码器提取的特征f4通过上采样后,得到最终分割图像过程如下所示: 式中,Upsample·表示上采样操作。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人西北工业大学,其通讯地址为:710072 陕西省西安市碑林区友谊西路127号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。