中北大学王丽芳获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉中北大学申请的专利一种多模态医学图像融合方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN115880554B 。
龙图腾网通过国家知识产权局官网在2026-01-02发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202211321366.X,技术领域涉及:G06V10/80;该发明授权一种多模态医学图像融合方法是由王丽芳;米嘉;刘阳;张炯;刘势杰;杜纪肖设计研发完成,并于2022-10-26向国家知识产权局提交的专利申请。
本一种多模态医学图像融合方法在说明书摘要公布了:本申请属于医学图像融合技术领域,公开了一种基于知识蒸馏与可解释的多模态医学图像融合模型及方法。基于知识蒸馏与可解释的多模态医学图像融合模型,包括一个生成器G和两个鉴别器Dc和Dm,生成器负责生成融合图像,鉴别器用来判别真实图像和融合图像,该模型解决了因可用于融合的成对图像数据集有限,导致多模态医学图像的融合图像清晰度下降的问题。从实验结果可知,本发明模型在主观视觉观察和客观指标评价方面都有较好的表现,将其应用于多模态医学图像融合,可以辅助医生对病灶部位做出准确地诊断与治疗。
本发明授权一种多模态医学图像融合方法在权利要求书中公布了:1.一种多模态医学图像融合方法,其特征在于,包括一种基于知识蒸馏与可解释的多模态医学图像融合模型,所述模型包括一个生成器G和两个鉴别器Dc和Dm,生成器负责生成融合图像,鉴别器用来判别真实图像和融合图像;其中,生成器包括特征提取和特征融合两部分,特征提取部分用的是经知识蒸馏去除冗余通道后得到的学生网络,特征融合部分由一个Concat层和五个卷积层组成;鉴别器包括鉴别模块和可解释模块,鉴别模块用于鉴别真实图像和融合图像;可解释模块用于生成鉴别器的鉴别模块鉴别为“Real”的图像的解释图像; 所述方法包括以下步骤: 步骤1,在特征融合部分,各融合路径分别用加入跨模态注意力块的U-Net3+作为教师模型进行知识蒸馏,得到用于提取图像特征的学生模型,然后用学生模型代替教师模型提取需要融合图像的深层特征; 步骤2,特征融合部分融合提取到的深层特征,经过通道降维和卷积操作后,生成融合图像; 步骤3,鉴别器加入可解释模块,生成鉴别器的鉴别模块鉴别为“Real”的图像的解释图像,根据解释图像覆盖关键特征的准确率,让鉴别器在鉴别性能最优的时候提前停止训练,无需训练完全部数据,在训练过程中,模型的生成器、鉴别器共同优化,训练好的生成器,可生成清晰的融合图像; 所述步骤1中通过知识蒸馏获得学生模型并应用于模型特征提取部分的详细步骤如下: 1构建学生网络结构 教师网络包括四个编码器ENC1、ENC2、ENC3和ENC4和四个解码器DEC1、DEC2、DEC3和DEC4;编码器ENC1、ENC2、ENC3和ENC4的滤波器数量分别为64、128、256和512;解码器DEC1、DEC2、DEC3和DEC4有320个滤波器,即用64个大小为3×3的滤波器将上层编码器和下层解码器的五个输入特征图的通道分别压缩或扩充到64个,然后将五个输入特征图的64个通道叠加成320个通道;每层的编码器都有大量的通道,但有些通道的贡献很小,这相当于无效的冗余通道;通过设置阈值γ,我们对通过跨模态注意力块输出的注意力特征图进行二值化处理,以获得特定数量的冗余通道,假设跨模态注意块输出T个通道的注意特征图,而t'个通道的激活值不全是0,在确保每个解码器的输入等于编码器的输出后,尽可能多地去除激活值为0的通道,得到二进制的注意力特征图,并将其数量设为t,其中t≥t'; 根据上述设置学生网络四个编码器enc1、enc2、enc3和enc4的滤波器数量分别为56、112、224、448;模块x,既是编码器又是解码器,建为X,通道数为896;将每个解码器dec1、dec2、dec3和dec4的输入通道设置为280,以确保学生网络编码器的输出通道数与解码器的输入通道数相匹配,至此,代替教师网络完成提取特征任务的学生网络构建完毕; 2知识迁移 知识迁移分为编码器学习和解码器学习,以学生网络的enc2和dec2的学习为例,其他编码器、解码器的学习过程与其类似;在编码器学习时,图像I先被分别输入到第一层的ENC1和enc1,再经过位于各层的编码器和解码器进行训练,位于各层的ENCN的输出特征为,各层的encN输出的特征为,为使ENCN输出的特征更接近encN输出的特征,将二者的差值作为编码器损失函数来优化encN,编码器损失函数如式1所示;在解码器学习时,解码器损失函数旨在使decN输出特征更接近encN输入特征;使dec1输出的特征提取结果图Irec更接近I,如式2所示 ; 3 式2中代表每层decN的输出,式2第三项损失是感知损失,它通过反向传播更新图像,促进特征提取,需要注意的是,当N=1时不计算第一项损失,当N=5时第一项损失为0;式3中表示每一层中的encN的输出特征,表示encN的各层特征图输出在输入解码器之前得到的叠加特征图,和分别表示上采样和下采样操作,表示叠加所有通道的操作; 从N=1到N=4训练教师-学生网络的四对编码器,再从N=4到N=1训练四对解码器,当N=5时,训练既是编码器又是解码器的X,由于编码器学习旨在最小化;解码器学习旨在最小化;综上,在训练成对的encN和decN时,需要解决的问题如式4所示: 4。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人中北大学,其通讯地址为:030051 山西省太原市学院路3号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励