苏州大学石霏获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉苏州大学申请的专利基于蒸馏元学习的罕见眼底病OCT图像分类方法及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119445645B 。
龙图腾网通过国家知识产权局官网在2025-07-04发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510040380.X,技术领域涉及:G06V40/18;该发明授权基于蒸馏元学习的罕见眼底病OCT图像分类方法及系统是由石霏;殷子婷;陈新建;彭涛设计研发完成,并于2025-01-10向国家知识产权局提交的专利申请。
本基于蒸馏元学习的罕见眼底病OCT图像分类方法及系统在说明书摘要公布了:本发明涉及图像分类技术领域,尤其涉及基于蒸馏元学习的罕见眼底病OCT图像分类方法及系统。基于残差模块、全连接层分别搭建用于视网膜OCT图像分类的教师网络和学生网络;构建常见眼底病训练集,对教师网络进行元训练;随机构造常见病小样本训练任务,基于蒸馏元学习训练策略,对教师网络和学生网络进行联合训练,引入注意引导蒸馏模块,并采用温度系数自适应方法,训练学生在注意力值较高的像素和通道中自适应地学习教师的特征;构建罕见眼底病训练集,对学生网络进行微调,得到适用于罕见病的小样本分类网络模型;将OCT图像输入到罕见病小样本分类网络模型中,得到病变类型的分类结果。
本发明授权基于蒸馏元学习的罕见眼底病OCT图像分类方法及系统在权利要求书中公布了:1.基于蒸馏元学习的罕见眼底病OCT图像分类方法,其特征在于:包括, 基于卷积层、残差连接、全连接层搭建两个视网膜OCT图像分类网络; 基于常见眼底病训练集,随机构造常见病小样本训练任务,对教师网络进行元训练,得到适用于不同常见病组合的小样本分类教师网络模型; 基于常见眼底病训练集,随机构造常见病小样本训练任务,基于蒸馏元学习训练策略,结合注意引导蒸馏以及温度系数自适应模块,对教师网络和学生网络进行联合训练,得到适用于不同常见病组合的小样本分类学生网络模型; 构建罕见眼底病训练集,基于训练集,对学生网络模型进行微调,得到适用于罕见病的小样本分类网络模型; 将OCT图像输入到适用于罕见病的小样本分类网络模型中,得到病变类型的分类结果; 所述两个视网膜OCT图像分类网络分别为教师网络和学生网络,两个网络都以OCT图像为输入,图像病变类别标签为输出; 所述蒸馏元学习训练策略表示为, 设学生网络参数为θS,θ′S为学生网络的临时副本,θ′S初始化为与θS相等,对θ′S在一个批次任务的支持集Str上进行更新: 其中,θT为当前教师网络参数,表示对θ′S求梯度,λ为学生网络学习速率; 损失函数LS由三个部分组成: LS=Lsoft+Lhard+LAGD 其中,Lsoft为教师网络输出的软标签与学生网络输出的软标签之间的KL散度,Lhard为学生网络输出的硬标签和真实标签之间的交叉熵损失,LAGD为注意引导蒸馏损失; 设教师网络最后的输出向量为zT∈RK×1,设zT的第k项为zT的第j项为经含蒸馏温度系数T的softmax函数处理后得到输出标签tk,表示为: 设学生网络最后的输出向量为zS∈RK×1,设zS的第k项为zS的第j项为经含温度参数T的softmax函数处理后得到输出标签sk, 软标签KL散度损失计算为: 计算学生网络输出的硬标签qk: 硬标签交叉熵损失计算为: 其中,pk为样本真实标签中第k类的值; 设Ft∈RC,H,W为教师网络提取的特征,Fs∈RC,H,W为学生网络提取的特征,其中C、H、W分别表示通道数、高度和宽度,使用通道注意力和空间注意力机制分别对教师网络和学生网络提取的特征生成教师通道特征图AcaFt、学生通道特征图AcaFs和教师空间特征图AsaFt、学生空间特征图AsaFs,将得到的教师和学生网络的注意力图进行求和,并通过softmax函数得到注意力引导蒸馏中使用的空间注意力掩码Msa和通道注意力掩码Mca,公式表示为: Msa=H·W·softmaxAcaFs+AcaFtT Mca=C·softmaxAcaFs+AcaFtT 计算注意引导蒸馏损失LAGD,LAGD包括注意转移损失LAT和特征蒸馏损失LFD,利用LAT鼓励学生网络模仿教师网络的空间和通道注意力,公式表示为: LAT=L2AsaFs,AsaFt+L2AcaFs,AcaFt 其中,L2为两个特征之间的欧氏距离; 利用LFD鼓励学生网络模仿教师网络的特征,并通过调整特征图中不同像素和通道上的权重,使学生网络识别图像中的关键像素和重要通道,公式表示为: 其中,为Ft在c,a,b位置的值,为Msa在a,b位置的值,为Mca的第c个值,为Fs在c,a,b位置的值; 将LAT和LFD进行加权求和,得到最终的注意引导蒸馏损失LAGD: LAGD=αLAT+βLFD 其中,α和β为权重超参数; 设置初始温度系数TN,并根据教师网络的输出自适应调整温度T,表示为: 其中,pt是教师网络对样本预测概率分布中的最大值; 所述蒸馏元学习训练策略还表示为, 当一批任务经过训练完成后,基于查询集Sts上的损失函数更新教师网络的参数θT: 其中,表示对θT求梯度,Ti表示第i个任务,μ为教师网络学习速率; 丢弃θ′S并使用更新后的θT在支持集样本上更新真实的学生网络θS,表示为: 其中,表示对θS求梯度,Ti表示第i个任务,λ为学生网络学习速率。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人苏州大学,其通讯地址为:215000 江苏省苏州市吴江区久泳西路1号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。