四川大学何小海获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉四川大学申请的专利一种基于类型推理与语义约束的医学视觉问答方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN115862837B 。
龙图腾网通过国家知识产权局官网在2026-01-09发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202111114091.8,技术领域涉及:G16H50/20;该发明授权一种基于类型推理与语义约束的医学视觉问答方法是由何小海;王美玲;刘露平;卿粼波;陈洪刚;任超;吴小强设计研发完成,并于2021-09-23向国家知识产权局提交的专利申请。
本一种基于类型推理与语义约束的医学视觉问答方法在说明书摘要公布了:本发明公开一种基于类型推理和语义约束的医学视觉问答方法研究。医学视觉问答模型可大致分为图片特征提取、问题特征提取、多模态特征融合和损失函数设计四个模块,各个模块之间相互关联,紧密结合。在已有的医学视觉问答模型的基础上,本发明提出了基于类型推理和答案语义约束的新型医学视觉问答模型,以问题类型推理为基础,构建联合语义空间为核心,设计一个新的损失函数来约束模型进行训练,最终完成答案的预测。本发明基于先进的人工智能技术,结合医学背景的特点和实际应用的需求,设计了一个先进的医学视觉问答模型。本发明的方法在医学智能问诊,辅助临床决策及影像培训等方面均有广阔的应用前景。
本发明授权一种基于类型推理与语义约束的医学视觉问答方法在权利要求书中公布了:1.一种基于类型推理和语义约束的医学视觉问答方法,其特征在于包括以下步骤: 步骤一:将图片通过多任务预训练模型MTPT进行图片形态的分类,然后将图片输入到对应的ResNet-34网络进行图片特征提取,得到图片特征向量Vi; 步骤二:使用BioWordVec预训练模型获取问题词嵌Qemb,然后将问题词嵌输入1024维的LSTM,得到问题特征向量Vq;所述使用BioWordVec预训练模型获取问题词嵌Qemb包括将问题通过医学预料预训练的模型BioWordVec进行编码,计算方式如下: Qemb=BioWordVecq1 得到后输入到1024维的LSTM中获取问题的特征向量N为问题的长度,将问题的长度统一裁剪为12,长度不够12,用字典的大小来补齐;然后引入注意力机制来给问题中的不同单词分配不同的权重,具体计算方式如下: α=softmaxWaGΤ6 式中W1,W2,Wa是训练权重值; 步骤三:将问题特征向量Vq和答案类型标签输入一个二分类网络,训练一个问题类型分类网络,将问题分为开放式问题和封闭式问题; 步骤四:为了更好的理解与问题相关的图片区域,引入一个8维的空间特征Vs,通过问题类型的二分类网络将图片特征、问题特征和空间特征分为二类,然后针对不同的类型分别进行图片特征、问题特征和空间特征的多模态特征融合,最后进行答案分类; 步骤五:构建一个答案语义空间,将候选答案集A中的所有答案通过BioWordVec预训练模型将候选答案映射到同一个语义空间,计算答案之间的语义相似性来设计语义损失函数; 所述构建一个答案语义空间,将候选答案集A中的所有答案通过BioWordVec预训练模型将候选答案映射到同一个语义空间包括首先将候选答案ai输入到预训练模型BioWordVec中获取答案的词嵌Bi,然后将医学视觉问答模型的Top-K个预测值和数据集中的参考答案映射到同一个语义空间,计算公式如下式所示: Fg*=PiBi8 式中Pi为模型的预测概率,所述计算答案之间的语义相似性来设计语义损失函数包括计算答案之间的余弦相似性,计算公式如下式所示: 然后模型的语义损失函数可以表示如下: Ls=1-SFP,Fg*10 得到语义损失函数,为下一步设计模型的损失函数奠定基础; 步骤六:将分类损失函数和语义损失函数联合设计为一个组合损失函数,来约束模型完成训练;所述分类损失函数包括通过二元交叉熵损失计算预测答案和参考答案之间的损失,计算公式如下所示: 最终设计损失函数来约束模型进行训练,损失计算方式如下: Loss=LBCE+λL12 为了保证问题类型推理模块和语义约束模块对模型有相同的作用,将式中λ的默认值设置为0.5。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人四川大学,其通讯地址为:610065 四川省成都市武侯区一环路南一段24号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励