三峡大学洪郑天获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉三峡大学申请的专利一种基于多模态交叉注意力的知识增强关系抽取方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119691195B 。
龙图腾网通过国家知识产权局官网在2025-10-28发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411664793.7,技术领域涉及:G06F16/36;该发明授权一种基于多模态交叉注意力的知识增强关系抽取方法是由洪郑天;但志平设计研发完成,并于2024-11-20向国家知识产权局提交的专利申请。
本一种基于多模态交叉注意力的知识增强关系抽取方法在说明书摘要公布了:本发明所述的一种基于多模态交叉注意力的知识增强关系抽取方法,通过双编码器架构以及交叉注意力机制,有效融合文本与知识图谱信息,显著提高了关系抽取的准确性和鲁棒性。实验结果表明,本发明在多个数据集上均取得了优于现有基线模型的表现,尤其是在处理噪声数据和复杂关系抽取任务方面展现了强大的能力。通过消融实验,我们验证了交叉缝合机制、局部与整体注意力机制对模型性能的关键贡献。此外,本发明在不同噪声比例下的鲁棒性分析中表现优异,显示出该发明在应对远程监督数据噪声问题中的潜力。
本发明授权一种基于多模态交叉注意力的知识增强关系抽取方法在权利要求书中公布了:1.一种基于多模态交叉注意力的知识增强关系抽取方法,其特征在于,包括以下步骤: S1、构建关系抽取模型,所述模型包含整体抽取和局部抽取两部分,两个部分都包括嵌入层、特征提取层、交叉协同注意力层和预测层; S2、将多个文本和知识图谱分别输入至整体嵌入层和局部嵌入层,得到文本向量表示和知识图谱向量表示; S3、将整体抽取部分得到的文本向量表示和知识图谱向量表示分别输入至两个独立且相同的注意力模块中,计算得到文本整体间的信息和图谱整体间的信息;将局部抽取部分得到的文本向量表示和知识图谱向量表示分别输至两个独立且相同的CNN模块中,计算得到文本局部间的信息和图谱局部间的信息; S4、将文本整体间的信息和图谱整体间的信息输入至整体抽取部分的交叉协同注意力模块中,得到整体文本嵌入和整体图谱嵌入;将文本局部间的信息和图谱局部间的信息输入至局部抽取部分的交叉协同注意力模块中,得到局部文本嵌入和局部图谱嵌入; 所述交叉协同注意力模块给定一个句子和相应的知识图谱三元组,文本编码器生成句子的表示,而知识图谱编码器生成三元组的表示;随后计算两个方向的交叉注意力:三元组到句子的注意力和句子到三元组的注意力,其计算公式如下:,;其中,和是可训练的线性变换矩阵;三元组到句子的注意力表示用于更新句子表示的三元组中每个词元的嵌入权重:,其中,和是可训练参数;接下来,门控机制决定原始文本表示对文本编码器新隐藏状态的贡献程度:,其中表示逻辑Sigmoid函数;然后,通过插值原始隐藏状态和三元组表来更新文本编码器在第层的隐藏状态:句子到三元组方向的信息共享以类似的方式进行:,,其中,和是超参数权重; S5、整体文本嵌入和局部文本嵌入进行拼接,整体图谱嵌入和局部图谱嵌入进行拼接,得到句嵌入集合; S6、对每个维度的所有句子嵌入向量进行最大池化,得到句包嵌入; S7、使用Softmax函数,计算每个元素表示对应关系类别的概率; S8、获得关系类别的概率分布,选择最可能的关系作为预测结果。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人三峡大学,其通讯地址为:443002 湖北省宜昌市大学路8号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励