Document
拖动滑块完成拼图
个人中心

预订订单
商城订单
发布专利 发布成果 人才入驻 发布商标 发布需求

请提出您的宝贵建议,有机会获取IP积分或其他奖励

投诉建议

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 积分商城 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 哈尔滨理工大学张春祥获国家专利权

哈尔滨理工大学张春祥获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉哈尔滨理工大学申请的专利多通道混合空洞卷积结合残差和注意力的汉语词义消歧获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN115906825B

龙图腾网通过国家知识产权局官网在2026-02-10发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202211495234.9,技术领域涉及:G06F40/284;该发明授权多通道混合空洞卷积结合残差和注意力的汉语词义消歧是由张春祥;张育隆;杨玉建;高雪瑶设计研发完成,并于2022-11-26向国家知识产权局提交的专利申请。

多通道混合空洞卷积结合残差和注意力的汉语词义消歧在说明书摘要公布了:本发明涉及一种多通道混合空洞卷积结合残差和注意力CombiningMulti‑ChannelHybridDilatedConvolutionNeuralNetworkwithResidualandAttention,MHDCNN‑RA的汉语词义消歧方法。本发明首先对包含歧义词汇的汉语句子进行分词、词性标注、语义类标注,得到处理好的训练语料和测试语料。然后,利用训练语料对词义消歧模型进行训练,得到优化后的MHDCNN‑RA模型。在优化后的MHDCNN‑RA模型上,对测试语料进行消歧,得到歧义词汇在每个语义类别下的权重,具有最大权重的语义类别即为歧义词汇的语义类别。本发明对歧义词汇实现了很好的消歧,更准确地判断歧义词汇的真实含义。

本发明授权多通道混合空洞卷积结合残差和注意力的汉语词义消歧在权利要求书中公布了:1.多通道混合空洞卷积结合残差和注意力的汉语词义消歧方法,歧义词汇m具有C个语义类别s1,s2,…,sC,其特征在于,该方法包括以下步骤: 步骤1:对SemEval-2007:Task#5的训练语料和测试语料进行分词、词性标注、语义类标注,选取歧义词汇m左右四个邻接词汇单元的词形、词性、语义类和词形的笔画数,以及歧义词m左右2个邻接词汇相似度靠前的4个近义词; 步骤2:对从SemEval-2007:Task#5的训练语料中抽取的消歧特征使用随机初始化词嵌入矩阵和使用Word2Vec,Fastext预训练的词嵌入矩阵,共三个词嵌入矩阵作为训练数据,对从SemEval-2007:Task#5的测试语料中抽取的消歧特征使用随机初始化词嵌入矩阵和使用Word2Vec,Fastext预训练的词嵌入矩阵,共三个词嵌入矩阵作为测试数据; 步骤3:使用训练数据优化MHDCNN-RA模型,得到优化后的MHDCNN-RA模型,所述MHDCNN-RA模型为多通道混合空洞卷积结合残差和注意力模型,其包括输入嵌入层、特征融合层、深度卷积层、归一化层、多头自注意力层、最大池化层和自适应平均池化层; 所述优化MHDCNN-RA模型具体步骤为: 步骤3-1把训练数据的三个词嵌入矩阵加载到初始化的MHDCNN-RA模型的输入嵌入层作为权重组成三通道输入矩阵[V1,V2,V3]; 步骤3-2经过特征融合层,首先使用二维卷积对三通道矩阵进行融合得到输出Z1,再对Z1的奇数位置采用正弦编码,偶数位置采用余弦编码,得到输出P,将得到的位置编码特征P与原始特征Z1进行相加得到新的融合特征Z2,最后使用一维卷积对特征矩阵Z2进行压缩融合得到输出Z3,所述的特征融合过程如下: 其中pos代表一个消歧特征在一组消歧特征中的索引,2i与2i+1则表示词向量维度的奇偶位置,本文中词向量维度d=256,那么,2i=[0,2,4,....,254],2i+1=[1,3,5,.....,255]; 步骤3-3经过深度卷积层,深度卷积层由12个一维卷积块堆叠而成,其中每个卷积块的结构完全相同只是膨胀率不同,一维卷积块中的两个一维卷积形式一样卷积核数量,卷积核大小都一样,但权值是不共享的,其中一个使用sigmoid激活函数,另外一个不使用激活函数,然后将他们逐位相乘,通过填充使输出与输入维度保持一致,将输入也加入进来组成残差结构,既避免了梯度消失,也使得信息能够在多通道传输,所述的一维卷积块计算过程如下: 其中是对应元素相乘,σ是sigmoid函数; 一维卷积块的堆叠采用混合空洞卷积方案,即膨胀率[1,2,4]重复三次,使卷积核刚好覆盖特征矩阵Z3,然后使用[1,1,1]进行细颗粒度精调,经过12个一维卷积块得到输出Z4,所述的深度卷积层过程如下: 其中Conv1D_Block是一维卷积块; 步骤3-4经过归一化层,对Z4进行归一化; 步骤3-5经过多头自注意力层,挖掘每个消歧特征之间的联系,所述的多头自注意力计算过程如下: 其中WQ、WK、WV是参数矩阵; 步骤3-6经过最大池化层,保留主要特征的同时减少参数; 步骤3-7经过自适应平均池化层,输出歧义词汇m在语义类别si下的分配权重wsi|m,i=1,2,…,C; 步骤3-8使用交叉熵损失函数计算实际输出与期望输出的误差loss,计算过程如下: loss表示训练数据的平均误差,n是训练数据的个数,yk是第k个训练数据的标签,根据误差loss反向传播,逐层更新参数,参数更新过程如下: 其中,θ表示参数集,θ'表示更新后的参数集,a为学习率; 步骤3-9不断迭代步骤3-1至步骤3-8,直到达到设定的迭代次数为止,得到优化后的MHDCNN-RA模型; 步骤4:测试过程即语义分类过程,在优化后的MHDCNN-RA模型上,输入测试数据,计算歧义词汇m在每个语义类别下的权重,其中,具有最大权重的语义类别即为歧义词汇m的语义类别。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人哈尔滨理工大学,其通讯地址为:150080 黑龙江省哈尔滨市南岗区学府路52号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。