Document
拖动滑块完成拼图
个人中心

预订订单
商城订单
发布专利 发布成果 人才入驻 发布商标 发布需求

请提出您的宝贵建议,有机会获取IP积分或其他奖励

投诉建议

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 积分商城 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 中国石油大学(华东)张卫山获国家专利权

中国石油大学(华东)张卫山获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉中国石油大学(华东)申请的专利一种基于BART的多任务语义解析模型获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN115309879B

龙图腾网通过国家知识产权局官网在2025-12-16发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202210936486.4,技术领域涉及:G06F16/3329;该发明授权一种基于BART的多任务语义解析模型是由张卫山;王振琦;侯召祥;孙晨瑜;陈涛设计研发完成,并于2022-08-05向国家知识产权局提交的专利申请。

一种基于BART的多任务语义解析模型在说明书摘要公布了:本发明提供了一种基于BART的多任务语义解析模型,属于自然语言处理技术领域,模型包括词嵌入层、BART编码层、领域分类器、BART解码层、概率解码器、SPARQL解码器和语法检查器,本发明通过这七部分的配合,并基于Transformer的Encoder‑Decoder模型架构,通过词语删除、句子排列变换、文档旋转、词语填充等手段增加文本噪声,并将带噪声的输入解码映射为原始文本,通过训练得到序列到序列的编码器,在问答、翻译、摘要等生成任务中取得了更好的效果。本发明将自然语言直接转换为知识图谱查询语言SPARQL,简化问答步骤以起到减少误差累积的作用,并对问题进行领域识别,根据所属领域查询对应的专业领域知识库,从而提高问答准确率。

本发明授权一种基于BART的多任务语义解析模型在权利要求书中公布了:1.一种基于BART的多任务语义解析模型的构建方法,其特征在于:所述模型包括词嵌入层、BART编码层、领域分类器、BART解码层、概率解码器、SPARQL解码器和语法检查器;所述词嵌入层将输入问题中每个字符转化为向量表示,并输入BART编码层;所述BART编码层学习字符向量深层的语义信息并进行编码,将最后一层编码的隐含层向量表示分别输入领域分类器和BART解码层;所述领域分类器对最后一层隐含层向量进行文本分类,以求得该问题所属领域;所述BART解码层根据问题编码信息和上文解码信息,通过语言模型产生完整的解码信息;所述概率解码器对BART解码器最后一层输出的向量进行语义信息增强解码,并将解码信息输入SPARQL解码器模块;所述SPARQL解码器模块根据解码策略和领域信息,循环生成SPARQL查询语句,并将语句输入语法检查器模块;所述语法检查器用于检查SPARQL查询语句的语法错误; 所述BART使用标准的Transformer模型,包含6层Transformer编码器和6层Transformer解码器,所述BART编码层通过双向多头注意力机制综合学习不同子空间中的特征,捕捉更深层次的语义信息,具体为: Transformer编码器的多头注意力子层采用自注意力机制,为每个单词创建Query、Key和Value三个向量来计算自注意力得分,计算公式如下所示: 2 3 4 其中,为逻辑回归函数,函数用函数计算自注意力,通过不同的组合计算多组自注意力,通过函数将多组自注意力进行连接,组合成为多头注意力; 执行Transformer编码器的层归一化,防止出现协方差偏移问题,并通过残差连接以防止梯度消失,计算公式如下所示; 5 x为当前层双头注意力运算结果,为下一层的双头注意力运算结果,两个运算结果直接相加即进行残差链接,并通过进行层归一化; 通过前馈网络层与非线性激活函数ReLU,提高网络的非线性拟合效果; 将计算结果输入下一层Transformer编码器,共执行6层Transformer编码器,各层之间不会共享权值; 所述BART编码层根据问题编码信息和上文解码信息,通过语言模型实现SPARQL从左至右自回归文本生成,具体为: Transformer解码器的多头注意力子层采用自注意力机制,为每个字符的向量创建Query、Key和Value三个向量来计算自注意力得分,计算公式如上述公式2、公式3和公式4所示; 使用上三角MASK矩阵,屏蔽下文信息,使得每个词语只能关注上文信息,防止在训练时模型使用未来输入的单词; 执行Transformer解码的层归一化,防止出现协方差偏移问题,并通过残差连接以防止梯度消失,计算公式如公式5所示; 根据问题编码信息和上文解码信息,通过语言模型实现SPARQL从左至右自回归文本生成,语言模型计算如下所示: 6 上述公式为马尔可夫模型计算公式,表示起始字符,公式从第1字符开始计算后续字符出现的概率,表示在、至出现时,下一个字符为的概率为多少。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人中国石油大学(华东),其通讯地址为:266000 山东省青岛市黄岛区长江西路66号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。