西南交通大学龚天翼获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉西南交通大学申请的专利一种高速列车转向架设计标准实体关系抽取方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN116340455B 。
龙图腾网通过国家知识产权局官网在2026-03-13发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202310333688.4,技术领域涉及:G06F16/31;该发明授权一种高速列车转向架设计标准实体关系抽取方法是由龚天翼;蒋妍;贺凌峰;杜佳雯;尹新宇;王淑营设计研发完成,并于2023-03-31向国家知识产权局提交的专利申请。
本一种高速列车转向架设计标准实体关系抽取方法在说明书摘要公布了:本发明涉及一种高速列车转向架设计标准实体关系抽取方法,基于现有的BERT‑BiLSTM模型,提出了基于双注意力集中机制和针对转向架数据集优化的改进RoBERTa‑wwm‑BISRU模型,形成BRENet模型。将双注意力集中机制与RoBERTa‑wwm‑BISRU模型相结合,并针对转向架数据集结构对模型损失函数进行优化。两个注意力集中层的加入可以使模型提高对上下文语意的理解能力,使用改进的RoBERTa‑wwm模型可以提高词句分割与编码能力,从而提升了小数据集中的实体关系抽取性能,并且模型针对转向架数据集进行了优化,改进了模型损失函数,提高了模型预测的准确率。
本发明授权一种高速列车转向架设计标准实体关系抽取方法在权利要求书中公布了:1.一种高速列车转向架设计标准实体关系抽取方法,其特征在于:包括步骤S1-S2,其中, S1:提取文本数据,利用同义词替换和中-英-中互译进行数据增强,制作数据集; S2:构建网络模型,进行实体关系抽取模型训练; 步骤S2包括步骤S21-S25: S21:构建改进的RoBERTa-wwm预训练模型; S22:构建自注意力集中机制层; S23:构建双向SRU网络模块; S24:构建多头注意力集中机制层; S25:改进模型的损失函数; 步骤S22中,自注意力机制包含三个部分:RoBERTa-wwm的输出词向量,Tanh函数和Softmax激活函数;采用的自注意力集中机制网络结构计算过程如式3到式5所示: M=tanhH3 r=Hα5 其中:式3中:H字向量矩阵是第一层RoBERTa-wwm的输出,其维度为n×Sw,其中n是字向量矩阵的维度,Sw是字向量序列的长度; 式4中:α是经过softmax激活函数激活后的字向量矩阵,T代表矩阵的转置; 式5中:r是输出的句子权重向量; H字向量矩阵首先通过Tanh激活函数得到字向量矩阵M,再通过一层softmax层后得到权重矩阵,此时α中的所有权重之和相加为1,将H字向量矩阵与归一化权重矩阵相乘即得到对应的加权全局时序特征向量; 在步骤S23中,使用双向SRU网络,前向SRU和后向SRU网络相连接,使模型既可以获取前向语义信息又可以获取后向语义信息; 在步骤S24中,多头注意力的构建过程为:设有一个输入序列X=[x1,x2,...,xn],其中n表示序列长度,每个xi是一个向量表示;多头注意力机制将输入序列映射到h个子空间,每个子空间都有一个不同的权重矩阵WQ,WK,WV,分别用于计算查询、键和值向量;对于每个子空间i,计算查询向量Qi=XWiQ,键向量Ki=XWiK和值向量Vi=XWiV;其中,WiQ,WiK,WiV是dmodel×dk的矩阵,dmodel是模型中表示向量的维度,dk是键向量的维度;然后,通过将查询向量和键向量进行点积,得到i子空间的注意力得分并对注意力得分进行缩放;接下来,将注意力得分Si通过Softmax函数进行归一化,得到注意力权重Wi=softmaxSi,表示每个位置对子空间i的贡献;最后,将值向量Vi和注意力权重Wi进行加权平均,得到多头注意力的输出最终,将多个子空间的输出O1,O2,...,Oh拼接起来,形成最终的输出向量O=[O1,O2,...,Oh],其中[O1,O2,...,Oh]表示向量的拼接操作; S25:针对构建的高速列车转向架关系抽取数据集,改进整体BRENet模型的损失函数,使得预训练模型更好的适应高速列车转向架数据集的特征,改进后的损失函数如式6所示: 其中:yi代表实际值,代表预测值,c表示语句序列的长度,这样改进之后,可以使模型更加关注原变量的作用,即让原变量和预测变量共同影响预测结果。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人西南交通大学,其通讯地址为:610031 四川省成都市金牛区二环路北一段111号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励