中国科学院空天信息创新研究院孙显获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉中国科学院空天信息创新研究院申请的专利基于持续学习的事件抽取的模型训练、事件抽取的方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN115544210B 。
龙图腾网通过国家知识产权局官网在2026-01-02发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202211298886.3,技术领域涉及:G06F16/334;该发明授权基于持续学习的事件抽取的模型训练、事件抽取的方法是由孙显;金力;张泽群;李晓宇;马豪伟;魏楷文;耿雪冬设计研发完成,并于2022-10-21向国家知识产权局提交的专利申请。
本基于持续学习的事件抽取的模型训练、事件抽取的方法在说明书摘要公布了:本公开提供了一种基于持续学习的事件抽取的模型训练、事件抽取的方法、装置及设备,属于自然语言处理技术领域,其中,该方法包括:获取文本流数据集;将文本流数据集输入至预训练的语言模型和自注意力机制中进行处理,得到与文本流数据集中文本对应的第一融合特征向量;采用知识蒸馏的方式,利用第一融合特征向量训练待训练的基于持续学习的事件抽取模型的学生网络和教师网络,得到基于持续学习的事件抽取模型,通过知识蒸馏框架实现知识迁移学习,利用历史增强特征转移网络使事件抽取模型能够在学习新事件知识的同时不会遗忘已经学习过的历史事件知识,在对新增事件类型检测的同时仍可以对历史事件类型进行检测,实现持续性事件学习和检测。
本发明授权基于持续学习的事件抽取的模型训练、事件抽取的方法在权利要求书中公布了:1.一种基于持续学习的事件抽取的模型训练方法,包括: 获取文本流数据集,所述文本流数据集包括第0~第t-1个模型已经记忆的历史文本流数据和第t~第n个需要判识的新增文本流数据,其中,t≥1,n≥t; 将所述文本流数据集输入至预训练的语言模型和自注意力机制中进行处理,得到与所述文本流数据集中文本对应的第一融合特征向量; 采用知识蒸馏的方式,利用所述第一融合特征向量训练待训练的基于持续学习的事件抽取模型的学生网络和教师网络,得到基于持续学习的事件抽取模型,包括: 将第t个所述第一融合特征向量输入至所述待训练的基于持续学习的事件抽取模型的学生网络中,得到第t个第一特征向量; 通过历史增强特征转移网络,将所述第t个第一特征向量映射至第t-1个所述第一特征向量,得到第t-1个第二特征向量,所述历史增强特征转移网络采用多层反馈神经网络、非线性激活层和多层前馈神经网络组成,利用多层反馈神经网络将第t个第一特征向量的D维度特征投影到较小维度H上,然后再通过非线性激活层和多层前馈神经网络再将H维度的特征向量投影回D维度上,同时将第t个第一特征向量和经多层前馈神经网络投影回D维度的特征向量进行加和,从而实现将第t个第一特征向量通过历史增强特征转移网络映射至第t-1个第一特征向量,得到第t-1个第二特征向量; 将前t-1个所述第一融合特征向量输入至待训练的基于持续学习的事件抽取模型的教师网络中,得到前t-1个第三特征向量; 根据所述第t个第一特征向量和有标签文本流数据,得到第一损失值; 根据所述第t-1个第二特征向量和前t-1个第三特征向量,得到第二损失值; 将所述第一损失值和第二损失值加和,得到总损失值; 利用所述总损失值来训练所述待训练的基于持续学习的事件抽取模型的学生网络和教师网络,得到基于持续学习的事件抽取模型。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人中国科学院空天信息创新研究院,其通讯地址为:100190 北京市海淀区北四环西路19号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励