中国人民解放军战略支援部队信息工程大学;嵩山实验室李邵梅获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉中国人民解放军战略支援部队信息工程大学;嵩山实验室申请的专利一种用于序列标注任务的Bert模型微调方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN117952176B 。
龙图腾网通过国家知识产权局官网在2026-01-02发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202310536211.6,技术领域涉及:G06N3/082;该发明授权一种用于序列标注任务的Bert模型微调方法是由李邵梅;李锦玲;黄瑞阳;胡楠;高超;张建朋;郭康设计研发完成,并于2023-05-12向国家知识产权局提交的专利申请。
本一种用于序列标注任务的Bert模型微调方法在说明书摘要公布了:本发明提供给一种用于序列标注任务的Bert模型微调方法。该方法包括:定义token的层次化标签,记作{tag1,tag2,tag3,…,tagn,tag};其中,tag表示token的原始类别标记,tag1,tag2,tag3,…,tagn表示新增的token的其他语义信息标记,n表示标记所在层次;token表示待标注文本序列中的字或词;新增n个解码器,所述n个解码器分别与Bert模型中最后一层编码器的前n层编码器一一对应连接,使得对应层编码器的输出作为与其连接的解码器的输入;其中,第n个解码器的解码结果对应层次化标签中的第n层标记。
本发明授权一种用于序列标注任务的Bert模型微调方法在权利要求书中公布了:1.一种用于序列标注任务的Bert模型微调方法,其特征在于,包括: 定义token的层次化标签,记作{tag1,tag2,tag3,…,tagn,tag};其中,tag表示token的原始类别标记,tag1,tag2,tag3,…,tagn表示新增的token的其他语义信息标记,n表示标记所在层次;token表示待标注文本序列中的字或词; 新增n个解码器,所述n个解码器分别与Bert模型中最后一层编码器的前n层编码器一一对应连接,使得对应层编码器的输出作为与其连接的解码器的输入,以便对不同层编码结果进行解码;其中,第n个解码器的解码结果对应层次化标签中的第n层标记;在进行微调时,Bert模型中的每一层编码器不仅仅向下一层编码器传递编码结果,同时也将本层编码结果传递至对应的解码器完成解码任务,使得Bert模型中的最后一层编码器的编码结果能够同时引入不同层次标记对应的语义信息,进而提升对类别信息的预测精度。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人中国人民解放军战略支援部队信息工程大学;嵩山实验室,其通讯地址为:450000 河南省郑州市高新区科学大道62号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励