华东师范大学俞心如获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉华东师范大学申请的专利一种基于知识蒸馏轻量化的方面级情感分类方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN116775863B 。
龙图腾网通过国家知识产权局官网在2025-11-07发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202310407201.2,技术领域涉及:G06F16/353;该发明授权一种基于知识蒸馏轻量化的方面级情感分类方法是由俞心如;贺樑;杨舒文;肖路巍;何峻设计研发完成,并于2023-04-17向国家知识产权局提交的专利申请。
本一种基于知识蒸馏轻量化的方面级情感分类方法在说明书摘要公布了:本发明公开了一种基于知识蒸馏轻量化的方面级情感分类方法,其特点是该方法包括:a使用双向长短时记忆网络建模词特征,将词特征表示输入Bert模型,得到训练样本的输出;b使用解析器得到句子的依存树及其邻接矩阵,并融入情感知识和方面词信息;c将方面词为根通过对依存树进行剪枝重构,使用多头自注意力机制对重构树进行特征融合来提取上下文表示,并融入Bert模型的输出进行监督训练;d使用基于响应的知识蒸馏、基于特征的知识蒸馏来优化分类模型的效果。本发明与现有技术相比具有参数少,逻辑清晰,轻量化,同时融入了语法关系、情感知识等外部信息在一定程度上缓解了轻量化模型因网络深度有限带来的准确率上的影响。
本发明授权一种基于知识蒸馏轻量化的方面级情感分类方法在权利要求书中公布了:1.一种基于知识蒸馏轻量化的方面级情感分类方法,其特征在于,该方法具体包括以下步骤: 步骤1:使用双向长短时记忆网络建模词特征,将词特征表示输入Bert模型通过微调得到训练样本的输出; 步骤2:使用解析器得到句子的依存树及其邻接矩阵,并在该基础上融入情感知识和方面词信息; 步骤3:将方面词作为根通过对依存树进行剪枝重构,使用多头自注意力机制对带边信息的重构树进行特征融合来提取上下文表示,并融入Bert模型的输出进行监督训练; 步骤4:基于一阶谓词逻辑构造轻量化的方面级情感分类模型,使用基于响应的知识蒸馏、基于特征的知识蒸馏来优化分类模型的效果; 所述步骤4的具体过程为: 4.1:使用一阶谓词逻辑构造轻量化的方面级情感分类模型,相应谓词的计算模块由神经网络模块构成; 4.2:表示句子通过双向长短时记忆网络对应词的隐层输出; 4.3:获取句子中带有情感知识的依存关系由下述a式表示: a; 其中,为含有被蒸馏出的依存知识、情感常识信息的邻接矩阵;与关系图注意网络共享参数,包含了从关系图注意网络中蒸馏出依存关系中边的信息;为非线性函数; 4.4:将上下文信息根据离方面词的相对距离赋以不同的权重,即,离方面词越近,权重越大,离方面词越远,则权重越小; 4.5:提取出上下文中与方面词相关的词,即; 4.6:向提取出的上下文中与方面词相关的词中融入之前获得的情感常识、相对距离权重等限制,即; 4.7:最后输入到全连接网络得到情感概率分布。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人华东师范大学,其通讯地址为:200241 上海市闵行区东川路500号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励