阿里巴巴(中国)有限公司张珍茹获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉阿里巴巴(中国)有限公司申请的专利语言模型微调方法、文本分类方法、装置及设备获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN115017987B 。
龙图腾网通过国家知识产权局官网在2025-09-09发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202210617196.3,技术领域涉及:G06F18/214;该发明授权语言模型微调方法、文本分类方法、装置及设备是由张珍茹;徐海洋;谭传奇;黄松芳设计研发完成,并于2022-06-01向国家知识产权局提交的专利申请。
本语言模型微调方法、文本分类方法、装置及设备在说明书摘要公布了:本申请实施例提供一种语言模型微调方法、文本分类方法、装置及设备。微调方法包括:获取输入词向量,输入词向量包括:训练样本的训练样本词向量、第一模板词的第一模板词向量、掩码、第二模板词的第二模板词向量及单个标签词对应的标签词向量;训练样本、第一模板词及掩码构成第一文本句子,第二模板词和单个标签词构成第二文本句子;将输入词向量输入预训练语言模型得到词预测结果和针对第一文本句子和第二文本句子的相邻句子判断结果;基于词预测结果和真实标签词得到第一损失值;基于相邻句子判断结果和真实判断结果得到第二损失值;根据第一损失值和第二损失值训练预训练语言模型得到训练完成的语言模型。本申请可提升语言模型预测性能。
本发明授权语言模型微调方法、文本分类方法、装置及设备在权利要求书中公布了:1.一种语言模型微调方法,包括: 获取输入词向量,所述输入词向量包括:训练样本的训练样本词向量、第一模板词的第一模板词向量、掩码、第二模板词的第二模板词向量及单个标签词对应的标签词向量;其中,所述训练样本、所述第一模板词及所述掩码构成第一文本句子,所述第二模板词和所述单个标签词构成第二文本句子; 将所述输入词向量输入预训练语言模型,得到所述掩码的词预测结果和针对所述第一文本句子和所述第二文本句子的相邻句子判断结果; 基于所述词预测结果和真实标签词得到第一损失值;基于所述相邻句子判断结果和真实判断结果得到第二损失值; 根据所述第一损失值和所述第二损失值训练所述预训练语言模型,得到训练完成的语言模型; 其中,获取输入词向量,包括:对由所述第一文本句子和所述第二文本句子构成的组合样本进行词嵌入操作,得到所述输入词向量。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人阿里巴巴(中国)有限公司,其通讯地址为:311121 浙江省杭州市余杭区五常街道文一西路969号3幢5层554室;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。