阿里巴巴(中国)有限公司刘澈获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉阿里巴巴(中国)有限公司申请的专利模型训练、对话处理方法、装置、设备及存储介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN115129837B 。
龙图腾网通过国家知识产权局官网在2025-09-09发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202210643475.7,技术领域涉及:G06F16/3329;该发明授权模型训练、对话处理方法、装置、设备及存储介质是由刘澈;李永彬设计研发完成,并于2022-06-08向国家知识产权局提交的专利申请。
本模型训练、对话处理方法、装置、设备及存储介质在说明书摘要公布了:本公开涉及一种模型训练、对话处理方法、装置、设备及存储介质。本公开通过在对话预训练语言模型的训练过程中,就引入对话特有的信息例如轮次和角色,使得训练后得到的对话向量表示模型可以有效建模对话中特有的多角色之间的信息交互。因此,当采用对话向量表示模型生成目标对话数据对应的表示向量时,可以提高该表示向量的精准度,使得该表示向量可以取得良好的对话表示效果。
本发明授权模型训练、对话处理方法、装置、设备及存储介质在权利要求书中公布了:1.一种模型训练方法,其中,所述方法包括: 根据第一对话数据,生成第二对话数据,所述第一对话数据中至少一个角色的对话文本与所述第二对话数据中所述至少一个角色的对话文本不同; 根据所述第一对话数据中的每个对话文本、以及所述第一对话数据中的每个对话文本分别对应的轮次和角色,确定对话预训练语言模型的第一输入信息,根据所述第二对话数据中的每个对话文本、以及所述第二对话数据中的每个对话文本分别对应的轮次和角色,确定所述对话预训练语言模型的第二输入信息,所述对话预训练语言模型用于根据所述第一输入信息得到第一输出信息、根据所述第二输入信息得到第二输出信息; 根据所述第一输出信息计算所述第一对话数据中不同角色间的第一表示距离,根据所述第二输出信息计算所述第二对话数据中不同角色间的第二表示距离; 通过最小化所述第一表示距离且最大化所述第二表示距离,对所述对话预训练语言模型进行训练,得到对话向量表示模型,所述对话向量表示模型用于生成目标对话数据对应的表示向量; 其中,根据所述第一输出信息计算所述第一对话数据中不同角色间的第一表示距离,包括:根据所述第一输出信息中所述第一对话数据中每个对话文本分别包括的文本单元的表示向量,生成第一集合和第二集合,其中,所述第一集合对应的角色,不同于所述第二集合对应的角色;根据所述第一集合和所述第二集合,计算得到第一矩阵和第二矩阵,所述第一矩阵和所述第二矩阵互为转置矩阵;根据所述第一矩阵和所述第二矩阵,得到所述第一表示距离; 根据所述第二输出信息计算所述第二对话数据中不同角色间的第二表示距离,包括:根据所述第二输出信息中所述第二对话数据中每个对话文本分别包括的文本单元的表示向量,生成第三集合和第四集合,其中,所述第三集合对应的角色,不同于所述第四集合对应的角色;根据所述第三集合和所述第四集合,计算得到第三矩阵和第四矩阵,所述第三矩阵和所述第四矩阵互为转置矩阵;根据所述第三矩阵和所述第四矩阵,得到所述第二表示距离。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人阿里巴巴(中国)有限公司,其通讯地址为:310052 浙江省杭州市余杭区五常街道文一西路969号3幢5层554室;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。