大连大学车超获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉大连大学申请的专利一种应用于推荐系统的多阶知识蒸馏方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN115659028B 。
龙图腾网通过国家知识产权局官网在2026-01-02发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202211335859.9,技术领域涉及:G06F16/9535;该发明授权一种应用于推荐系统的多阶知识蒸馏方法是由车超;刘媛媛;钟兆前设计研发完成,并于2022-10-28向国家知识产权局提交的专利申请。
本一种应用于推荐系统的多阶知识蒸馏方法在说明书摘要公布了:本发明公开了一种应用于推荐系统的多阶知识蒸馏方法,包括:预训练大规模教师模型、中等规模缓冲模型和小规模学生模型;用二进制训练集和教师模型输出的监督知识联合训练缓冲模型,该监督知识是通过带有tanh饱和激活函数的过滤器筛选的;用二进制训练集和缓冲模型输出的监督知识联合训练学生模型,该监督知识是通过带有sigmoid饱和激活函数的过滤器筛选的;用二进制训练集和学生模型输出的高置信度知识联合训练教师模型,该高置信度知识是通过带有exp函数的过滤器筛选的排名列表里前K个项目的采样概率。本发明有效缩小了大型教师模型和小型学生模型之间巨大的排名性能差距,使得学生模型的性能更接近于教师模型,极大地缩短了模型的在线推理时间。
本发明授权一种应用于推荐系统的多阶知识蒸馏方法在权利要求书中公布了:1.一种应用于推荐系统的多阶知识蒸馏方法,其特征在于,包括: 预训练参数量较多的大规模教师模型、较小参数量的小规模学生模型和参数量介于教师模型和学生模型之间的缓冲模型; 用二进制训练集和教师模型输出的监督知识联合训练缓冲模型,该监督知识是通过带有tanh饱和激活函数的过滤器筛选的; 用二进制训练集和缓冲模型输出的监督知识联合训练学生模型,该监督知识是通过带有sigmoid饱和激活函数的过滤器筛选的; 用二进制训练集和学生模型输出的高置信度知识联合训练教师模型,该高置信度知识是通过带有exp函数的过滤器筛选的推荐排名列表里前K个项目的采样概率; 所述缓冲模型的训练是将缓冲模型的协同过滤损失以及蒸馏损失按一定比例加起来进行训练。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人大连大学,其通讯地址为:116622 辽宁省大连市经济技术开发区学府大街10号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励