Document
拖动滑块完成拼图
个人中心

预订订单
服务订单
发布专利 发布成果 人才入驻 发布商标 发布需求

在线咨询

联系我们

龙图腾公众号
首页 专利交易 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 IP管家助手 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 恭喜大连理工大学徐浩然获国家专利权

恭喜大连理工大学徐浩然获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网恭喜大连理工大学申请的专利基于交叉蒸馏的鲁棒性推荐系统表示学习方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN118154277B

龙图腾网通过国家知识产权局官网在2025-06-27发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202410338921.2,技术领域涉及:G06Q30/0601;该发明授权基于交叉蒸馏的鲁棒性推荐系统表示学习方法是由徐浩然;金博设计研发完成,并于2024-03-25向国家知识产权局提交的专利申请。

基于交叉蒸馏的鲁棒性推荐系统表示学习方法在说明书摘要公布了:本发明提供一种基于交叉蒸馏的鲁棒性推荐系统表示学习方法,使用基于交叉蒸馏的原理,以多视图学习的方法来学习推荐系统中用户和商品表征的方法,基于多视图学习的图结构学习引入推荐系统的表示学习中,使用图数据增强的方法对原始子图进行数据增强,生成了新的视图,再使用信息瓶颈、交叉蒸馏的思想,分别对单个视图内以及视图之间的冗余信息进行剔除,从多个角度提高了推荐系统表示学习的鲁棒性,使得图结构学能够更好地克服现实生活中的推荐系统数据集中噪音数据较多,影响表示学习的鲁棒性的问题,在进行训练时,使用变分拟合的方法近似互信息,而不是直接计算互信息,在提升了推荐系统表示学习的鲁棒性的同时提升了模型的训练效率。

本发明授权基于交叉蒸馏的鲁棒性推荐系统表示学习方法在权利要求书中公布了:1.一种基于交叉蒸馏的鲁棒性推荐系统表示学习方法,其特征在于,包括如下步骤: S1:推荐系统图结构构建; S1-1:根据用户与商品之间的交互记录以及用户之间的社交网络将整个场景抽象为图结构,图的结点是各个用户与商品,图的边是用户与商品之间的关系以及用户之间的关系; 构建出推荐系统图结构记为G0,图的结点特征矩阵X0,用户与商品的初始特征使用标准正态分布随机初始化,图的邻接矩阵A0,根据图中是否有边存在以及具体的关系类型赋予不同的权值; 结点特征矩阵X0的行数为图中结点的数量,结点特征矩阵X0每一行代表推荐系统结构图G0中的一个结点的初始结点特征,邻接矩阵A0根据推荐系统结构图G0中的结点之间的关系以及关系的类型来构建,邻接矩阵A0是n阶方阵,n为图中结点的个数,即用户与商品的总数; S1-2:构建推荐系统结构图G0中每一个结点的子图; 以推荐系统结构图G0中的每个结点为出发点,限制跳数为K的子图作为下游表示学习的输入,K∈[1,3],依次以推荐系统结构图G0的所有结点为中心,限制跳数得到对应的子图,使用图结构学习方法学习其对应特征,用表示以推荐系统结构图G0的第i个结点为中心生成的子图,i∈[1,n],表示子图的邻接矩阵,表示子图的结点特征矩阵,对所有结点进行表示学习,生成对应结点为中心构建的子图,即原始视图G1=A1,X1; S2:图数据增强; 遍历推荐系统结构图G0中所有结点,对各自的子图进行数据增强生成新的子图下文分别使用G1和G2分别表示原始视图以及数据增强生成的新视图; S2-1:原始视图G1=A1,X1,用图神经网络聚合原始图中的相邻结点的信息,得到新的结点特征,即: x1,i=FCConvA1,X1i1 式中,Conv代表图神经网络,FC代表深度学习中常见的线性神经网络,x1,i代表图G1中的第i个结点的特征,X1表示视图G1的结点特征矩阵,A1表示视图G1的邻接矩阵; S2-2:使用参数为ω1,ij的伯努利分布来对原始视图G1中连接结点i和结点j的边进行采样,即A1,ij~Berω1,ij,连接两个结点特征,使用神经网络来得到分布的参数,获得伯努利分布的参数ω1,ij,计算公式为: ω1,ij=sigmoidFCe1,ij2 e1,ij=x1,i||x1,j3 式中,ω1,ij表示伯努利分布的参数,x1,j表示G1中的第j个结点的特征,||表示两个向量拼接,sigmoid表示深度学习中常见的激活函数,保证ω1,ij∈[0,1]; 实际使用中,为了便于训练过程中的反向传播,使用耿贝尔Gumbel重参数化方法来代替普通的伯努利分布,即: 式中,A2,ij表示G2的邻接矩阵中连接结点i和结点j的边的值,和表示从耿贝尔分布Gumbel0,1中采样得到的值,s表示调整最终邻接矩阵中伯努利分布所占的权重; 获得原始推荐网络子图结构的子图,即原始视图G1=A1,X1,以及使用伯努利分布对边重采样之后的新生成的视图G2=A2,X2,其中A2和X2分别代表G2的邻接矩阵和结点特征矩阵,在初始化时,X2=X1; S3:单个视图的图结构学习; 遍历推荐系统结构图G0中每一个结点,对于结点的两个视图G1和G2,单个视图的训练目标定义如下: 式中,y表示当前用户或商品的类别标签,z1和z2表示视图G1和G2的表征,P表示随机变量的概率分布,f表示图编码器,θ和表示两个视图的图编码器f的参数,DKL表示两个分布之间KL散度; S4:视图之间的鲁棒性的图结构学习; S4-1:遍历推荐系统结构图G0中每个结点,对于结点的两个视图G1和G2,消除两个视图之间的特异性冗余性信息,训练目标如下: 式中,DSKL表示两个对称的KL散度的平均值,S代表两个视图的图编码器的共享参数,和表示视图之间的相互学习、交叉蒸馏而得到的两个视图的表征; S4-2:使用交叉蒸馏方法去除视图间共同的冗余信息,训练目标如下: 式中,DKL表示KL散度; S5:整体模型的训练; S5-1:针对单个视图和多个视图之间的冗余信息,获得模型的训练目标如下: 式中,CE表示深度学习中常用的交叉熵损失函数,y和分别表示用户或商品的真实类别和模型输出的预测类别,β表示超参数; S5-2:计算推荐系统中用户或商品的表征z为: 式中,MLP表示深度学习中常见的多层感知机,||表示两个向量拼接。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人大连理工大学,其通讯地址为:116024 辽宁省大连市甘井子区凌工路2号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。