买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉云南电网有限责任公司;云南电网有限责任公司玉溪供电局申请的专利一种基于冗余信息削减的无监督句子学习方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120911480B 。

龙图腾网通过国家知识产权局官网在2026-01-27发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202511430564.3，技术领域涉及：G06F40/30；该发明授权一种基于冗余信息削减的无监督句子学习方法是由常荣;施力镜;黄妮文;高盛祥;游绍华;张丙勇;杨传旭;原野;党军朋;杨洪灿;陈俊设计研发完成，并于2025-10-09向国家知识产权局提交的专利申请。

本一种基于冗余信息削减的无监督句子学习方法在说明书摘要公布了：本发明涉及一种基于冗余信息削减的无监督句子学习方法，属于自然语言处理技术领域。本发明聚焦于句子嵌入SentenceEmbedding技术中的冗余信息识别与削减问题，旨在通过无监督学习的方式优化句子语义表示的质量。该方法适用于文本分类、信息检索、语义相似度计算等任务，并为低资源语言和跨语言应用场景提供了高效的解决方案。本发明的技术方案结合了高频词汇分析、动态维度筛选以及对比学习正则化策略，能够有效缓解预训练模型在句子嵌入过程中存在的过度平滑问题和冗余信息表征问题。通过从Token级别对冗余信息进行构建、筛选和分离，本方法显著提升了模型在语义特征捕捉上的区分能力，为无监督学习框架下的句子表示学习提供了新的研究思路和技术手段。

本发明授权一种基于冗余信息削减的无监督句子学习方法在权利要求书中公布了：1.一种基于冗余信息削减的无监督句子学习方法，其特征在于，包括以下步骤： 步骤1冗余表示构建：通过高频词池和批内数据两种方式构建全局与局部的冗余信息表示； 步骤2冗余维度筛选：基于构建的全局与局部的冗余信息表示，采用静态和动态方法精准识别对语义区分贡献较低的冗余维度； 步骤3冗余表示分离：利用直接相减法和推远负例法，在筛选出的冗余维度上有效去除冗余信息，缓解句子嵌入中的过度平滑并提升语义表示能力； 步骤1中，基于高频词构建Token级冗余表示的过程如下： 首先，使用NLTK分词工具对无监督数据集进行分词处理； 然后，统计词频，选取词频最高的若干个词作为冗余表示池； 然后，在每个训练批次中，从候选池中随机采样若干Token，并以k进行表示； 最后，计算Token嵌入向量的均值，作为每一批次的冗余表示； 基于高频词构建Token级冗余表示为步骤1中的全局视角； 步骤1中，基于批内数据的Token级冗余表示构建的过程如下： 首先，对每个训练批次中的句子进行分词处理； 然后，按词频降序排列，选取前若干个Token； 最后，计算Token嵌入向量的均值，作为每一批次的冗余表示； 基于批内数据的Token级冗余表示构建为步骤1中的局部视角； 步骤2中，静态冗余维度筛选方法的过程如下： 首先，高频词表中选取词频最高的若干个Token； 然后，计算词频最高的Token嵌入向量在各个维度上的标准差； 最后，根据实验确定阈值，将标准差小于阈值的维度标记为冗余维度； 静态冗余维度筛选方法为步骤2中的全局静态筛选； 步骤2中，动态冗余维度筛选方法的过程如下： 首先，对每个训练批次中的句子进行分词处理，按词频降序排列，选取前若干个Token； 然后，计算Token嵌入向量在各个维度上的标准差； 最后，根据实验确定阈值，将标准差低于阈值的维度标记为该批次的冗余维度； 动态冗余维度筛选方法为步骤2中的局部动态筛选。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人云南电网有限责任公司;云南电网有限责任公司玉溪供电局，其通讯地址为：650073 云南省昆明市拓东路73号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。