买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉苏州空天信息研究院申请的专利一种基于自适应知识蒸馏的数据源自动扩充方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN115858957B 。

龙图腾网通过国家知识产权局官网在2026-03-27发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202211564418.6，技术领域涉及：G06F16/955；该发明授权一种基于自适应知识蒸馏的数据源自动扩充方法是由邹磊;徐夏;任岩;顾爽;陶昊然;乔雪;付啟明设计研发完成，并于2022-12-07向国家知识产权局提交的专利申请。

本一种基于自适应知识蒸馏的数据源自动扩充方法在说明书摘要公布了：本发明提出了一种基于自适应知识蒸馏的数据源自动扩充方法，运用通用爬虫技术，抓取已知类别的网页文本信息；对网页文本信息进行预处理，将其转化为对应的词列表，将词列表及其所属类别作为训练与测试数据，构建训练与测试数据集；构建Attention‑BiLSTM作为数据源分类模型，通过自适应知识蒸馏算法实现模型压缩，并改善模型的收敛速度和识别能力；对采集的未知类别数据源下的文本信息进行预处理，输入构建的模型预测相应类别，根据分类结果，记录并存储各数据源的url及其对应的标签，实现数据源的自动积累与扩充。本发明能够配合通用爬虫技术自动扩充各类数据源。

本发明授权一种基于自适应知识蒸馏的数据源自动扩充方法在权利要求书中公布了：1.一种基于自适应知识蒸馏的数据源自动扩充方法，其特征在于，包括以下步骤： 步骤1，网站文本信息获取：运用爬虫技术，抓取已知类别的网页文本信息； 步骤2，数据预处理：对步骤1得到的网页文本信息进行预处理，将其转化为对应的词列表，将词列表及其所属类别作为训练与测试数据，构建训练与测试数据集； 步骤3，数据源分类模型构建：构建轻量化的单层Attention-BiLSTM，作为数据源分类模型； 步骤4，自适应知识蒸馏：以BERT模型为TeacherModel，以步骤3构建的单层Attention-BiLSTM模型为StudentModel，采用自适应知识蒸馏对StudentModel进行训练，动态调整交叉熵损失权重，获得精确、高效的轻量化数据源分类模型，其中： 知识蒸馏的整体损失为两部分损失的加权平均值，分别是StudentModel预测概率分布和真实标签的交叉熵损失，以及StudentModel预测概率分布和TeacherModel预测概率分布的KL散度： 其中，Loss为整体损失，y为真实标签，p为StudentModel预测概率分布，为TeacherModel的预测概率分布，LCE为交叉熵损失，LKL为KL散度，温度T用来平滑化λ为LCE占Loss的权重； 自适应知识蒸馏根据模型识别能力的提升率，自动调整LCE的权重较大的提升率会导致模型自动减小提高TeacherModel对模型训练的贡献，引导模型快速收敛；较小的提升率会导致模型自动增加提高真实标签对模型训练的贡献，增强模型的识别能力，则第j条样本在第k轮训练时，的计算方式如下： 其中，j为样本序号，k,k2为当前训练轮次，为模型识别能力的提升率，范围被限制在[0,1]；α为惯性系数，表明受之前值的影响程度；1-α为动力系数，表明受识别能力提升率的影响程度； 由以上分析知，由惯性因子和动力因子两部分组成，前者避免偶然性，后者动态修正若α＝1，则为固定值λ；若α＝0，则完全取决于模型识别能力的提升率； 通过式11的改进，自适应知识蒸馏模型的整体损失为： 其中，为改进后的整体损失，λ为设置的初始lCEp,y权重，为式11改进的自适应权重； 以步骤3的Attention-BiLSTM模型作为StudentModel，以BERT作为TeacherModel，以式12为整体损失函数，通过自适应知识蒸馏得到轻量、高效的数据源分类模型； 步骤5，数据源扩充：对采集的未知类别数据源下的文本信息进行预处理，输入步骤4知识蒸馏训练所得的数据源分类模型预测相应类别，根据分类结果，记录并存储各数据源的url及其对应的标签，实现数据源的自动积累与扩充。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人苏州空天信息研究院，其通讯地址为：215000 江苏省苏州市苏州工业园区独墅湖大道158；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。