买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉北京邮电大学申请的专利一种基于BERT预训练语言模型的语音指令识别方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119479646B 。

龙图腾网通过国家知识产权局官网在2025-09-16发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411591268.7，技术领域涉及：G10L15/22；该发明授权一种基于BERT预训练语言模型的语音指令识别方法是由陈勇;周宇翔;王秀毅;殷硕;乔秀全设计研发完成，并于2024-11-08向国家知识产权局提交的专利申请。

本一种基于BERT预训练语言模型的语音指令识别方法在说明书摘要公布了：本发明涉及语音识别技术领域，公开了一种基于BERT预训练语言模型的语音指令识别方法，该方法包括：接收待识别语音，并通过自动语音识别模型将待识别语音转化为文本序列；微调BERT预训练语言模型，并利用微调后的BERT预训练语言模型对文本序列进行文本分类，得到待识别语音对应的指令类别；利用知识蒸馏对微调后的BERT预训练语言模型进行模型压缩，得到序列分类模型；利用序列分类模型对文本序列进行特征提取，得到待识别语音对应的指令类别标签，本发明考虑到音频数据较文本数据更难获取的情况，选用BERT预训练语言模型，提高分类准确性，利用知识蒸馏进行模型压缩，识别到待识别语音指令类别标签，为人机交互提供数据支撑。

本发明授权一种基于BERT预训练语言模型的语音指令识别方法在权利要求书中公布了：1.一种基于BERT预训练语言模型的语音指令识别方法，其特征在于，所述方法包括： 接收待识别语音，并通过自动语音识别模型将所述待识别语音转化为文本序列； 微调所述BERT预训练语言模型，并利用微调后的BERT预训练语言模型对所述文本序列进行文本分类，得到待识别语音对应的指令类别； 利用知识蒸馏对微调后的BERT预训练语言模型进行模型压缩，得到序列分类模型； 利用序列分类模型对所述文本序列进行特征提取，得到所述待识别语音对应的指令类别标签； 其中，所述利用知识蒸馏对微调后的BERT预训练语言模型进行模型压缩，包括： 对微调后的BERT预训练语言模型进行知识蒸馏，将教师模型压缩为学生模型； 在将教师模型压缩为学生模型之后，所述方法还包括： 计算压缩后的学生模型的损失函数，并利用计算结果调整学生模型的模型参数，直至模型损失处于损失阈值范围内； 按照如下公式计算损失函数： 其中，为损失函数，为硬目标对应的交叉熵损失，为软目标对应的交叉熵损失，y为样本x的类别标签，为第k个类别标签，K为总类别数，q为Student通过softmax函数（T=1）得到的输出分布，，控制硬目标对应的交叉熵损失和软目标对应的交叉熵损失的权重，T为温度参数，P为概率分布。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人北京邮电大学，其通讯地址为：100876 北京市海淀区西土城路10号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。