买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉中国科学院新疆理化技术研究所申请的专利面向低资源语言的大语言模型训练方法、装置、设备及介质获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119539014B 。

龙图腾网通过国家知识产权局官网在2025-11-07发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411508097.7，技术领域涉及：G06N3/088；该发明授权面向低资源语言的大语言模型训练方法、装置、设备及介质是由周喜;艾比布拉·阿塔伍拉;杨奉毅;杨雅婷;马博;艾合塔木江·艾合麦提;鲁凯文;毕然设计研发完成，并于2024-10-28向国家知识产权局提交的专利申请。

本面向低资源语言的大语言模型训练方法、装置、设备及介质在说明书摘要公布了：本公开提供了一种面向低资源语言的大语言模型训练方法、装置、设备及介质，涉及人工智能技术领域。该方法包括：获取低资源语言数据并经预处理得到低资源语言无监督训练数据；生成低资源语言词表并对现有的模型进行词表扩充；根据低资源语言无监督训练数据结合第一低秩自适应模块对词表扩充后的模型进行无监督预训练；根据低资源语言指令微调数据集结合第二低秩自适应模块对预训练后的模型进行指令微调；将高资源语言有监督语料分别输入指令微调后的模型和现有成熟模型，分别得到负例和正例数据，以此生成基于模型反馈的强化学习低资源语言数据集，并结合第三低秩自适应模块来对指令微调后的模型进行强化学习训练。

本发明授权面向低资源语言的大语言模型训练方法、装置、设备及介质在权利要求书中公布了：1.一种面向低资源语言的大语言模型训练方法，其特征在于，所述方法包括： 获取低资源语言数据，并对所述低资源语言数据进行预处理，得到低资源语言无监督训练数据； 根据所述低资源语言无监督训练数据生成低资源语言词表，并利用所述低资源语言词表对现有的第一大语言模型进行词表扩充，使得词表扩充后的第一大语言模型能够支持低资源语言； 根据所述低资源语言无监督训练数据，结合第一低秩自适应模块对词表扩充后的第一大语言模型进行无监督预训练，使得预训练后的第一大语言模型能够适应低资源语言的语言模式和语法特性； 获取高资源语言有监督语料，并根据所述高资源语言有监督语料生成低资源语言有监督语料； 对所述低资源语言有监督语料进行指令微调转换处理，生成低资源语言指令微调数据集； 根据所述低资源语言指令微调数据集，结合第二低秩自适应模块对预训练后的第一大语言模型进行指令微调，使得指令微调后的第一大语言模型能够在多种低资源语言任务环境下执行不同的任务指令； 将所述高资源语言有监督语料分别输入指令微调后的第一大语言模型和现有的第二大语言模型，分别得到负例数据和正例数据，并根据所述负例数据和所述正例数据，生成基于模型反馈的强化学习低资源语言数据集； 根据所述强化学习低资源语言数据集，结合第三低秩自适应模块对指令微调后的第一大语言模型进行强化学习训练，得到目标大语言模型。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人中国科学院新疆理化技术研究所，其通讯地址为：830011 新疆维吾尔自治区乌鲁木齐市北京南路40号附1号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。