买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉浪潮云信息技术股份公司申请的专利一种微调TinyLlama LLM的方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119718265B 。

龙图腾网通过国家知识产权局官网在2025-10-17发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411668182.X，技术领域涉及：G06F8/20；该发明授权一种微调TinyLlama LLM的方法是由周超;孙向晖;张立勇;毛胜磊;高鹏超设计研发完成，并于2024-11-21向国家知识产权局提交的专利申请。

本一种微调TinyLlama LLM的方法在说明书摘要公布了：本发明公开一种微调TinyLlamaLLM的方法,涉及数据管理技术领域；包括：步骤1：开发TinyLlamaLLM模型所需的调优数据集，步骤2：使用调优数据集对TinyLlamaLLM模型进行微调：步骤21：使用低秩适应LoRA方法对TinyLlamaLLM模型进行微调；步骤22：使用检索增强生成RAG方法调整TinyLlamaLLM模型。

本发明授权一种微调TinyLlama LLM的方法在权利要求书中公布了：1.一种微调TinyLlamaLLM的方法，其特征是包括： 步骤1：开发TinyLlamaLLM模型所需的调优数据集： 步骤11：利用数据要素时，通过日志记录每一次的数据调用信息，数据调用信息包含调用的模型、方法以及执行的SQL，使用日志数据作为调优数据集，其中利用数据要素时进行数据转换，包括：在数据要素中模型代表数据库中的表或者视图，属性代表数据库中的字段，属性类型也存在相应的映射关系，记录下映射关系，以便在数据抽取时直接完成数据转换， 步骤12：引入第三方数据源HuggingFace的数据集b-mc2sql-create-context补充调优数据集，包括： 将数据集b-mc2sql-create-context的question列翻译为中文数据，利用中文数据补充调优数据集，并定义一个chat模版，将中文数据利用chat模版转换为TinyLlama可以理解的格式； 步骤2：使用调优数据集对TinyLlamaLLM模型进行微调： 步骤21：使用低秩适应LoRA方法对TinyLlamaLLM模型进行微调： 冻结基础模型权重，减少计算资源需求， 设置微调参数：确定学习率、批次大小、训练轮次， 进行效果验证与测试：定期在验证集上评估模型性能，监控过拟合和性能指标，并根据验证结果调整训练策略或者停止训练； 步骤22：使用检索增强生成RAG方法调整TinyLlamaLLM模型： 进行调优数据集预处理和文本向量化，将调优数据集文本映射到数值向量空间，便于后续的相似度计算， 创建索引，并进行查询转换：将用户输入的问题或指令转换为向量形式，在向量数据库中执行近似最近邻ANN搜索，找到与查询向量最相似的文档向量，用于完成TinyLlamaLLM模型检索和生成语句的调整。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人浪潮云信息技术股份公司，其通讯地址为：250100 山东省济南市高新区浪潮路1036号浪潮科技园S01号楼；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。