北京英博数科科技有限公司肖锋获国家专利权
买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！
龙图腾网获悉北京英博数科科技有限公司申请的专利算力云上大语言模型训练优化方法及软件获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119670848B 。
龙图腾网通过国家知识产权局官网在2026-01-02发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411755171.5，技术领域涉及：G06N3/096；该发明授权算力云上大语言模型训练优化方法及软件是由肖锋;李少鹏;吴东设计研发完成，并于2024-12-02向国家知识产权局提交的专利申请。
本算力云上大语言模型训练优化方法及软件在说明书摘要公布了：本申请涉及一种算力云上大语言模型训练优化方法，包括在离线工具软件中，打乱Tokenizer内部顺序，得到新Token序列；根据所述新Token序列对Embedding矩阵进行按照相应位置进行调整，得到与所述新Token序列对应的新Embedding矩阵；根据所述新Token序列和所述新Embedding矩阵重新训练Tokenizer；根据重新训练的Tokenizer生成对应的Tokenize后的样本向量；测试修改后的大语言模型，上传样本向量和相应的Embedding矩阵，并执行监督微调流程。本申请可以减少数据泄露的风险，对算力服务提供商和用户来说，减少数据泄露的风险都是有益的，本发明可以使得服务提供商减少数据泄露的可能，可以使用户更放心使用云服务。没有引入额外的计算和存储量，一般用户租用算力云是需要用到GPU或TPU加速的功能，Tokenize的过程一般也是利用的CPU的计算能力，因此用户侧进行Tokenize并不会引入额外的计算量和存储量。
本发明授权算力云上大语言模型训练优化方法及软件在权利要求书中公布了：1.一种算力云上大语言模型训练优化方法，其特征在于，包括： 在离线工具软件中，打乱Tokenizer内部顺序，得到新Token序列； 根据所述新Token序列对Embedding矩阵按照相应位置进行调整，得到与所述新Token序列对应的新Embedding矩阵； 根据所述新Token序列和所述新Embedding矩阵重新训练Tokenizer； 根据重新训练的Tokenizer生成对应的Tokenize后的样本向量； 测试修改后的大语言模型，上传样本向量和相应的Embedding矩阵，并执行监督微调流程。
如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人北京英博数科科技有限公司，其通讯地址为：100000 北京市海淀区西三环中路10号望海楼B座二层207室；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
1、本报告根据公开、合法渠道获得相关数据和信息，力求客观、公正，但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解，仅供参考使用，不能作为本公司承担任何法律责任的依据或者凭证。
开放平台
担保交易
惠及多方
会员特惠
专属平台
适合多方
数据共享
功能齐全
皖公网安备 34010402703815号
请提出您的宝贵建议，有机会获取IP积分或其他奖励