Document
拖动滑块完成拼图
个人中心

预订订单
服务订单
发布专利 发布成果 人才入驻 发布商标 发布需求

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 上海壁仞科技股份有限公司请求不公布姓名获国家专利权

上海壁仞科技股份有限公司请求不公布姓名获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉上海壁仞科技股份有限公司申请的专利一种显存优化方法、装置、计算机设备、存储介质及计算机程序产品获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120409707B

龙图腾网通过国家知识产权局官网在2025-09-23发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510896504.4,技术领域涉及:G06N5/04;该发明授权一种显存优化方法、装置、计算机设备、存储介质及计算机程序产品是由请求不公布姓名设计研发完成,并于2025-06-30向国家知识产权局提交的专利申请。

一种显存优化方法、装置、计算机设备、存储介质及计算机程序产品在说明书摘要公布了:本申请公开一种显存优化方法、装置、计算机设备、存储介质及计算机程序产品,属于人工智能技术领域,该方法中,在多个芯片上分布式训练深度学习模型的过程中,当满足预设条件时,获取每个芯片的显存负载信息,以及每个芯片上多个对象的显存使用信息,多个对象对应这个芯片执行的不同训练任务,根据每个芯片的显存负载信息,以及这个芯片上多个对象的显存使用信息,更新这个芯片的对象集合,根据每个芯片的对象集合,向这个芯片发送显存优化指示,以触发这个芯片对这个对象集合中的对象应用显存优化技术。这样,每个芯片上应用显存优化技术的对象可随训练过程的变化而变化,显存优化与训练过程更匹配,显存优化更合理,因此,可提升模型训练效果。

本发明授权一种显存优化方法、装置、计算机设备、存储介质及计算机程序产品在权利要求书中公布了:1.一种显存优化方法,其特征在于,包括: 在多个芯片上分布式训练深度学习模型的过程中,每当满足预设条件时,获取每个芯片的显存负载信息,所述芯片上多个对象的显存使用信息,以及最近L轮迭代过程中所述芯片上每个对象对应的训练耗时,所述多个对象对应所述芯片执行的多种训练任务,所述深度学习模型是混合专家模型,所述混合专家模型包括多个专家网络,每个专家网络放在一个芯片上,L是大于零的整数; 根据每个芯片的显存负载信息,以及所述芯片上多个对象的显存使用信息,确定对所述芯片的显存优化力度的调节方式; 根据对所述芯片的显存优化力度的调节方式,更新所述芯片的对象集合,所述对象集合用于保存所述芯片上应用显存优化技术的对象,其中,每个对象对应有显存优化类型,所述显存优化类型是激活值重计算或张量卸载,每个对象对应的显存优化技术在各显存优化技术中对所述对象的训练任务的影响最小,所述调节方式是减小显存优化力度时,从所述对象集合中剔除训练耗时最长、且显存使用量小于所述芯片的显存剩余量的对象,所述调节方式是增大显存优化力度时,向所述对象集合中添加未在所述对象集合中且训练耗时最短的对象; 根据每个芯片的对象集合,向所述芯片发送显存优化指示,所述显存优化指示用于触发所述芯片对所述对象集合中的对象应用显存优化技术,其中,所述芯片对所述芯片的对象集合中的每个对象,应用所述对象的显存优化类型对应的显存优化技术。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人上海壁仞科技股份有限公司,其通讯地址为:201114 上海市闵行区陈行公路2388号16幢13层1302室;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由AI智能生成
免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。