上海壁仞科技股份有限公司请求不公布姓名获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉上海壁仞科技股份有限公司申请的专利数据处理方法、数据处理器、电子设备、存储介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN118313458B 。
龙图腾网通过国家知识产权局官网在2025-07-08发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202410338784.2,技术领域涉及:G06N5/04;该发明授权数据处理方法、数据处理器、电子设备、存储介质是由请求不公布姓名设计研发完成,并于2024-03-22向国家知识产权局提交的专利申请。
本数据处理方法、数据处理器、电子设备、存储介质在说明书摘要公布了:一种数据处理方法及数据处理器、存储介质和电子设备。该数据处理方法包括:获取推理任务对应的推理模型和用于推理任务的至少一个输入数据;利用多个执行组并行执行推理任务,其中,每个执行组包括多个硬件计算单元,不同执行组接收不同的输入数据以利用推理模型执行对接收的输入数据的推理操作。该数据处理方法提供了一种兼顾吞吐量和延迟的模型推理并行策略,利用多个执行组并行执行推理任务,每个执行组接收不同的输入数据,由此可以同时对多个输入数据进行推理操作,从而可以提高模型推理的吞吐量;此外,该数据处理方法中的每个执行组包括多个硬件计算单元,相比于使用1个硬件计算单元执行完整的模型推理可以兼顾模型推理的延迟。
本发明授权数据处理方法、数据处理器、电子设备、存储介质在权利要求书中公布了:1.一种数据处理方法,应用于处理器,其中,所述处理器包括多个执行组,每个执行组包括多个硬件计算单元, 所述数据处理方法包括: 获取推理任务对应的推理模型和用于所述推理任务的多个输入数据,其中,所述多个输入数据被输入所述推理模型以由所述推理模型对所述多个输入数据进行推理操作,得到所述多个输入数据的推理结果; 利用所述多个执行组并行执行所述推理任务,其中,各个执行组分别部署所述推理模型,不同执行组接收不同的输入数据以并行利用各自部署的所述推理模型执行对接收的输入数据的推理操作; 其中,所述推理模型包括至少一个计算图,所述至少一个计算图表征所述推理模型包括的多个算子之间的数据依赖关系以及执行顺序, 利用多个执行组并行执行所述推理任务,包括: 针对每个执行组: 接收一个输入数据; 以计算图为单位,按照所述至少一个计算图之间的执行顺序关系,利用所述执行组顺序处理所述至少一个计算图,以进行对所述一个输入数据的所述推理操作,得到所述一个输入数据的推理结果,其中,所述执行组包括的每个硬件计算单元配置为处理当前执行的计算图中的一部分。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人上海壁仞科技股份有限公司,其通讯地址为:201100 上海市闵行区陈行公路2388号16幢13层1302室;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。