山东浪潮科学研究院有限公司董俊逸获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉山东浪潮科学研究院有限公司申请的专利一种基于异构系统的DNN通用部署方法及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119759595B 。
龙图腾网通过国家知识产权局官网在2025-07-08发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510266459.4,技术领域涉及:G06F9/50;该发明授权一种基于异构系统的DNN通用部署方法及系统是由董俊逸;魏朝飞;赵鑫鑫设计研发完成,并于2025-03-07向国家知识产权局提交的专利申请。
本一种基于异构系统的DNN通用部署方法及系统在说明书摘要公布了:本申请涉及人工智能硬件加速技术领域,涉及一种基于异构系统的DNN通用部署方法及系统。所述方法包括:将待部署的深度神经网络进行细粒度拆分,划分为多个子层;基于异构系统的硬件参数,将所述子层映射到异构系统的计算核心上,进行初步映射分配;对所述异构系统的通信链路进行建模,形成初步分配方案,估算每条通信链路的延迟和功耗;实时监控数据传输过程中的通信延迟和功耗,并通过数学规划优化算法对分配方案进行离线迭代优化,生成最终优化分配方案;基于所述最终优化分配方案,控制异构系统的计算核心执行子层计算任务,并管理存储模块的张量生命周期。本发明能够更好地适应不同的应用需求,大大提高了系统的自主性和运行效率。
本发明授权一种基于异构系统的DNN通用部署方法及系统在权利要求书中公布了:1.一种基于异构系统的DNN通用部署方法,其特征在于,包括: 将待部署的深度神经网络进行细粒度拆分,划分为多个子层,作为异构系统调度的最小单位,并在拆分过程中维护各子层间的数据依赖关系; 基于异构系统的硬件参数,将所述子层映射到异构系统的计算核心上,进行初步映射分配; 对所述异构系统的通信链路进行建模,形成初步分配方案,估算每条通信链路的延迟和功耗; 根据所述初步分配方案,实时监控数据传输过程中的通信延迟和功耗,并通过数学规划优化算法对分配方案进行离线迭代优化,生成最终优化分配方案; 基于所述最终优化分配方案,控制异构系统的计算核心执行子层计算任务,并管理存储模块的张量生命周期; 所述数据传输过程具体方式如下: 根据分配方案,将子层对应的张量传输至目标计算核心; 若目标存储模块空间充足则将涉及的所有CL的活跃变量置1,传输完成后累加所有活跃CL的延迟和功耗,得到估算总延迟和功耗;若目标存储模块空间不足,按优先级驱逐现有张量,所述优先级基于以下因素计算:与存储模块直接连接的计算核心是否已完成涉及该张量的计算任务;张量的大小及最近一次使用时间间隔; 若驱逐后仍空间不足,向片外存储发送刷新信号,重新划分张量集合并重复传输流程,直至完成张量的传输并得到估算延迟和功耗,此时的估算总延迟和功耗为累加所有活跃CL的延迟和功耗以及张量刷新信号的延迟和功耗。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人山东浪潮科学研究院有限公司,其通讯地址为:250000 山东省济南市高新区浪潮路1036号S02号楼;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。