中国人民解放军国防科技大学董攀获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉中国人民解放军国防科技大学申请的专利一种NUMA感知的DNN编译系统优化方法及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN121390169B 。
龙图腾网通过国家知识产权局官网在2026-03-31发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202511972684.6,技术领域涉及:G06N3/063;该发明授权一种NUMA感知的DNN编译系统优化方法及系统是由董攀;方孝翔;谭郁松;余杰;李宝;马俊;张建锋;贾周阳;谭霜;郭勇;王怡琦;丁滟;蹇松雷;任怡设计研发完成,并于2025-12-25向国家知识产权局提交的专利申请。
本一种NUMA感知的DNN编译系统优化方法及系统在说明书摘要公布了:本发明公开了一种NUMA感知的DNN编译系统优化方法及系统,本发明方法包括初始化线程‑节点映射;初始化可用内存;获取DNN的计算图中的计算节点,为每个计算节点构造参数节点并预分配模型参数内存,并更新可用内存;将各个计算节点分配优先级排序;按照分配优先级为计算节点构造副本参数节点并更新可用内存直至可用内存耗尽;遍历计算节点以将副本参数节点的内存分配NUMA节点使所有线程当中与数据距离最大值最小化;针对各个计算节点对应的算子执行算子优化直至优化目标完成。本发明旨在基于神经网络涉及数据的特性、适应NUMA架构服务器的访存特性来实现将神经网络推理作业均匀地分配内存,提高本地访存比率。
本发明授权一种NUMA感知的DNN编译系统优化方法及系统在权利要求书中公布了:1.一种NUMA感知的DNN编译系统优化方法,其特征在于,包括下述步骤: S1,初始化线程-节点映射以将DNN推理所需的线程映射到所有NUMA节点上; S2,根据系统当前的可用内存大小初始化可用内存Avail; S3,获取DNN的计算图中的计算节点,为每个计算节点构造用于为该计算节点提供计算所需神经网络参数的参数节点并预分配模型参数内存,并更新可用内存Avail; S4,将各个计算节点的计算复杂性作为分配优先级并按照分配优先级排序; S5,按照分配优先级为计算节点构造用于映射到不同NUMA节点所需的副本参数节点并更新可用内存Avail直至可用内存Avail耗尽; S6,遍历计算节点以将计算节点对应的副本参数节点的内存分配NUMA节点使所有线程当中与数据距离最大值最小化; S7,针对各个计算节点对应的算子执行算子优化:包括构造算子优化模板,将最外层循环并行化,在循环体内分配参数节点作为输入,本地分配内存作为输出并评估优化效果; S8,判断优化目标是否完成,如果尚未完成则跳转步骤S7;否则结束并退出。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人中国人民解放军国防科技大学,其通讯地址为:410073 湖南省长沙市开福区德雅路109号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励