重庆大学刘大江获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉重庆大学申请的专利一种神经网络张量算子组合自动调优方法及装置获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN116090521B 。
龙图腾网通过国家知识产权局官网在2026-02-17发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202310153435.9,技术领域涉及:G06N3/0464;该发明授权一种神经网络张量算子组合自动调优方法及装置是由刘大江;雷磊设计研发完成,并于2023-02-22向国家知识产权局提交的专利申请。
本一种神经网络张量算子组合自动调优方法及装置在说明书摘要公布了:本申请提出了一种神经网络张量算子组合自动调优方法及装置,涉及深度神经网络领域,包括:定义张量算子组合的计算方式,依次获取归约迭代空间与偏置迭代空间的循环分块大小;基于循环分块大小,根据调度模版对张量算子组合进行循环分块与循环合并优化,生成草图并对草图进行注释;根据自动调优模块处理注释后的草图,输出张量算子组合的调优参数。本申请通过生产消费关系数据域尺寸计算和数据对齐的循环分块比例计算,对算子组合进行分块大小有比例关系的循环分块,消除生产者消费者之间不匹配的冲突,提升了有数据依赖关系的算子组合加速任务的性能,并利用Ansor定制算子依赖关系的搜索空间,实现算子融合和减少冗余计算。
本发明授权一种神经网络张量算子组合自动调优方法及装置在权利要求书中公布了:1.一种神经网络张量算子组合自动调优方法,用于消除生产者消费者之间不匹配的冲突,其特征在于,包括: 定义张量算子组合的计算方式,依次获取归约迭代空间与偏置迭代空间的循环分块大小;对于输入张量A,卷积核B与经过卷积操作的输出图像C,若在进行所述卷积操作前对所述输入张量A进行偏置语句操作,定义第一个嵌套循环对应的迭代空间为所述偏置迭代空间,第二个嵌套循环对应的迭代空间为所述归约迭代空间,其中,所述偏置迭代空间和所述归约迭代空间之间存在生产者消费者关系; 基于所述循环分块大小,根据调度模版对所述张量算子组合进行循环分块与循环合并优化,生成草图并对所述草图进行注释;所述调度模版由以下方式构造,包括:按照拓扑顺序访问张量算子组合样本的所有节点,对于存在消费者生产者关系的算子组合,对消费者算子进行常规循环分块,对生产者算子调用可重叠分块调度原语进行可重叠分块,可重叠循环分块调度原语为一个预先实现的调度原语,根据分块因子和可重叠部分大小对张量算子实施可重叠分块,其中,对于分块后的循环分块结构,在CPU上,使用SSRSRS分块结构,在GPU上,使用SSSRRSRS分块结构; 根据自动调优模块处理注释后的草图,输出所述张量算子组合的调优参数。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人重庆大学,其通讯地址为:400044 重庆市沙坪坝区沙正街174号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励