武汉大学乐鹏获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉武汉大学申请的专利面向ARM处理器的深度学习模型部署方法及设备获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN115660104B 。
龙图腾网通过国家知识产权局官网在2026-01-02发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202211333628.4,技术领域涉及:G06N20/00;该发明授权面向ARM处理器的深度学习模型部署方法及设备是由乐鹏;王明;梁哲恒;魏汝兰设计研发完成,并于2022-10-28向国家知识产权局提交的专利申请。
本面向ARM处理器的深度学习模型部署方法及设备在说明书摘要公布了:本发明提供了一种面向ARM处理器的深度学习模型部署方法及设备。所述方法包括:步骤1,在本地电子设备上安装DockerDesktop;步骤2,交叉编译面向ARM处理器的深度学习推理引擎;步骤3,训练面向指定任务的深度学习模型并将训练好的深度学习模型导出;步骤4,构建面向指定任务的深度学习模型镜像;步骤5,在嵌入式设备上安装Docker;步骤6,在公共镜像仓库DockerHub中拉取之前训练好的深度学习模型,并在嵌入式设备上对训练好的深度学习模型进行部署和推理加速。本发明降低了模型部署和运维的难度,大幅提升了边缘计算环境下模型部署和成果应用的速度,为深度学习技术的快速转化和落地应用提供了重要的技术支撑。
本发明授权面向ARM处理器的深度学习模型部署方法及设备在权利要求书中公布了:1.一种面向ARM处理器的深度学习模型部署方法,其特征在于,包括:步骤1,在本地电子设备上安装DockerDesktop;步骤2,交叉编译面向ARM处理器的深度学习推理引擎;步骤3,训练面向指定任务的深度学习模型并将训练好的深度学习模型导出;步骤4,构建面向指定任务的深度学习模型镜像;步骤5,在嵌入式设备上安装Docker;步骤6,在公共镜像仓库DockerHub中拉取之前训练好的深度学习模型,并在嵌入式设备上对训练好的深度学习模型进行部署和推理加速; 步骤1具体包括:在本地Windows计算机安装DockerDesktop,并开启Windows系统中的WSL,通过虚拟化技术在Windows虚拟机中运行Linux内核,在DockerDesktop的虚拟环境中启用交叉编译,以实现在AMD处理器上编译面向ARM处理器的可执行镜像文件; 步骤2具体包括:在步骤1开启的交叉编译环境下,根据开源的OpenVINO源码及其Dockerfile文件以交叉编译的方式,构建面向ARM处理器的深度学习推理引擎镜像;在所述引擎镜像中搭建面向多种主流深度学习框架和经典深度学习模型的基础运行环境,提供对Ubuntu操作系统、Python编程语言、OpenCV计算机视觉框架、Pytorch和Tensorflow深度学习框架环境依赖的支持,将所述引擎镜像推送到公共镜像仓库DockerHub,在深度学习模型部署时实现对该镜像的快速获取; 步骤3具体包括:准备用于深度学习模型训练的数据,并基于主流深度学习框架在本地Windows计算机的GPU上训练深度学习模型,读取训练好的模型文件并将其重新导出为OpenVINO支持的模型格式,包括ONNX模型或OpenVINO的IR模型,IR模型由两个名字相同的文件共同构成,一个是包含网络拓扑信息的.bin格式文件,另一个是包含权重和偏差二进制数据的.xml格式文件; 步骤4具体包括:基于本地的DockerDesktop软件,从公共镜像仓库DockerHub中拉取步骤2构建的面向ARM处理器的深度学习推理引擎镜像,并进入其容器内部环境,在该容器的基础运行环境中运行步骤3中导出的面向指定任务的深度学习模型,并基于Dockerbuildx命令将运行有深度学习模型的容器以交叉编译的方式构建为一个新镜像,该镜像便是面向指定任务的深度学习模型镜像,运行在具有ARM处理器的嵌入式设备系统环境中。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人武汉大学,其通讯地址为:430072 湖北省武汉市武昌区珞珈山街道八一路299号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励