买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉北京邮电大学申请的专利基于DPU的模型推理加速方法、装置、设备及介质获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119599072B 。

龙图腾网通过国家知识产权局官网在2025-11-25发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411663076.2，技术领域涉及：G06N3/063；该发明授权基于DPU的模型推理加速方法、装置、设备及介质是由郭少勇;陈洁蔚;任殷林;齐芫苑;邱雪松;于祯奇;王新宇;刘可;王竟榕;张润璟设计研发完成，并于2024-11-20向国家知识产权局提交的专利申请。

本基于DPU的模型推理加速方法、装置、设备及介质在说明书摘要公布了：本发明提供一种基于DPU的模型推理加速方法、装置、设备及介质，该方法包括：对待推理数据图像的颜色进行分离，得到至少两个单通道图像；基于双收缩阵列和至少两个卷积核，同步对各单通道图像进行特征提取，得到特征图；特征图用于模型推理；双收缩阵列用于特征提取所需的矩阵乘法运算，并实现并行计算；双收缩阵列是DPU通过硬件描述语言实现的。本发明通过DPU双收缩阵列和至少两个卷积核，对多个单通道图像进行特征提取并对大规模矩阵进行并行计算，提高系统吞吐量，从而实现大模型推理加速。

本发明授权基于DPU的模型推理加速方法、装置、设备及介质在权利要求书中公布了：1.一种基于DPU的模型推理加速方法，其特征在于，包括： 对待推理数据图像的颜色进行分离，得到至少两个单通道图像； 将所述单通道图像中的特征数据逐行输入数据缓冲区； 基于所述数据缓冲区的并行输出接口，将所述特征数据映射在存储器中； 基于双收缩阵列中特征提取的计算节点，确定获取所述特征数据的延迟时长； 基于所述延迟时长，在所述存储器中不断偏移读取地址，得到特征目标数据；所述目标特征数据是分别与各卷积核进行卷积操作的数据； 基于所述双收缩阵列中的处理单元分别对各所述卷积核的权重与对应的目标特征数据进行卷积操作，得到卷积子结果； 将所述卷积子结果传递给下一个处理单元进行累积，得到至少两个输出结果；其中，一个所述输出结果与一个所述卷积核对应； 基于所述至少两个输出结果和所述输出结果对应的偏置，确定所述单通道图像中的第一特征图； 对所述第一特征图进行非线性变换和量化处理，得到第二特征图； 对所述第二特征图进行池化处理，得到所述目标特征图；所述特征图用于模型对所述待推理数据图像进行推理；所述双收缩阵列用于并行计算特征提取所需的矩阵乘法运算，所述双收缩阵列是DPU通过硬件描述语言实现的。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人北京邮电大学，其通讯地址为：100876 北京市海淀区西土城路10号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。