买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉创意信息技术股份有限公司申请的专利基于单管道多路视频流批处理的NPU高并发推理方法及系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN121212238B 。

龙图腾网通过国家知识产权局官网在2026-02-27发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202511748052.1，技术领域涉及：G06N3/063；该发明授权基于单管道多路视频流批处理的NPU高并发推理方法及系统是由孙元华;周天友;夏磊;龙隆;沈银设计研发完成，并于2025-11-26向国家知识产权局提交的专利申请。

本基于单管道多路视频流批处理的NPU高并发推理方法及系统在说明书摘要公布了：本发明涉及人工智能视频处理及硬件加速技术领域，公开了一种基于单管道多路视频流批处理的NPU高并发推理方法及系统，通过将多路视频流在NPU端进行动态批量合并处理，避免频繁的内存拷贝与CPU参与，减少数据传输与模型加载次数、内存占用与加载延迟；通过单条推理管道即可支持多达32路视频输入，相较于多管道方案无需重复加载模型，大幅降低模型加载次数与内存占用，从而显著提升并发能力与吞吐率，支持断流容错和动态批大小调整，提高稳定性。本发明能够在保持低延迟的同时，提高系统的处理效率和资源利用率，适用于视频监控、智能交通、安防等多路视频AI分析场景。

本发明授权基于单管道多路视频流批处理的NPU高并发推理方法及系统在权利要求书中公布了：1.一种基于单管道多路视频流批处理的NPU高并发推理方法，其特征在于，所述方法包括以下步骤： S1：启动主处理管道；其中，所述主处理管道的默认拓扑结构被配置为包含npumux批数据合并模块、infer推理模块、tracker跟踪模块、osd视频叠加模块和npudemux批数据拆分模块； S2：当新视频流接入时，对新视频流进行拉流与解析，在执行NPU端硬解码后，将输出连接至npumux批数据合并模块的动态输入端口； S3：在npudemux批数据拆分模块的输出端动态创建推流bin容器； S4：输入来自npumux批数据合并模块的批帧数据，在NPU上使用预加载的主推理模型进行整帧推理，将推理结果附加到帧元数据，调用图像算子对推理结果进行ROI批量处理，获得ROI批数据并携带元数据映射表； S5：在NPU上加载并复用第二推理模型与分类模型，利用第二推理模型对ROI批数据进行并行推理，利用分类模型对ROI批数据进行批量分类，将分类结果绑定到属性元数据； S6：将主推理结果、第二推理结果和分类结果级联合并，执行NMS非极大值抑制或轨迹一致性校正，利用跨帧关联算法为同一目标分配稳定track_id跟踪标识符，并将轨迹信息写回对象元数据； S7：在NPU图形加速模块中拷贝绘制检测框、track_id跟踪标识符、标签和置信度，输出叠加后的视频帧至npudemux批数据拆分模块，将批帧拆分回多路单帧序列，送入对应的推流bin容器进行输出； S8：在tracker跟踪模块的sink-pad接收端口注册回调函数，读取对象元数据序列化后异步发送至外部系统； S9：在需要停止某一路视频流时，从npumux批数据合并模块和npudemux批数据拆分模块执行断开步骤，动态调整batch-size批处理大小。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人创意信息技术股份有限公司，其通讯地址为：610000 四川省成都市青羊区红星路一段86号1栋222号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。