苏州科技大学方介泼获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉苏州科技大学申请的专利一种近景远景多维度融合的三维目标检测方法、系统及存储介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN116740519B 。
龙图腾网通过国家知识产权局官网在2025-07-08发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202310711683.0,技术领域涉及:G06V10/80;该发明授权一种近景远景多维度融合的三维目标检测方法、系统及存储介质是由方介泼;薛俊;刘仪婷;肖昊;李兴通;钱星铭;陶重犇设计研发完成,并于2023-06-15向国家知识产权局提交的专利申请。
本一种近景远景多维度融合的三维目标检测方法、系统及存储介质在说明书摘要公布了:本发明提供了一种近景远景多维度融合的三维目标检测方法、系统及存储介质,三维目标检测方法包括:步骤一:使用Centernet对图像的中心点进行检测并对基础属性进行回归,通过全卷积的编码‑解码骨干网进行特征值的提取;步骤二:使用估计的深度对目标进行三维ROI区域的划分,再将检测任务分为近景检测和远景检测。本发明的有益效果是:本发明的三维目标检测方法融合了激光雷达、毫米波雷达和摄像头三种传感器的优势,实现自动驾驶领域中的3D目标检测的技术,能够对车辆、行人、骑行的人等目标进行准确的识别和定位,能够应用在实际的场景中。
本发明授权一种近景远景多维度融合的三维目标检测方法、系统及存储介质在权利要求书中公布了:1.一种近景远景多维度融合的三维目标检测方法,其特征在于,包括: 步骤一:使用Centernet对图像的中心点进行检测并对基础属性进行回归,通过全卷积的编码-解码骨干网进行特征值的提取; 步骤二:使用估计的深度对目标进行三维感兴趣区域划分,再将检测任务分为近景检测和远景检测; 所述步骤二中,对于近景检测任务,使用视锥体内的RGB-D数据构建关于目标的特征,并利用2D检测带来的语义信息作为先验信息,对于远景检测任务,使用视觉结合毫米波雷达的方法,在视觉检测的基础上充分利用毫米波雷达的非视觉特征为图像创建互补特征; 所述近景检测任务具体包括: 步骤S1:首先对坐标轴进行沿y轴的旋转,使得旋转后的z轴穿过中心点热图中的峰值在y轴上的投影,然后通过构建旋转矩阵RyθΔy将全局坐标转化为局部坐标; 步骤S2:在视锥体中对点云数据进行分割;首先将转换为局部坐标的点云数据输入到共享的多个感知机中进行升维处理,将点云数据中的每个点都升为1024维的特征向量,通过大池化层在保持点云无序性的前提下得到关于点云数据的全局特征,然后将全局特征和每一个点相连接并加入K维的one-hotvecter来保证分割网络充分利用2D检测带来的先验信息,通过相同的共享感知机来生成n×1的向量来对点云数据进行分割,最后利用局部坐标y轴上与分割后的点云质心最近的点初步的回归目标的中心; 在所述步骤S2中,为了准确的对目标中心进行回归,利用Centernet回归到的二维目标中心与深度值之间的关系对空间变换网络进行降维处理,具体公式下: 其中,d为由于空间变换网络回归的为初步目标中心深度和实际目标中心深度值之间的差值; 在训练时构建基于残差的损失函数: Lbox=Cbox-Cmask-ΔCT-Net4 其中,Cbox表示预测框信息,Cmask表示掩膜预测信息,CT-Net表示T-net网络预测信息; 在得到目标的中心点后,将视锥体内分割后的点云投影到X-Z轴来构成BEV鸟瞰视角的点云图,并在BEV图中,对投影后的点云数据进行栅格化处理; 为了结合来自不同特征的信息,采用Element-Wise相乘的融合方法将Point-Wise特征与BEV特征进行融合,其融合方式的公式如下: 其中,f为特征,H表示感知机函数; 为了防止感知机的退化,在两个感知线路融合的同时,加入对两个感知机的单独辅助损耗训练,融合训练与辅助损失训练之间共享权重; 在训练时,对多任务进行联合优化,使用的联合损失函数公式如下: 其中,i,j,k表示变量,P表示指对应点; 所述远景检测任务具体为: 将生成的特征图与目标的图像特征并联,利用特征图和目标中心点之间的对应关系来确定目标的中心点,再构建视锥体来划分ROI,并将特征图输入辅助检测头来帮助主检测任务进行目标深度和旋转信息的回归; 所述远景检测任务中,还包括: 步骤A1,回归主体的绝对速度:通过划分ROI将雷达点云分为目标关键点和背景点,背景点和主体速度的关系如下式: 其中,Vd n为数据点n所携带的径向速度,θn为数据点n所携带的偏转角,Vn为回归得到的目标主体速度大小,u为回归值和真值间的最小二乘误差值; 步骤A2,回归目标的绝对速度:对于体积较大的车辆目标,使用不同关键点之间径向速度的角度差来回归目标的绝对速度,其公式如下: 其中,Vd p为目标关键点p所携带的速度信息,θpd为目标关键点p所携带的角度信息,θpt为回归得到车辆目标的速度方向,VT p为回归得到车辆目标的大小;对于目标尺度较小的人物目标使用Person-Reid算法对人物目标进行反向追踪,通过毫米波雷达提供的径向速度来划分ROI,其公式如下: 其中xt、yt为当前帧的目标位置,xt-1、yt-1为上一帧待追踪目标的位置,Cn为目标n的预测信息;Vt为毫米波雷达提供的径向速度; 所述远景检测任务中,利用残差构建损失函数,其公式如下: 其中,n为目标数目,θT准确偏向角,θi预测偏向角,Δθ准确与预测偏向角的差值; 利用得到的目标偏向角作为先验信息对目标的尺寸进行修正,并利用语义信息来构建先验尺寸,构建的损失函数其公式如下: 其中,D*表示真实尺寸,表示预测尺寸,δ为一个残差值。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人苏州科技大学,其通讯地址为:215000 江苏省苏州市高新区科锐路1号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。