桂林电子科技大学王涛获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉桂林电子科技大学申请的专利一种基于交叉口全息数据的单点交通信号控制方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN115691167B 。
龙图腾网通过国家知识产权局官网在2025-09-02发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202211253243.7,技术领域涉及:G08G1/08;该发明授权一种基于交叉口全息数据的单点交通信号控制方法是由王涛;赵晓寅;程瑞;徐奇设计研发完成,并于2022-10-13向国家知识产权局提交的专利申请。
本一种基于交叉口全息数据的单点交通信号控制方法在说明书摘要公布了:本发明涉及交通控制技术领域,具体涉及一种基于交叉口全息数据的单点交通信号控制方法,构建包含多个智能体的深度强化学习模型,再使用MARDDPG算法进行神经网络训练,最后使用训练完成的神经网络进行信号控制,区别于传统的交通检测技术,本发明充分利用交叉口全息数据能够将交通需求完全表达出来,同时采用MARDDPG算法的深度强化学习,每个智能体单独控制每个相位,单个智能体之间进行协同优化,更容易达到交叉口控制效率最优,进一步的,由于智能体单独控制每个相位,每个智能体的状态空间较小,结果收敛较快,能有效以及更精确地控制交通信号。
本发明授权一种基于交叉口全息数据的单点交通信号控制方法在权利要求书中公布了:1.一种基于交叉口全息数据的单点交通信号控制方法,其特征在于,包括下列步骤: 采集初始全息交通数据; 全息交通数据处理; 构建包含多个智能体的深度强化学习模型; 构建包含多个智能体的深度强化学习模型的过程中,交通信号控制智能体Agent选用MARDDPG算法进行深度强化学习,并分别进行状态空间S、动作空间A和奖励值R定义; 参与者网络的输入为智能体Sti=P,V,L,其中P,V是同维度矩阵,维数为45×m,将P矩阵与V矩阵组合为双通道图像,输入至堆叠子网络;子网络包含两个卷积层,第一卷积层包含32个滤波器,每个大小为4×4,应用跨距2,2;第二卷积层包含64个滤波器,每个大小为2×2,应用跨距2,2;使用完全连接层将相位矩阵L编码为8维向量;将所有网络的输出连接成一个向量,所有智能体合成所得的向量被分别发送到含有64个隐藏单元的LSTM,通过softmax激活函数输出动作预测值QS,A; 使用MARDDPG算法进行神经网络训练; 使用MARDDPG算法进行神经网络训练的过程,包括下列步骤: 步骤1:参与者网络与评论家网络初始化参数化动作选择策略其中为参与者网络中的第i个智能体某个时间步t的历史记忆数据,而评论家网络历史记忆数据同样定义为网络中的第i个智能体某个时间步t的历史记忆数据;构建并参数化评论家网络中的值函数值函数中的输入包括了历史状态h与参与者网络选择的动作a;分别地,初始化所有目标网络的权重θ'i和初始化重放缓冲区D,时间步清零,参与者网络读取初始状态st,i; 步骤2:每隔5秒钟,单个智能体通过动作选择策略其中为当前时间步探索噪声;参与者网络在动作集合Ai中选择动作at,i并执行,执行后接收奖励值rt,i与新的状态st+1,i,产生新的历史数据 步骤3:将已进行过的{s1,i,a1,i,r1,i,s2,i,a2,i,r2,i,…}存入重放缓冲区D,采样数目不少于20000个;智能体i采样M个存于重放缓冲区D中的历史训练步用于训练参与者与评论家网络; 步骤4:智能体选择M个历史训练步数据后,利用M中某个minibatch使评论家网络通过步骤1构建的值函数估计Q值,并通过最小化平均损失函数来更新评论家目标网络中参数式中minibatch表示为m;与其相似地,参与者网络通过损失函数计算策略梯度,来更新参与者目标网络中参数θi; 用于更新的损失函数具体如下: 表示所有智能体评论家网络M个minibatch选取动作的Q值平均值;为总奖励值;γ为折减系数;表示评论家网络中下一时间步所有智能体的Q值之和; 用于更新θi的目标函数具体如下: 为了最大化未来预期奖励来更新参与者网络,定义Jθi以找到最大化累计奖励的方向; 步骤5:智能体采用“软更新”的方式来更新目标网络的参数与θ'i,首先定义一个根据主网络更新目标网络的速率τ0τ1;利用当前网络的参数和目标网络参数的凸组合更新目标网络,如下式: θ'i=τθi+1-τθ'i 重复步骤2至步骤5,当时,已达到可遍历的状态空间中的最优,智能体完成训练; 使用训练完成的神经网络进行信号控制。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人桂林电子科技大学,其通讯地址为:541004 广西壮族自治区桂林市七星区金鸡路1号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。