北京航空航天大学王海泉获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉北京航空航天大学申请的专利一种基于强化学习的区域交通信号配时方法及系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN115731724B 。
龙图腾网通过国家知识产权局官网在2025-10-31发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202211438816.3,技术领域涉及:G08G1/07;该发明授权一种基于强化学习的区域交通信号配时方法及系统是由王海泉;费云帆设计研发完成,并于2022-11-17向国家知识产权局提交的专利申请。
本一种基于强化学习的区域交通信号配时方法及系统在说明书摘要公布了:本发明涉及一种基于强化学习的区域交通信号配时方法及系统,属于交通信号配时处理技术领域。本发明在对区域交通环境数据和车辆轨迹数据进行数据抽取得到路口和信号灯构成元素后,基于路口和信号灯构成元素确定区域交通信号配时任务,然后,基于区域交通信号配时任务构建区域交通等待模型,最后,采用多智能体强化学习算法学习训练区域交通等待模型,结合优化后的基于策略的NAC算法完成区域中各智能体策略的协调优化过程,并引入RNN循环神经网络对协调优化过程中产生的优化协调结果进行处理得到区域交通信号配时方案,进而解决现有交通信号配时过程中存在的维度灾难问题。
本发明授权一种基于强化学习的区域交通信号配时方法及系统在权利要求书中公布了:1.一种基于强化学习的区域交通信号配时方法,其特征在于,包括: S1:对区域交通环境数据和车辆轨迹数据进行数据抽取得到路口和信号灯构成元素; S2:基于所述路口和信号灯构成元素确定区域交通信号配时任务; S3:基于所述区域交通信号配时任务构建区域交通等待模型; S4:采用多智能体强化学习算法学习训练所述区域交通等待模型,结合优化后的基于策略的NAC算法完成区域中各智能体策略的协调优化过程,并引入RNN循环神经网络对协调优化过程中产生的优化协调结果进行处理得到区域交通信号配时方案,包括: S41:设计多智能体的基础要素;所述基础要素包括:状态、动作和奖励; S42:基于所述多智能体的基础要素设置多智能体协同优化模型;基于步骤S41设计的智能体的状态、动作和奖励,算法完成区域内多智能体的协同优化过程:区域内共有N个智能体,每个智能体均有与之对应的状态到动作空间的映射,即为N个策略函数;智能体收到来自其他智能体的状态信息,根据策略函数选择动作输出,将自身状态传给环境并获得来自环境反馈的奖励;每个智能体只获得了局部的环境状态信息,即与该智能体所在路口相邻的状态信息,并没有收获全局的状态;因此,多智能体强化学习算法将通过智能体互相之间的通信交互和更新,使得多个智能体能够根据区域全局的状态获取彼此的时空状态特征,调整自身的策略函数,实现区域路口的协同优化,完成区域全局的奖励的最大化; S43:采用所述多智能体协同优化模型对区域中各路口车道的状态信息进行更新; S44:对更新后的各路口车道的状态信息进行聚合得到聚合状态信息; S45:采用注意力机制筛选所述聚合状态信息得到筛选状态信息;其中,引入注意力机制来整合区域空间内的重要状态信息,通过注意力机制将与当前智能体的策略选择有重要交互影响的智能体状态信息筛选出来;对任意两个节点间的注意力系数的计算过程为:计算两者的乘积作为节点之间的相似性,并对结果使用softmax函数进行归一化处理,得到权重系数;将权重系数与各自节点的值加权并求和,获得注意力系数; S46:采用优化后的基于策略的NAC算法根据所述筛选状态信息生成策略函数;所述策略函数为状态集合到动作集合的映射;所述NAC算法包括:Actor网络和Critic网络; S47:将所述策略函数输入至RNN循环神经网络得到所述区域交通信号配时方案; 将步骤S3建立的区域交通等待模型载入城市交通仿真软件中,根据步骤S3和步骤S4的设计与实现过程,基于环境中的各个路口设置智能体,随机初始化每个智能体的Actor网络、Critic网络、目标网络和记忆存储区;在初始化之后,进入小循环,使用智能体的初始状态,根据当前的策略选择动作,策略函数中引入噪声G,以平衡强化学习中智能体的探索和利用行为。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人北京航空航天大学,其通讯地址为:100191 北京市海淀区学院路37号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励