天津大学张秀云获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉天津大学申请的专利基于可解释强化学习的飞行器姿态控制方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119717870B 。
龙图腾网通过国家知识产权局官网在2025-08-01发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411838505.5,技术领域涉及:G05D1/49;该发明授权基于可解释强化学习的飞行器姿态控制方法是由张秀云;冷嘉俊;刘达;贾晨辉设计研发完成,并于2024-12-13向国家知识产权局提交的专利申请。
本基于可解释强化学习的飞行器姿态控制方法在说明书摘要公布了:本发明属于强化学习、飞行器姿态控制技术领域,具体涉及基于可解释强化学习的飞行器姿态控制方法,首先,设计了一种具有强鲁棒性的飞行器姿态控制器,通过引入多通道控制网络并结合强化学习算法,控制器能够有效应对外界干扰和系统非线性带来的挑战,显著提高了飞行器控制系统的适应性和鲁棒性。其次,本发明提出了一种结合可视化分析的可解释性方法。通过使用t‑SNE算法对飞行器控制系统输入特征进行降维可视化,并结合SHAP值对输入特征进行归因分析,能够揭示模型决策过程中的关键因素,帮助理解飞行器控制系统如何根据不同输入特征做出决策。本发明实现了飞行器控制系统在复杂环境中的高适应性和透明度。
本发明授权基于可解释强化学习的飞行器姿态控制方法在权利要求书中公布了:1.基于可解释强化学习的飞行器姿态控制方法,其特征在于:包括以下步骤: 步骤1:建立面向飞行器姿态控制的马尔可夫决策模型,设计飞行器离线姿态控制器; 所述步骤1中,建立如下包括状态集、动作集、奖励函数、状态转移概率以及折扣因子在内的马尔科夫模型; 所述状态集:将飞行器利用传感器获得的三通道姿态误差、姿态角、姿态角速度作为状态,则状态集S定义为:S={e1,Θ,ω};其中,Θ=[α,β,σ]T为三通道姿态角,其中α为攻角,β为侧滑角,σ为倾侧角,ω=[p,q,r]T分别为滚转、俯仰及偏航三个通道角速度,e1=Θ-Θd为飞行器姿态跟踪误差; 所述动作集:考虑飞行器稳定跟踪控制需求,基于飞行器姿态控制模型,所述动作集包含飞行器三方向控制舵偏,进而控制网络动作集Ac定义为:其中δψ,δγ分别为俯仰、偏航、滚转方向的控制舵偏; 所述奖励函数,建立奖惩机制,包括: 当前姿态和期望姿态之间的误差:其中,e1i代表滚转、俯仰、偏航三个方向的姿态跟踪误差; 舵偏平滑奖励: 式中,X是输入的三维数组,有n个样本和m个维度,Rsmooth越小表示数据的平滑度越高; 动态性能:如下式所示:式中,对三个方向的超调量进行定义,αd,βd,σd为三个方向的期望姿态,将三个方向的超调量取平均,得到总的超调量:调节时间定义为序列首次进入2%误差带并始终保持在其中的时间,如下式所示:对三个方向的调节时间进行定义,将三个方向的调节时间取平均,得到总调节时间:动态性能奖励定义为:RD=-0.05·OSavg-0.1Tset;综合上述三种指标,飞行器单步决策奖励值R为: R=Re+Rsmooth+RD; 所述状态转移概率:对于飞行器姿态控制问题,将飞行器的姿态控制模型作为状态转移函数;即在环境状态S下,执行动作A后到达下一时刻状态S′的概率; 折扣因子:折扣因子γ表示未来收益值相对于当前收益值的重要程度;当γ=0时,相当于只考虑当前收益不考虑未来收益,γ=1时,将未来收益和当前收益看得同等重要; 通过对飞行器控制马尔科夫模型的定义,飞行器控制过程可重新描述为:针对飞行器在t时刻基于传感器获得的飞行器姿态角及角速度等组成的状态集st,根据设计的立即收益值Rit,在收益最高的前提下确定对应最优的动作Act,并与环境交互,由状态转移函数获得下一时刻的飞行器状态st+1,重复该过程直到达成形成期望的稳定跟踪控制的目标; 步骤2:根据训练好的马尔可夫决策模型,基于t-SNE算法进行可视化分析,实现飞行器强化学习神经网络控制器学习性能的直观表示; 步骤3:基于SHAP值特征分析,完成飞行器强化学习控制器中多个隐藏层对网络输出的影响程序的梳理,实现飞行器神经网络模型的可解释性分析。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人天津大学,其通讯地址为:300072 天津市南开区卫津路92号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。