缀初网络技术(上海)有限公司张青青获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉缀初网络技术(上海)有限公司申请的专利基于强化学习在云游戏多开场景的资源优化方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN115845362B 。
龙图腾网通过国家知识产权局官网在2025-11-25发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202211495932.9,技术领域涉及:A63F13/35;该发明授权基于强化学习在云游戏多开场景的资源优化方法是由张青青;李星星;叶敬福;谢晋设计研发完成,并于2022-11-24向国家知识产权局提交的专利申请。
本基于强化学习在云游戏多开场景的资源优化方法在说明书摘要公布了:本发明公开了一种基于强化学习在云游戏多开场景的资源优化方法,包括:收集游戏启动数据、游戏运行数据和云端监控数据,基于所有数据构建游戏特征序列集,并对游戏运行数据进行序列化得到带宽样本序列;利用LSTM和带宽样本序列构建带宽预测模型,基于带宽预测模型获取带宽预测数据;基于DQN算法构建强化学习网络,利用游戏特征序列集和带宽样本序列对强化学习网络进行训练得到游戏决策网络模型,所述强化学习网络包括结构相同的train_网络和target_网络;在线采集对应数据并输入游戏决策网络模型,游戏决策网络模型输出的奖励序列中奖励最大的游戏ID即为当前最优启动游戏决策。本发明能降低游戏多开等场景的故障率。
本发明授权基于强化学习在云游戏多开场景的资源优化方法在权利要求书中公布了:1.一种基于强化学习在云游戏多开场景的资源优化方法,其特征在于,包括如下步骤: S1,收集游戏启动数据、游戏运行数据和云端监控数据,基于所有数据构建游戏特征序列集,并对游戏运行数据进行序列化得到带宽样本序列; S2,利用LSTM和带宽样本序列构建带宽预测模型,基于带宽预测模型获取带宽预测数据; S3,基于DQN算法构建强化学习网络,利用游戏特征序列集和带宽样本序列对强化学习网络进行训练得到游戏决策网络模型,所述强化学习网络包括结构相同的train_网络和target_网络; S4,在线采集对应数据并输入游戏决策网络模型,游戏决策网络模型输出的奖励序列中奖励最大的游戏ID即为当前最优启动游戏决策; 所述带宽预测模型的网络结构包括依次连接的第一LSTM、第二LSTM、第三LSTM、Dropout层以及全连接层,所述train_网络和target_网络的结构包括第一全连接层、第二全连接层和第三全连接层; 所述步骤S3包括如下步骤: S3.1,根据游戏特征序列集和带宽样本序列定义游戏切入前状态样本序列、游戏切入后状态样本序列以及动作样本序列,并同步定义奖励函数,根据奖励函数获取游戏切入后状态样本序列所对应的奖励样本序列; S3.2,设置迭代轮次及参数更新周期,并初始化训练轮次; S3.3,从步骤S3.1中得到的所有样本序列中随机抽取条数据,分别标记为游戏切入前状态抽样序列、游戏切入后状态抽样序列、动作抽样序列及奖励抽样序列; S3.4,将游戏切入前状态抽样序列输入target_网络得到奖励第一预估序列; S3.5,从[0,1]中随机抽样一个随机数,若,则对奖励抽样序列中的每个奖励进行更新; S3.6,将更新后的奖励抽样序列、动作抽样序列和游戏切入前状态抽样序列输入train_网络进行训练得到游戏决策网络模型,同时对模型的损失函数进行更新; S3.7,判断,如果是,输出游戏决策网络模型并执行步骤S4,否则,执行步骤S3.8; S3.8,判断,如果是,将train_网络中的参数复制到target_网络中,执行,并返回S3.3,否则,执行,并返回S3.3; 在步骤S3.1中,所述奖励函数的表达式为: ; 式中,表示切入游戏id后24小时设备cpu最高使用率大于90%或者切入游戏id后24小时设备gpu最高使用率大于90%或者切入游戏id后24小时设备网络带宽最高使用率大于90%时的奖励,表示切入游戏id后24小时设备cpu最高使用率出现100%或者切入游戏id后24小时设备gpu最高使用率出现100%或者切入游戏id后24小时设备gpu最高使用率出现100%时的奖励,表示设备的cpu、gpu、网卡有100%负载状态并产生硬件故障时的奖励,表示云端95带宽使用率降低到小于40%时的奖励,表示正常游戏场景下的奖励; 在步骤S3.5中,所述对奖励抽样序列中的每个奖励进行更新的表达式为: ; 式中,表示奖励抽样序列中的第个元素,表示奖励第一预估序列中的第个元素,表示时间差分因子。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人缀初网络技术(上海)有限公司,其通讯地址为:201203 上海市浦东新区自由贸易试验区博云路2号801室;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励