吉林大学杨博获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉吉林大学申请的专利一种基于混合专家机制的遥感多模态推理方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120996211B 。
龙图腾网通过国家知识产权局官网在2026-01-02发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202511516178.6,技术领域涉及:G06N5/04;该发明授权一种基于混合专家机制的遥感多模态推理方法是由杨博;付荣昊;刘佳奇;杨潇;孙朗;刘浩然;那旭;张潍鹏;段卓然设计研发完成,并于2025-10-23向国家知识产权局提交的专利申请。
本一种基于混合专家机制的遥感多模态推理方法在说明书摘要公布了:本发明适用于遥感技术领域,提供了一种基于混合专家机制的遥感多模态推理方法,包括以下步骤:构建混合专家增强的地理空间感知视觉语言基础模型;构建用于模型训练的遥感数据集,包括两个阶段:阶段I通过聚合跨任务的现有遥感数据集形成基础数据集,阶段II采用数据增强技术提升数据集多样性;采用双阶段训练策略,结合预训练初始化与稀疏化架构优化,同时设计包含自回归损失和辅助损失的总损失函数以训练模型。本发明通过混合专家机制适配任务需求,融合多模态特征,捕捉序列长程依赖关系,优化性能,构建多样化遥感数据集,促使模型区分全局与细节。本发明在提升遥感感知任务性能的同时,维持在推理任务上的强大性能。
本发明授权一种基于混合专家机制的遥感多模态推理方法在权利要求书中公布了:1.一种基于混合专家机制的遥感多模态推理方法,其特征在于,包括以下步骤: 模型构建:构建混合专家增强的地理空间感知视觉语言基础模型,所述视觉语言基础模型包含视觉编码器、视觉投影层、词嵌入层和基于混合专家模块的大语言模型,基于混合专家模块的大语言模型由多个堆叠的LLM块和混合专家层组成;其中,所述视觉编码器用于处理输入图像并生成视觉token序列;所述视觉投影层用于将视觉token的维度与LLM的隐藏尺寸对齐;所述词嵌入层用于生成文本token序列,实现多模态特征融合;所述基于混合专家模块的大语言模型通过混合专家层处理拼接后的视觉token序列和文本token序列,以增强模型的适应性和计算效率; 训练数据集构建:构建用于模型训练的遥感数据集,包括两个阶段:阶段I通过聚合跨任务的现有遥感数据集形成基础数据集,阶段II采用数据增强技术提升数据集多样性; 模型训练:采用双阶段训练策略,结合预训练初始化与稀疏化架构优化,同时设计包含自回归损失和辅助损失的总损失函数以训练模型; 所述双阶段训练策略中,阶段I使用预训练权重初始化网络并采用LoRA技术微调LLM的矩阵;阶段II引入混合专家架构,将模型转换为稀疏视觉语言模型,混合专家层与标准MLP层交错排列,具体为每隔一层用MoE层替换标准MLP层; 训练目标包括自回归损失和辅助损失,总损失函数为: ; 式中,为总损失函数;为自回归损失,自回归损失通过约束模型按顺序生成输出序列优化生成能力;为辅助损失,辅助损失通过平衡专家之间的token分配优化资源利用效率。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人吉林大学,其通讯地址为:130012 吉林省长春市前进大街2699号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励