中国科学技术大学白有辉获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉中国科学技术大学申请的专利动态路由混合专家模型的推理方法、系统、设备及介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120996216B 。
龙图腾网通过国家知识产权局官网在2026-03-31发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202511537028.3,技术领域涉及:G06N5/043;该发明授权动态路由混合专家模型的推理方法、系统、设备及介质是由白有辉;傅申;金泽文;唐承捷;方驰正;李诚设计研发完成,并于2025-10-27向国家知识产权局提交的专利申请。
本动态路由混合专家模型的推理方法、系统、设备及介质在说明书摘要公布了:本发明公开了一种动态路由混合专家模型的推理方法、系统、设备及介质,它们是相对应的方案,方案中:通过自动化的并行策略搜索,本发明能将模型切分为运行时间均衡的流水线阶段,减少计算单元的空闲率,进而有效地提升计算单元的执行效率;并且,本发明的自动化搜索过程通过细粒度的并行策略划分,能够在满足内存限制的情况下尽可能降低最大的流水线阶段运行时间,从而提高模型的推理性能。
本发明授权动态路由混合专家模型的推理方法、系统、设备及介质在权利要求书中公布了:1.一种动态路由混合专家模型的推理方法,所述动态路由混合专家模型包括多个变换器层,每一变换器层均包括依次设置的注意力模块与采用动态路由策略的混合专家模块,所述动态路由策略对不同的输入词元激活不同数量的专家网络数量,其特征在于,包括: 将所述动态路由混合专家模型中各变换器层包含的模块作为基本单元,组成待划分的模块序列;其中,所述模块包含注意力模块与混合专家模块; 在待划分的模块序列中,根据不同流水线划分方式下采用不同并行策略时,各模块的运行时间及内存用量,搜索出满足预设内存限制,且所有流水线阶段中的最大运行时间取最小值时,对应的流水线划分方式及对应的并行策略; 利用搜索到的流水线划分方式及对应的并行策略控制所述动态路由混合专家模型进行并行推理。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人中国科学技术大学,其通讯地址为:230026 安徽省合肥市包河区金寨路96号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励