买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉武汉大学申请的专利基于混合并行的移动端LLM异构调度方法及系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120893587B 。

龙图腾网通过国家知识产权局官网在2026-01-06发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202511417188.4，技术领域涉及：G06N5/04；该发明授权基于混合并行的移动端LLM异构调度方法及系统是由杨丰硕;李清安;何宇昕设计研发完成，并于2025-09-30向国家知识产权局提交的专利申请。

本基于混合并行的移动端LLM异构调度方法及系统在说明书摘要公布了：本发明公开一种基于混合并行的移动端LLM异构调度方法，包括：获取调度计划；根据获取的调度计划，基于离线变换后的大语言模型LLM执行模型推理；其中，大语言模型LLM的离线变换，包括：预执行基准测试任务，确定移动端异构计算设备的算力比；提取大语言模型LLM的静态信息，结合确定的算力比，制定混合并行策略，将大语言模型LLM划分为多个计算块；为每个计算块设置同步点，整合计算结果，完成大语言模型LLM的原始计算图到混合并行计算图的离线变换。本发明通过将混合并行的策略应用到移动端异构的场景中，提升了LLM在手机移动端的推理性能，解决了现有推理框架计算设备使用不够充分与异构设备之间的不平衡等问题。

本发明授权基于混合并行的移动端LLM异构调度方法及系统在权利要求书中公布了：1.基于混合并行的移动端LLM异构调度方法，其特征在于，包括： 获取调度计划； 根据获取的调度计划，基于离线变换后的大语言模型LLM执行模型推理；其中，大语言模型LLM的离线变换，包括： 预执行基准测试任务，确定移动端异构计算设备的算力比； 提取大语言模型LLM的静态信息，结合确定的算力比，制定混合并行策略，将大语言模型LLM划分为多个计算块；其中，制定混合并行策略，包括：多头注意力MHA输入投影块：将查询Q、键K、值V的权重矩阵按照注意力头数并给予算力比进行切分，每个计算设备对应切分的一份并执行相应的通用矩阵乘；多头注意力MHA注意力块：将输入投影块中所得的查询Q、键K、值V的结果合并，并进行归一化指数函数计算；多头注意力MHA输出投影块：将输出权重矩阵按照注意力头数并给予算力比进行切分，每个计算设备对应切分的一份并执行相应的通用矩阵乘；多层感知机MLP块：分别将升维矩阵和降维矩阵按照列和行的维度进行切分，每个计算设备被分配后执行各自的通用矩阵乘和激活函数计算；多头注意力MHA输入前、多层感知机MLP输出后以及多头注意力MHA与多层感知机MLP交界处的部分：采取序列级并行，根据设备算力比，按照序列维度进行划分，每个设备分别执行各自的层归一化和残差连接计算； 为每个计算块设置同步点，整合计算结果，完成大语言模型LLM的原始计算图到混合并行计算图的离线变换。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人武汉大学，其通讯地址为：430072 湖北省武汉市武昌区八一路299号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。