买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉北京华弘数科技术有限公司申请的专利一种加速大模型推理任务的异构智能算力优化管理调度系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120743517B 。

龙图腾网通过国家知识产权局官网在2026-02-03发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510849880.8，技术领域涉及：G06F9/50；该发明授权一种加速大模型推理任务的异构智能算力优化管理调度系统是由罗华;朱小清;凌铭;文明伟设计研发完成，并于2025-06-24向国家知识产权局提交的专利申请。

本一种加速大模型推理任务的异构智能算力优化管理调度系统在说明书摘要公布了：本发明公开了一种加速大模型推理任务的异构智能算力优化管理调度系统，涉及算力优化管理调度技术领域，本发明通过异构算子级调度重构算力管理范式，动态尺寸块划分与梯度突变检测协同作用，将长序列场景下显存碎片化问题转化为可控的块迁移任务，突破传统显存交换机制的性能瓶颈；基于硬件能力指纹库的算子级调度策略，使位置编码等计算密集型任务精准匹配向量指令集硬件，消除黑盒调度带来的资源错配损耗；整数化路由与计数排序算法重构专家选择流程，在指令集受限节点实现近无损推理，激活老旧算力池的潜在价值。

本发明授权一种加速大模型推理任务的异构智能算力优化管理调度系统在权利要求书中公布了：1.一种加速大模型推理任务的异构智能算力优化管理调度系统，其特征在于，包括， 异构算子感知模块，通过编译期注入的轻量级探针实时解析大模型计算图，识别位置编码计算任务、状态记忆算子及非线性激活函数中的至少一类异构敏感算子； 动态硬件匹配引擎，基于预构建的硬件能力指纹库，将位置编码计算任务分配至支持向量指令集的CPU集群，状态记忆算子分配至具备高带宽显存的GPU算力节点； 碎片化显存管理单元，将Attention键值缓存拆分为动态尺寸块并建立与主机内存的直连映射通道； 突发流量响应模块，包含部署于边缘节点的轻量容器池及模态密度分析器； 路由优化模块，包含整数化路由代理子单元及排序加速子单元； 流水线协调单元，配置双缓冲中间结果存储区及延迟响应机制； 所述动态尺寸块的调整策略为： 当序列长度≤64Ktokens时采用64KB固定块； 当序列长度＞64Ktokens时动态计算块尺寸； 所述动态尺寸块的调整策略中，序列长度大于64Ktokens时进行动态尺寸块计算，流程包括： 在监测到序列长度满足时，计算序列膨胀因子， 其中，为当前序列长度，单位token，为基准阈值，单位token，为序列膨胀因子，无量纲； 基于膨胀因子动态更新目标块数量，更新公式为： ， 其中，为目标块数量，单位块，为基准块数量，1024块，为块密度调节指数，无量纲； 按目标块数量推导未对齐的初始块尺寸： ， 其中，为初始块尺寸，单位为字节，为单token键值缓存占用字节数，bytetoken，取决于隐藏维度与数据类型，表示键值对缓存的下标标识； 执行裁剪： ， 其中，为裁剪后块尺寸，单位为字节，为最小允许块尺寸，取16KB，为最大允许块尺寸，取256KB； 按照页对齐规则得到最终动态块尺寸： ， 其中，为对齐后的块尺寸，单位字节，为对齐页大小，4096字节； 块密度调节指数由显存带宽自适应映射，表示为： ， 其中，为斜率调节系数，为当前GPU有效显存带宽，单位GBs，为带宽基准值，900GBs。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人北京华弘数科技术有限公司，其通讯地址为：100085 北京市海淀区上地西路6号1幢6层601；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。