买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉山东海量信息技术研究院申请的专利推理请求任务处理方法、装置、设备、介质、产品及异构系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN121233344B 。

龙图腾网通过国家知识产权局官网在2026-02-03发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202511794807.1，技术领域涉及：G06F9/50；该发明授权推理请求任务处理方法、装置、设备、介质、产品及异构系统是由唐轶男;郭振华;李仁刚;赵雅倩;王丽;曹芳;高开;王立设计研发完成，并于2025-12-02向国家知识产权局提交的专利申请。

本推理请求任务处理方法、装置、设备、介质、产品及异构系统在说明书摘要公布了：本发明公开一种推理请求任务处理方法、装置、设备、介质、产品及异构系统，涉及人工智能技术领域。其中，方法包括获取各推理请求任务对应的推理任务信息及异构计算系统的算力资源信息；根据推理任务信息和算力资源信息，基于在满足各任务处理要求信息下达到各推理请求任务的处理成本最低的条件，确定执行各推理请求任务的预填充阶段和解码阶段的目标计算设备及对应的任务启动时间；将任务分配结果作为任务分配请求发送至异构计算系统，各目标计算设备按照任务分配请求的任务启动时间执行相应的任务。本发明可以解决相关技术难以同时兼顾任务处理请求和执行成本低的问题，在满足任务处理要求下，按照成本尽可能低的方式为各推理任务分配计算设备。

本发明授权推理请求任务处理方法、装置、设备、介质、产品及异构系统在权利要求书中公布了：1.一种推理请求任务处理方法，其特征在于，包括： 获取各推理请求任务分别在预填充阶段和解码阶段所需计算量，以作为资源需求信息，获取各推理请求任务对应的任务执行最长时间，并根据各推理请求任务对应的用户等级确定相应的请求优先级，将各推理请求任务对应的任务执行最长时间和各请求优先级作为任务处理要求信息，以得到各推理请求任务对应的推理任务信息； 获取执行各推理请求任务的异构计算系统的算力资源信息；其中，所述算力资源信息包括异构计算系统的各计算设备的计算能力和执行成本； 根据所述推理任务信息和所述算力资源信息，基于在满足各任务处理要求信息下达到各推理请求任务的处理成本最低的条件，确定执行各推理请求任务的预填充阶段和解码阶段的目标计算设备及对应的任务启动时间，以得到任务分配结果； 将所述任务分配结果作为任务分配请求发送至所述异构计算系统，以使各目标计算设备按照所述任务分配请求的任务启动时间执行相应的任务； 其中，确定执行各推理请求任务的预填充阶段和解码阶段的目标计算设备及对应的任务启动时间，包括： 确定各推理请求任务分别利用各计算设备进行处理所需的执行时间和执行成本； 按照任务处理要求信息为相应推理请求任务确定执行各自预填充阶段和解码阶段的计算设备和任务启动时间，并基于各推理请求任务的执行成本最低、执行时间不超过对应任务执行最长时间且各计算设备不超载的选择条件，确定初始分配结果； 通过调整所述初始分配结果中的各推理请求任务的计算设备和或任务启动时间，得到多个候选分配结果；从所述初始分配结果和各候选分配结果中，选择在满足各任务处理要求信息下达到各推理请求任务的处理成本均最低的分配结果。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人山东海量信息技术研究院，其通讯地址为：250000 山东省济南市高新技术开发区国家信息通信国际创新园；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。