买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉苏州元脑智能科技有限公司申请的专利模型推理控制方法、设备、介质及产品获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN121562839B 。

龙图腾网通过国家知识产权局官网在2026-04-10发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202610098495.9，技术领域涉及：G06N5/04；该发明授权模型推理控制方法、设备、介质及产品是由陈曦;王青设计研发完成，并于2026-01-23向国家知识产权局提交的专利申请。

本模型推理控制方法、设备、介质及产品在说明书摘要公布了：本申请公开了一种模型推理控制方法、设备、介质及产品，涉及人工智能技术领域，包括获取预训练语言模型推理过程中词元的概率分布序列，其中，该概率分布序列包括当前推理步骤中词元的当前概率分布以及历史推理步骤中词元的历史概率分布；从中提取当前概率分布和历史概率分布，识别预先设置的目标词元在当前步骤的当前排名以及在历史步骤的历史排名，并根据二者生成排名序列；依据排名序列和预先设置的推理中止阈值定位预训练语言模型的中止推理步骤，并基于该中止推理步骤控制预训练语言模型的推理过程，解决了相关技术中无法精准识别收敛临界点，导致过度思考与计算浪费的技术问题，达到了减少冗余思考、降低计算开销的技术效果。

本发明授权模型推理控制方法、设备、介质及产品在权利要求书中公布了：1.一种模型推理控制方法，其特征在于，包括： 获取预训练语言模型推理过程中词元的概率分布序列，其中，所述的概率分布序列包括所述预训练语言模型在当前推理步骤中词元的当前概率分布、以及所述预训练语言模型在历史推理步骤中词元的历史概率分布；在获取预训练语言模型推理过程中词元的概率分布序列之前，还包括：获取所述当前推理步骤输出的词元文本；提取所述词元文本中词元的总数量和词元列表；从所述词元列表中获取相同词元的数量，根据所述相同词元的数量和所述词元总数量计算对应词元的当前概率值；根据词元的当前概率值生成所述当前概率分布； 从所述概率分布序列提取所述当前概率分布和历史概率分布，从所述当前概率分布中识别预先设置的目标词元的当前排名，从所述历史概率分布中识别所述目标词元的历史排名，根据所述当前排名和所述历史排名生成排名序列； 根据所述排名序列和预先设置的推理中止阈值定位所述预训练语言模型的中止推理步骤，若所述当前推理步骤是所述中止推理步骤，则生成中止推理指令，基于所述中止推理指令控制所述预训练语言模型的中止推理，若所述当前推理步骤不是所述中止推理步骤，则生成继续推理指令，基于所述继续推理指令控制所述预训练语言模型的继续推理。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人苏州元脑智能科技有限公司，其通讯地址为：215000 江苏省苏州市吴中经济开发区综保区经一路1号8幢；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。