买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉浙江蚂蚁密算科技有限公司申请的专利一种大模型推理过程检测方法、装置、介质及设备获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120541230B 。

龙图腾网通过国家知识产权局官网在2026-02-03发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202511037213.6，技术领域涉及：G06F16/353；该发明授权一种大模型推理过程检测方法、装置、介质及设备是由韦韬;刘焱;郑伊静;仲震宇;陈达;薛见新;胡钺琳设计研发完成，并于2025-07-25向国家知识产权局提交的专利申请。

本一种大模型推理过程检测方法、装置、介质及设备在说明书摘要公布了：本说明书实施例公开了一种大模型输出结果检测方法，该方法将基于标注有输出结果是否正确的训练样本，以及确定待检测的大模型LLM在推理过程中神经元的激活状态，得到输出结果的正确与否与神经元激活状态之间的关系，用以训练一个检测分类器，则在待检测的LLM执行任务输入数据时，获取神经元的激活状态，通过检测分类器检测LLM输出结果的正确性，即是否出现“幻觉”。该方法通过将LLM神经元的激活状态与LLM出现幻觉之间的关系联系起来，以此来识别LLM是否出现幻觉，不用关注LLM推理过程和输出结果，从模型底层识别LLM是否出现幻觉。

本发明授权一种大模型推理过程检测方法、装置、介质及设备在权利要求书中公布了：1.一种大模型输出结果检测方法，所述方法包括： 获取用于训练大模型的训练样本，所述训练样本为自然语言描述的文本，所述训练样本包含模型输出结果是否正确的标注，所述训练样本是筛选分类器基于通用样本在待检测大模型中神经元的激活状态，确定出的在所述待检测大模型上引发幻觉的通用样本，所述通用样本包含模型输出结果是否正确的标注，所述筛选分类器是基于所述通用样本在通用大模型中神经元的激活状态和所述通用样本的标注训练得到的； 确定基于输入所述训练样本，所述待检测的大模型中神经元的激活状态，作为所述训练样本对应的激活状态，所述神经元的激活状态包括各神经元是否被激活； 以所述训练样本对应的激活状态为输入，所述输出结果是否正确的标注，训练检测分类器； 响应于用户执行业务时输入所述待检测的大模型的文本，确定所述待检测的大模型得到输出结果时神经元的激活状态，作为检测数据，将所述检测数据输入所述检测分类器，确定所述输出结果的正确性，并当确定输出结果为正确时，基于输出结果继续执行业务，否则向所述用户反馈修改输入文本的要求，以所述检测分类器的输出结果控制是否执行业务流程。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人浙江蚂蚁密算科技有限公司，其通讯地址为：310013 浙江省杭州市西湖区西溪路543号-569号(单号连续)1幢2号楼5层508室；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。