环球数科股份有限公司张卫平获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉环球数科股份有限公司申请的专利一种实时监测并干预大模型生成幻觉内容系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119357759B 。
龙图腾网通过国家知识产权局官网在2025-06-27发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411959501.2,技术领域涉及:G06F18/24;该发明授权一种实时监测并干预大模型生成幻觉内容系统是由张卫平;刘安;陈静婷;李玲;钟楚炯;李显阔;刘资媛设计研发完成,并于2024-12-30向国家知识产权局提交的专利申请。
本一种实时监测并干预大模型生成幻觉内容系统在说明书摘要公布了:本发明提供了一种实时监测并干预大模型生成幻觉内容系统,涉及电数字数据处理领域,包括大模型对接模块、输入解析模块、输出监测模块和干预修改模块,所述大模型对接模块用于与大模型系统进行数据对接,所述输入解析模块用于对大模型的输入信息进行内容解析,所述输出监测模块用于对大模型的输出内容进行幻觉监测,所述干预修改模块用于对幻觉内容进行修改调整;本系统先对大模型的输入提问进行分析,基于输入的内容类型确定容易出现的幻觉类型,大大缩小分析范围,再针对性地对输出内容进行检测分析,能够有效地提高幻觉检测的正确率。
本发明授权一种实时监测并干预大模型生成幻觉内容系统在权利要求书中公布了:1.一种实时监测并干预大模型生成幻觉内容系统,其特征在于,包括大模型对接模块、输入解析模块、输出监测模块和干预修改模块; 所述大模型对接模块用于与大模型系统进行数据对接,所述输入解析模块用于对大模型的输入信息进行内容解析,所述输出监测模块用于对大模型的输出内容进行幻觉监测,所述干预修改模块用于对幻觉内容进行修改调整; 所述大模型对接模块包括输入检测单元、输出截取单元和输出反馈单元,所述输入检测单元用于检测大模型的输入事件并获取输入内容,所述输出截取单元用于截取大模型的输出信息,所述输出反馈单元用于将实际输出信息反馈给大模型; 所述输入解析模块包括信息分类单元、幻觉映射单元和规则输出单元,所述信息分类单元用于对输入信息进行分类识别,所述幻觉映射单元用于对分类信息映射到幻觉类型,所述规则输出单元用于将幻觉的判断规则发送至输出监测模块;所述输入信息为文本信息; 所述输出监测模块包括内容管理单元、规则执行单元和结果输出单元,所述内容管理单元用于管理需要进行幻觉检测的数据内容,所述规则执行单元基于判断规则对数据内容进行判断分析,所述结果输出单元用于将判断结果发送至干预修改模块; 所述干预修改模块包括结果分流单元、幻觉修改单元和内容输出单元,所述结果分流单元用于对判断结果进行分流处理,所述幻觉修改单元用于对幻觉内容进行修改调整,所述内容输出单元用于将最终的内容信息发送给输出反馈单元。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人环球数科股份有限公司,其通讯地址为:518063 广东省深圳市南山区粤海街道高新南九道10号深圳湾科技生态园10栋B座17层01-03号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。