买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉北京信息科技大学申请的专利基于可解释性分析的DNN模型差分测试方法及系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN115879499B 。

龙图腾网通过国家知识产权局官网在2026-02-10发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202211648195.1，技术领域涉及：G06N3/04；该发明授权基于可解释性分析的DNN模型差分测试方法及系统是由谢瑞麟;崔展齐;李莉设计研发完成，并于2022-12-21向国家知识产权局提交的专利申请。

本基于可解释性分析的DNN模型差分测试方法及系统在说明书摘要公布了：本发明公开了一种基于可解释性分析的DNN模型差分测试方法及系统，涉及缺陷模型检测技术领域，具体步骤为：步骤1、将待测模型集中每个DNN模型对测试用例集的预测行为，使用可解释性方法分析每个DNN模型行为，输出模型行为解释集；步骤2、基于模型行为解释集利用差异分析方法检测存在缺陷的DNN模型。本发明可提高检测缺陷模型的能力和时间效率，且可在单个模型之间比较行为差异，无需多次训练待测模型。

本发明授权基于可解释性分析的DNN模型差分测试方法及系统在权利要求书中公布了：1.一种基于可解释性分析的DNN模型差分测试方法，其特征在于，具体步骤为： 步骤1、将待测模型集中每个DNN模型对测试用例集的预测行为，使用可解释性方法分析每个DNN模型行为，输出模型行为解释集； 步骤2、基于模型行为解释集利用差异分析方法检测存在缺陷的DNN模型； 模型行为解释集的获取步骤为： 步骤1-1、获取待测模型集与测试用例集，待测模型集由多个具有相同功能的待测DNN模型组成； 步骤1-2、将测试用例集分别输入每个待测DNN模型； 步骤1-3、在每个待测DNN模型对输入的测试用例集进行预测时收集每个待测DNN模型内部信息； 步骤1-4、根据收集的每个待测DNN模型内部信息对每个待测DNN模型的预测行为进行解释； 步骤1-5、将每个待测DNN模型的行为解释合并为模型行为解释集并输出； 检测DNN模型是否存在缺陷的具体步骤为： 步骤2-1、将所有待测DNN的行为解释输入差异分析方法； 步骤2-2、差异分析方法将行为解释两两配对以比较两个模型行为解释之间的差异； 步骤2-3、将一对行为解释使用显著性差异检验方法分析其显著性差异； 步骤2-4、重复步骤2-3直到所有待测模型的行为解释都与其他模型的行为解释进行了差异分析； 步骤2-5、统计所有模型行为解释的差异性分析结果； 步骤2-6、计算在所有待测模型中具有最大行为解释差异的模型，将其视为缺陷模型并输出测试报告； 显著性差异的计算公式为： 2； 式中，和分别为待比较DNN模型ma和mb的行为解释；为使用显著性差异检验方法计算模型行为解释和的差异置信度值。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人北京信息科技大学，其通讯地址为：100192 北京市海淀区清河小营东路12号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。