买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉上海交通大学申请的专利一种实现人工智能黑盒模型精细决策逻辑与人类认知对齐程度评测算法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119150077B 。

龙图腾网通过国家知识产权局官网在2025-06-17发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411386656.1，技术领域涉及：G06F18/24；该发明授权一种实现人工智能黑盒模型精细决策逻辑与人类认知对齐程度评测算法是由张拳石设计研发完成，并于2024-09-30向国家知识产权局提交的专利申请。

本一种实现人工智能黑盒模型精细决策逻辑与人类认知对齐程度评测算法在说明书摘要公布了：本申请涉及机器学习技术领域，公开了一种实现人工智能黑盒模型精细决策逻辑与人类认知对齐程度评测的方法和系统。该方法和系统可以通过分析模型所建模的交互分布,评测模型决策逻辑与人类认知的对齐程度。该方法和系统的实施包括以下步骤:提供输入样本；使用黑盒模型对输入样本进行预测，获得模型的预测结果；基于黑盒模型的输出,对样本的输入单元间的交互作用进行建模，计算输入单元间形成的组合的交互强度，将黑盒模型输出表达成输入单元组合间的“交互效用”；使用基于交互的评测指标，评测模型决策逻辑与人类认知的对齐程度。本发明的优点在于，提供了一种评测人工智能黑盒模型精细决策逻辑与人类认知对齐程度的量化方法，相比于前人研究，可以更好地刻画模型决策逻辑和人类认知的差异，反映模型潜在的表征缺陷。

本发明授权一种实现人工智能黑盒模型精细决策逻辑与人类认知对齐程度评测算法在权利要求书中公布了：1.一种实现人工智能黑盒模型精细决策逻辑与人类认知对齐程度评测的方法，其特征在于，所述方法包括以下步骤： 1提供黑盒人工智能模型； 提供一个待分析的黑盒人工智能模型，所述黑盒人工智能模型包括基于某一数据集上预先训练好的人工智能模型； 2选取输入样本并进行识别； 选取用于进行交互效用计算的输入样本，并对所述输入样本进行识别，从而将所述输入样本分解成n个输入单元，并将所述n个输入单元进行组合得到2n个所述输入单元的组合；所述输入样本选自下组：表格数据、图片、文本、语音或其组合； 3进行“交互效用”的计算并进行组合； 将所述步骤2中的2n个输入单元的组合分别输入所述黑盒人工智能模型，并获取所述黑盒人工智能模型的输出；基于所述黑盒人工智能模型的输出，对所述输入单元间的交互效用进行建模，从而获得所述黑盒人工智能模型对于每个所述输入单元的组合的“交互效用”；并将所述黑盒人工智能模型在某个输入单元组合上的输出解释为其在所述输入单元组合上的“交互效用”的组合；所述“交互效用”用于表示任意输入单元组合之间的交互对于每个模型的所对应的输出的贡献值； 4将“交互效用”进行粗划分； 根据每个输入单元与所述黑盒人工智能模型的输出在人类认知上是否相关，地将所有输入单元划分为“相关输入单元”、“非相关输入单元”； 5对所述相关输入单元进行细化分并进行进一步计算； 对所述相关输入单元进行二次划分，将所述非相关输入单元进一步的划分为“不相关输入单元”和“互斥单元”，并基于所述“相关输入单元”、“不相关输入单元”和“互斥单元”将所述步骤3中的所有输入单元的组合的“交互效用”划分为“交互效用的可靠分量”和“交互效用的不可靠分量”；所述交互效用的可靠分量表示与人类认知一致的交互效用，所述交互效用的不可靠分量表示与人类认知不一致的交互效用；所述“不相关输入单元”表示在人类认知上与模型输出弱相关的输入单元，或无直接因果关系的输入单元；所述“互斥单元”表示在人类认知逻辑上不影响模型输出的输入单元，或与模型输出在认知逻辑上相斥的输入单元； 6利用基于交互的评测指标，评测模型决策逻辑与人类认知的对齐程度； 根据预设的基于交互的评测指标，统计“交互效用的可靠分量”和“交互效用的不可靠分量”的比例，评测模型精细决策逻辑与人类认知的对齐程度； 其中，步骤1和步骤2的顺序可随意替换或同时进行。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人上海交通大学，其通讯地址为：200240 上海市闵行区东川路800号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。