买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉杭州高新区(滨江)区块链与数据安全研究院申请的专利AI大模型安全评测方法、装置、电子设备和程序产品获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120832676B 。

龙图腾网通过国家知识产权局官网在2026-02-24发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202511336717.8，技术领域涉及：G06F21/57；该发明授权AI大模型安全评测方法、装置、电子设备和程序产品是由王海涛;王庆龙;巴钟杰;任奎设计研发完成，并于2025-09-18向国家知识产权局提交的专利申请。

本AI大模型安全评测方法、装置、电子设备和程序产品在说明书摘要公布了：本申请涉及人工智能技术领域，提出一种AI大模型安全评测方法、装置、电子设备和计算机程序产品。该方法包括：获取由待测AI大模型基于风险问题文本输出的待测回复文本；从多个评测AI大模型中，选取与待测回复文本所属的第一风险维度适配的第一评测AI大模型；通过第一评测AI大模型对待测回复文本进行预测，输出待测回复文本的第一预测风险标签。该方法通过为不同风险维度的待测回复文本定向分配最适配的评测AI大模型，能够实现风险维度与模型能力的定向匹配，让在特定风险维度表现更优异的评测AI大模型专门处理对应风险维度的评测任务，最终实现了评测效率、评测准确率以及评测成本的兼顾。

本发明授权AI大模型安全评测方法、装置、电子设备和程序产品在权利要求书中公布了：1.一种AI大模型安全评测方法，其特征在于，包括： 获取由待测AI大模型基于风险问题文本输出的待测回复文本； 将所述待测回复文本输入至已训练的路由模型进行处理，通过所述路由模型输出多个评测AI大模型中的每个所述评测AI大模型与所述待测回复文本的适配度权重； 从所述多个评测AI大模型中，选取与所述待测回复文本的适配度权重最高的评测AI大模型，作为与所述待测回复文本所属的第一风险维度适配的第一评测AI大模型； 通过所述第一评测AI大模型对所述待测回复文本进行预测，输出所述待测回复文本的第一预测风险标签； 所述路由模型的训练数据集通过以下方式构建： 获取样本文本数据集、专家标签数据集、模型预测结果数据集以及模型预测不确定性分数数据集；其中，所述样本文本数据集包括覆盖多个预设风险维度的多条样本回复文本，所述多个预设风险维度被划分至多个不同的风险等级，不同的所述风险等级对应不同的风险系数，每条所述样本回复文本根据各自所属的所述预设风险维度分别确定各自对应的所述风险等级； 分别统计每个所述评测AI大模型的接口调用成本和专家标注成本； 根据所述样本文本数据集、所述专家标签数据集、所述模型预测结果数据集、所述模型预测不确定性分数数据集，以及每个所述评测AI大模型的接口调用成本和专家标注成本，构建所述训练数据集；所述路由模型在训练过程中的目标函数用于在约束整体误差的情况下最小化标注总成本，所述标注总成本包括所述接口调用成本和所述专家标注成本，所述目标函数引入所述风险系数作为误差控制系数。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人杭州高新区(滨江)区块链与数据安全研究院，其通讯地址为：310051 浙江省杭州市滨江区物联网孵化器大楼2号楼A楼4-7层；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。