买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉杭州小满智算科技有限公司申请的专利一种面向大模型生成内容信息安全强化的系统及方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119558403B 。

龙图腾网通过国家知识产权局官网在2026-02-17发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411614584.1，技术领域涉及：G06N5/04；该发明授权一种面向大模型生成内容信息安全强化的系统及方法是由费杰设计研发完成，并于2024-11-13向国家知识产权局提交的专利申请。

本一种面向大模型生成内容信息安全强化的系统及方法在说明书摘要公布了：本发明公开了一种面向大模型生成内容信息安全强化的系统及方法，首先对大模型进行双向的LoRA微调技术和知识蒸馏技术，从幻觉和事实两个维度让大模型适应事实性输出任务；对微调后的大模型进行中间层表征在事实空间中的抽取，通过对比学习方法得到细粒度的幻觉种类到事实方向的不同映射；最后用于大模型的推理生成过程中，抽取大模型中间层的表示以判断潜在的幻觉类型，然后将学习到的不同幻觉对应的映射应用到推理过程的中间表示中，修正事实性表述，降低幻觉输出的概率，在预训练阶段和推理生成阶段，均对大模型进行了参数和生成内容的控制，在保障了大模型的具身生成能力的同时，极大程度的提高了大模型生成内容的事实性和可靠性。

本发明授权一种面向大模型生成内容信息安全强化的系统及方法在权利要求书中公布了：1.一种面向大模型生成内容信息安全强化的方法，其特征在于：应用于面向大模型生成内容信息安全强化的系统，包括双向微调模块、细粒度事实方向抽取模块、推理时事实方向编辑模块； 所述双向微调模块单向连接细粒度事实方向抽取模块，细粒度事实方向抽取模块单向连接推理时事实方向编辑模块； 所述双向微调模块用于关键词抽取，包括对关键词抽取样本进行微调训练和自我蒸馏增强事实性输出； 所述细粒度事实方向抽取模块包括对微调得到的模型进行预处理的细粒度事实方向抽取，所述细粒度事实方向抽取是对大模型回答中的幻觉进行细粒度划分，抽取隐藏层表征映射到事实空间； 所述推理时事实方向编辑模块对推理过程进行差异化编辑，修正其事实性表述； 所述方法包括以下步骤： 步骤A：根据数据集中大模型回答进行分类，构建对应的幻觉回答数据集和事实回答数据集； 步骤B：对于来自幻觉回答的数据进行幻觉层面的LoRA微调，从幻觉样本中学习到对事实性表达有用的知识； 步骤C：针对大模型较前层和成熟层对事实信息的不一致关注程度，采用自我蒸馏的方法利用事实回答数据集激发大模型，并让大模型进行前后层的蒸馏，前后层事实表征趋于一致； 步骤D：利用已有训练大模型，对幻觉样本进行更细粒度分类，激发大模型内部表征后抽取对应种类的事实方向； 具体包括： 所述数据集利用人工再次核查并对幻觉回答进行细粒度划分，根据幻觉种类分为实体类幻觉、关系类幻觉、句子类幻觉和不可验证幻觉； 将划分的数据集用于大模型的激活，在大模型各层进行内部表征抽取； 将内部表征通过事实编码器和语义编码器分别映射到事实空间和语义空间，避免方向抽取时语义信息的干扰； 最大化事实和细粒度幻觉之间的差异，通过最大化以下公式其中差异用sim相似度来计算,X+是事实样本集，是第i类幻觉样本集；避免不同幻觉种类过分靠拢，通过以下函数来实现，不同的幻觉种类之间相互推离； 综合Ltrue‑hall和Lhall‑hall，总体的事实损失函数为Ltruth＝Ltrue‑hall+λLhall‑hall，其中λ是超参数，最小化此函数为后续抽取方向做基础； 通过对比学习过程和设置的损失函数，训练后在事实空间中将幻觉种类和事实进行了有效区分，该步骤计算空间中同一种幻觉类型的平均量，相减得到不同幻觉种类对应的δi,细粒度事实方向抽取完成； 步骤E：将细粒度的事实方向根据推理过程中隐藏层的表征聚类，在事实空间中映射向不同方向。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人杭州小满智算科技有限公司，其通讯地址为：310000 浙江省杭州市萧山区经济技术开发区金二路617号12号楼415-5室；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。