买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉浙江东安检测技术有限公司申请的专利一种AI大模型内容生成安全检测方法及系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120915984B 。

龙图腾网通过国家知识产权局官网在2026-02-17发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202511454771.2，技术领域涉及：H04N21/24；该发明授权一种AI大模型内容生成安全检测方法及系统是由郭敏;胡燕雄;王雷;姜凌艳;赵小宇;沈汀;申士博;陆琳;倪辰;王一凡;王进;周智豪;李扣珍;周咪;郭冰冰;陈嘉烙设计研发完成，并于2025-10-13向国家知识产权局提交的专利申请。

本一种AI大模型内容生成安全检测方法及系统在说明书摘要公布了：本发明公开了一种AI大模型内容生成安全检测方法，属于数据处理技术领域，其技术方案要点是包括，获取用户提示词，并得到提示词实体及对应的权重；根据提示词实体和预设的有向图，得到所述提示词实体与风险标签的传导路径；根据所述传导路径和所述提示词实体对应的权重，得到路径权重；若所述路径权重小于或等于预设值，AI大模型生成内容，并判断是否拦截生成的内容，本发明基于预设的有向图挖掘提示词违规传导路径，避免生成违规内容，并在内容生成之后通过注意力热力图精准定位风险片段再结合贝叶斯网络输出合理的拦截策略，避免违规内容的传播，最终基于用户对生成的内容的反馈及时优化拦截标准，在保证拦截准确性的同时提升用户体验。

本发明授权一种AI大模型内容生成安全检测方法及系统在权利要求书中公布了：1.一种AI大模型内容生成安全检测方法，其特征在于，包括： 获取用户提示词，并得到提示词实体及对应的权重； 根据所述提示词实体和预设的有向图，得到所述提示词实体与风险标签的传导路径； 其中，所述预设的有向图具体包括实体层节点、中间层节点和风险节点，每个实体层节点对应一个实体，每个风险节点对应一个风险标签，中间层节点用于连接实体层节点和风险节点，每个中间层节点可以对应多个实体层节点； 根据所述传导路径，判断AI大模型是否生成内容； 若所述AI大模型生成内容，根据所述传导路径和贝叶斯网络判断是否拦截所述内容； 其中，所述根据所述传导路径，判断AI大模型是否生成内容，包括： 根据所述传导路径和所述提示词实体对应的权重，得到路径权重，具体包括，根据所述传导路径中的每个预设路径，计算其对应的权重，权重的数值等于该预设路径中包括的每条边的权重的乘积，将该预设路径对应的权重与提示词实体对应的权重相乘，所述路径权重； 若所述路径权重大于预设值，AI大模型不生成内容； 若所述路径权重小于或等于预设值，AI大模型生成内容，并判断是否拦截所述内容； 其中，所述判断是否拦截所述内容，包括： 根据所述路径权重和所述内容得到风险实体，具体包括，根据用户输入的提示词生成用户需要的内容；获取传导路径中每个预设路径对应的路径权重，将每个路径权重与阈值进行比较，得到大于阈值的路径权重对应的预设路径，并基于该预设路径对应的实体层节点得到对应的提示词实体，将该提示词实体作为风险片段，获取生成的内容对应的实体相似度大于第二预设相似度的实体，作为风险实体； 根据所述风险实体和注意力热力图，得到风险概率； 根据所述风险概率和贝叶斯网络，得到联合风险概率； 根据所述联合风险概率，判断是否拦截所述内容； 其中，所述根据所述风险实体和注意力热力图，得到风险概率，包括： 根据注意力机制模型得到所述风险实体对应的风险权重； 根据所述风险实体和所述风险权重得到注意力热力图； 根据所述注意力热力图和激活函数，得到所述风险概率； 其中，所述根据所述风险概率和贝叶斯网络，得到联合风险概率，包括： 根据所述风险概率和所述贝叶斯网络，得到整体风险概率； 根据所述风险概率和所述整体风险概率，得到所述联合风险概率。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人浙江东安检测技术有限公司，其通讯地址为：310013 浙江省杭州市西湖区西斗门路3号天堂软件园A幢9楼G3座；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。