Document
拖动滑块完成拼图
首页 专利交易 IP管家助手 科技果 科技人才 积分商城 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
最新专利技术
  • 本申请公开了一种面向文图跨模态行人检索模型的知识蒸馏方法,包括:构建教师模型和学生模型,对学生模型进行初始化,其中教师模型与学生模型均具有文本编码器和图像编码器;对学生模型进行三阶段的知识蒸馏,其中,在第一阶段通过教师模型对学生模型的图像编...
  • 本说明书实施例涉及训练大语言模型的方法及装置,方法包括:首先,获取大语言模型中各注意力头在预训练版本中的第一权重集合以及在中间版本中的第二权重集合,中间版本针对第一任务对预训练的大语言模型进行全量微调得到;然后,针对任一目标注意力头,分别根...
  • 本发明提出了一种基于提示蒸馏的不完备多模态学习方法,旨在提升多模态模型在模态缺失场景下的鲁棒性与泛化能力。该方法融合知识蒸馏与提示学习的优势,构建了由分层提示生成器、教师网络和推理网络组成的协同框架,实现模态间共享知识与样本级细粒度信息的高...
  • 本申请实施例提供一种AI模型的分布式训练方法、装置及计算设备集群,涉及人工智能技术领域。该方法获取发生故障的第一计算节点的故障原因,根据发生故障的第一计算节点的故障原因匹配相应的训练任务恢复方式。并通过训练任务重启、节点重调度或模型重启中的...
  • 本发明涉及人工智能技术领域,具体地说,涉及一种边缘端AI设备模型训练方法,包括如下步骤:S1、对原始图像进行预处理;S2、选择合适的预训练模型;S3、基于剪枝和知识蒸馏操作压缩和优化模型;S4、构建分布式训练环境,将训练任务分配到多个边缘端...
  • 本发明涉及一种免疫联邦学习大数据分析方法及系统,该方法包括:服务器端向各个客户端发送全局模型的初始参数,各个客户端基于初始参数初始化本地模型;各个客户端分别基于本地的训练策略对本地模型分别进行训练得到训练后的模型参数,并将训练后的模型参数上...
  • 本发明公开了一种计算与通信效率跨模态模型协同训练方法和系统,训练方法包括如下步骤:采用融合局部感知与全局语义关联的混合网络结构,结合结构重参数化技术压缩模型规模以构建轻量化跨模态基础模型架构;构建极简特征适配模块,在跨模态基础模型架构的输出...
  • 本发明属于大模型训练技术领域,具体涉及一种大模型的分布式量化感知训练方法及系统,包括:获取待训练的大模型的配置参数信息,构建大模型的损失函数,计算梯度范数,得到大模型的一阶梯度信息感知评分;对大模型添加扰动,构建大模型的含扰动损失函数,计算...
  • 本发明涉及语义通信以及联邦学习技术领域,具体为一种基于联邦学习的语义通信知识协同演化方法,包括:S1、全局模型预训练与下发;S2、边缘组训练初始化与动态调度;S3、客户端本地训练与边缘聚合;S4、跨边缘全局同步聚合;S5、闭环迭代更新机制。...
  • 本发明属于联邦学习技术领域,具体涉及基于参数聚类与模型分解的轻量化联邦学习方法及系统。方法包括:S1,对服务器模型参数以及客户端模型参数进行初始化;S2,在每个客户端上进行模型的本地训练,并保存每轮训练的模型增量;S3,压缩每个客户端的本地...
  • 本发明公开了一种具有全周期安全性的新型联邦学习框架运行方法,所属领域为联邦学习领域,包括:集成TSME‑HA与TSRW‑ED算法,覆盖提交、聚合、分发三阶段。TSME‑HA以Paillier同态加密+阈值秘密共享实现抗窃听、退出与迟到攻击;...
  • 本发明公开了一种基于动态子模型的联邦学习方法、装置、介质及设备,所述方法包括:对用户上传的本地模型参数进行聚合,得到更新后的全局模型;判断下一轮的通信轮次是否达到预设周期轮次;若达到预设周期轮次,则根据全局模型和每个神经元的重要性得分,重新...
  • 本发明公开了一种公平联邦学习训练方法、装置及介质,所述方法包括:在当前通信轮次中,接收每个客户端反馈的本地模型信息;根据每个客户端的本地数据量,对所有本地修正梯度进行加权聚合,得到全局梯度;基于训练后的本地模型参数在不同数据集上表现的性能相...
  • 本申请公开了一种云边联邦学习方法、系统及存储介质,属于模型训练优化领域。首先,云端基于边缘终端上传的模型特征与数据分布信息,构建动态聚类机制,降低组内统计异质性,边缘端根据云端聚类结果进行本地训练与组内模型聚合,提升局部簇模型的一致性与适应...
  • 本公开涉及基于神经网络性能的搜索。执行对用于对数据集进行推理的一个或更多个神经网络的搜索。关于与一个或更多个数据集相对应的不同神经网络评估性能标准,以便执行对用于执行推理的一个或更多个神经网络的搜索。
  • 本申请涉及一种基于prompt的模型调优方法、装置、电子设备及可读介质,其中,方法包括:获取测试数据集合;调用预先通过训练得到的prompt优化模型,并利用测试数据集以及prompt优化模型对目标模型的第一prompt进行优化,得到第二pr...
  • 本申请涉及图计算技术领域,特别涉及一种具备理论最优计算与通信复杂度的多方协作图计算方法,其中,方法包括:获取每个参与方的图数据,每个参与方的图数据包括节点数据和边数据;获取图算法的目标迭代轮次,其中,图算法以节点为中心进行运算;在目标迭代轮...
  • 本申请提供了一种化工危化品智能搬运控制系统及方法,通过化工危化品的危险属性对化工危化品搬运速度的路径置信约束、搬运任务中各个路径拐点的路径曲率和路径区域类型确定搬运任务中各个路径拐点的安全约束速度;当搬运机器人的当前搬运速度大于前方路径拐点...
  • 本申请公开一种知识库的构建方法、知识处理方法及相关产品。该构建方法包括:获取第一知识库包括的多个第一文档;对多个第一文档进行整合得到多个不同的文档集,多个不同的文档集中的每个文档集包括语义存在关联关系的第一文档;基于大语言模型和文档生成指令...
  • 本发明公开了能源政策知识图谱的多级构建与智能召回策略实现方法、系统、设备及介质,属于能源政策监测技术领域,包括获取能源政策文本数据,进行能源政策关联性分析,从能源政策文本中提取实体信息、关系线索与文本向量表示;利用提取的实体信息、关系线索和...
技术分类