Document
拖动滑块完成拼图
首页 专利交易 IP管家助手 科技果 科技人才 积分商城 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
最新专利技术
  • 本申请公开了一种基于RISC‑V向量扩展的LLM推理加速方法及装置,属于大语言模型设计领域。旨在解决大型语言模型LLM推理过程中的性能瓶颈问题,特别是在边缘计算设备上的部署。所述方法包括通过性能分析工具对推理过程进行分析,识别出瓶颈算子,并...
  • 本申请提供了一种智能问答方法、装置、电子设备及存储介质。所述方法包括:获取客户端发起的需求表述信息,并对需求表述信息进行分析,生成需求语义参数,从客户端获取工具标识列表,并根据需求语义参数从工具标识列表中确定目标标识,将目标标识和需求语义参...
  • 本申请提供了一种任务型对话数据的生成方法、装置、介质和电子设备,该方法包括:获取状态转移矩阵,状态转移矩阵表征从任务型对话的任意状态节点转移至另一状态节点的概率;对状态转移矩阵进行采样处理,得到多条采样路径的状态序列;采用大语言模型以及对应...
  • 本发明提供基于深度学习的智能医疗多轮对话诊断推理方法及系统,涉及深度学习技术领域,包括通过对时序症状描述采用注意力机制构建时序特征,进行双向序列建模生成综合症状特征;利用医学知识图谱检测逻辑矛盾和信息缺失生成标准化特征;基于深度神经网络计算...
  • 本发明提供了一种全链路AI深度推理容器配置方法,包括:利用AI大模型将工业系统数据库中原始数据进行翻译,生成标注数据;构建AI智能体,所述AI智能体包括AI大模型、知识库以及工具集合;所述知识库包括用于推理的技术文档及参考资料;根据用户提供...
  • 本说明书一个或多个实施例提供一种基于协同推荐模型的对象推荐方法、电子设备及存储介质。该训练方法包括:获取样本用户的样本结构化数据,并基于所述样本结构化数据构建包含语义信息的样本语义化文本,所述样本结构化数据包括所述样本用户的基本数据和/或向...
  • 一种基于知识库的智能问答方法、装置以及电子设备,涉及智能问答领域。方法包括:响应于目标用户的问答操作,获取目标用户输入的待提问文本;对待提问文本进行预处理,预处理用于获取待提问文本对应的关键词;获取目标知识图谱,并根据关键词,通过目标知识图...
  • 本发明公开了一种推理过程评估模型的训练方法及其奖励方法,首先利用推理大模型针对给定的问题x生成若干个推理内容τ,每个推理内容τ都存在若干个推理步骤a,然后给每个推理步骤a都进行标注正确性,并获取到若干带有正确性标签的推理步骤a的数据集;再利...
  • 本公开提供了一种问答方法及系统、电子设备。其中,所述问答方法包括以下步骤:响应于用户输入的第一问题,输出与所述第一问题匹配的第一数据服务;其中,所述第一数据服务用于访问并展示第一数据资产;基于所述第一问题和所述第一数据服务输出推荐的至少一个...
  • 本申请公开了一种推理计算方法及相关设备,涉及数据处理技术领域,包括:响应于推理计算指令,获取待推理的初始数据,基于预设推理引擎与预设推理优化策略,对所述初始数据进行推理计算,得到推理计算结果,其中,所述推理计算结果是基于推理计算过程中的注意...
  • 本申请公开了一种光伏发电智能预警方法及系统,方法包括:确定光伏阵列的多变量时序数据,所述多变量时序数据包括光伏阵列组串的电气特征数据和环境特征数据;将多变量时序数据输入到故障预测模型中,提取光伏阵列组串间的空间关联特征向量并对空间关联特征向...
  • 本公开的实施例提供了一种用于评估智能体的方法及装置、设备和介质,该方法包括向智能体发送第一交互引导信息,其中,第一交互引导信息用于引导智能体执行第一测试任务;获得智能体在执行第一测试任务的过程中生成的追踪数据,其中,追踪数据具有分层结构;至...
  • 本申请提供了一种大语言模型的推理方法和装置、设备及存储介质,适用于金融科技领域、人工智能领域。方法包括:获取原始大语言模型以及原始大语言模型的多个推理单元;针对每一推理单元,根据推理单元的多个权重参数构建压缩编码树,并通过压缩编码树对权重参...
  • 本发明涉及人工智能技术领域,提供一种基于知识蒸馏的决策生成方法、装置、设备及介质,应用于金融、医疗健康养老业务场景中,能够提取目标输入数据中的多模态特征,实现多模态有效特征的提取和初步整合;对多模态初始特征进行知识蒸馏,为多模态初始特征学习...
  • 本发明公开一种共情对话生成方法及系统,涉及共情对话生成技术领域,该方法包括:获取用户的对话数据;采用情感三元组对对话数据进行抽取,生成方面词组和情感词对组;获取上下文文本的语句级语义向量、串联的方面词组向量和情感向量,得到语句级语义转换信息...
  • 本申请涉及电数字数据处理技术领域,特别是涉及一种基于大模型的供需匹配方法及系统。该方法包括:基于大模型对用户输入的问题做意图识别,获取用户意图;根据用户意图将用户输入的问题进行处理,获取提炼的问题;根据用户输入的问题获取第一提示词,将其输入...
  • 本说明书提供的模型训练、任务执行方法、装置、电子设备及存储介质,在此方法中,可以先获取提示内容,以及目标模型针对该提示内容输出的答复内容和生成该答复内容的过程数据,接着将提示内容、答复内容和过程数据输入至奖励系统,由此得到过程数据中每个推理...
  • 本申请提供一种基于图像和文本的推理方法、装置、计算机设备及存储介质,应用于智慧医疗和金融领域,方法包括:接收客户端输入的包含图像和文本的问题数据,将问题数据输入至预设的推理模型;推理模型根据问题数据进行推理以生成推理链,其中,推理链包括文本...
  • 本发明涉及人工智能领域,技术方案可应用在金融科技/医疗健康领域,公开了一种大语言模型知识蒸馏方法、装置、设备及介质,方法包括:获取业务数据,所述业务数据包括输入文本序列、期望输出文本序列以及对应的注意力掩码序列;将所述输入文本序列和所述注意...
  • 本发明提供了一种实现大模型一体机资源使用及并发推理的方法及系统,包括结合大模型一体机使用场景,收集模型基础信息;依据评估结果制定差异化资源分配策略,规划隔离资源和共享资源;评估分类数据存储;优化模型推理引擎;定义核心监控指标;构建多维指标评...
技术分类