西安电子科技大学闫杰熹获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉西安电子科技大学申请的专利基于大语言模型和自适应对比解码的人类动作理解方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119514683B 。
龙图腾网通过国家知识产权局官网在2025-12-26发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411534652.3,技术领域涉及:G06N5/04;该发明授权基于大语言模型和自适应对比解码的人类动作理解方法是由闫杰熹;吕光涛;徐承昊;邓成;杨延华设计研发完成,并于2024-10-31向国家知识产权局提交的专利申请。
本基于大语言模型和自适应对比解码的人类动作理解方法在说明书摘要公布了:本发明属于人工智能技术领域,公开了基于大语言模型和自适应对比解码的人类动作理解方法,提出了一种FLARE框架,通过引入预训练的冻结大型语言模型LLM和冻结的动作编码器,使动作和语言语义对齐,并利用自适应对比解码AdaCD方法,减少对语言先验的过度依赖,从而提升模型对动作的理解能力,使该方法能够处理多种动作理解任务,提高了人类动作理解方法的泛化能力,同时降低了现有技术中存在的任务特定性和计算资源消耗问题。
本发明授权基于大语言模型和自适应对比解码的人类动作理解方法在权利要求书中公布了:1.基于大语言模型和自适应对比解码的人类动作理解方法,其特征在于,所述方法包括如下步骤: 确定人体动作理解的任务,将冻结的自回归大规模语言模型LLM和预训练的动作编码器组合,形成统一的FLARE框架,将动作数据和语言语义对齐,然后引入一种自适应对比解码方法AdaCD,通过调整相关标记的权重来减轻幻觉问题,优化模型性能; 将动作数据和语言数据进行预处理,使用动作编码器对人体动作进行编码,提取其特征并生成对应的动作嵌入,动作编码器保持预训练的权重不变;LLM使用Byte-PairEncoding分词器BPE将文本输入转化为一系列,并保持模型参数冻结状态; 将动作与语言的特征对齐,进行多任务训练,再进行自适应对比解码AdaCD优化,通过推理与评估验证结果; 所述FLARE框架包括如下模块: 语言模型,该框架继承了自回归大规模语言模型LLM,上述模型在大规模文本数据上进行预训练,并在应用中保持冻结状态,LLM通过BPE分词器对动作描述进行序列化处理,目标是最大化这些序列的对数似然; 动作模型,该模型采用预训练的动作编码器,从动作输入中生成动作嵌入,并通过投影层将其转换为与文本嵌入维度一致的格式; 所述语言模型和动作模型用于对语言和动作进行预处理; 动作与语言集成模块,所述动作编码器生成的动作嵌入通过简单的线性层与文本嵌入空间对齐; 所述动作与语言集成用于将语言和动作进行对齐; 所述多任务训练包括: 动作-文本检索,包括动作到文本M2T和文本到动作T2M的双向检索,通过将动作序列和文本描述嵌入到共享特征空间中来对齐;和分别表示文本描述和动作序列在该空间中的嵌入,他们之间的相似性通过余弦相似性来计算: 动作描述生成,是基于动作数据生成文本描述的任务,给定动作和动作嵌入,用进行token化的对数似然为: 生成损失函数: 其中,表示N对动作-文本生成; 所述自适应对比解码AdaCD优化方法具体包括: 设置两种场景的预测logits:有动作输入的,即动作描述生成,和没有动作输入的,即文本到动作检索,将上述两种场景分别设为和; 定义对比解码分数:; 该对比解码分数能够突出显示这两种场景中的预测logits之间的差异; 得到之后,需要对的值与预设的阈值进行对比; 当低于阈值时,使用描述来评估的重要性; 当为负时,LLM会降低对该的采样概率,避免生成低相关的描述; 在所述自回归大规模语言模型LLM中引入词汇,在训练过程中学习其嵌入,同时保持其他嵌入不变; 在训练时,被追加到输入描述的末尾,该设置在推理时生成,帮助将动作检索集成到生成的文本中; 采用双重映射策略,使用线性映射将的隐藏表示转换为适合检索的文本嵌入,另一个线性映射将动作嵌入投影到检索空间。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人西安电子科技大学,其通讯地址为:710071 陕西省西安市雁塔区太白南路2号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励