上海云燧科技有限公司赵威获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉上海云燧科技有限公司申请的专利一种基于大模型的视频生成加速方法、装置、设备及介质获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN121000954B 。
龙图腾网通过国家知识产权局官网在2025-12-30发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202511508846.0,技术领域涉及:H04N21/854;该发明授权一种基于大模型的视频生成加速方法、装置、设备及介质是由赵威;李迎;刘恩铭;林水金;张克俭设计研发完成,并于2025-10-22向国家知识产权局提交的专利申请。
本一种基于大模型的视频生成加速方法、装置、设备及介质在说明书摘要公布了:本发明公开了一种基于大模型的视频生成加速方法、装置、设备及介质。对待视频生成数据进行处理,生成各当前特征令牌序列;在大模型Attention层中,通过掩码联合生成方法来生成目标掩码矩阵;通过硬件分组化量化计算指令对各矩阵之间进行矩阵乘法进行量化处理,来得到各当前稀疏Attention计算输出特征令牌序列;通过线性层中的量化方法来得到当前量化层权重矩阵和当前量化层激活矩阵,并通过硬件分组化量化计算指令来得到当前令牌线性层量化矩阵,并通过输出解码模块进行解析,确定出最终生成输出视频。解决了缺乏针对大模型系统级软硬协同优化方案,难以满足实际场景中对高效能与低延迟的双重需求问题,提高了视频生成的速率。
本发明授权一种基于大模型的视频生成加速方法、装置、设备及介质在权利要求书中公布了:1.一种基于大模型的视频生成加速方法,其特征在于,包括: 通过当前生成类模型的输入编码模块对待视频生成数据进行特征提取与令牌化转换,生成各当前特征令牌序列; 在大模型Attention层中,通过预先设置的掩码联合生成方法分别对各当前特征令牌序列进行处理,生成当前空间掩码矩阵和当前时间掩码矩阵,并结合预先设置的稀疏形态判断方法来生成目标掩码矩阵; 根据所述目标掩码矩阵,通过硬件分组化量化计算指令对所述Attention层中的Q矩阵与K矩阵的矩阵乘法进行量化处理,来生成当前标准QK联合生成矩阵,并结合Attention层中的V矩阵进行矩阵乘法的量化处理,得到各当前稀疏Attention计算输出特征令牌序列; 将各所述当前稀疏Attention计算输出特征令牌序列输入至大模型线性层对应的各前序层模块中进行处理,来得到前序层模块输出的层激活矩阵; 在大模型线性层中,提取所述大模型线性层对应的层权重矩阵,并通过预先设置的量化方法,分别对层权重矩阵和层激活矩阵进行量化处理,得到当前量化层权重矩阵和当前量化层激活矩阵; 通过硬件分组化量化计算指令,对当前量化层权重矩阵和当前量化层激活矩阵进行计算,得到当前令牌线性层量化矩阵; 获取与所述当前生成类模型对应的目标模型层数,并判断是否遍历完成全部目标模型层数,若否,则对大模型的下一层按照相同方法对大模型Attention层和大模型线性层进行处理;若是,则根据各所述当前令牌线性层量化矩阵来通过所述当前生成类模型的输出解码模块进行解析,确定出最终生成输出视频。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人上海云燧科技有限公司,其通讯地址为:201203 上海市浦东新区中国(上海)自由贸易试验区盛夏路61弄1号3层03室;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励