Document
拖动滑块完成拼图
个人中心

预订订单
商城订单
发布专利 发布成果 人才入驻 发布商标 发布需求

请提出您的宝贵建议,有机会获取IP积分或其他奖励

投诉建议

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 积分商城 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 中山大学黄以华获国家专利权

中山大学黄以华获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉中山大学申请的专利一种基于FPGA的计算顺序优化的高流水度MambaV2硬件加速系统获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119474003B

龙图腾网通过国家知识产权局官网在2025-10-17发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411541460.5,技术领域涉及:G06F15/78;该发明授权一种基于FPGA的计算顺序优化的高流水度MambaV2硬件加速系统是由黄以华;周垲灵设计研发完成,并于2024-10-31向国家知识产权局提交的专利申请。

一种基于FPGA的计算顺序优化的高流水度MambaV2硬件加速系统在说明书摘要公布了:本发明公开了一种基于FPGA的计算顺序优化的高流水度MambaV2硬件加速系统,涉及FPGA和机器学习领域,包括:前级模块、张量扩张模块、隐藏层状态计算模块、输出状态计算模块、残差乘归一化模块和输出线性层模块,将MambaV2算法计算过程分为若干个流水级并采用流水形式输出数据流。本发明不改变原有算法结构,而是改变原算法中隐藏层状态方程的运算顺序,提出优化计算顺序的算法,减少运算次数,降低缓存消耗,实现在FPGA上部署推理MambaV2模型,满足边缘场景部署需求,利用FPGA的定制化加速,通过调整数据流,实现整体算法的流水线设计,提高计算资源的利用率,解决数据阻塞问题,降低计算延时和缓存消耗。

本发明授权一种基于FPGA的计算顺序优化的高流水度MambaV2硬件加速系统在权利要求书中公布了:1.一种基于FPGA的计算顺序优化的高流水度MambaV2硬件加速系统,其特征在于,所述硬件加速系统包括:前级模块、张量扩张模块、隐藏层状态计算模块、输出状态计算模块、残差乘归一化模块和输出线性层模块,所述硬件加速系统将MambaV2模型算法计算过程分为若干个流水级并采用流水形式输出数据流; 所述前级模块对输入数据流进行运算,输出后续所述流水级进行运算所需的张量数据流; 所述张量扩张模块为第一流水级,用于执行MambaV2模型算法中优化了计算顺序之后的dBx张量扩张运算过程以减少计算次数和降低缓存消耗; 所述隐藏层状态计算模块为第二流水级,用于实现计算隐藏层状态时的乘加操作,得到隐藏层状态; 所述输出状态计算模块为第三流水级,用于根据所述隐藏层状态计算输出状态; 所述残差乘归一化模块为第四流水级和第五流水级,通过两级流水对所述输出状态分别进行残差乘积操作以及归一化操作,得到输出向量; 所述输出线性层模块为第六流水级,对所述输出向量进行维度变换,得到结果向量; 所述MambaV2模型算法中优化了计算顺序之后的dBx张量扩张运算过程包括,首先让数据dt和x先进行张量扩张,得到中间结果张量,再用所述中间结果张量与B进行张量扩张得到dBx,dt、x和B均为所述张量数据流中的数据,具体计算步骤为,首先让dt和x先进行张量扩张,在h维度下,将向量dt的元素和张量x中维度为1,p的向量各元素进行点乘操作,得到维度为h,p的中间结果张量,计算过程表示为: 其中,h表示模型中头的数量,p表示头的维度; 之后再用所述维度为h,p的中间结果张量与B进行张量扩张,将维度为h,p的张量dx中的每一个元素和维度为1,n的向量B进行乘积,得到张量dBx,计算过程表示为: 其中,n表示隐藏层维度。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人中山大学,其通讯地址为:510275 广东省广州市海珠区新港西路135号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。