买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉西安交通大学申请的专利一种基于张量核心加速任意精度稀疏矩阵乘加运算的方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119646369B 。

龙图腾网通过国家知识产权局官网在2025-11-25发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202411728278.0，技术领域涉及：G06F17/15；该发明授权一种基于张量核心加速任意精度稀疏矩阵乘加运算的方法是由张兴军;刘润泽;魏正;谭镇东;蔡志航;胡江江;刘昊为设计研发完成，并于2024-11-28向国家知识产权局提交的专利申请。

本一种基于张量核心加速任意精度稀疏矩阵乘加运算的方法在说明书摘要公布了：本发明公开了一种基于张量核心加速任意精度稀疏矩阵乘加运算的方法，该方法针对A100上张量核心的体系结构与其编程模型，结合深度学习并行处理稀疏矩阵的程序特性，把任意精度稀疏矩阵乘加运算算子与并行计算加速设备相结合，将通用矩阵分解为设定格式的稀疏矩阵，对稀疏矩阵进行分块并为其指定对应的并行计算硬件单元，使用共享内存减少内存冲突和访问时延，调用高级语言API函数库执行计算数据量的装载、计算和存储过程，最后对函数的输出数据进行规约，从而得到任意精度稀疏矩阵乘加运算在并行计算加速设备上的最终结果。本发明能够实现对A100上张量核心等并行计算资源的充分利用，有效减小程序计算量和通信开销，大幅提升程序运行性能。

本发明授权一种基于张量核心加速任意精度稀疏矩阵乘加运算的方法在权利要求书中公布了：1.一种基于张量核心加速任意精度稀疏矩阵乘加运算的方法，其特征在于，包括以下步骤： 步骤1，预处理原始矩阵数据，生成SB-BCSR格式的稀疏矩阵W2和比特连续格式的稠密矩阵A2；具体实现方法如下： 步骤1.1，在CPU上获取稠密格式的原始矩阵W和A的矩阵数据，并将矩阵数据保存于主机内存中，同时对原始矩阵W进行预处理，选择设定的向量长度，将其转换为适于张量核心计算的一维BCSR格式的稀疏矩阵W1； 步骤1.2，根据张量核心的接口计算算子和一维BCSR格式的稀疏矩阵W1的比特位数，对一维BCSR格式的稀疏矩阵W1进行比特分解和填充对齐操作，以生成SB-BCSR格式的稀疏矩阵W2；同时，根据原始矩阵A的比特位数，先对其进行比特压缩，生成比特紧密格式的稠密矩阵A1，然后将比特紧密格式的稠密矩阵A1进行比特分解，生成比特连续格式的稠密矩阵A2；其中，张量核心是指英伟达公司旗下的A100系列GPU中的张量核心； 张量核心的接口计算算子是指英伟达公司提供的调用张量核心硬件执行矩阵运算操作的函数接口； 比特分解是指一种将数字拆分为二进制位的操作，用于在计算机系统中对数字进行编码或压缩；在比特分解中，一个数字会被分解成一系列二进制位，每个比特代表数字中的一个位值；对于一个数N，Ri是N的第i位二进制值，n是N的二进制位数；则N表示为： 对于m个数Nj，是Nj的第i位二进制值，对于n分解后的值Sk；则分解过程表示为： 填充对齐是指为了满足设定硬件或软件的要求而在数据结构或内存布局中添加额外的空间或元素的操作，使得数据的存储位置或布局符合设定的对齐要求； SB-BCSR格式是指一种为适应张量核心硬件而专门设计且与BCSR格式关联的改进格式； 比特连续格式的稠密矩阵是指一种将数据连续的稠密矩阵进行比特分解后形成的等价矩阵，其在内存中连续存储不同数据相同位置的二进制位，同一数据不同位置的二进制位分散存储，对于矩阵中的某行L0，其可被视为一个有序集合{N0，N1，…，Nn-1}，根据分解过程，比特分解后该行被变换为L1，采用有序集合表示为{S0，S1，…，Sm-1}； 步骤2，基于步骤1生成的SB-BCSR格式的稀疏矩阵W2和比特连续格式的稠密矩阵A2进行矩阵运算，得到存储在张量核心寄存器中的单比特矩阵运算结果，根据单比特矩阵运算结果的值进行矩阵规约，得到多比特矩阵运算结果； 步骤3，基于步骤2得到的多比特矩阵运算结果，对于一个block中所有的threads，各自计算对应的多比特运算结果的装载地址，并行地将多比特运算结果拷贝到预先指定的显存空间中。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人西安交通大学，其通讯地址为：710049 陕西省西安市碑林区咸宁西路28号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。