买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉上海壁仞科技股份有限公司申请的专利一种注意力机制计算方法、设备、存储介质及产品获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN121052308B 。

龙图腾网通过国家知识产权局官网在2026-01-27发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202511596844.1，技术领域涉及：G06N3/063；该发明授权一种注意力机制计算方法、设备、存储介质及产品是由请求不公布姓名;请求不公布姓名设计研发完成，并于2025-11-04向国家知识产权局提交的专利申请。

本一种注意力机制计算方法、设备、存储介质及产品在说明书摘要公布了：本申请公开了一种注意力机制计算方法、设备、存储介质及产品，方法包括：对查询矩阵分块与键矩阵分块进行矩阵乘运算，得到第一精度类型的第一乘积矩阵分块并写入第二寄存器组后进行指数运算，得到分子矩阵分块；将量化后的分子矩阵分块按照第二精度类型写入第三寄存器组；将分子矩阵分块按照第三精度类型写入第四寄存器组并通过共享内存进行布局转换；利用布局转换后的分子矩阵分块和值矩阵分块进行softmax运算，得到第一精度类型的注意力结果矩阵分块并写入第五寄存器组；将注意力结果矩阵分块按照第三精度类型写入共享内存。本申请实施例能够减小中间运算结果的累积误差。

本发明授权一种注意力机制计算方法、设备、存储介质及产品在权利要求书中公布了：1.一种注意力机制计算方法，其特征在于，包括： 控制至少一个第一线程束组执行以下步骤： 将查询矩阵分块从共享内存写入第一寄存器组； 利用所述第一寄存器组的查询矩阵分块与预先复制入所述共享内存的键矩阵分块进行矩阵乘运算，得到第一精度类型的第一乘积矩阵分块并写入第二寄存器组； 利用所述第二寄存器组的第一乘积矩阵分块进行指数运算，得到softmax运算的分子矩阵分块并覆盖写入所述第二寄存器组； 对所述第二寄存器组的分子矩阵分块进行量化处理，将量化处理后的分子矩阵分块按照第二精度类型写入第三寄存器组； 将所述第三寄存器组的分子矩阵分块按照第三精度类型写入第四寄存器组，并通过所述共享内存对所述第四寄存器组的分子矩阵分块进行布局转换； 利用所述第四寄存器组的布局转换后的分子矩阵分块和预先复制入所述共享内存的值矩阵分块进行softmax运算，得到第一精度类型的注意力结果矩阵分块并写入第五寄存器组； 对所述第五寄存器组的注意力结果矩阵分块进行量化处理，将量化处理后的注意力结果矩阵分块按照第二精度类型写入所述第三寄存器组； 将所述第三寄存器组的注意力结果矩阵分块按照第三精度类型并通过所述第四寄存器组写入共享内存；其中，所述第一精度类型的精度大于第二精度类型的精度，第二精度类型的精度大于第三精度类型的精度。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人上海壁仞科技股份有限公司，其通讯地址为：201114 上海市闵行区陈行公路2388号16幢13层1302室；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。