买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉上海壁仞科技股份有限公司申请的专利注意力机制算子的优化方法、设备、存储介质及程序产品获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN121212217B 。

龙图腾网通过国家知识产权局官网在2026-02-06发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202511767363.2，技术领域涉及：G06N3/045；该发明授权注意力机制算子的优化方法、设备、存储介质及程序产品是由请求不公布姓名;请求不公布姓名;请求不公布姓名;请求不公布姓名;请求不公布姓名;请求不公布姓名设计研发完成，并于2025-11-27向国家知识产权局提交的专利申请。

本注意力机制算子的优化方法、设备、存储介质及程序产品在说明书摘要公布了：本申请实施例提供了一种注意力机制算子的优化方法、设备、存储介质及程序产品，涉及人工智能技术领域，该方法包括：将词元映射成第一键向量、第一值向量、第一查询向量，基于词元的第一键向量、第一值向量、第一查询向量和存储的信息进行注意力机制计算，并基于第一键和第一值的向量的数据分布规则确定对应的切分策略，按照对应的切分策略，对第一键和第一值的向量进行切分，得到多个子向量，采用各子向量对应的量化参量，对各子向量进行量化，得到第二键和第二值的向量，将第二值和第二键的向量进行存储。本发明实施例能够利用数据分布规则自适应对向量执行切分操作，缓解了量化过程中出现的精度损失过大的问题。

本发明授权注意力机制算子的优化方法、设备、存储介质及程序产品在权利要求书中公布了：1.一种注意力机制算子的优化方法，其特征在于，包括： 针对待推理文本经分词后得到的词元，将所述词元映射成第一键向量、第一值向量、第一查询向量； 基于所述第一键向量、所述第一值向量、所述第一查询向量、和存储的信息，进行注意力机制计算；其中，所述存储的信息包括：所述待推理文本中截至所述词元之前的所有词元的第二键向量和对应的多个量化参量、和第二值向量和对应的多个量化参量； 基于所述第一键向量的数据分布规则确定对应的切分策略，按照对应的切分策略对所述第一键向量执行切分操作，得到所述第一键向量的多个子向量；基于所述第一值向量的数据分布规则确定对应的切分策略，按照对应的切分策略对所述第一值向量执行切分操作，得到所述第一值向量的多个子向量； 采用所述第一键向量的多个子向量一一对应的多个量化参数，对所述第一键向量的各子向量分别执行量化操作，得到第二键向量；采用所述第一值向量的多个子向量一一对应的多个量化参数，对所述第一值向量的各子向量分别执行量化操作，得到第二值向量； 将所述第二键向量和对应的多个量化参数、所述第二值向量和对应的多个量化参数存储到内存中。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人上海壁仞科技股份有限公司，其通讯地址为：201114 上海市闵行区陈行公路2388号16幢13层1302室；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。