买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉鹏城实验室申请的专利基于大模型量化的文本生成方法、装置、设备及存储介质获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120087360B 。

龙图腾网通过国家知识产权局官网在2025-12-09发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510058078.7，技术领域涉及：G06F40/279；该发明授权基于大模型量化的文本生成方法、装置、设备及存储介质是由朱学科;周晖晖;林文杰;林彦宇;程文翔;许芬;田永鸿;刘怡俊设计研发完成，并于2025-01-13向国家知识产权局提交的专利申请。

本基于大模型量化的文本生成方法、装置、设备及存储介质在说明书摘要公布了：本申请实施例提供了基于大模型量化的文本生成方法、装置、设备及存储介质，应用于昇腾计算架构。通过将原始文本输入至目标大语言模型，目标大语言模型包括多个依次级联的特征提取层，每个特征提取层包括全连接层，通过目标大语言模型中的多个依次级联的特征提取层，基于原始文本对应的文本特征进行逐层级递增的特征提取，并配合昇腾计算架构的量化方法对每个特征提取层中全连接神经元的权重参数和激活值进行量化处理，输出目标文本特征，以简化全连接阶段的计算，从而实现大语言模型下的轻量级计算。基于目标文本特征生成目标文本，通过利用轻量级的大语言模型进行文本生成任务，减少了大模型在文本推理过程中的复杂计算，提高了文本生成的效率。

本发明授权基于大模型量化的文本生成方法、装置、设备及存储介质在权利要求书中公布了：1.一种基于大模型量化的文本生成方法，其特征在于，应用于昇腾计算架构，所述方法包括： 获取原始文本； 将所述原始文本输入至目标大语言模型，所述目标大语言模型包括多个依次级联的特征提取层，每个所述特征提取层包括全连接层； 通过所述目标大语言模型中的所述多个依次级联的特征提取层，基于所述原始文本对应的文本特征进行逐层级递增的特征提取，并将最后一个层级的所述特征提取层输出的候选文本特征确定为目标文本特征； 其中，每个层级的所述特征提取层用于对输入的文本特征进行注意力计算得到注意力文本特征，以及对所述注意力文本特征进行激活处理得到文本激活值，对所述文本激活值进行量化处理得到目标激活值，并根据所述目标激活值与相应的所述全连接层的权重参数经过量化得到的目标权重，输出当前层级的候选文本特征； 其中，所述逐层级递增的特征提取的过程为将上一层级提取的候选文本特征作为下一层级的特征基础数据进行特征提取； 基于所述目标文本特征生成目标文本； 所述目标权重根据以下步骤计算得到： 对所述全连接层的权重参数进行均值计算，得到权重平均值；根据所述权重平均值计算所述全连接层的权重参数的方差，得到权重方差值；根据所述权重平均值和所述权重方差值确定权重量化参数；根据所述权重量化参数对所述全连接层的权重参数进行量化处理，得到所述目标权重； 所述根据所述权重量化参数对所述全连接层的权重参数进行量化处理，得到所述目标权重，包括： 根据所述权重量化参数对所述全连接层的权重参数进行初步量化，得到初始权重；对所述初始权重进行取整，得到第一中间权重；对所述第一中间权重进行权重裁剪，得到第二中间权重；根据所述权重量化参数对所述第二中间权重进行再次量化，得到所述目标权重； 所述根据所述权重平均值和所述权重方差值确定权重量化参数，包括： 根据所述权重方差值获取权重均方差；对所述权重平均值和所述权重均方差进行均值计算，得到所述权重量化参数。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人鹏城实验室，其通讯地址为：518000 广东省深圳市南山区兴科一街2号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。