买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉苏州元脑智能科技有限公司申请的专利预训练模型的推理加速方法、装置、介质、产品及系统获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120408126B 。

龙图腾网通过国家知识产权局官网在2025-09-16发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510895972.X，技术领域涉及：G06F18/211；该发明授权预训练模型的推理加速方法、装置、介质、产品及系统是由张会朋设计研发完成，并于2025-06-30向国家知识产权局提交的专利申请。

本预训练模型的推理加速方法、装置、介质、产品及系统在说明书摘要公布了：本申请公开了一种预训练模型的推理加速方法、装置、介质、产品及系统，涉及预训练模型的推理技术领域，该方法从输入文本中提取不同层次的语义特征，确保了模型能够捕获词汇、语法、上下文以及长期依赖等多方面的信息，这有助于提高模型的表达能力和泛化能力，基于融合特征的重要程度确定多个融合特征的重要融合特征和非重要融合特征，对非重要融合特征进行裁剪，得到裁剪后的融合特征，以裁剪掉那些对最终结果影响较小的非重要融合特征，因此，解决了现有方案对预训练模型的推理速度的加速手段难以达到预期的效果的问题。

本发明授权预训练模型的推理加速方法、装置、介质、产品及系统在权利要求书中公布了：1.一种预训练模型的推理加速方法，其特征在于，包括： 获取自然语言文本，从所述自然语言文本中提取不同层次的语义特征； 对不同层次的所述语义特征进行特征融合，得到多个融合特征； 基于所述融合特征的重要程度确定所述多个融合特征的重要融合特征和非重要融合特征，所述重要程度表征对预训练模型的输出结果的影响程度； 对所述非重要融合特征进行裁剪，得到裁剪后的融合特征，将所述裁剪后的融合特征和所述重要融合特征应用于所述预训练模型的推理； 对不同层次的语义特征进行特征融合，得到多个融合特征，包括：在目标键值对的类型为非线性的情况下，通过反向传播模型的梯度，调整每个所述语义特征的权重，得到每个所述语义特征的调整后的权重；采用投票机制，确定特征融合关系，所述特征融合关系表征需要与各所述语义特征需要进行特征融合的其他语义特征；基于所述调整后的权重和所述特征融合关系，对不同层次的语义特征进行加权求和处理，得到多个所述融合特征； 所述预训练模型的不同层或不同模块会捕获不同粒度的语义信息：底层特征：词性、基本短语结构、局部词义；中层特征：句法关系、句子级语义、上下文相关词义；高层特征：段落篇章级语义、主旨、情感、意图。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人苏州元脑智能科技有限公司，其通讯地址为：215000 江苏省苏州市吴中经济开发区综保区经一路1号8幢；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。