买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉华南理工大学;人工智能与数字经济广东省实验室(广州)申请的专利ViT差分推理方法、装置、计算机设备、存储介质获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN119808953B 。

龙图腾网通过国家知识产权局官网在2025-11-25发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510049965.8，技术领域涉及：G06N5/04；该发明授权ViT差分推理方法、装置、计算机设备、存储介质是由李长春;邹骁锋;邵红恩;王勤玉;朱金辉;陈岑设计研发完成，并于2025-01-13向国家知识产权局提交的专利申请。

本ViT差分推理方法、装置、计算机设备、存储介质在说明书摘要公布了：本申请涉及一种ViT差分推理方法、装置、计算机设备、存储介质和计算机程序产品，通过在图像处理过程中，将所述图像分为不同大小的语义组，对每个语义组进行预处理，得到差值数据和质心数据，对所述差值数据和质心数据进行线性计算，得到差分数据，对所述差分数据进行多头自注意力计算，得到多头分数数据，针对所述多头分数数据进行异步激活，得到激活值，基于所述激活值进行多头自注意力计算；解决了现有VIT推理加速方案无法充分利用视觉信息，也无法根据不同图像针对性调整资源，导致推理效率较低的问题。效率及适配性高。

本发明授权ViT差分推理方法、装置、计算机设备、存储介质在权利要求书中公布了：1.一种ViT差分推理方法，其特征在于，所述方法包括： 在图像处理过程中，将所述图像分为不同大小的语义组； 对每个语义组进行预处理，得到差值数据和质心数据； 对所述差值数据和质心数据进行线性计算，得到差分数据； 对所述差分数据进行多头自注意力计算，得到多头分数数据； 针对所述多头分数数据进行异步激活，得到激活值； 基于所述激活值进行多头自注意力计算； 所述对每个语义组进行预处理，得到差值数据和质心数据，包括： 对每个语义组进行预处理，计算出每个语义组的质心以及组内Token与质心的差值； 所述质心数据包括每个语义组的质心，所述差值数据包括每个语义组内Token与质心的差值； 所述对所述差值数据和质心数据进行线性计算，得到差分数据的计算公式为： ； ； ； 其中，表示第i个语义组Query，Key，Value的质心数值；表示第i个语义组Query，Key，Value的差分数据；表示第i个语义组Query的原始数据；表示Query，Key，Value的权重数据；表示第i个语义组的质心的值，表示Token与质心的差值； 所述对所述差分数据进行多头自注意力计算，得到多头分数数据的计算公式为： ； 其中，为质心多头分数数据，为Token多头分数数据； 所述针对所述多头分数数据进行异步激活，得到激活值，包括： 基于所述多头分数数据，采用异步激活方法计算SoftMax值；首先计算局部分数的局部最大值和局部指数分数总和，并维护两个全局变量，全局最大值和全局指数分数总和；每次计算完当前局部分数之后，都需要更新上述两个全局变量；当所有局部分数计算完成之后，再通过上述两个全局变量，更新最终的激活值和； 所述基于所述激活值进行多头自注意力计算，包括： 基于所述激活值和，进行多头自注意力计算的后半部分，计算公式如下： ; 表示第i个语义组的输出值，和分别表示经过激活之后的质心多头分数数据与Token多头分数数据，表示Value的质心数值，表示Value的差分数值。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人华南理工大学;人工智能与数字经济广东省实验室(广州)，其通讯地址为：510640 广东省广州市天河区五山路；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。