买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉合肥君正科技有限公司申请的专利一种处理模型后量化时权重异常值的方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN116468963B 。

龙图腾网通过国家知识产权局官网在2026-02-03发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202210028737.9，技术领域涉及：G06V10/774；该发明授权一种处理模型后量化时权重异常值的方法是由张东设计研发完成，并于2022-01-11向国家知识产权局提交的专利申请。

本一种处理模型后量化时权重异常值的方法在说明书摘要公布了：本发明提供一种处理模型后量化时权重异常值的方法，所述方法对于出现权重异常值的层做特殊处理，即提供一个计算Sww临界值的方法，其中，maxww为全精度数据的最大值，b为量化后的位宽；当Sww小于该临界值，即：时，其中，Sxx为输入特征值Feature的尺度Scale，在权重和Feature量化为8比特时，Wintint最大值为128，Xintint最大值为255，此时输出的量化结果由bii决定为主，将权重量化为0并将Sww设为1，从而避免由于权重出现异常值导致量化结果不对。解决在模型后量化过程中，由于权重数据异常导致计算出来的量化超参溢出从而导致最终模型精度损失的问题，提供提高模型量化精度的方法。

本发明授权一种处理模型后量化时权重异常值的方法在权利要求书中公布了：1.一种处理模型后量化时权重异常值的方法，其特征在于，所述方法对于出现权重异常值的层做特殊处理，即提供一个计算Sw临界值的方法，其中，maxw为全精度数据的最大值，b为量化后的位宽；当Sw小于该临界值，即：时，其中，Sx为输入特征值Feature的尺度Scale，在权重和Feature量化为8比特时，Wint最大值为128，Xint最大值为255，此时输出的量化结果由bi决定为主，将权重量化为0并将Sw设为1，从而避免由于权重出现异常值导致量化结果不对； 所述方法进一步包括： S1，卷积神经网络训练： 以Imagenet图片分类数据为数据集，Resnet-50为网络结构，训练全精度的模型，即获得模型推理过程中的相关参数； S2，模型的预处理： 对于网络中存在的卷积层Conv到BN层到Relu层的拓扑结构，会预先采用合并归一化BatchNormal操作将BatchNormal合并到卷积中，变成卷积层Conv到Bias层到Relu层的拓扑结构； S3，量化公式：对于已经获得权重参数按照下面所示公式进行量化，得到低比特的权重： 变量说明：Wf为全精度数据，Wint为量化后的数据，为maxw全精度数据的最大值，b为量化后的位宽；Sw是权重的量化因子； S4，量化超参的计算： 假设第i层的量化计算如下所示： 其中δi为激活函数，QA为特征图Featuremap的量化公式，Qw为权重的量化公式，SBN是在将BatchNormal合并到卷积的时候生成的缩放因子α，本申请中将该值合并到权重中，所以SBN等于1； 计算最终的通过定点数的运算来求得，即： 求解得到的网络的权重，如果出现maxw的值很小，则使得的结果溢出无法使用32位整数int32来存储，由上面公式可知当maxw的值很小时Sw的值也会很小，在权重和Feature量化为8比特时，SwWintSxXintSBN的值也会是一个很小的值，此时输出的量化结果由bi决定为主； 如果直接按照公式来量化bi会导致结果溢出，使得该层的量化结果不对；由步骤S3中的量化公式可知，当SwWintSxXintSBN+bi值小于0.5时，量化后的值都为0，即 SwWintSxXintSBN＜0.5-bi 其中Sx为输入Feature的Scale，在权重和Feature量化为8比特时，Wint最大值为128，Xint最大值为255，若此时输出的量化结果由bi决定为主； 则能够将权重全部量化为0并将Sw置为1，从而避免由于权重出现异常值导致量化结果不对。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人合肥君正科技有限公司，其通讯地址为：230088 安徽省合肥市高新区望江西路800号创新园C3楼9层；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。