北京交通大学;清华大学景丽萍获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉北京交通大学;清华大学申请的专利基于梯度量化的二值化网络训练方法及装置获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119559458B 。
龙图腾网通过国家知识产权局官网在2026-01-27发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202411522222.X,技术领域涉及:G06V10/774;该发明授权基于梯度量化的二值化网络训练方法及装置是由景丽萍;陈键飞;高畅;苏若愚设计研发完成,并于2024-10-29向国家知识产权局提交的专利申请。
本基于梯度量化的二值化网络训练方法及装置在说明书摘要公布了:本发明提供一种基于梯度量化的二值化网络训练方法及装置,该方法包括:以样本图像为训练样本、以样本图像的类标签为训练标签对全精度模型进行全量化训练过程中,将全精度模型的权重和输入激活值进行量化,得到具备目标位宽的第一量化数据;在通过对具备目标位宽的第一量化数据进行反向传播并输出激活值梯度的情况下,将激活值梯度进行量化,得到具备目标位宽的第二量化数据;根据第一量化数据和第二量化数据更新激活值梯度和权重梯度,得到训练完成的二值化网络。本发明所述方法实现了二值化梯度训练,并有效降低模型的训练功耗以及内存和算力的需求,进而提高了复杂场景下的分类模型的训练效率和推理性能。
本发明授权基于梯度量化的二值化网络训练方法及装置在权利要求书中公布了:1.一种基于梯度量化的二值化网络训练方法,该二值化网络应用于图像分类任务,其特征在于,包括: 以样本图像为训练样本、以所述样本图像的类标签为训练标签对全精度模型进行全量化训练,在全量化训练的前向传播过程中,将所述全精度模型的权重和输入激活值进行量化,得到具备目标位宽的第一量化数据;在通过对所述具备目标位宽的第一量化数据进行反向传播并输出激活值梯度的情况下,将所述激活值梯度进行量化,得到具备所述目标位宽的第二量化数据; 根据所述第一量化数据和所述第二量化数据更新激活值梯度和权重梯度,并在满足最大训练次数的情况下,得到训练完成的二值化网络; 所述全精度模型在反向传播过程中的激活值梯度计算策略通过下式表示: 其中,为第l层网络对应的量化后的激活值梯度,为第l层网络对应权重的转置,sign为函数;为第l层网络对应的量化后的激活值梯度,为b位的样本分组量化器;MPSQ为剪枝掩码; 所述全精度模型在反向传播过程中的权重梯度的计算策略通过下式表示: 其中,为第l层网络对应的量化后的权重梯度,为第l-1层的激活值,为b比特的通道分组量化操作,MPCQ为剪枝掩码。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人北京交通大学;清华大学,其通讯地址为:100044 北京市海淀区西直门外上园村3号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励