买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉杭州海康威视数字技术股份有限公司申请的专利任务处理方法、装置、电子设备及存储介质获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN115062765B 。

龙图腾网通过国家知识产权局官网在2025-07-29发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202210709171.6，技术领域涉及：G06F9/48；该发明授权任务处理方法、装置、电子设备及存储介质是由杨绮明;张凯;任文奇;李哲暘;谭文明;肖俊设计研发完成，并于2022-06-21向国家知识产权局提交的专利申请。

本任务处理方法、装置、电子设备及存储介质在说明书摘要公布了：本申请提供一种任务处理方法、装置、电子设备及存储介质，该方法包括：在对Transformer模型进行训练的过程中，对于Transformer模型中的任一归一化层，确定该归一化层当前批次的第一统计值，依据该第一统计值以及该归一化层历史批次的统计值，利用滑动平均策略，对该第一统计值进行平滑处理，得到第二统计值，并利用将该归一化层的第二统计值进行前向或反向传播；在利用训练好的Transformer模型进行任务处理的过程中，对于Transformer模型中的任一归一化层，将该归一化层的统计值固定为第三统计值进行推理计算。该方法可以在降低Transformer模型的计算内存消耗的情况下，保证处理性能。

本发明授权任务处理方法、装置、电子设备及存储介质在权利要求书中公布了：1.一种任务处理方法，其特征在于，包括： 在对Transformer模型进行训练的过程中，对于所述Transformer模型中的任一归一化层，确定该归一化层当前批次的第一统计值，依据该第一统计值以及该归一化层历史批次的统计值，利用滑动平均策略，对该第一统计值进行平滑处理，得到第二统计值，并利用将该归一化层的第二统计值进行前向或反向传播；所述Transformer模型的归一化算子采用批归一化算子，所述Transformer模型的输入为序列信息，所述序列信息包括文本、语音或图像块；所述Transformer模型用于自然语言处理任务、语音任务或视觉任务； 在利用训练好的Transformer模型进行任务处理的过程中，对于所述Transformer模型中的任一归一化层，将该归一化层的统计值固定为第三统计值进行推理计算；其中，所述第三统计值在Transformer模型的训练过程中，依据第二统计值，利用指数平均策略确定； 其中，所述确定该归一化层当前批次的第一统计值，依据该第一统计值以及该归一化层历史批次的统计值，利用滑动平均策略，对该第一统计值进行平滑处理，得到第二统计值，包括： 在前向传播过程中，对该归一化层当前批次的输入激活值进行算术平均运算，得到该归一化层当前批次的第一激活值统计值； 依据该归一化层当前批次的第一激活值统计值以及该归一化层历史批次的激活值统计值，利用几何均值策略，对该归一化层当前批次的第一激活值统计值进行平滑处理，得到第二激活值统计值； 在反向传播过程中，依据该归一化层当前批次的第二激活值统计值，确定该归一化层当前批次的第一梯度统计值； 依据该归一化层当前批次的第一梯度统计值以及该归一化层历史批次的第一梯度统计值，利用算术平均与指数平均策略，对该归一化层当前批次的第一梯度统计值进行平滑处理，得到第二梯度统计值。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人杭州海康威视数字技术股份有限公司，其通讯地址为：310051 浙江省杭州市滨江区阡陌路555号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。