买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉北京天数微芯半导体科技有限公司申请的专利一种基于三值的分布式深度学习通信的梯度优化压缩方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN115438010B 。

龙图腾网通过国家知识产权局官网在2026-01-13发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202211164660.4，技术领域涉及：G06N3/0495；该发明授权一种基于三值的分布式深度学习通信的梯度优化压缩方法是由肖利民;刘禹廷;王良;贾志斌;郭为设计研发完成，并于2022-09-23向国家知识产权局提交的专利申请。

本一种基于三值的分布式深度学习通信的梯度优化压缩方法在说明书摘要公布了：本发明公开了一种基于三值的分布式深度学习通信的梯度优化压缩方法，包括获取参数列表，由参数获取其对应的优化梯度列表；使用随机化的三值压缩算法对梯度进行编码，将梯度分量压缩为两位二进制数，并存储编码中每个分量所占位数，同时选取扩张值；对编码后的完整数据进行节点间的AllReduce同步，传输时使用三值的求和方法进行增量位数迭代；按照编码后的完整数据对接收方的缓冲区进行扩张；将编码后的完整数据解码；求取解码后每个梯度的平均值；计算更新参数。可在保证分布式深度学习计算节点的迭代间等待时间不超过基准线的情况下提高单位时间内传输梯度的吞吐量并减少梯度的传输延迟。

本发明授权一种基于三值的分布式深度学习通信的梯度优化压缩方法在权利要求书中公布了：1.一种基于三值的分布式深度学习通信的梯度优化压缩方法，其特征在于，包括： 步骤1：获取分布式深度学习通信的参数列表，由参数获取其对应的优化梯度列表； 步骤2：使用随机化的三值压缩算法对梯度进行编码，将梯度分量压缩为两位二进制数，并存储编码中每个分量所占位数，同时选取扩张值，具体如下： 步骤2.1：所有节点将本轮迭代计算出的最大分量值广播给其余所有节点； 步骤2.2：每个节点获取到其他节点的最大分量值后，选取整个系统本轮迭代的最大分量值，作为扩张值存储； 步骤2.3：使用扩张值进行概率运算，概率运算的结果代表每个分量在本轮迭代时压缩后的值； 步骤2.4：使用概率运算结果和每个分量的符号函数进行乘积操作，得出压缩后的分量值； 步骤2.5：对步骤2.4中的压缩结果进行编码，使用UINT8数据类型存储所有分量的二进制编码，合并成为UINT32数据后存储于缓冲区中，同时取一个UINT8格式空间存入分量编码位数； 步骤3：对步骤2编码后的完整数据进行节点间的AllReduce同步，传输时使用三值的求和方法进行增量位数迭代； 步骤4：AllReduce同步结束后，每个节点拥有所有编码后的完整数据，按照编码后的完整数据对接收方的缓冲区进行扩张； 步骤5：调用解压缩算法，结合步骤2的扩张值，将编码后的完整数据解码； 步骤6：调用AllReduce的求平均方法求取解码后每个梯度的平均值； 步骤7：根据步骤6每个梯度的平均值，计算更新参数。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人北京天数微芯半导体科技有限公司，其通讯地址为：100083 北京市海淀区学院路35号世宁大厦14层；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。