买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉南京大学申请的专利一种适配深度学习硬件加速器的可重构激活函数硬件装置获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN115936076B 。

龙图腾网通过国家知识产权局官网在2025-12-30发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202211660618.1，技术领域涉及：G06N3/048；该发明授权一种适配深度学习硬件加速器的可重构激活函数硬件装置是由王中风;吴晓;梁双;王美琪设计研发完成，并于2022-12-23向国家知识产权局提交的专利申请。

本一种适配深度学习硬件加速器的可重构激活函数硬件装置在说明书摘要公布了：本发明提供了一种适配深度学习硬件加速器的可重构激活函数硬件装置，包括函数类型判断单元、ReLU计算单元、简化函数计算单元、可变精度单元和优化函数计算单元。该发明充分利用不同非线性激活函数计算表达式之间的相关性，可以实现对ReLU函数、ReLU6函数、PReLU函数、LeakyReLU函数、Sigmoid函数、Tanh函数、Swish函数、H‑Sigmoid函数和H‑Swish函数九种神经网络常用激活函数的近似计算，从而适配多功能的深度学习硬件加速器，在计算资源和近似精度之间取得了很好的平衡，具有计算效率高、灵活、可重构等特点。

本发明授权一种适配深度学习硬件加速器的可重构激活函数硬件装置在权利要求书中公布了：1.一种适配深度学习硬件加速器的可重构激活函数硬件装置，其特征在于，包括函数类型判断单元、ReLU计算单元、简化函数计算单元、可变精度单元和优化函数计算单元； 所述函数类型判断单元根据输入的待计算数据x和待计算的激活函数类型，动态选择激活函数的计算路径； 所述ReLU计算单元根据待计算数据x的符号位判断输入的待计算数据所属的计算区间，并根据激活函数类型进行不同的计算操作，通过数据移位操作或直接数据赋值实现ReLU系列激活函数，所述ReLU系列激活函数包括ReLU函数，ReLU6函数，LeakyReLU函数； 所述简化函数计算单元得到H-Sigmoid激活函数的计算结果，作为Sigmoid函数计算的初始近似值，同时，通过复用简化函数计算单元内的乘法器配合PReLU函数计算时相应的参数来实现PReLU函数； 所述可变精度单元对Sigmoid的倒数函数1+e-x进行近似，得到Sigmoid倒数函数的近似值appro_sig_rec，同时，通过复用基于e指数实现的计算逻辑来得到Tanh函数的整式部分1-e-2x的计算结果，提供Sigmoid的倒数函数和Tanh函数的整式部分的近似值； 所述优化函数计算单元将初始近似值与倒数函数近似值进行如下计算，得到Sigmoid函数优化后的近似值： Sigmoidx＝2×H-Sigmoidx-H-Sigmoidx2×appro_sig_rec 所述优化函数计算单元包括1号乘法器、2号乘法器和3号乘法器； 其中appro_sig_rec为Sigmoid倒数函数的近似值，H-Sigmoid激活函数的计算结果记为中间结果A1，基于上述公式，在优化函数计算单元的1号乘法器进行中间结果A1与中间结果A1的乘法，在2号乘法器进行中间结果A1的平方值与Sigmoid倒数函数的近似值appro_sig_rec的乘法，再将2号乘法器得到结果与中间结果A1通过移位操作得到的2×A1结果进行减法操作，最终得到Sigmoid函数优化后的近似值； 通过复用优化函数计算单元内部的3号乘法器实现H-Swish函数和Tanh函数；通过将Sigmoid函数计算结果乘非线性函数中相应的整式部分来实现Tanh函数和Swish函数，其中Tanh函数的整式部分为1-e-2x，Swish函数的整式部分为x； 所述简化函数计算单元内部包括4号乘法器，所述简化函数计算单元具体执行如下操作： 根据H-Sigmoid激活函数表达式和PReLU激活函数表达式，H-Sigmoid激活函数在待计算数据x输入范围为-3,3和PReLU激活函数在x输入范围为-∞，0时，都需要4号乘法器来实现函数计算，在简化函数计算单元内部使用4号乘法器来完成H-Sigmoid函数的操作和PReLUde的α·x操作，其中α是小于1的常数； 所述可变精度单元具体执行如下操作： 将原函数fx转换为以2为底的指数函数： 令输入变量P＝log2e·x，将fx转换为f#P＝fln2·P＝2-P＝2-Pm+Pn，其中f#P表示输入自变量为P的函数计算，输入变量P分为整数部分Pm和小数部分Pn，通过这种方式，对于e-x的近似计算转化为移位操作和对2-Pn的近似计算来实现，则近似计算的输入范围缩小到0到ln2之间，0Pn≤1； 基于泰勒展开公式，函数fx在x＝x0处的展开表示为： 其中x0是任意数； 引入参数L，L为大于等于0的正整数，将函数fx的输入范围0,ln2]均匀分为2L段，每段的长度为2-L×ln2，经过切分后的子区间表示为[n·2-L×ln2,n+1·2-L×ln2，其中n为[0,2L]的正整数； 令x0＝ln2×P0，δx＝2-L×ln2，得到fx＝fln2·P0+2L×fln2·P0+2-L-fln2·P0×log2e·x-P0； 对于f#P，令P0＝n·2-L，则在输入范围[n·2-L,n+1·2-L得到： 则指数函数的近似精度能够通过参数L来调整； 通过可变精度单元内部的移位加和运算单元1中的移位和加法操作实现如下计算：P＝log2e·x，基于log2e近似值得到转换后的待计算数据P，其中P的整数部分Pm参与后续的移位操作，小数部分Pn完成公式1中的近似计算； 在可变精度单元内部的移位加和运算单元2中计算f#P＝α+P＞＞β1+P＞＞β2，其中β1和β2是正整数，满足β＝2-β1+2-β2，＞＞表示移位操作； 基于函数自变量之间的转换关系：P＝log2e·x，对于函数f#P，切割后的子区间表示为[n·2-L,n+1·2-L，在给定的参数L下，根据小数部分Pn的高位数值来判断输入Pn所属的子区间，确定n的具体数值，得到α，β1和β2的参数值，实现公式1的计算； 所述装置通过执行如下步骤完成可重构激活函数的计算： 步骤1，向可重构激活函数硬件装置输入待计算数据以及待计算激活函数的类型； 步骤2，所述函数类型判断单元根据激活函数的类型，动态选择需要执行的计算操作： 判断是否为ReLU函数、或ReLU6函数、或LeakyReLU函数，如果是其中任一种，则通过ReLU计算单元判断输入的待计算数据所属的计算区间，得到相应激活函数的计算结果； 判断是否为PReLU函数，如果是，判断输入的待计算数据所属的计算区间，其中输入小于0时，x×α的操作是通过复用简化函数计算单元内部的4号乘法器来实现计算，其中α是小于1的常数，从而得到PReLU函数的计算结果； 判断是否为H-Sigmoid函数，如果是，判断输入待计算数据所属的计算区间，其中，输入待计算数据在-3,3区间内，在简化函数计算单元内部通过4号乘法器和加法器实现操作，得到H-Sigmoid激活函数的计算结果，记为中间结果A1； 判断是否为H-Swish函数，如果是，根据H-Sigmoid函数和H-Swish函数的计算表达式，H-Swish函数表示为H-Swishx＝x×H-Sigmoidx，基于H-Sigmoid激活函数的计算结果，即中间结果A1，通过复用优化函数计算单元内部的1号乘法器来实现输入数据与H-Sigmoid计算结果的乘法计算，得到H-Swish激活函数的计算结果； 判断是否为Sigmoid函数，如果是，根据H-Sigmoid函数的计算结果和Sigmoid倒数函数的近似值appro_sig_rec之间的优化关系，基于如下公式得到Sigmoid函数优化后的近似值： Sigmoidx＝2×H-Sigmoidx-H-Sigmoidx2×appro_sig_rec 首先计算Sigmoid倒数函数的近似值appro_sig_rec，Sigmoid倒数函数表示为1+e-x，令P＝log2e·x，其中，P分为整数部分Pm和小数部分Pn，则转换为1+2-Pm+Pn，对于e-x的近似计算转化为移位操作和对2-Pn的近似计算来实现，则近似计算的输入范围缩小到0到ln2之间，0Pn≤1；Sigmoid函数优化后的近似值就是Sigmoid激活函数的计算结果； 对于2-Pn的计算是基于泰勒展开公式，将2-Pn转换为多项式的计算形式，并分割Pn的计算区间，对每段计算区间中2-Pn的多项式进行计算和优化，将多项式转换为α+Pn＞＞β1+Pn＞＞β2的形式，其中，α,β1和β2都是与区间分割参数L有关的计算参数；表示移位操作； 判断是否为Swish函数，如果是，根据Sigmoid函数和Swish函数的计算表达式得到，Swish函数表示为Swishx＝x×Sigmoidx，基于Sigmoid计算结果，即中间结果A2，通过优化函数计算单元内部的3号乘法器来实现输入数据与Sigmoid计算结果的乘法计算，得到Swish激活函数的计算结果； 判断是否为Tanh函数，如果是，根据Sigmoid函数和Tanh函数的计算表达式，Tanh函数表示为Tanhx＝1-e-2x×Sigmoid2x，1-e-2x函数在可变精度单元中，复用e-x的计算逻辑，在可变精度单元内部的移位加和运算单元3中实现；基于Sigmoid计算结果，即中间结果A2，通过优化函数计算单元内部的3号乘法器来实现输入数据与Sigmoid计算结果的乘法计算，得到Tanh激活函数的计算结果； 步骤3，基于步骤2的计算操作，得到不同类型的非线性激活函数的计算结果并输出。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人南京大学，其通讯地址为：210023 江苏省南京市栖霞区仙林大道163号南京大学；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。