中国科学院半导体研究所刘海莹获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉中国科学院半导体研究所申请的专利实现softmax函数计算的硬件系统及方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN116562347B 。
龙图腾网通过国家知识产权局官网在2025-09-19发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202310143879.4,技术领域涉及:G06N3/063;该发明授权实现softmax函数计算的硬件系统及方法是由刘海莹;陈刚;毛文宇;申荣铉;鲁华祥设计研发完成,并于2023-02-21向国家知识产权局提交的专利申请。
本实现softmax函数计算的硬件系统及方法在说明书摘要公布了:本发明提供一种实现softmax函数计算的硬件系统及方法,涉及神经网络的硬件加速领域。本发明对softmax函数计算进行优化,通过稀疏化的方式只选择输出有效位值进行指数计算和存储以降低计算冗余和存储需求,并且采用动态移位更新最大值的方式将最大值求取隐藏在流水线中,提高了计算效率。并且,本发明针对其中复杂的指数及除法运算,确定了不同softmax精度需求的指数及除法单元精度选择的方案,改进了分段线性拟合算法,适用性强,可实现通用非线性函数如指数、除法及s型函数等的运算,操作简单,面积小,功耗低,有很大的实用价值。
本发明授权实现softmax函数计算的硬件系统及方法在权利要求书中公布了:1.一种实现softmax函数计算的方法,其特征在于,包括: 步骤S1,根据指数单元和除法单元的实现精度,确定硬件系统的结构,其中,所述硬件系统包括输入数据处理单元、指数单元、最大值更新单元、移位累加单元、中间结果存储单元、最高非零位检测单元和除法单元; 步骤S2,将量化后的输入数据xi输入所述输入数据处理单元与常数log2e相乘,将计算得到的小数部分vi与整数部分ui分别输入所述指数单元和所述最大值更新单元; 步骤S3,所述指数单元将所述小数部分vi作为以2为底的指数,得到指数结果2vi,所述最大值更新单元对所述整数部分ui进行筛选,得到有效整数数据及其索引; 步骤S4,所述移位累加单元根据所述有效整数数据对所述指数结果2vi进行移位,得到自然指数计算结果exi; 步骤S5,根据所述有效整数数据的索引将所述指数结果2vi存储至所述中间结果存储单元; 步骤S6,所述移位累加单元根据所述有效整数数据的索引将所述自然指数计算结果exi进行累加,得到第一累加和; 步骤S7,所述最高非零位检测单元将所述第一累加和转换为包含参数f和参数Q的f×2Q形式,其中,1≤f<2; 步骤S8,将所述参数f输入所述除法单元,计算所述参数f的倒数1f; 步骤S9,将所述有效整数数据与所述参数Q相减,利用相减结果对所述倒数1f进行移位,得到softmax函数值。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人中国科学院半导体研究所,其通讯地址为:100083 北京市海淀区清华东路甲35号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。
请提出您的宝贵建议,有机会获取IP积分或其他奖励