Document
拖动滑块完成拼图
个人中心

预订订单
服务订单
发布专利 发布成果 人才入驻 发布商标 发布需求

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 上海燧原科技股份有限公司姚建国获国家专利权

上海燧原科技股份有限公司姚建国获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉上海燧原科技股份有限公司申请的专利混合专家模型的优化方法、装置、设备、介质及程序获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN119808860B

龙图腾网通过国家知识产权局官网在2025-07-08发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510308465.1,技术领域涉及:G06N3/063;该发明授权混合专家模型的优化方法、装置、设备、介质及程序是由姚建国;吴晨鹏;顾琦琪;石恒;张亚林设计研发完成,并于2025-03-17向国家知识产权局提交的专利申请。

混合专家模型的优化方法、装置、设备、介质及程序在说明书摘要公布了:本发明实施例公开了一种混合专家模型的优化方法、装置、设备、介质及程序,其中,方法包括:对目标混合专家模型的各项稀疏化的数据结构进行稀疏转换,得到结构化稀疏数据结构;对所述结构化稀疏数据结构进行数据排布优化;结合计算芯片的稀疏计算单元对所述目标混合专家模型的算子进行优化,得到稀疏算子;根据所述稀疏算子对所述目标混合专家模型的原始算子进行更新,得到结构化稀疏的混合专家模型。本发明实施例的技术方案能够实现对混合专家模型的结构化稀疏优化,以充分发挥混合专家模型的稀疏计算硬件在计算稀疏矩阵乘法时的加速性能,进而大大优化稀疏矩阵乘法运算过程中的计算、带宽以及存储资源的开销。

本发明授权混合专家模型的优化方法、装置、设备、介质及程序在权利要求书中公布了:1.一种混合专家模型的优化方法,其特征在于,包括: 对目标混合专家模型的各项稀疏化的数据结构进行稀疏转换,得到结构化稀疏数据结构;其中,所述结构化稀疏数据结构包括模型权重数据的结构化稀疏数据结构,所述模型权重数据的结构化稀疏数据结构通过压缩矩阵集合存储所述目标混合专家模型中各项稀疏化的模型权重矩阵; 对所述结构化稀疏数据结构进行数据排布优化; 结合计算芯片的稀疏计算单元对所述目标混合专家模型的算子进行优化,得到稀疏算子; 根据所述稀疏算子对所述目标混合专家模型的原始算子进行更新,得到结构化稀疏的混合专家模型; 获取与所述计算芯片匹配的稀疏计算单元要求文件; 其中,所述稀疏计算单元要求文件中定义了在所述计算芯片上的各稀疏计算单元进行稀疏计算时,执行于所述稀疏算子内的各线程对所述目标混合专家模型中各所述模型权重矩阵的数据访问位置; 按照所述稀疏计算单元要求文件,对各所述压缩矩阵集合中的压缩数据矩阵、索引矩阵和元数据矩阵的数据排布方式进行重编排; 将重编排后的各所述压缩矩阵集合在计算芯片的设定内存中进行存储,以实现将具有连续访问特性的数据进行连续存储。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人上海燧原科技股份有限公司,其通讯地址为:201306 上海市浦东新区中国(上海)自由贸易试验区临港新片区业盛路188号A-522室;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。