厦门大学曹刘娟获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉厦门大学申请的专利模型权重的量化方法、电子设备及程序产品获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN121351913B 。
龙图腾网通过国家知识产权局官网在2026-03-31发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202511893232.9,技术领域涉及:G06N3/082;该发明授权模型权重的量化方法、电子设备及程序产品是由曹刘娟;谭佳熙;张岩;郑侠武;纪荣嵘设计研发完成,并于2025-12-16向国家知识产权局提交的专利申请。
本模型权重的量化方法、电子设备及程序产品在说明书摘要公布了:本公开提供了一种模型权重的量化方法、电子设备及程序产品,涉及计算机技术领域。本公开的模型权重的量化方法包括:将大语言模型的全精度权重矩阵进行分块处理,并计算每一权重块的重要性分数;根据各权重块的重要性分数,通过贪心优化算法为各权重块分配量化比特宽度;对全精度权重矩阵进行幅度均摊处理,并根据幅度均摊处理后的全精度权重矩阵中权重元素的Hessian属性,对量化参数进行优化,得到消除离散分布的异常值后的全精度权重矩阵和优化后的量化参数;以及根据量化比特宽度、消除离散分布的异常值后的全精度权重矩阵以及优化后的量化参数,计算全精度激活输出与量化激活输出的差异,并进行层级反馈去噪补偿,得到目标量化权重矩阵。
本发明授权模型权重的量化方法、电子设备及程序产品在权利要求书中公布了:1.一种模型权重的量化方法,其特征在于,包括: 将大语言模型的全精度权重矩阵进行分块处理,并计算每一权重块的重要性分数,所述重要性分数用于反映权重块对量化误差的敏感性; 根据各所述权重块的重要性分数,通过贪心优化算法为各所述权重块分配量化比特宽度,包括:根据各所述权重块的重要性分数和量化损失,构建贪心优化目标;初始化权重块的量化比特宽度为初始值;假设各权重块的量化比特宽度均增加目标数值,根据所述贪心优化目标,计算权重块的加权量化损失减少量;真实提升加权量化损失减少量最大的权重块的量化比特宽度,直至权重块的平均量化比特宽度达到目标比特宽度,其中所述目标比特宽度支持分数级别,实现硬件剩余存储空间的有效利用; 对所述全精度权重矩阵进行幅度均摊处理,并根据幅度均摊处理后的全精度权重矩阵中权重元素的Hessian属性,对量化参数进行优化,得到消除离散分布的异常值后的全精度权重矩阵和优化后的量化参数;以及 根据所述量化比特宽度、消除离散分布的异常值后的全精度权重矩阵以及优化后的量化参数,计算全精度激活输出与量化激活输出的差异,并根据所述差异进行层级反馈去噪补偿,得到目标量化权重矩阵。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人厦门大学,其通讯地址为:361005 福建省厦门市思明区思明南路422号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励