清华大学胡旭获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉清华大学申请的专利一种应用低比特位宽与动态参数初始化模型训练方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120975155B 。
龙图腾网通过国家知识产权局官网在2026-02-03发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202511516665.2,技术领域涉及:G06N3/063;该发明授权一种应用低比特位宽与动态参数初始化模型训练方法是由胡旭;武永卫设计研发完成,并于2025-10-23向国家知识产权局提交的专利申请。
本一种应用低比特位宽与动态参数初始化模型训练方法在说明书摘要公布了:本公开涉及人工智能技术领域,提出一种应用低比特位宽与动态参数初始化模型训练方法,包括:获取目标生长阶段对应的参数规模;基于目标生长阶段对应的参数规模,在目标生长阶段的前一生长阶段训练好的模型基础上扩展参数规模;扩展参数规模后的模型中一个或多个参数采用低比特位宽进行量化;对扩展参数规模后的模型进行训练,并在训练过程中调用第一精度计算核处理激活矩阵与权重矩阵之间的运算,得到目标生长阶段训练好的模型;其中,目标生长阶段训练好的模型用于执行推理任务时,将调用第二精度计算核处理激活矩阵与权重矩阵之间的运算。通过本公开,节省了模型训练的成本,降低了对部署资源的限制,降低了硬件调度复杂度。
本发明授权一种应用低比特位宽与动态参数初始化模型训练方法在权利要求书中公布了:1.一种应用低比特位宽与动态参数初始化模型训练方法,其特征在于,所述方法包括: 获取目标生长阶段对应的参数规模;其中,所述目标生长阶段为预设多个生长阶段中任一生长阶段,所述多个生长阶段中每一生长阶段对应的参数规模基于目标机器学习模型的预设参数规模确定;所述多个生长阶段用于通过生长式训练所述目标机器学习模型; 基于所述目标生长阶段对应的参数规模,在所述目标生长阶段的前一生长阶段训练好的模型基础上扩展参数规模;其中,扩展参数规模后的模型中一个或多个参数采用低比特位宽进行了量化,所述低比特位宽表示比特数小于预设值的位宽; 对所述扩展参数规模后的模型进行训练,并在训练过程中调用第一精度计算核处理激活矩阵与权重矩阵之间的运算,得到所述目标生长阶段训练好的模型;其中,所述目标生长阶段训练好的模型用于执行推理任务时,将调用第二精度计算核处理激活矩阵与权重矩阵之间的运算;所述第一精度大于所述第二精度。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人清华大学,其通讯地址为:100084 北京市海淀区清华园;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励