买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉清华大学申请的专利大语言模型对齐方法及装置、电子设备和存储介质获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN118780393B 。

龙图腾网通过国家知识产权局官网在2025-10-28发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202410867620.9，技术领域涉及：G06N20/00；该发明授权大语言模型对齐方法及装置、电子设备和存储介质是由翟季冬;李健文设计研发完成，并于2024-06-28向国家知识产权局提交的专利申请。

本大语言模型对齐方法及装置、电子设备和存储介质在说明书摘要公布了：本公开涉及一种大语言模型对齐方法及装置、电子设备和存储介质，该方法包括：将大语言模型的对齐流程划分为多个阶段；确定各所述阶段的子阶段，以及各所述阶段对应的阶段内策略，所述阶段内策略表征训练时模块对硬件的共享策略以及模块的执行顺序；确定阶段间策略，所述阶段间策略表征不同所述阶段对应的并行训练方式；按照各所述阶段内策略和各所述阶段间策略对待对齐模型进行对齐，得到目标模型。在对齐过程中，为各阶段确定出对应的阶段内策略、阶段间策略，考虑了上下文切换过程中可能的效率优化可能性，以及并行训练方式转换过程中可能存在的效率优化的机会，提高了对齐训练的效率和硬件资源的利用率。

本发明授权大语言模型对齐方法及装置、电子设备和存储介质在权利要求书中公布了：1.一种大语言模型对齐方法，其特征在于，包括： 基于对齐流程中系统的工作负载特征和数据依赖性，将大语言模型的对齐流程划分为多个阶段，所述工作负载特征表征占用硬件资源和网络资源的数量，或者表征计算量； 确定各所述阶段的子阶段，以及各所述阶段对应的目标阶段内策略，所述目标阶段内策略表征训练时模块对硬件的共享策略以及模块的执行顺序； 确定阶段间策略，所述阶段间策略表征不同所述阶段对应的并行训练方式； 按照各所述阶段内策略和各所述阶段间策略对待对齐模型进行对齐，得到目标模型； 阶段内策略包括：顺序执行策略、单模块特定设备策略、多模块特定设备策略； 所述顺序执行策略表征各所述模块共享全部硬件，所述模块顺序执行； 所述单模块特定设备策略表征各所述模块被分配了不相同的硬件，各所述模块并行执行； 所述模块包括：第一组模块和第二组模块，所述硬件包括：第一组硬件和第二组硬件； 所述多模块特定设备策略表征所述第一组模块共享所述第一组硬件，所述第一组模块中的各模块顺序执行，所述第二组模块中的各模块使用且不共享第二组硬件中的硬件，所述第二组模块中的各模块并行执行； 所述并行训练方式包括：管道并行和张量并行，所述确定阶段间策略，包括： 调高上一阶段的张量并行的并行程度，并且降低上一阶段的管道并行的并行程度，得到当前阶段的并行训练方式； 将所述当前阶段的并行训练方式作为所述当前阶段的阶段间策略。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人清华大学，其通讯地址为：100084 北京市海淀区清华园1号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

以上内容由龙图腾AI智能生成。