北京邮电大学杜军平获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉北京邮电大学申请的专利基于自适应对比解码的大语言模型约束指令遵循方法及装置获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN120745616B 。
龙图腾网通过国家知识产权局官网在2026-03-31发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202510628333.7,技术领域涉及:G06F40/284;该发明授权基于自适应对比解码的大语言模型约束指令遵循方法及装置是由杜军平;张家榕;薛哲;叶冠华设计研发完成,并于2025-05-15向国家知识产权局提交的专利申请。
本基于自适应对比解码的大语言模型约束指令遵循方法及装置在说明书摘要公布了:本发明提供一种基于自适应对比解码的大语言模型约束指令遵循方法及装置,将提示信息分为指令与约束两部分,由专家模型按照动态变化的窗口生成初始输出序列,引入辅助模型计算在有约束和无约束条件下各词元的预测概率分布差异,并基于预设标准区分约束敏感词元和约束不敏感词元。对于仅包含约束不敏感词元的窗口直接输出至目标输出序列,并按照第一设定比例扩大窗口长度;对于包含约束敏感词元的窗口,首个约束敏感词元之前的词元直接输入目标输出序列,基于对比解码修正该首个约束敏感词元,并按照第二比例缩减窗口长度。本发明能降低约束条件对模型生成的干扰,避免非敏感token的冗余计算,显著推理效率,同时保证约束遵循质量。
本发明授权基于自适应对比解码的大语言模型约束指令遵循方法及装置在权利要求书中公布了:1.一种基于自适应对比解码的大语言模型约束指令遵循方法,其特征在于,该方法包括以下步骤: 对原始提示词进行指令解耦得到任务指令部分和约束条件部分; 由专家模型基于所述任务指令部分在无约束的条件下,按照预设初始长度的窗口生成初始输出序列;针对每一轮的所述初始输出序列执行如下操作: 由辅助模型并行计算所述初始输出序列中的词元在有约束和无约束条件下的预测概率分布,并计算所述词元在有约束和无约束条件下的所述预测概率分布的差异,将所述差异大于设定标准的词元标记为约束敏感词元,将所述差异小于等于所述设定标准的所述词元标记为约束不敏感词元;所述辅助模型的参数规模小于所述专家模型; 若当前所述初始输出序列的词元中仅包含所述约束不敏感词元,则将当前所述初始输出序列的所述词元输出至目标输出序列,并将所述窗口长度按照第一设定比例扩展;若当前所述初始输出序列的词元中包含所述约束敏感词元,则将其中首个约束敏感词元之前的词元输出至所述目标输出序列,基于所述专家模型和所述辅助模型基于对比解码的形式修正所述首个约束敏感词元并输出至所述目标输出序列,将所述窗口长度按照第二设定比例缩减; 基于长度动态变化的所述窗口执行多轮操作得到完整的所述目标输出序列并输出。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人北京邮电大学,其通讯地址为:100876 北京市海淀区西土城路10号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励