买专利卖专利找龙图腾，真高效！ 查专利查商标用IPTOP,全免费！专利年费监控用IP管家,真方便！

龙图腾网获悉山东大学申请的专利针对低资源设备的多模态大模型异构多教师蒸馏部署方法获国家发明授权专利权，本发明授权专利权由国家知识产权局授予，授权公告号为：CN120411997B 。

龙图腾网通过国家知识产权局官网在2025-09-05发布的发明授权授权公告中获悉：该发明授权的专利申请号/专利号为：202510905603.4，技术领域涉及：G06V30/41；该发明授权针对低资源设备的多模态大模型异构多教师蒸馏部署方法是由刘宁;王鹤霖;辛玉晶;杜威;刘磊;崔立真设计研发完成，并于2025-07-02向国家知识产权局提交的专利申请。

本针对低资源设备的多模态大模型异构多教师蒸馏部署方法在说明书摘要公布了：本发明公开一种针对低资源设备的多模态大模型异构多教师蒸馏部署方法，涉及多模态知识蒸馏技术领域，包括以图像‑文本对为输入，提取图像嵌入和文本嵌入，确定图像到文本和文本到图像的对比分布；计算确定图像模态权重和文本模态权重；对教师模型的图像嵌入和文本嵌入进行加权，得到融合图像嵌入和融合文本嵌入，对教师模型的对比分布进行加权，得到图像到文本和文本到图像的融合分布；以此进行特征蒸馏和对比关系蒸馏。从对齐图像和文本中提取互补的多模态信息，将多模态信息蒸馏到学生模型中，实现高效的跨模态知识传递，增强理解跨模态语义的能力，提高图像识别分类的准确性。

本发明授权针对低资源设备的多模态大模型异构多教师蒸馏部署方法在权利要求书中公布了：1.针对低资源设备的多模态大模型异构多教师蒸馏部署方法，其特征在于，包括： 在目标云端的计算集群中，基于获取的问题领域从预设数据库中获取图像-文本对，并根据目标设备确定学生模型，以预设的大语言模型为教师模型；所述目标设备为自身算力符合预设低资源判定条件的设备； 以获取的图像-文本对作为学生模型和多个教师模型的输入，得到每个模型的图像嵌入和文本嵌入，分别以图像嵌入和文本嵌入为锚点，确定每个模型的图像到文本的对比分布和文本到图像的对比分布； 根据学生模型的图像嵌入和文本嵌入，分别计算学生模型与各教师模型间的相似性得分，以此确定图像模态权重和文本模态权重； 根据图像模态权重和文本模态权重，对所有教师模型的图像嵌入和文本嵌入分别进行加权求和，得到融合图像嵌入和融合文本嵌入，并对所有教师模型的对比分布进行加权聚合，得到图像到文本的融合分布和文本到图像的融合分布； 根据学生模型的图像嵌入和文本嵌入以及融合图像嵌入和融合文本嵌入，进行特征蒸馏；根据学生模型的对比分布以及图像到文本的融合分布和文本到图像的融合分布，进行对比关系蒸馏，从而完成对学生模型的训练，并将训练后的学生模型部署至目标设备； 在每个教师模型中分别设置独立的投影层，用于通过投影函数和分别将图像嵌入和文本嵌入映射到共享的维度为的学生模型的特征空间中，且在投影后经归一化为单位向量，最后完成投影层的处理后进行相似性得分的计算； 根据学生模型的图像嵌入或文本嵌入，计算学生模型与第个教师模型间的相似性得分为：； 确定的模态权重为：； 其中，为针对第张图像，学生模型生成的图像嵌入或文本嵌入与第个教师模型生成的图像嵌入或文本嵌入间的相似性得分；为针对第张图像，学生模型生成的图像嵌入或文本嵌入与第个教师模型生成的图像嵌入或文本嵌入间的相似性得分，是教师模型的数量；为sigmoid激活函数；为中间参数；为相似性权重矩阵；为缩放向量；m表示图像模态或文本模态；M表示图像嵌入或文本嵌入。

如需购买、转让、实施、许可或投资类似专利技术，可联系本专利的申请人或专利权人山东大学，其通讯地址为：250000 山东省济南市高新区舜华路1500号；或者联系龙图腾网官方客服，联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。