西北工业大学程塨获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉西北工业大学申请的专利一种基于面部动作表示融合的人脸重演方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN115861457B 。
龙图腾网通过国家知识产权局官网在2026-03-27发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202210804285.9,技术领域涉及:G06T11/00;该发明授权一种基于面部动作表示融合的人脸重演方法是由程塨;孙绪祥;仝慧紫;蔡晓妍;韩军伟;郭雷设计研发完成,并于2022-07-07向国家知识产权局提交的专利申请。
本一种基于面部动作表示融合的人脸重演方法在说明书摘要公布了:本发明涉及一种基于面部动作表示融合的人脸重演方法,设计了两阶段的人脸重演框架,包含面部标志点转换和人脸转换两个步骤。其中,在面部标志点转换时将驱动面的可控面部属性参数和源身份的面部标志点进行深度融合和对齐,生成转换后的面部标志点,用于在人脸转换器中指导人脸重演。之后,在人脸转换时,人脸转换器接受上一步生成得到转换后的面部标志点和源图像,用于合成最终的图像。此外,在训练阶段,本发明设计了自监督和无监督的联合训练方案,以提高人脸重演技术在未知身份人物上面的重演效果。本发明能够解决现有人脸重演技术中的身份泄露导致的图像视觉质量较差的问题,实现高质量的人脸重演。
本发明授权一种基于面部动作表示融合的人脸重演方法在权利要求书中公布了:1.一种基于面部动作表示融合的人脸重演方法,其特征在于步骤如下: 步骤1、训练身份匹配器:身份匹配器C的架构采用ResNet-50网络,训练身份匹配器的损失函数为: 其中,表示对其输入求数学期望,log·表示对其输入求以10为底的对数; 以不同身份的源图像Is和驱动图像Id以及对应的源面标志点Hs和驱动面标志点Hd作为网络的输入; 当图像和标志点来自同一个身份的相同帧或不同帧时,网络判断为真;而当图像和标志点来自不同身份时,网络判断为假; 步骤2、训练AUs预测器:AUs预测器的架采用ResNet-50网络,用于从转换后的面部标志点Ht中提取17个AUs参数和3个头部姿态角度;将含有真实面部标志点的数据输入AUs预测器,输出面部参数At,然后通过OpenFace从真实图像数据对应的面部标志点中提取17个AUs参数和3个头部姿态角度为As;最后,对As和At做L1度量,并作为损失函数对AUs预测器进行训练 其中,||·||1表示L1距离; 步骤3、构建面部标志点转换器:包括结构编码器和4个级联的特征扭曲模块,其中,结构编码器由四个下采样模块和一个多层感知机MLP串联构成,在第三个下采样块后添加一个自注意力层;特征扭曲模块由一个MLP、两个级联的1×1卷积层中间插入一个AdaIN模块串联构成; 步骤4、面部标志点转换器的训练:将训练用的图像数据集输入到面部标志点转换器,生成对抗网络经典的交替训练的方式来训练面部标志点转换器;其中,引入一个质量判别器来完成对面部标志点转换器的训练; 所述采用质量判别器PatchGAN中的判别器网络以D1表示,其训练的优化函数如下: 其中,Hs为源图像的面部标志点; 1、采用无监督和自监督的联合训练策略:在无监督的设置下,面部标志点转换器的总损失函数为: 其中,是本步骤中的质量判别器D1提供的对抗损失,用于衡量合成图片的视觉质量; 是步骤1中训练好的身份匹配器C提供的身份损失,促使转换的面部标志点保留源图像面部的身份信息; 2、在自监督的设置下,生成器的总损失函数为: 其中:Hd代表驱动图像的面部标志点; 步骤5、人脸转换器的构建:包括一个图像编码器,一个面部标志点编码器,一个动作驱动模块,4个级联的嵌入式上采样模块; 所述图像编码器由四个下采样模块和一个MLP层串联构成,其中在第三个下采样块后需要添加一个自注意力层; 所述面部标志点编码器的架构采用ResNet-50网络; 所述动作驱动模块采用3个级联的全卷积网络,嵌入式上采样模块由一个双线性插值模块、两个1×1卷积层中间插入一个AdaIN模块串联构成; 步骤6、人脸转换器的训练:采用无监督与自监督联合训练的方式来训练人脸转换器;训练过程中,需要训练额外的一个质量判别器D2,一个面部标志点生成器R;所述质量判别器D2的架构采用PatchGAN中的判别器网络,损失函数: 所述面部标志点生成器R采用与图像编码器相同的网络结构,用于生成重演图像的面部标志点; 1、在无监督设置下,面部标志点生成器的总损失函数: 其中,用于衡量重演图像的质量; 用来衡量重演图像的面部标志点Ht与人脸转换器输入的面部标志点之间的一致性; 2、在自监督设置中,设置一个图像重构损失,对Ig和Id逐像素计算L1距离: 自监督设置的生成器总损失函数为: 步骤7,完成人脸重演:对于任意一张驱动图像和源图像,使用步骤4训练好的面部标志点转换器将输入的面部轮廓线进行转换,得到转换后的面部标志点Ht;而后,再通过步骤6训练好的人脸转换器生成重演图片Ig,即可完成人脸重演任务。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人西北工业大学,其通讯地址为:710072 陕西省西安市友谊西路;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励