福州大学廖龙龙获国家专利权
买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!
龙图腾网获悉福州大学申请的专利面向CPU+GPU异构平台的可验证边缘学习推理方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN118657215B 。
龙图腾网通过国家知识产权局官网在2025-10-14发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202410627538.9,技术领域涉及:G06N5/04;该发明授权面向CPU+GPU异构平台的可验证边缘学习推理方法是由廖龙龙;林建斌;郑育强;于元隆设计研发完成,并于2024-05-21向国家知识产权局提交的专利申请。
本面向CPU+GPU异构平台的可验证边缘学习推理方法在说明书摘要公布了:本发明提出一种面向CPU+GPU异构平台的可验证边缘学习推理方法,通过在TEE中利用CPU执行权重参数校验和卷积计算过程验证,并利用边缘设备上的GPU加速模型的可验证推理;可验证推理过程分为部署阶段和推理阶段;部署阶段在TEE中生成深度学习模型的每一层权重的哈希签名,并利用TEE安全存储服务对模型结构文件、权重文件和哈希签名进行加密,然后将加密后的模型文件保存在REE文件系统中;推理阶段通过在TEE中对比权重参数的哈希签名来确保卷积层权重的完整性,并利用所设计的IFA算法验证REE中GPU上卷积运算结果的正确性。本发明可同时实现内存和外存中深度学习模型权重的完整性保护,并保证卷积计算结果的正确性和模型推理结果的可验证性。
本发明授权面向CPU+GPU异构平台的可验证边缘学习推理方法在权利要求书中公布了:1.一种面向CPU+GPU异构平台的可验证边缘学习推理方法,其特征在于,DarkneTV通过在TEE中执行的权重参数校验和卷积计算过程验证,实现边缘设备上深度学习模型的可验证推理及其加速,保护深度学习模型的完整性和推理结果的正确性;可验证推理过程分为部署阶段和推理阶段;所述部署阶段在TEE中生成深度学习模型中每层权重的哈希签名,并对模型结构文件、权重文件和哈希签名进行加密,然后以加密文件形式保存在REE中;所述推理阶段通过在TEE中对比哈希签名来校验卷积层权重的完整性,并利用所设计的IFA算法验证REE中卷积运算结果的正确性,以判断推理过程是否被攻击; 所述IFA算法具体包括: 将Freivalds算法中的随机向量元素的取值范围从{0,1}扩展到区间0.00,1.00]之间的浮点数;使用A和B分别表示im2col卷积算法中卷积计算转化为矩阵乘法运算后的两个输入矩阵,并且A和B的尺寸分别是m×k和k×n,使用C表示卷积计算输出的m×n大小的特征矩阵; 定义向量和向量使用无穷范数来表示待验证公式中左右两边计算结果之间的误差,根据A、B和C的尺寸大小计算误差上限εr,当IFA算法计算得到的值未超出误差上限εr时,说明卷积计算结果是正确的,否则说明卷积计算结果受到了攻击或计算过程发生了软错误; 所述误差上限εr的计算公式为:εr=λmk224,其中λ是人为设定的系数值; 所述推理阶段具体为: DarkneTV完成深度学习模型加密文件的读取后,创建线程池并与TEE建立会话连接,调用相应的TEEClient接口启动TEE中运行的安全应用程序TA1解密模型结构数据、每层权重参数和哈希签名HA1,其中每层网络权重参数记为矩阵A;解密完成后模型结构和每层的权重参数A被传输到REE的内存中,但其哈希签名HA1仍保留在TA1的安全内存中;DarkneTV从外存中读取模型推理的输入数据到REE内存中,输入数据为待推理图像或上一层的输出特征图,并开始利用异构平台中的GPU进行深度学习模型的推理,其中输入数据记为矩阵B;推理过程中首先在GPU中进行每层的算子推理,若当前层为卷积层,则将其输入的权重参数A、输入数据B和卷积计算的输出特征图C以内存映射方式传输到TEE中,在TEE中对权重参数A进行哈希校验和对卷积算子推理过程进行校验,以校验卷积层参数的完整性并验证卷积计算结果的正确性;若当前层为非卷积层,由于其遭受错误注入攻击的概率非常低,则直接在GPU中进行算子推理,无需在TEE中进行权重参数A的哈希校验和输出特征图C的正确性验证;依次执行深度学习模型中的每一层,直到完成模型所有层的推理并输出预测结果。
如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人福州大学,其通讯地址为:350116 福建省福州市闽侯县上街镇大学城学园路2号福州大学新区;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。
以上内容由龙图腾AI智能生成。
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。

皖公网安备 34010402703815号
请提出您的宝贵建议,有机会获取IP积分或其他奖励