Document
拖动滑块完成拼图
个人中心

预订订单
服务订单
发布专利 发布成果 人才入驻 发布商标 发布需求

在线咨询

联系我们

龙图腾公众号
首页 专利交易 IP管家助手 科技果 科技人才 科技服务 国际服务 商标交易 会员权益 需求市场 关于龙图腾
 /  免费注册
到顶部 到底部
清空 搜索
当前位置 : 首页 > 专利喜报 > 中山大学吴贺俊获国家专利权

中山大学吴贺俊获国家专利权

买专利卖专利找龙图腾,真高效! 查专利查商标用IPTOP,全免费!专利年费监控用IP管家,真方便!

龙图腾网获悉中山大学申请的专利基于改进自注意力机制与迁移学习的山体裂缝检测方法获国家发明授权专利权,本发明授权专利权由国家知识产权局授予,授权公告号为:CN114022770B

龙图腾网通过国家知识产权局官网在2025-07-01发布的发明授权授权公告中获悉:该发明授权的专利申请号/专利号为:202111335474.8,技术领域涉及:G06V20/10;该发明授权基于改进自注意力机制与迁移学习的山体裂缝检测方法是由吴贺俊;李可设计研发完成,并于2021-11-11向国家知识产权局提交的专利申请。

基于改进自注意力机制与迁移学习的山体裂缝检测方法在说明书摘要公布了:本发明提供基于改进自注意力机制与迁移学习的山体裂缝检测方法,该方法对裂缝检测网络的数据集进行预处理得到训练集和验证集;利用得到的训练集对裂缝检测网络进行训练;利用得到的验证集选择训练裂缝检测网络得到的表现最好的模型;在不同道路裂缝数据集上测试模型的性能,泛化性;利用迁移学习方法将处理后的模型应用于山体裂缝检测。本发明面向高精度山体裂缝检测应用场景,研究图片不同尺度特征的提取方式,提出了一种新型的裂缝检测网络结构,并从结构层面和公式层面对新网络进行了详细的阐述。本发明利用不同的数据实验说明了网络如何应用于具体的检测场景,并通过与代表性方法进行性能对比,展现了新型算法的优势所在。

本发明授权基于改进自注意力机制与迁移学习的山体裂缝检测方法在权利要求书中公布了:1.一种基于改进自注意力机制与迁移学习的山体裂缝检测方法,其特征在于,包括以下步骤: S1:对裂缝检测网络的数据集进行预处理得到训练集和验证集; S2:利用步骤S1得到的训练集对裂缝检测网络进行训练,过程为: S21:使用ImageNet-1k预训练裂缝检测网络的Swin-Transformer主干网络部分; 所述Swin-Transformer主干网络包含两种基本网络模块:Swin-Transformer模块和Patch-merging模块: 1)、Swin-Transformer模块: Swin-Transformer是一种包含改进的自注意力机制的模块,它提取图片的全局依赖关系,同时改进一般自注意力模块训练缓慢的问题,Swin-Transformer中包含若干连续Swin-Transformerblock对,输入在第一个block中首先经过线性归一化层与基于滑动窗口的多头自注意力层计算并加上残差,之后经过线性归一化层和多层感知机层再加上残差,得到的输出交给下一个block,依旧进行上述过程计算,唯一不同之处在于基于窗口的多头自注意力层变换成了移动的基于窗口的多头自注意力层,设输入为,公式化上述过程可得: 其中,W-MSA表示基于窗口的多头自注意力层;LN表示线性归一化层;MLP表示多层感知机;SW-MSA表示移动的基于窗口的多头自注意力层;为第l个Swin-Transformerblock对中第一个block的输入;为第l个基于窗口的多头自注意力层的输出;为第l个Swin-Transformerblock对中第一个block的输出;为第l个移动的基于窗口的多头自注意力层的输出;为第l个Swin-Transformerblock对中下一个block的输出; W-MSA将图片划分成较小的patch,之后用窗口将图片划分,每个patch只和同一窗口内的patch做自注意力计算: 其中,Q,K,V是由图片中每个patch经过卷积神经网络embedding之后再乘上转换矩阵得到的向量,d为向量K的维度大小;B为预设的偏置项;设每张图片可划分为个patch,每个patch得到的Q,K,V向量长度为,而每个窗口范围内包含个patch,则自注意力机制MSA与W-MSA的计算时间复杂度分别为: 2)、Patch-merging模块: Patch-merging旨在通过对特征图的patch向量进行合并,以对特征图进行近似下采样,从而提取图片的多尺度信息; S22:使用训练集训练整个网络; 输入图片首先经过一层Ublock提取特征,再经过patchembbeding之后输入到Swin-Transformer主干网络,Swin-Transformer捕获图像的全局依赖关系,并利用patch-merging输出不同尺度的特征,这些特征经过上采样与上层特征融合再经过若干Ublock,最终输出尺寸相同的预测结果; 其中,Ublock是一种由残差块和上下采样层交替组成的微型编码器-解码器结构,若输入的特征图尺寸为,图像输入Ublock后经过三次残差块间隔两次下采样的组合后,尺寸变为;之后,特征图经过两次上采样和残差块的组合还原为原本尺寸; 网络最终输出四个尺寸相同的预测图,并且利用深监督机制将每一个预测都加入损失的计算回传梯度,深监督采用Focal-Loss损失函数,其在交叉熵损失函数的基础上加入了权重参数,通过调整权重参数可以增大网络对于裂缝像素的关注度,同时削弱背景像素对于模型的影响,设为像素的实际类型,为模型的预测结果,则Focal-Loss的公式为: 其中,为样本平衡因子,用于平衡正负样本本身的比例不均,使得易分样本的损失相对难分样本小许多; S3:利用步骤S1得到的验证集选择训练裂缝检测网络得到的表现最好的模型; S4:在不同道路裂缝数据集上测试模型的性能,泛化性; S5:利用迁移学习方法将步骤S4处理后的模型应用于山体裂缝检测。

如需购买、转让、实施、许可或投资类似专利技术,可联系本专利的申请人或专利权人中山大学,其通讯地址为:510275 广东省广州市海珠区新港西路135号;或者联系龙图腾网官方客服,联系龙图腾网可拨打电话0551-65771310或微信搜索“龙图腾网”。

免责声明
1、本报告根据公开、合法渠道获得相关数据和信息,力求客观、公正,但并不保证数据的最终完整性和准确性。
2、报告中的分析和结论仅反映本公司于发布本报告当日的职业理解,仅供参考使用,不能作为本公司承担任何法律责任的依据或者凭证。