- 无标题文档
查看论文信息

中文题名:

 

小样本条件下带钢表面缺陷检测方法研究

    

姓名:

 肖骏    

学号:

 1049732002693    

保密级别:

 公开    

论文语种:

 chi    

学科代码:

 085212    

学科名称:

 工学 - 工程 - 软件工程    

学生类型:

 硕士    

学校:

 武汉理工大学    

院系:

 计算机与人工智能学院    

专业:

 电子信息    

研究方向:

 缺陷检测    

第一导师姓名:

 陈先桥    

第一导师院系:

 计算机与人工智能学院    

完成日期:

 2023-03-29    

答辩日期:

 2023-05-12    

中文关键词:

 

带钢表面缺陷 ; 缺陷检测 ; 生成对抗网络 ; Faster R-CNN ; 小样本

    

中文摘要:

带钢作为航空、机械、汽车、电器等行业一种重要的原材料,其表面质量的好坏直接影响最终产品的性能和质量。而在带钢生产过程中,受生产环境和工艺等因素的影响,导致带钢表面出现不同严重程度的缺陷,因此针对带钢表面缺陷的自动化检测变得愈发重要。随着机器视觉行业的发展,机器视觉技术逐渐成为带钢表面缺陷自动化检测的重要方法,而深度学习作为机器视觉领域的重要技术之一,在缺陷检测领域展现出优秀的检测性能。

目前基于深度学习的带钢表面缺陷检测方法存在以下问题:一是大部分目标检测算法广泛存在数据不均衡的问题,特别是在缺乏高质量训练标签数据资源的情况下,而通过数据增强算法生成的缺陷图像存在细节缺失、模糊、类别单一等问题,无法给目标检测算法进行训练和优化使用;二是大部分目标检测算法在带钢表面缺陷检测过程中,对小目标、条状、重叠区域较大的缺陷检测的效果不理想,并且在保证精度高的同时难以做到实时检测。

在此背景下,本文分别对带钢表面缺陷数据增强和目标检测两类任务进行了深入研究,并在此基础设计了带钢表面缺陷检测系统,主要工作及成果如下:

(1) 在小样本条件下,针对生成对抗网络(Generative Adversarial Network,G-AN)应用于带钢表面缺陷数据增强过程中存在的图像细节缺失和模式崩溃问题,提出一种改进GAN的数据增强方法。首先将自注意力机制引入到生成器和鉴别器中,使模型学习全局特征的关联关系,从而增强细节特征;加入谱归一化限制每一层网络权重矩阵的谱范数,增强生成图像的质量;将带有梯度惩罚项的Wasserstein距离替换原有损失函数来稳定网络的训练。在NEU-CLS实验数据集进行实验,在弗雷歇距离平均值为22.2,优于同类其他方法,生成的图像相比于DCGAN和WGAN-GP细节特征更加清晰。实验结果表明,基于改进GAN的带钢表面缺陷数据增强方法有效缓解了模式崩溃问题,生成图像质量良好、多样性丰富,能有效实现小样本条件下的数据增强,为进一步对带钢表面缺陷其他任务奠定了良好的基础。

(2) 针对目前在基于深度学习的带钢表面缺陷检测过程中,存在对小目标、条状、重叠面积较大的缺陷检测精度低和检测速度慢的问题,在扩增数据集的基础上,提出一种改进Faster R-CNN的缺陷检测方法。将原有的特征提取网络替换为ResNet50,提高目标检测的精度;结合带钢表面缺陷对比度低、小目标的特点,将特征金字塔网络融合到ResNet50中,实现浅层特征图的空间信息和高层特征图的语义信息的融合;针对夹杂、划痕缺陷为条状的特点,利用可变形卷积网络实现不同位置卷积核采样点根据目标检测物体自适应变换;结合氧化皮、点蚀、开裂缺陷重叠面积较大的特点,使用Soft-NMS替换传统的非极大值抑制算法,降低目标漏检率。在扩增的NEU-CLS数据集进行实验,改进的Faster R-CNN算法在氧化皮,斑块、开裂、点蚀、夹杂、划痕检测的平均精确率分别为83.8%,91.0%,85.8%,84.5%,85.3%,90.8%,平均精确率均值为86.9%,检测速度达到21.5fps,相比于原始的Faster R-CNN分别提升了8.7%和1.7fps,与其他目标检测算法相比,改进的Faster R-CNN算法在保持两阶段检测算法的精度优势的同时,降低了与单阶段检测算法在检测速度指标的差距。实验结果表明,改进的Faster R-CNN算法能有效检测各类带钢表面缺陷,对小目标和条状缺陷同样适用,检测精度和速度均满足带钢表面检测需求。

(3) 在检测模型取得良好检测效果的基础上,提出基于云边协同的带钢表面缺陷检测解决方案,使用ModelArts和OBS作为云端模型数据中心,边端的缺陷检测系统采用CMOS相机阵列捕捉带钢表面图像,并辅助漫反射LED光源阵列进行补光,基于工业相机SDK来获取相机图像,将图像上传至OBS进行存储,通过在ModelArts部署的检测模型快速准确识别缺陷,使用基于C#和WPF工具开发的人机交互系统展示和调整检测信息。在工厂中拍摄带钢表面缺陷图像来测试检测系统,系统对6类缺陷的平均检测率为93.6%,检测速度为21fps。实验结果表明,系统可用性良好,可以帮助企业提高生产效率,降低生产成本。

参考文献:

[1] 李新创. 新时代钢铁工业高质量发展之路[J]. 钢铁, 2019, 54(01): 1-7.

[2] 王海风, 平晓东, 周继程, 等. 中国钢铁工业绿色发展回顾及展望[J]. 钢铁, 2023, 58(02): 8-18.

[3] 陶显, 侯伟, 徐德. 基于深度学习的表面缺陷检测方法综述[J]. 自动化学报, 2021, 47(5): 18.

[4] 米春风, 卢琨, 汪文艳, 等. 基于机器视觉的带钢表面缺陷检测研究进展[J]. 安徽工业大学学报(自然科学版), 2022(002): 039.

[5] 汤勃, 孔建益, 伍世虔. 机器视觉表面缺陷检测综述[J]. 中国图象图形学报, 2017, 22(12): 1640-1663.

[6] 田贵云, 高斌, 高运来, 等. 铁路钢轨缺陷伤损巡检与监测技术综述[J]. 仪器仪表学报, 2016,37(08): 1763-1780.

[7] Razeghi M, Nguyen B M. Advances in mid-infrared detection and imaging: a key issues

review[J]. Reports on Progress in Physics, 2014, 77(8): 082401.

[8] 秦宇, 韩云鹏. 基于磁机械效应的铁磁材料漏磁检测数值模拟[J]. 哈尔滨工业大学学报, 2023,55(01): 47-54.

[9] Luo Q, Fang X, Liu L, et al. Automated Visual Defect Detection for Flat Steel Surface: A

Survey[J]. IEEE Transactions on Instrumentation and Measurement, 2020, 69(3): 626-644.

[10] Djukic D, Spuzic S. Statistical discriminator of surface defects on hot rolled steel[J]. Image

Vis. Comput, 2007: 158-163.

[11] Wu G, Kwak H, Jang S, et al. Design of online surface inspection system of hot rolled strips[J]. 2008: 2291-2295.

[12] 化春键, 周海英. 阈值分解下的冷轧极薄带钢表面缺陷分割[J]. 机械科学与技术, 2017, 36(02):308-313.

[13] Bulnes F G, Usamentiaga R, García D F, et al. Vision-based sensor for early detection

of periodical defects in web materials[J]. Sensors, 2012, 12(8): 10788-10809.

[14] Zhao Y J, Yan Y H, Song K C. Vision-based automatic detection of steel surface defects

in the cold rolling process: considering the influence of industrial liquids and surface textures

[J]. The International Journal of Advanced Manufacturing Technology, 2017, 90: 1665-1678.

[15] 王宏, 朱德生, 唐威. 一种基于灰度投影的带钢表面缺陷检测算法[J]. 东北大学学报 (自然科学版), 2008(03): 375-377.

[16] Choi J, Kim C. Unsupervised detection of surface defects: A two-step approach[C]//2012

19th IEEE International Conference on Image Processing. IEEE: 1037-1040.

[17] Yazdchi M, Yazdi M, Mahyari A G. Steel surface defect detection using texture segmentation based on multifractal dimension[C]//2009 International Conference on Digital ImageProcessing. IEEE: 346-350.61

[18] Aiger D, Talbot H. The phase only transform for unsupervised surface defect detection[C]

//2010 IEEE Computer Society Conference on Computer Vision and Pattern Recognition.

IEEE: 295-302.

[19] 丛家慧, 颜云辉, 董德威. Gabor 滤波器在带钢表面缺陷检测中的应用[J]. 东北大学学报: 自然科学版, 2010(2): 257-260.

[20] 屈尔庆, 崔月姣, 徐森, 等. 改进的 Gabor 滤波器带钢表面缺陷显著性检测[J]. 华中科技大学学报: 自然科学版, 2017(10): 12-17.

[21] Liu W, Yan Y. Automated surface defect detection for cold-rolled steel strip based on wavelet

anisotropic diffusion method[J]. International Journal of Industrial and Systems Engineering,

2014, 17(2): 224-239.

[22] 陈海永, 徐森, 刘坤, 等. 基于 Gabor 小波和加权马氏距离的带钢表面缺陷检测[J]. 电子测量与仪器学报, 2016, 30(05): 786-793.

[23] 徐科, 宋敏, 杨朝霖, 等. 隐马尔可夫树模型在带钢表面缺陷在线检测中的应用[J]. 机械工程学报, 2013, 49(22): 34-40.

[24] Timm F, Barth E. Non-parametric texture defect detection using Weibull features[C]//Image Processing: Machine Vision Applications IV: vol. 7877. SPIE: 150-161.

[25] Liu K, Wang H, Chen H, et al. Steel surface defect detection using a new Haar–Weibullvariance model in unsupervised manner[J]. IEEE transactions on instrumentation and measurement, 2017, 66(10): 2585-2596.

[26] 胡慧君, 李元香, 刘茂福, 等. 基于机器学习的带钢表面缺陷分类方法研究[J]. 计算机工程与设计, 2014, 35(02): 620-624.

[27] 郭慧, 徐威, 刘亚菲. 基于支持向量机的钢板表面缺陷检测[J]. 东华大学学报 (自然科学版),2018, 44(04): 635-639.

[28] Fan Q, Zhuo W, Tang C K, et al. Few-shot object detection with attention-RPN and multi-relation detector[C]//Proceedings of the IEEE/CVF conference on computer vision and pattern recognition. 2020: 4013-4022.

[29] Ren S, He K, Girshick R, et al. Faster r-cnn: Towards real-time object detection with region proposal networks[J]. Advances in neural information processing systems, 2015, 28.

[30] 李维刚, 叶欣, 赵云涛, 等. 基于改进 YOLOv3 算法的带钢表面缺陷检测[J]. 电子学报, 2020,48(07): 1284-1292.

[31] Radford A, Metz L, Chintala S. Unsupervised Representation Learning with Deep Convolutional Generative Adversarial Networks[J]. arXiv e-prints, 2015.

[32] Goodfellow I, Pouget-Abadie J, Mirza M, et al. Generative Adversarial Nets[C]//Neural Information Processing Systems. 2014.

[33] He D, Xu K, Zhou P, et al. Surface defect classification of steels with a new semi-supervised

learning method[J]. Optics and Lasers in Engineering, 2019, 117(JUN.): 40-48.

[34] 赵凯琳,靳小龙,王元卓.小样本学习研究综述[J].软件学报,2021,32(02):349-369.

[35] Ding G, Han X, Wang S, et al. Attribute Group Editing for Reliable Few-shot Image Generation[C]//Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition. 2022: 11194-11203.

[36] Tao X, Zhang D, Ma W, et al. Automatic metallic surface defect detection and recognition

with convolutional neural networks[J]. Applied Sciences, 2018, 8(9): 1575.

[37] Zhou F, Liu G, Xu F, et al. A generic automated surface defect detection based on a bilinear model[J]. Applied Sciences, 2019, 9(15): 3159.

[38] Zhang H, Goodfellow I, Metaxas D, et al. Self-attention generative adversarial networks

[C]//International conference on machine learning. PMLR: 7354-7363.

[39] Miyato T, Kataoka T, Koyama M, et al. Spectral normalization for generative adversarial networks[J]. arXiv preprint arXiv:1802.05957, 2018.

[40] Gulrajani I, Ahmed F, Arjovsky M, et al. Improved training of wasserstein gans[J].Advances in neural information processing systems, 2017, 30.

[41] Heusel M, Ramsauer H, Unterthiner T, et al. Gans trained by a two time-scale update rule converge to a local nash equilibrium[J]. Advances in neural information processing systems, 2017, 30.

[42] Lin T Y, Dollár P, Girshick R, et al. Feature Pyramid Networks for Object Detection

[J]. arXiv e-prints, 2016.

[43] Dai J, Qi H, Xiong Y, et al. Deformable convolutional networks[C]//Proceedings of the

IEEE international conference on computer vision. 2017: 764-773.

[44] Bodla N, Singh B, Chellappa R, et al. Soft-NMS–improving object detection with one

line of code[C]//Proceedings of the IEEE international conference on computer vision. 2017:

5561-5569.

[45] 马岽奡, 唐娉, 赵理君, 等. 深度学习图像数据增广方法研究综述[J]. 中国图象图形学报, 2021,26(03): 487-502.

[46] Inoue H. Data augmentation by pairing samples for images classification[J]. arXiv preprint

arXiv:1801.02929, 2018.

[47] Zhang H, Cisse M, Dauphin Y N, et al. mixup: Beyond empirical risk minimization[J].

arXiv preprint arXiv:1710.09412, 2017.

[48] 冯晓硕, 沈樾, 王冬琦. 基于图像的数据增强方法发展现状综述[J]. Computer Science and Application, 2021, 11: 370.

[49] Cubuk E D, Zoph B, Mane D, et al. Autoaugment: Learning augmentation policies from

data[J]. arXiv preprint arXiv:1805.09501, 2018.

[50] 黄鐄, 陶海军, 王海峰. 条件生成对抗网络的低照度图像增强方法[J]. 中国图象图形学报, 2019,24(12): 2149-2158.

[51] 曹仰杰, 贾丽丽, 陈永霞, 等. 生成式对抗网络及其计算机视觉应用研究综述[J]. 中国图象图形学报, 2018, 23(10): 1433-1449.63

[52] Gulrajani I, Ahmed F, Arjovsky M, et al. Improved training of wasserstein gans[J].

Advances in neural information processing systems, 2017, 30.

[53] Bao J, Chen D, Wen F, et al. CVAE-GAN: fine-grained image generation through asymmetric training[C]//Proceedings of the IEEE international conference on computer vision.2017: 2745-2754.

[54] 王坤峰, 苟超, 段艳杰, 等. 生成式对抗网络 GAN 的研究进展与展望[J]. 自动化学报, 2017,

43(03): 321-332.

[55] 唐贤伦, 杜一铭, 刘雨微, 等. 基于条件深度卷积生成对抗网络的图像识别方法[J]. 自动化学报, 2018, 44(05): 855-864.

[56] 陈佛计, 朱枫, 吴清潇, 等. 生成对抗网络及其在图像生成中的应用研究综述[J]. 计算机学报,2021, 44(02): 347-369.

[57] 黄宏宇, 谷子丰. 一种基于自注意力机制的文本图像生成对抗网络[J]. 重庆大学学报, 2020,43(03): 55-61.

[58] 马力, 李秋丽. 结合自注意力机制的进化 GAN 人脸图像生成[J]. 西安邮电大学学报, 2020,25(03): 69-76.

[59] 王霞, 徐慧英 and 朱信忠. 一种基于谱归一化的两阶段堆叠结构生成对抗网络的文本生成图像模型[J]. 计算机工程与科学, 2022, 44(6): 1083-1089.

[60] 甘岚, 沈鸿飞, 王瑶, 等. 基于改进 DCGAN 的数据增强方法[J]. 计算机应用, 2021, 41(05):

1305-1313.

[61] He Y, Song K, Meng Q, et al. An end-to-end steel surface defect detection approach via

fusing multiple hierarchical features[J]. IEEE Transactions on Instrumentation and Measurement, 2019, 69(4): 1493-1504.

[62] 颜云辉, 彭怡书, 宋克臣, 等. 基于阈值法的带钢表面缺陷图像脉冲噪声去除[J]. 东北大学学报(自然科学版), 2010, 31(05): 717-720.

[63] 赵永强, 饶元, 董世鹏, 等. 深度学习目标检测方法综述[J]. 中国图象图形学报, 2020, 25(4):

26.

[64] Girshick R, Donahue J, Darrell T, et al. Rich Feature Hierarchies for Accurate Object Detection and Semantic Segmentation[J]. IEEE Computer Society, 2013.

[65] He K, Zhang X, Ren S, et al. Spatial Pyramid Pooling in Deep Convolutional Networks for Visual Recognition[J]. 2014: 1904-16.

[66] Tschumperlé D, Deriche R. Proceedings of the IEEE Computer Society Conference on Computer Vision and Pattern Recognition[J]. IEEE Computer Society, 2016.

[67] Redmon J, Divvala S, Girshick R, et al. You only look once: Unified, real-time object

detection[J]. 2016: 779-788.

[68] Liu W, Anguelov D, Erhan D, et al. Ssd: Single shot multibox detector[J]. 2016: 21-37.

[69] 冯小雨, 梅卫, 胡大帅. 基于改进 Faster R-CNN 的空中目标检测[J]. 光学学报, 2018, 38(06):250-258.

[70] 刘秀丽, 徐小力. 基于特征金字塔卷积循环神经网络的故障诊断方法[J]. 上海交通大学学报,2022, 56(02): 182-190.

[71] 万鹏, 赵竣威, 朱明, 等. 基于改进 ResNet50 模型的大宗淡水鱼种类识别方法[J]. 农业工程学报, 2021, 37(12): 159-168.

[72] 王凤随, 王启胜, 陈金刚, 等. 基于注意力机制和 Soft-NMS 的改进 Faster R-CNN 目标检测算法[J]. 激光与光电子学进展, 2021, 58(24): 405-416.

[73] 李就好, 林乐坚, 田凯, 等. 改进 Faster R-CNN 的田间苦瓜叶部病害检测[J]. 农业工程学报,2020, 36(12): 179-185.

[74] 徐森, 屈尔庆, 陈海永, 等. 冷轧带钢表面缺陷检测系统设计[J]. 仪表技术与传感器, 2017(01):65-69.

[75] 乔湘洋, 王海芳, 祁超飞, 等. 基于机器视觉的线缆表面缺陷检测系统设计与算法研究[J]. 机床与液压, 2020, 48(05): 49-53.

[76] 穆向阳, 张太镒. 机器视觉系统的设计[J]. 西安石油大学学报 (自然科学版), 2007(06): 104-109+130.

[77] 陈俊良, 葛俊锋, 叶林, 等. 基于海康威视 SDK 的视频监控软件的开发[J]. 工业控制计算机,2015, 28(07): 97-98+101.

[78] Lew R, Boring R L, Ulrich T A. A Prototyping Environment for Research on HumanMachine Interfaces in Process Control: Use of Microsoft WPF for Microworld and Distributed

Control System Development[C]//Resilience Week 2014. 2014.

中图分类号:

 TG335.12    

条码号:

 002000074194    

馆藏号:

 YD10002238    

馆藏位置:

 203    

备注:

 403-西院分馆博硕论文库;203-余家头分馆博硕论文库    

无标题文档

   建议浏览器: 谷歌 火狐 360请用极速模式,双核浏览器请用极速模式