《电子技术应用》
      您所在的位置:首页 > 嵌入式技术 > 设计应用 > 卷积神经网络在肝包虫病CT图像诊断中的应用
      卷积神经网络在肝包虫病CT图像诊断中的应用
      2019年电子技术应用第11期
      刘志华1,李丰军2,严传波2
      1.新疆医科大学 公共卫生学院,新疆 乌鲁木齐830011;2.新疆医科大学 医学工程技术学院,新疆 乌鲁木齐830011
      摘要: 探讨卷积神经网络(Convonlutional Neural Network,CNN)在肝包虫病CT图像诊断中的应用。选取两种类型的肝包虫病CT图像进行归一化、改进的中值滤波去噪和数据增强等预处理。以LeNet-5模型为基础提出改进的CNN模型CTLeNet,采用正则化策略减少过拟合问题,加入Dropout层减少参数个数,对二分类肝包虫图像进行分类实验,同时通过反卷积实现特征可视化,挖掘疾病潜在特征。结果表明,CTLeNet模型在分类任务中取得了较好的效果,有望通过深度学习方法对肝包虫病提供辅助诊断和决策支持。
      中图分类号: TN919.8;TP751.1
      文献标识码: A
      DOI:10.16157/j.issn.0258-7998.190651
      中文引用格式: 刘志华,李丰军,严传波. 卷积神经网络在肝包虫病CT图像诊断中的应用[J].电子技术应用,2019,45(11):17-20.
      英文引用格式: Liu Zhihua,Li Fengjun,Yan Chuanbo. Application of convolutional neural network in CT image diagnosis of hepatic echinococcosis[J]. Application of Electronic Technique,2019,45(11):17-20.
      Application of convolutional neural network in CT image diagnosis of hepatic echinococcosis
      Liu Zhihua1,Li Fengjun2,Yan Chuanbo2
      1.College of Public Health,Xinjiang Medical University,Urumqi 830011,China; 2.College of Medical Engineering Technology,Xinjiang Medical University,Urumqi 830011,China
      Abstract: This paper investigates the application of convolutional neural network(CNN) in CT image diagnosis of hepatic hydatidosis. Two types of CT images of hepatic hydatid disease were selected for normalization, improved median filtering denoising and data enhancement. Based on LeNet-5 model,an improved CNN model CTLeNet is proposed.Regularization strategy is adopted to reduce overfitting problems, dropout layer is added to reduce the number of parameters, and classification experiments are conducted on the images of dichotomous liver hydatid.Meanwhile, feature visualization is realized through deconvolution to explore the potential features of diseases. The results showed that CTLeNet model achieved good results in the classification task, and it was expected to provide auxiliary diagnosis and decision support for liver hydatidosis through deep learning.
      Key words : deep learning;convolutional neural network;hepatic echinococcosis;image classification;computer aided diagnosis

      0 引言

          肝包虫病(hepatic echinococcosis)是一种地方性和自然流行性性人兽共患寄生虫病,主要流行于中国西北地区的畜牧业,是临床常见寄生虫疾病之一,及早发现和确诊对病人的健康至关重要[1-3]。在临床医疗工作中,CT检查是诊治肝包虫病首选的检查方法[4]。传统的图像分类方法主要是对图像的颜色、纹理和形状特征等进行特征提取,并设计分类器,通过数次实验不断调节参数,以提高分类准确率。如胡彦婷[5]等人利用尺度不变特征转换(SIFT)和尺度局部二值模式(LBP)对病灶区进行纹理分析,使用支持向量机(SVM)分类器对肝包虫图像自动分类。近年来,卷积神经网络(Convonlutional Neural Network,CNN)作为深度学习的热门领域,多用于图像识别与图像分类,是一种无监督学习的方法[6]。而CNN在图像分类和分割方面展示出了比传统的浅层学习方法更显著的效果和较好的临床应用前景[7]。如王翀[8]等人使用卷积神经网络对光学相干断层扫描(OCT)视网膜图像进行分类,准确率达到了94.5%。面对大量的医学图像数据,使用传统的分类方法耗时、耗力,使用深度学习算法[9],不仅省时省力,其分类性能也得到了提高。卷积神经网络作为一种深度学习框架,直接提取输入图像特征,与传统分类方法相比,不需要人工设计特征及选择分类器[10]。LeNet-5[11]是一种典型的用来识别数字的卷积神经网络,其模型结构简单,然而对于背景复杂的数据,识别率往往不高。本文提出基于经典的LeNet-5改进的卷积神经网络模型用于肝包虫病CT图像的诊断,探讨将改进的卷积神经网络模型应用于肝包虫病CT图像计算机辅助诊断的可行性,从而辅助医生诊断肝包虫病,做到早发现、早诊断、早治疗。

      1 卷积神经网络

          卷积神经网络是人工神经网络的一种,已成为语音识别和图像识别领域的研究热点[12]。CNN是深度学习的代表模型,通过局部感受域和共享权重解决传统前馈网络中参数过多的问题[13-14]。CNN的结构主要包括卷积层、池化层和全连接层[15]。卷积层由若干个卷积单元组成,每个卷积单元的参数通过反向传播算法计算得到,该层主要用于提取输入图像的特征。池化层即下采样(Down sampling)主要用于特征降维,对输入的特征图进行压缩,提取主要特征,该操作可减少数据量,保留有效数据同时减少过拟合[16]。池化层常用的采样方式有两种,分别是平均值池化(mean-pooling)和最大值池化(max-pooling),大多数情况下采用最大值池化的方式[17]。全连接层是通过多层的卷积层、池化层操作后,将得到的特征图按行展开,连接成向量,将输出值送给分类器[18]

      2 CNN在肝包虫病图像中的诊断

      2.1 数据收集与处理

          实验所用的图像数据均来自新疆医科大学第一附属医院放射科,本文选取单囊型和多囊型肝包虫病CT图像用于实验,共计1 440张。实验数据按照4:1的比例分为训练集和测试集。考虑到样本量对实验结果的影响,本文采用翻转的方法进行数据增强,对每张图像进行上下翻转、左右翻转、旋转90°翻转、180°翻转等方法,扩增后的图片为6 000张。扩增后效果如图1所示。

      rgzn3-t1.gif

          由于肝包虫病CT图像的病灶区域、图像尺寸大小各不相同,同时图像摄片时受到各种噪声的干扰,因此本实验对图像进行预处理操作,首先采用均匀量化的方法对图像进行归一化,其次使用改进的中值滤波算法[19-20]对肝包虫病CT图像进行去噪。经过预处理后的图像,清晰度得到了很大提高。预处理前后图片如图2所示。

      rgzn3-t2.gif

      2.2 卷积神经网络设计

          LeNet-5网络架构由3个卷积层、2个池化层、1个全连接层和1个输出层组成。卷积层卷积核尺寸为5×5,步长为1;池化层的池化窗口为2×2,步长为2,采用最大值池化的方法;全连接层包含84个神经元;输出层包含10个神经元,每个神经元代表一类。本文改进了经典的LeNet-5模型,对肝包虫CT图像进行了有效的分类,并命名为CTLeNet。改进的网络总共有4层卷积层,前两层卷积层卷积核大小为5×5,后两层卷积层卷积核大小为3×3,卷积核的数量随网络层的数量逐渐加深。改进的卷积神经网络实验中使用的激活函数是ReLU激活函数[21],如式(1)所示:

          rgzn3-gs1.gif

      式中,x表示样本,为实数。

          该模型的池化层使用2×2区域来最大值池化,并减少卷积层学习的特征。最后全连接层将特征图按行展开连接成向量使用分类器进行分类。实验中使用的损失函数采用交叉熵代价函数,如式(2)所示:

          rgzn3-gs2.gif

      式中,n为训练样本数,x表示样本,a为神经元输出值,y为期望输出值。      

          为防止改进的卷积神经网络模型对肝包虫病CT图像的识别效果不理想,模型泛化能力不好,本文使用翻转的方法对数据进行扩增,提高模型的泛化能力。同时为防止模型出现过拟合问题,使用L2权重正则化方法。L2正则化如式(3)所示:

          rgzn3-gs3.gif

      式中,M为原始损失函数;λ为正则化系数,实验中设为0.000 1;w为权重;m为小批量数据个数。除此之外,简单的网络模型结构也能够减小过拟合问题,本实验使用Dropout[22]方法在网络训练过程中将网络节点随机丢弃,使每个batch都可以训练相同的网络结构。实验中Dropout层添加在各个全连接层,keep_prob设为0.5。本文采用预处理后的肝包虫病CT图像对模型进行训练和测试,优化后的模型能够对肝包虫病患者的CT图像进行辅助诊断。改进后的卷积神经网络结构如图3所示,图中Conv1-Conv4代表4层卷积层;Pool1-Pool4代表4层池化层;ReLU1-ReLU6代表ReLU激活函数,每层激活函数相同;Drop1-Drop2代表Dropout层;Fc1-Fc3代表3层全连接层。

      rgzn3-t3.gif

      3 实验结果及分析

      3.1 样本扩增前后对比

          本文使用不同类型的翻转方法扩增样本量,将样本扩增前与样本扩增后的数据进行训练,样本量扩增前后的准确率如表1所示。

      rgzn3-b1.gif

          由表1可得,与扩增前相比样本量扩增了将近4倍左右,模型的准确率由85.5%提高到了97.5%。说明适当的数据增强有利于提高网络的泛化能力,同时增强卷积神经网络学习肝包虫病CT图像特征的能力。该模型对肝包虫病CT图像的识别具有较好的分类效果。

      3.2 不同实验方法比较

          本次实验以样本扩增后的数据对肝包虫病CT图像分类,并与传统的分类方法进行比较。传统的分类方法采用SIFT+LBP分析纹理特征,并利用SVM对肝包虫病的CT图像进行分类,其与CTLeNet卷积神经网络模型比较结果如表2所示。

      rgzn3-b2.gif

          从表2可以看出,传统的分类方法准确率为92.86%,本文方法准确率达到了97.5%,传统方法对肝包虫病CT图像的分类没有卷积神经网络分类效果好。从图4(b)中可以看出,随着训练轮数的增加,模型的损失逐渐减少,达到30轮数(epoch)时模型趋于收敛。最后使用训练好的模型对肝包虫CT图像进行测试,从图4中可以看出,本文方法对肝包虫病CT图像的分类效果较好。将改进后的卷积神经网络应用于肝包虫病CT图像计算机辅助诊断系统,有助于辅助医生早期筛查肝包虫病的发生,为临床医生提供理论指导。

      rgzn3-t4.gif

      4 可视化

          本实验中反卷积过程不具有学习能力,仅用于对每层特征图进行可视化。CNN通过训练调节参数,提取各层图像的特征,反卷积网络以各层的特征图作为输入进行反卷积操作。反卷积结果以可视化的方式显示各层学习到的特征。图5是4幅输入图像经过4层卷积层后输出的特征图可视化结果。

      rgzn3-t5.gif

          第1层卷积层主要提取基本灰度信息;第2层提取的是纹理特征信息;第3层、第4层提取的特征具有一定的分辨性,每幅图像输出的特征图均不相同。传统的图像分类方法需要人工设计特征和选择分类器进行分类,无法实现对提取的特征可视化,对辅助医生诊断疾病缺乏一定的可信性。经过模型训练学习后的肝包虫病CT图像特征以可视化方式反馈给临床医生,对辅助医生筛查肝包虫病的发生有一定的可行性。

      5 结论

          本文基于基础LeNet-5网络设计并搭建一种新的卷积神经网络,该模型具有高效的图像识别和分类能力。其次本文搭建的卷积神经网络CTLeNet模型,其准确率达到了97.5%,可以辅助医生进行肝包虫病诊断。最后本文通过使用反卷积实现对每一层卷积层特征图的可视化,有助于了解肝包虫病影像特征,对医生的临床诊断有一定的研究价值。

      参考文献

      [1] 李汭芮,喻文杰,王谦,等.肝包虫病患者超声影像动态观察[J].预防医学情报杂志,2018,34(11):1374-1383.

      [2] MEMMET M,OGUZ I U,CEMAL K,et al.Current status of diagnosis and treatment of hepatic echinococcosis[J].World Journal of Hepatology,2016,8(28):1169-1181.

      [3] 曾静,叶建蔚,张静,等.肝囊型包虫病非手术治疗方法的研究进展[J].现代生物医学进展,2018,18(19):3790-3794.

      [4] 张建英,蒋瑾,胡凌云,等.128层螺旋CT对肝包虫病的临床诊断价值及病理分析[J].四川生理科学杂志,2016,38(4):222-224.

      [5] 胡彦婷,陈建军,杜守洪,等.基于SIFT-LBP稀疏编码的肝包虫CT图像分类[J].科技通报,2016,32(9):58-64.

      [6] ZEILER M D,FERGUS R.Visualizing and understanding convolutional networks[C].arXiv:1311.2901v3[cs.cv],2013.

      [7] PEREIRA S,PINTO A,ALVES V,et al.Brain tumor segmentation using convolutional neural networks in MRI images[J].IEEE Transactions on Medical Imaging,2016,35(5):1240-1251.

      [8] 王翀,何兴鑫,方乐缘,等.基于联合决策卷积神经网络的光学相干断层扫描图像自动分类[J].中国生物医学工程学报,2018,37(6):641-648.

      [9] 蒋涛.深度学习在医学图像分析中的应用[D].成都:电子科技大学,2017.

      [10] 杨志明,李亚伟,杨冰,等.融合宫颈细胞领域特征的多流卷积神经网络分类算法[J].计算机辅助设计与图形学学报,2019,31(4):531-540.

      [11] LECUN Y,BOTTOU L,BENGIO Y,et al.Gradient-based learning applied to document recognition[J].Proceedings of the IEEE,1998,86(11):2278-2324.

      [12] 赵新秋,贺海龙,杨冬冬,等.基于改进的卷积神经网络在图片分类中的应用[J].高技术通讯,2018,28(Z2):930-936.

      [13] 王洋,刘积仁,赵大哲,等.卷积神经网络在MRI图像诊断中的应用[J].东北大学学报(自然科学版), 2019,40(2):169-173.

      [14] 宁静艳,俞晨,程年,等.基于卷积神经网络的肺癌病理图像分类[J].软件导刊,2019(2):141-144.

      [15] 黄睿,陆许明,邬依林.基于TensorFlow深度学习手写体数字识别及应用[J].电子技术应用,2018,44(10):6-10.

      [16] Xue Ying.An overview of overfitting and its solutions[J].Journal of Physics:Conference Series,2019,1168(2):022022.

      [17] 许少尉,陈思宇.基于深度学习的图像分类方法[J].电子技术应用,2018,44(6):116-119.

      [18] JANOWCZYK A,MADABHUSHI A.Deep learning for digital pathology image analysis:a comprehensive tutorial with selected use cases[J].Journal of Pathology Informatics,2016,7(1):29.

      [19] 王红宇,游敏娟,李琪,等.一种中值滤波图像去噪的改进算法[J].中国科技信息,2019(1):84-85.

      [20] 卞长林,王超,厉丹.基于改进中值滤波的影像预处理方法研究[J].电子世界,2018(18):22-23,26.

      [21] ECKLE K,SCHMIDT-HIEBER J.A comparison of deep networks with ReLU activation function and linear spline-type methods[J].arXiv:1804.02253v2[stat.ML],2018.

      [22] LITJENS G , S?魧NCHEZ C I,TIMOFEEVA N,et al.Deep learning as a tool for increased accuracy and efficiency of histopathological diagnosis[J].Scientific Reports,2016,6(1):26286.



      作者信息:

      刘志华1,李丰军2,严传波2

      (1.新疆医科大学 公共卫生学院,新疆 乌鲁木齐830011;2.新疆医科大学 医学工程技术学院,新疆 乌鲁木齐830011)

      此内容为AET网站原创,未经授权禁止转载。
      北京快乐8_北京快乐8官网平台_北京快乐8中奖规则_北京快乐八基本走势图