糖尿病性视网膜图像的深度神经网络分类方法

Ｊｏｕｒｎａｌ　ｏｆ　Ｃｏｍｐｕｔｅｒ　Ａｐｐｌｉｃａｔｉｏｎｓ　计算机应用，２０１７，３７（３）：６９９—７０４　ＩＳＳＮ　１００１．９０８１　Ｃ０ＤＥＮ　ＪＹＩＩＤＵ　２０１７—０３—１Ｏ　ｈｔｔｐ：／／ｗｗｗ．ｊｏｃａ．ｃｎ　

文章编号：１００１－９０８１（２０１７）０３—０６９９—０６　ＤＯＩ：１０．１１７７２／ｊ．ｉｓｓｎ．１００１—９０８１．２０１７．０３．６９９　

糖尿病性视网膜图像的深度神经网络分类方法　

丁蓬莉，李清勇　，张振，李峰　

（北京交通大学轨道交通数据分析与挖掘北京市重点实验室，北京１０００４４）　

（｝通信作者电子邮箱ｌｉｑｙ＠ｂｊｔｕ．ｅｄｕ．ｃｎ）　

摘要：针对传统的视网膜图像处理步骤复杂、泛化性差、缺少完整的自动识别系统等问题，提出了一套完整的　基于深度神经网络的视网膜图像自动识别系统。首先，对图像进行去噪、归一化、数据扩增等预处理；然后，设计了紧　

凑的神经网络模型——ｃｏｍｐａｃｔＮｅｔ，ＣｏｍｐａｃｔＮｅｔ继承了ＡｌｅｘＮｅｔ的浅层结构参数，深层网络参数则根据训练数据进行　

自适应调整；最后，针对不同的训练方法和不同的网络结构进行了性能测试。实验结果表明，ＣｏｍｐａｃｔＮｅｔ网络的微调　

方法要优于传统的网络劫ｉ练方法，其分类指标可以达到Ｏ．８７，与传统直接训练相比高出０．２７；对于ＬｅＮｅｔ，ＡｌｅｘＮｅｔ和　

ＣｏｍｐａｃｔＮｅｔ三种网络模型，ＣｏｍｐａｃｔＮｅｔ网络模型的分类准确率最高；并且通过实验证实了数据扩增等预处理方法的必　

要性。　关键词：糖尿病性视网膜图像；深度学习；卷积神经网络；图像分类；微调　

中图分类号：ＴＰ３９１．４　文献标志码：Ａ　

Ｄｉａｂｅｔｉｃ　ｒｅｔｉｎａｌ　ｉｍａｇｅ　ｃｌａｓｓｉｆｉｃａｔｉｏｎ　ｍｅｔｈｏｄ　ｂａｓｅｄ　ｏｎ　ｄｅｅｐ　ｎｅｕｒａｌ　ｎｅｔｗｏｒｋ　

ＤＩＮＧ　Ｐｅｎｇｌｉ，ＬＩ　Ｑｉｎｇｙｏｎｇ’，ＺＨＡＮＧ　Ｚｈｅｎ，ＬＩ　Ｆｅｎｇ　

（Ｂｅｉｊｉｎｇ　Ｋｅｙ　Ｌａｂ　ｏｆＴｒａｎｓｐｏｒｔａｔｉｏｎ　Ｄａｔａ　Ａｎａｌｙｓｉｓ　ａｎｄ　Ｍｉｎｉｎｇ，Ｂｅｉｊｉｎｇ　Ｊｉａｏｔｏｎｇ　Ｕｎｉｖｅｒｓｉｔｙ，Ｂｅｉｊｉｎｇ　１０００４４，Ｃｈｉｎａ）　

Ａｂｓｔｒａｃｔ：Ａｉｍｉｎｇ　ａｔ　ｔｈｅ　ｐｒｏｂｌｅｍｓ　ｏｆ　ｃｏｍｐｌｅｘ　ｒｅｔｉｎａｌ　ｉｍａｇｅ　ｐｒｏｃｅｓｓｉｎｇ，ｐｏｏｒ　ｇｅｎｅｒａｌｉｚａｔｉｏｎ　ａｎｄ　ｌａｃｋ　ｏｆ　ｃｏｍｐｌｅｔｅ　

ａｕｔｏｍａｔｉｃ　ｒｅｃｏｇｎｉｔｉｏｎ　ｓｙｓｔｅｍ，ａ　ｃｏｍｐｌｅｔｅ　ｒｅｔｉｎａｌ　ｉｍａｇｅ　ａｕｔｏｍａｔｉｃ　ｒｅｃｏｇｎｉｔｉｏｎ　ｓｙｓｔｅｍ　ｂａｓｅｄ　ｏｎ　ｄｅｅｐ　ｎｅｕｒａｌ　ｎｅｔｗｏｒｋ　ｗａｓ　

ｐｒｏｐｏｓｅｄ．Ｆｉｒｓｔｌｙ，ｔｈｅ　ｉｍａｇｅ　ｗａｓ　ｄｅｎｏｉｓｅｄ，ｎｏｒｍａｌｉｚｅｄ，ａｎｄ　ｄａｔａ　ｐｒｅｐｒｏｃｅｓｓｅｄ．Ｔｈｅｎ，ａ　ｃｏｍｐａｃｔ　ｎｅｕｒａｌ　ｎｅｔｗｏｒｋ　ｍｏｄｅｌ　

ｎａｍｅｄ　ＣｏｍｐａｃｔＮｅｔ　ｗａｓ　ｄｅｓｉｇｎｅｄ．Ｔｈｅ　ｓｔｒｕｃｔｕｒｅ　ｐａｒａｍｅｔｅｒｓ　ｏｆ　ＣｏｍｐａｃｔＮｅｔ　ｗｅｒｅ　ｉｎｈｅｒｉｔｅｄ　ｆｒｏｍ　ＡｌｅｘＮｅｔ．Ｔｈｅ　ｄｅｅｐ　ｎｅｔｗｏｒｋ　

ｐａｒａｍｅｔｅｒｓ　ｗｅｒｅ　ａｄｊｕｓｔｅｄ　ａｄａｐｔｉｖｅｌｙ　ｂａｓｅｄ　ｏｎ　ｔｈｅ　ｔｒａｉｎｉｎｇ　ｄａｔａ．Ｆｉｎａｌｌｙ，ｔｈｅ　ｐｅｒｆｏｒｍａｎｃｅ　ｅｘｐｅｒｉｍｅｎｔｓ　ｗｅｒｅ　ｃｏｎｄｕｃｔｅｄ　ｏｎ　

ｄｉｆｆｅｒｅｎｔ　ｔｒａｉｎｉｎｇ　ｍｅｔｈｏｄｓ　ａｎｄ　ｖａｒｉｏｕｓ　ｎｅｔｗｏｒｋ　ｓｔｒｕｃｔｕｒｅｓ．Ｔｈｅ　ｅｘｐｅｒｉｍｅｎｔａｌ　ｒｅｓｕｈｓ　ｄｅｍｏｎｓｔｒａｔｅ　ｔｈａｔ　ｔｈｅ　ｆｉｎｅ—ｔｕｎｉｎｇ　ｍｅｔｈｏｄ　ｏｆ　

ＣｏｍｐａｃｔＮｅｔ　ｉｓ　ｂｅｔｔｅｒ　ｔｈａｎ　ｔｈｅ　ｔｒａｄｉｔｉｏｎａｌ　ｎｅｔｗｏｒｋ　ｔｒａｉｎｉｎｇ　ｍｅｔｈｏｄ，ｔｈｅ　ｃｌａｓｓｉｆｉｃａｔｉｏｎ　ｉｎｄｅｘ　ｃａｎ　ｒｅａｃｈ　０．８７，０．２７　ｈｉｇｈｅｒ　ｔｈａｎ　

ｔｈｅ　ｔｒａｄｉｔｉｏｎａｌ　ｄｉｒｅｃｔ　ｔｒａｉｎｉｎｇ．Ｂｙ　ｃｏｍｐａｒｉｎｇ　ＬｅＮｅｔ，ＡｌｅｘＮｅｔ　ａｎｄ　ＣｏｍｐａｃｔＮｅｔ，ＣｏｍｐａｃｔＮｅｔ　ｎｅｔｗｏｒｋ　ｍｏｄｅｌ　ｈａｓ　ｔｈｅ　ｈｉｇｈｅｓｔ　

ｃｌａｓｓｉｆｉｃａｔｉｏｎ　ａｃｃｕｒａｃｙ，ａｎｄ　ｔｈｅ　ｎｅｃｅｓｓｉｔｙ　ｏｆ　ｐｒｅｐｒｏｃｅｓｓｉｎｇ　ｍｅｔｈｏｄｓ　ｓｕｃｈ　ａｓ　ｄａｔａ　ａｍｐｌｉｆｉｃａｔｉｏｎ　ｉｓ　ｃｏｎｆｉｒｍｅｄ　ｂｙ　ｅｘｐｅｒｉｍｅｎｔｓ．　

Ｋｅｙ　ｗｏｒｄｓ：ｄｉａｂｅｔｉｃ　ｒｅｔｉｎａｌ　ｉｍａｇｅ；ｄｅｅｐ　ｌｅａｒｎｉｎｇ；ｃｏｎｖｏｌｕｔｉｏｎａｌ　ｎｅｕｒａｌ　ｎｅｔｗｏｒｋ；ｉｍａｇｅ　ｃｌａｓｓｉｆｉｃａｔｉｏｎ；ｆｉｎｅ—ｔｕｎｅ　

０　引言　

糖尿病性视网膜病变（Ｄｉａｂｅｔｉｃ　Ｒｅｔｉｎｏｐａｔｈｙ，ＤＲ）是目前　

严重的致盲眼病。中国现在有将近１亿的糖尿病患者，此中　

视网膜病变的患病率为６５．２％。ＤＲ的潜伏期长短不一，短　

则３—５年，长可达１５年，并且潜伏期越长，发病率越高。据　统计，潜伏期超过１５年的病患发病率可高达５０％…。早发　

现、早诊断、早治疗对于抑制病情的发展至关重要，因此，对于　

视网膜图像的早期筛选工作成为关注的重点，对于视网膜图　

像的分析也成为目前研究的热点。　

传统的视网膜图像处理方法包括４个阶段：预处理、解剖　

结构分析、病变检测和病变诊断。视网膜图像处理的每个阶　

段都需要不止一种图像处理技术，而且视网膜图像结构复杂，　

容易与各种病变交叉影响，再加上复杂的背景变化影响（图　１），使得对视网膜图像的处理面Ｉ临各种难题。不可避免的外　界因素使得处理视网膜图像的技术复杂、泛化性差，对先验知　

识也具有很强的依赖性。在这个过程中，任何一个技术环节　

出错或者效果不理想，都将导致后续的工作无法进行或者图　

像分类检测结果出现很大的误差。在糖尿病发病率比较高的　

发达国家，已经有不少科研单位从事糖尿病视网膜病变筛选　

的研究　Ｊ，而我国对这方面的研究少之又少，尚还缺少一个　

完整的针对视网膜图像分类诊断的系统。　

本文采用基于深度学习的方法实现对视网膜图像自动分　

类，只需要作简单的图像预处理，然后将预处理得到的图像作　

为网络的输入，通过本文提出的ＣｏｍｐａｃｔＮｅｔ网络结构自动训　

练，将训练好的模型用于图像自动分类。与传统的处理方法　相比，深度学习只是对原始图片集作了简单的预处理，不需要　

借助任何先验信息的情况下就可以达到高准确率。　

收稿日期：２０１６－０９—２３：修回日期：２０１６—１０—２６。　基金项目：北京市自然科学基金资助项目（４１４２０４３）；中央高校基本科研业务费专项基金资助项目（２０１４ＪＢＺ００３）。　作者简介：丁蓬莉（１９９１一），女，山东潍坊人，硕士研究生，主要研究方向：机器学习、深度学习、模式识别、图像分类；　李清勇（１９７９一），　男，湖南娄底人，教授，博士，主要研究方向：机器视觉与模式识别、机器学习与数据挖掘；张振（１９９Ｏ一），男，河北唐山人，硕士研究生，主要研　究方向：机器学习、深度学习、模式识别、图像分类；李峰（１９９２一），男，湖北黄冈人，硕士研究生，主要研究方向：机器学习、深度学习、模式识　别、图像检测。

　７００　计算机应用　第３７卷　

扰图像　图像　成干扰　管对比不均衡　

（ｅ）病变交　（ｆ）光照不匀　（ｇ）病变　（ｈ）白化病　叉造成视　造成视盘不　区与视盘　交叉无法识　盘特性消失　是最亮区域　亮度相似　别硬性渗出　图１　传统视网膜处理方法中的干扰图像　Ｆｉｇ．１　Ｉｎｔｅｒｆｅｒｅｎｃｅ　ｉｍａｇｅｓ　ｔｏ　ｔｒａｄｉｔｉｏｎａｌ　ｒｅｔｉｎａｌ　ｐｒｏｃｅｓｓｉｎｇ　ｍｅｔｈｏｄｓ　

１　深度学习简介　

１．１　深度学习的发展及应用　深度学习的概念起源于人ｊ二神经网络，是模拟大脑的构　架并辅以一定的学习算法，从而使计算机的工作方式尽可能　地接近人类的工作方式。深度学习　浅层学习最大的区别在　

于模型结构的深度　虽然浅层学习方法在某些应用中也　获得ｌ『一定的成就，但是仍然存在一大类问题不能使用浅层　结构表示，浅层学习仍然具有很大的局限性　。。深度学习主　要模仿神经网络的层次结构，低层次表示细节，高层次表示抽　

象的数据结构特征，通过逐层抽象、高度挖掘数据的本质信　

息，从而达到学习的目的。该特征学习的过程完全自动，无需　人工干预。Ａｒｅｌ等　介绍了主流的深度学习方法以及近几年　

来的研究方向，突出了深度学习方法的优势。　深度神经网络自流行以来，已经在语音识别　、图像识　别。　和自然语言处理领域　取得了巨大的成功。ＬｅＣｕｎ　等　。最早于１９９８年开始专注卷积神经网络（Ｃｏｎｖｏｌｕｔｉｏｎａｌ　

Ｎｅｕｒａｌ　Ｎｅｔｗｏｒｋ，ＣＮＮ）的研究，提出了用于识别手写体的　ＬｅＮｅｔ模型。２００６年之后，深度学习以一发不可收之势霸占　了人工智能领域，取得了巨大的成功。２０１１年，微软研究院　和Ｇｏｏｇｌｅ的语音识别研究人员先后采用深度神经网络技术　

对语音进行处理．极大降低了语音识别的错误率，这在语音识　

别领域是突破性进展。深度神经网络技术在图像识别领域也　取得了惊人的成果，涌现出了很多经典的网络结构。在　

ＩｍａｇｅＮｅｔ国际计算机视觉挑战赛（１ＬＳＶＲＣ）中拔得头筹的　

ＡｌｅｘＮｅｔ（２０１２年冠军）　将错误率降低了９％。ＧｏｏｇｌｅＮｅｔ　

（ＩＬＳＶＲＣ２０１４冠军）　和ＶＧＧ（ＩＬＳＶＲＣ２０１４年亚军）　针　对网络的深度取得了突破性的进展。在ＩＬＳＶＲＣ２０１５中．Ｈｅ　等　将神经网络的系统实现到了１５２层，并且还使用一个全　

新的“残差学习”原则来指导神经网络的设计，很好地解决了　

深层网络层级与准确度之间的矛盾。　

１．２卷积神经网络　卷积神经网络是人工神经网络的一种，是一种多层的神　经网络，最早于２Ｏ世纪６Ｏ年代由Ｈｕｂｅｌ等　。提出，已经成为　

当前语音分析和图像识别领域的研究热点。　

ＣＮＮ的基本结构包括两种特殊的神经元层：特征映射层　

和特征提取层。特征映射层（卷积层）的每个神经元的输入　

和前一层的局部相连，并提取该局部特征；特征提取层（降采　样层、池化层、抽样层）用来求局部敏感性和二次特征提取。　卷积神经网络的卷积层和抽样层交替出现，每个卷积层后都　

跟着二次提取的池化层，这种两次特征提取使网络在识别时　

对输入样本有较高的特征学习能力　。卷积层的主要任务　是特征映射，从不同的角度来选择前一层特征图的各角度特　征使其具有位移、旋转不变性。由于ＣＮＮ的权值共享特性，　

从一个平面到下一个平面的映射可以看作是卷积运算，计算　

形式如式（１）所示：　

＝　∑　Ｋｅｒｎｅ　＋　）　（１）　ｉＥＭｉ　其中：２表示网络第几层，Ｋｅｒｎｅｌ为卷积核，　．为输入特征图　

的一种组合选择，每一层输出特征图都会有一个唯一的偏置　ｂ。值得说明的是，输出特征图所对应的输入特征图可以是一　

个或者若干个，当有若干个输入特征时，每个输入特征所对应