基于彩色CMOS双波长数字全息显微术的细胞相位定量测量
- 格式:pdf
- 大小:1.16 MB
- 文档页数:6
干涉显微细胞相位快速恢复及图像预处理分析随着显微成像技术的不断更新,显微成像已经成为生物学、医学、材料学等学科中重要的分析手段之一。
干涉显微成像技术是一种使用相位差异来生成图像的技术,具有高对比度和分辨率的优势。
然而,干涉显微成像中会受到光波环境的扰动,导致成像精度的下降。
为了解决这个问题,研究人员发展了各种干涉显微细胞相位恢复和图像预处理方法,以提高成像的质量和准确性。
(1)基于多步移相干涉显微成像技术的相位恢复方法多步移相干涉显微成像技术是一种光学相位成像技术,通过在同一像素区域内应用不同的相位门控函数,从而在一个相干光场中提取相位信息。
相位门控函数是一个调制函数,用于将相位差转化为干涉图的强度。
利用多步移相干涉显微成像技术,可以得到多个干涉图像,从而恢复出样品的相位信息。
这种方法具有高精度和高灵敏度的优势,但需要对每个像素执行多次成像,因此对时间和资源的要求较高。
(2)全息数字重建技术全息数字重建技术是一种基于信息编码的方法,通过记录光场的振幅和相位信息来重建三维样品的图像。
该技术可以在一个物理输出中将多个数字全息记录,因此具有高效、容错性和能够处理大量数据的优势。
在干涉显微成像中,全息数字重建技术可以通过在两个光束的交汇点处记录干涉图像,并应用数字处理算法来恢复样品的相位信息。
该方法可以在不同的实验条件下实现相位恢复,比如在时间域、空间域、频域等方面,因此在干涉显微成像中应用广泛。
(1)背景消除背景消除是干涉显微图像预处理中最基本的方法之一。
由于干涉图像中存在光强的扰动,会导致成像背景的变化。
因此,在对干涉图像进行图像分析之前,需要对背景进行消除处理。
一般的方法是使用高斯滤波或中值滤波等方法来去除背景噪声,从而得到干涉图像的背景信息。
(2)直方图均衡化直方图均衡化是一种简单有效的灰度图像增强方法。
它可以使图像中每个灰度值的像素数量几乎相等,从而实现整个图像亮度和对比度的增加。
在干涉显微成像中,直方图均衡化可以用于提高图像对比度,从而更容易观察和分析干涉图像。
(10)授权公告号 CN 202406199 U(45)授权公告日 2012.08.29C N 202406199 U*CN202406199U*(21)申请号 201120353390.2(22)申请日 2011.09.20H04N 5/374(2011.01)H04N 5/3745(2011.01)H04N 5/378(2011.01)(73)专利权人天津大学地址300072 天津市南开区卫津路92号(72)发明人刘立 倪海日 王建 王天慧(74)专利代理机构天津市北洋有限责任专利代理事务所 12201代理人程毓英(54)实用新型名称一种基于双阵列图像传感器的三维测量芯片及系统(57)摘要本实用新型涉及距离成像和三维成像技术领域,涉及一种基于双阵列图像传感器的三维测量芯片,包括两个光学镜头、两个CMOS 图像传感器阵列及图像传感器控制和处理电路,两个CMOS 图像传感器阵列及图像传感器控制和处理电路制作在同一个半导体衬底上,所述的光学镜头为晶圆级光学镜头,分别位于两个CMOS 图像传感器阵列的上面,其中一个光学镜头带有红外滤光片或者薄膜,用于获取普通二维彩色图像,另一个光学镜头用于获取深度图像,图像传感器控制和处理电路根据两个CMOS 图像传感器阵列获取的图像信息,构建三维立体图像。
本实用新型同时提供一种采用上述芯片实现的三维测量系统。
本实用新型能够有效地减少测量芯片和系统的尺寸,并提高测量的实时性和准确性。
(51)Int.Cl.(ESM)同样的发明创造已同日申请发明专利权利要求书1页 说明书6页 附图3页(19)中华人民共和国国家知识产权局(12)实用新型专利权利要求书 1 页 说明书 6 页 附图 3 页1/1页1.一种基于双阵列图像传感器的三维测量芯片,包括两个光学镜头、两个CMOS 图像传感器阵列及图像传感器控制和处理电路,其特征在于,两个CMOS 图像传感器阵列及图像传感器控制和处理电路制作在同一个半导体衬底上,所述的光学镜头为晶圆级光学镜头,分别位于两个CMOS 图像传感器阵列的上面,其中一个光学镜头带有红外滤光片或者薄膜,用于获取普通二维彩色图像,另一个光学镜头用于获取深度图像,图像传感器控制和处理电路根据两个CMOS 图像传感器阵列获取的图像信息,构建三维立体图像。
脑科学研究中激光散斑成像技术的运用-医学技术论文-基础医学论文-医学论文——文章均为WORD文档,下载后可直接编辑使用亦可打印——摘要:激光散斑衬比成像(Laser Speckle Contrast Imaging, LSCI)是一种非扫描式实时血流动力学成像技术,具有高分辨率、快速实时成像、非接触、仪器结构较简单等优势。
尽管由于深度分辨率的限制,LSCI主要用于浅表组织测量,但其在神经疾病、皮肤病等领域的基础研究及临床应用中展现出良好的应用潜力。
本文简要地介绍了激光散斑衬比成像技术的基本原理与技术进展,综述了其在脑卒中、吸毒成瘾、阿尔兹海默症等脑疾病以及其他脑科学应用中的研究进展,并展望了其发展前景。
关键词:激光散斑衬比成像; 血流动力学; 脑科学研究;Abstract:Laser speckle contrast imaging (LSCI) is a powerful and simple non-scanning real-time hemodynamic imaging method, with the advantages of high spatial and temporal resolution, wide imaging field, high-speed imaging, low damage, relatively simple instrumentstructure. After decades of development, it already has had the ability to quantify flow changes with higher resolution. Although LSCI is limited to superficial tissue imaging due to the limitation of depth resolution, it has been playing an important role in the studies and clinical applications of biomedical fields such as dermatology and neurological disease research. This paper briefly introduces the basic principle, typical device and technical progress of LSCI, and reviews the recent progress in brain diseases such as stroke, drug addiction, Alzheimers disease and other applications of brain science. Finally, we discuss the prospects for development of LSCI in the study of brain science.Keyword:laser speckle contrast imaging; hemodynamic imaging; study of brain science;引言大脑的正常生理功能依赖于神经活动与血流动力学之间的紧密配合,这种机制称为神经血管耦合(neurovascular coupling, NVC)。
无透镜显微技术徐鑫舳1#ꎬ关美玲1#ꎬ姜㊀杉1ꎬ杨后圃2ꎬ王㊀殊2ꎬ席㊀鹏1∗(1.北京大学工学院生物医学工程系ꎬ北京100871ꎻ2.北京大学人民医院乳腺中心ꎬ北京100044)摘㊀要:无透镜显微成像(lens ̄freemicroscopy)是一种在不借助透镜的情况下进行成像的技术ꎮ它基于Gabor同轴全息原理ꎬ利用面阵探测器采集原始全息图ꎬ随后通过数字图像处理技术重建样本ꎬ从而实现数字显微成像ꎮ像素超分辨技术缩小了等效像素ꎬ提供更多细节信息使得再现像的分辨率得以直接提升ꎬ而且多种相位恢复手段通过去除孪生像也达到了间接提高分辨率的目的ꎬ尤其是对密集样本ꎮ无透镜显微成像技术突破了传统光学显微镜由透镜带来的空间带宽积的限制ꎬ实现了大视野范围下的高分辨率成像ꎬ因此ꎬ这一技术能够提供大视场下的临床样本快速诊断和准确检测ꎮ另外ꎬ新兴的算法和硬件都在不断地加快数据采集和计算速度ꎬ扩展了其在高速运动样本和纳米尺度样本上的应用ꎮ最近无透镜技术和其配套硬件设备发展方向趋向于硬件紧凑㊁算法密集㊁实时㊁三维㊁彩色㊁高分辨率的便携式分立器件或配件ꎮ关键词:无透镜显微术ꎻ同轴全息术ꎻ相位恢复ꎻ像素超分辨中图分类号:Q ̄336文献标志码:ADOI:10.3969/j.issn.1007 ̄7146.2019.03.001Lens ̄freeMicroscopyXUXinzhu1#ꎬGUANMeiling1#ꎬJIANGShan1ꎬYANGHoupu2ꎬWANGShu2ꎬXIPeng1∗(1.DepartmentofBiomedicalEngineeringꎬPekingUniversityꎬBeijing100871ꎬBeijingꎬChinaꎻ2.BreastCenterofPekingUniversityPeople sHospitalꎬBeijing100044ꎬBeijingꎬChina)Abstract:Lens ̄freemicroscopictechnologyutilizesGabor ̄basedin ̄lineholographicopticalpathtocapturetheinterfer ̄enceimagesgeneratedbyilluminatinglightsthroughthemicro ̄samplesꎬwiththehelpofanareaarraydetectorbutwith ̄outanyimaginglenses.Itisadigitalmicroscopicimagingtechnologywhichusesadigital ̄picture ̄processingmethodtoreconstructimageforthesakeofacquiringinformationfromthesemicro ̄samples.Theshrinkageofequivalentpixelele ̄mentsachievedbypixelsuper ̄resolutiongivesmorehigh ̄frequencyinformationandꎬfurtherꎬitpromotestheresolutionofreconstructiondirectly.Meanwhileꎬmultiplephaserecoveryarithmetictoolsmakethesamecontributionstoresolutionindirectlybyeliminatingthetwin ̄imagesꎬespeciallytothedensesamples.Moreoverꎬsuchtechnologybreaksthelimita ̄tioninspatialbandwidthproductꎬcomparingtotheclassicalopticsmicroscopesꎬwhichleadstothehigh ̄resolutionima ̄ginginalargerfieldofview(FOV).Thereforeꎬitcanprovidepowerfulsupportsforrapidlydiagnosingsampleswithabigfieldofviewinclinicalapplicationandexaminationinthecaseofresourceshortage.Additionallyꎬtheboomingalgo ̄rithmwithoptimizinghardwaresrendersimpetusindata ̄samplingandcomputingeffectsꎬexpandingtheapplicationson第28卷第3期2019年6月激㊀光㊀生㊀物㊀学㊀报ACTA㊀LASER㊀BIOLOGY㊀SINICAVol.28No.3Jun.2019收稿日期:2019 ̄03 ̄18ꎻ修回日期:2019 ̄04 ̄08ꎮ基金项目:国家自然科学基金项目(61729501)ꎻ国家重大科学仪器设备开发专项项目(2013YQ030651)ꎻ科技部重点研发专项项目(2017YFC0110202)ꎻ北京杰出青年项目(18JQ019)ꎻ北京大学医工交叉专项项目(PKU ̄MedX1801)ꎮ作者简介:#并列第一作者ꎮ徐鑫舳ꎬ博士研究生ꎻ关美玲ꎬ硕士研究生ꎮ∗通讯作者:席鹏ꎬ教授ꎬ主要从事生物医学影像以及光学超分辨方向的研究ꎮE ̄mail:xipeng@pku.edu.cnꎮspecimensmovinginhighspeedandonananometerscale.Thedevelopingtendencyoflens ̄freetechnologyanditsmatchedharddevicesaretobecomecompactedbotharithmeticallyandvolumetrically.Ultimatelyꎬthereal ̄timeꎬthreedimensionalꎬcolorfully ̄imagingꎬportableandseparateddeviceswithhigh ̄resolutioncanbemanufactured.Keywords:lens ̄freemicroscopyꎻin ̄lineholographyꎻphaserecoveryꎻpixelsuper ̄resolution㊀㊀光学显微成像是物理㊁化学和生物等自然科学领域用于观察微观物体的重要手段ꎮ物镜是显微镜成像的重要元件ꎬ因为其有固定的空间带宽积ꎬ即恒定的分辨率 ̄视场积[1]ꎬ所以要想获得高分辨率ꎬ就必须牺牲成像视场(fieldofviewꎬFOV)ꎮ采用透镜的传统光学显微镜只能在分辨率和成像视场之间取折衷ꎬ无法单次完成对大尺寸样本的高分辨率成像ꎮ以现阶段的术中或术后病理样本成像为例ꎬ若要对大面积和大体积病理样本成像ꎬ需要对病理样品进行染色㊁冷冻㊁切片㊁扫描和拼接ꎮ其中ꎬ扫描拼接过程带来样本处理时间过长㊁机械扫描精度不足或数字图像拼接误差等问题ꎬ造成成像速度慢和遗漏小型病灶等现象ꎬ严重的可直接影响病理诊断结果和手术治疗效果ꎮ因此ꎬ在临床应用中ꎬ亟需开发成像视场大㊁分辨率高㊁经济高效的新型显微成像设备ꎮ现今ꎬ优良的成像器件㊁高性能的计算技术㊁高速的无线网络传输和广泛的使用平台相互结合ꎬ创造出了各种集成度高㊁价格低廉㊁经济高效㊁使用简便的便携式成像设备ꎮ它们特别适用于解决如疟疾ꎬ艾滋病毒和结核病等全球性问题的远程医疗ꎮ无透镜显微技术(lens ̄freemicroscopy)[1ꎬ2]就是上述全新成像方式中有代表性的一种ꎬ它是一种在不借助透镜的情况下ꎬ基于Gabor同轴全息光路ꎬ利用面阵探测器采集穿过样本的透射光之间的干涉图像ꎬ以数字图像处理的手段进行全息重建ꎬ从而获取样本信息的数字显微成像技术ꎮ核心部分由光源(source)㊁样品台(samplestage)以及光电成像传感器(sensor)组成ꎬ如图1所示ꎮ图1㊀无透镜显微成像装置图(a)及系统技术流程(b)Fig.1㊀Thefundamentalstructureoflens ̄freemicroscope(a)andimagingprocess(b)㊀㊀无透镜显微成像的具体流程如图1b所示ꎮ由光源发出的光衍射至样本平面ꎬ其中一部分直接透过样本的透射光称为参考光(referencelight)ꎬ另一部分与样本发生散射的散射光称为物光(objectlight)ꎬ物光携带被样本调制的信息和参考光一起继续衍射至传感器平面ꎬ在传感器平面发生干涉产生同轴全息图ꎬ被光电传感器采集后ꎬ输入计算机中利用一定的算法进行模拟再现和对图像进行处理ꎬ最终得到再现像ꎮ其中ꎬ实现不同应用的装置对光源相干性会有不同要求ꎬ部分系统使用非相干光ꎬ因此不会产生明显的衍射和干涉条纹ꎻ还有一些设备不需要数字再现过程ꎬ而是对采集的信息直接进行识别ꎮ接下来我们会在无透镜显微成像的应用中ꎬ详细介绍各种成像系统的设置和要求ꎮ1㊀无透镜成像技术1.1㊀无透镜阴影显微成像无透镜阴影显微技术是无透镜显微技术中的一种特殊情况ꎮ其特殊性在于该技术仅分析样本的投影强度ꎬ无需进行重建或相位恢复ꎬ就可以实现样本识别和计数等功能ꎮ491㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀激㊀光㊀生㊀物㊀学㊀报㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀第28卷图2㊀无透镜阴影成像装置及成像效果Fig.2㊀Theshadowingimagingsetupandimagingresults(a1)第一种阴影成像的示意图和(a2)对线虫的成像效果[3]ꎻ(b1)小孔阵列示意图及其(b2)对线虫的成像效果[4]ꎻ(c1)第二种非相干光源和(c2)相干光源的阴影成像效果[5]ꎻ(d)第二种相干光源阴影成像的自动识别效果[5] (a1)Thefirstshadowingimagingschematicdiagramand(a2)imagingresultsonC.elegan[3]ꎻ(b1)Diagrammaticsketchofaperturearrayand(b2)imagingeffectonC.elegan[4]ꎻThesecondshadowingimagingresultswith(c1)incoherentsourceand(c2)coherentsource[5]ꎻ(d)Automaticallyrecognizingresultsofsecondshadowingimaging[5]㊀㊀能实现该技术的手段有两种ꎮ第一种是尽量减少传感器平面上形成的衍射条纹ꎮ阴影成像可以被看作是最小化样本 ̄传感器距离(z2ʈ0)的同轴全息光路ꎬ如图2中a1所示ꎬ从而可以将图像传感器采集到的原始强度图像直接作为样本的二维投影ꎮ其光源选用点源LEDꎬ因为LED光源即可满足阴影成像所需的部分相干性或非相干性ꎬ且点源使得工作距离更小ꎬ所需功率更低ꎬ而且在较大的照射角度内准直照射ꎮ这种方法已经和微流体技术进行了紧密地结合ꎬ2005年ꎬLange等[3]首次设计了一种使用无透镜成像检测的可维持线虫生命特征的微流体装置ꎬ其结果足以分辨单个线虫ꎮ另外减小照明波长也可以减少衍射带来的伪影ꎮ由于受到传感器像素尺寸的限制ꎬ阴影成像的分辨率远远低于传统显微镜的分辨率ꎮ为了提高分辨率ꎬ2008年ꎬCui等[4]在互补金属氧化物半导体(complementarymetal ̄oxide ̄semiconductorꎬCMOS)传感器表面刻蚀小孔矩阵(图2b1)ꎬ缩小了等效像素ꎬ图2中a2和b2的对比显示了小孔矩阵的优势ꎬ使其成像效果与20ˑ明场显微镜(光波长:550nmꎬ分辨率:650nm)下展示的线虫内部结构相似ꎬ分辨率可达到0.8μmꎮ2010年ꎬLee等[6]使用视频记录多帧图像ꎬ随后通过细胞追踪和亚像素分辨算法可实现660nm的分辨率ꎮ第二种方法是通过识别衍射条纹的大小及方向ꎬ判断对应样本的种类及数量ꎮ这种方法对原始全息数据进行人眼或者机器学习的读取和识别ꎬ大大缩短了图像的处理时间ꎬ提高了效率ꎮ相比于591第3期㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀徐鑫舳等:无透镜显微技术㊀㊀㊀Ozcan小组[7]ꎬSeo小组[5]使用更高相干性的窄带光源对样本进行全息成像ꎬ这种方式使图像拥有更好的信噪比㊁同类特征数字相似性和异类特征差异性ꎬ通过细胞表征和计数决策后ꎬ后者的效果要好于前者ꎮ如图2中c1㊁c2和d所示ꎮ无透镜阴影成像主要为无需图像重建ꎬ就可实现图像识别或者计数的方法ꎬ最小化设备体积和重量ꎬ缩短时间ꎬ减轻计算平台负担ꎮ1.2㊀无透镜荧光显微成像无透镜荧光显微成像技术的过程为激发光照射样本ꎬ样本受激发射非相干荧光ꎬ最终屏蔽掉激发光信号后由图像传感器记录荧光信号ꎮ光路中不再有透过样本的参考光ꎬ故该技术的分辨率与光源相干性无关ꎬ而是与样本 ̄传感器的衍射距离z2高度相关ꎮ一般z2在几百微米左右ꎬ分辨率也与之接近ꎬ这要远差于其他无透镜显微成像技术的分辨率ꎬ也限制了该技术的广泛应用ꎮ要实现分辨率的提高可以通过如下两种思路实现:第一ꎬ探测器要能屏蔽掉光源的激发光或对其波长不响应以提高信噪比ꎮ如图3a所示ꎬ利用全内反射原理[8]ꎬ将激发光调节为全内反入射ꎬ探测激发的荧光ꎬ可以降低激发光带来的噪声ꎮ如图3b所示ꎬ直接将滤光片整合在探测器像素上[9]ꎬ这样不仅可以有效地吸收激发光ꎬ还能使z2距离最小ꎬ分辨率提高至十微米左右[10]ꎮ图3㊀提高无透镜荧光成像技术分辨率的方法Fig.3㊀Themethodsofresolutionenhancingoflens ̄freefluorescencemicroscopy(a)全内反射无透镜系统[8]ꎻ(b)基于滤光片的无透镜结构[9]ꎻ(c)椎体光纤 ̄全内反无透镜系统[11]ꎻ(d1)和(d2)纳米结构掩膜无透镜系统[12](a)Total ̄reflectinglens ̄freemicroscopesetup[8]ꎻ(b)Lens ̄freemicroscopesetupbasedonfilters[9]ꎻ(c)Conefiber ̄total ̄reflectinglens ̄freesetup[11]ꎻ(d1)&(d2)Lens ̄freewithnano ̄structuredfilm[12]㊀㊀第二ꎬ主动减小z2ꎮ如图3c所示ꎬ将锥形光纤作为受激荧光接收装置ꎬ半球体光学元件㊁荧光样品和全内反层组成一个全内反激发装置ꎮ激发光源从半球体侧面入射激发样本荧光ꎬ荧光通过全内反层进入锥形光纤小面端ꎬ而后由大面端出射经过荧光滤光片到达传感器[11]ꎮ锥形光纤可作为一个缩放系统ꎬ主动减小z2时ꎬ增大采样率ꎬ使更多的像元探测到荧光信号ꎮ锥体同时用作热隔离ꎬ让样本平台与传感器电路之间绝热ꎬ更好控制生物样本ꎮ在这种改良下ꎬ样本分辨率小于10μmꎮ如图3中d1和691㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀激㊀光㊀生㊀物㊀学㊀报㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀第28卷d2ꎬ在样本平面正下方紧贴一层纳米结构掩膜[12]ꎮ引入该结构对PSF进行了调制ꎬ使相邻样本点之间的互相关系数有效减小ꎬ点与点更易分辨ꎬ从而提高分辨率ꎮ这种方法可以使分辨率提高至2μm左右ꎮ除了添加硬件改进ꎬ也可以用算法提高分辨率ꎮ像的模糊是由光学衍射造成ꎬ故采用露西 ̄理查德森(Lucy ̄Richardson)去卷积算法消除因衍射造成的图像模糊和偏差效应ꎬ实现锐化ꎮ利用该算法ꎬCoskun等[13]实现了~40μm分辨率的无透镜成像[8]ꎮ而压缩采样算法的前提是样本近似自然稀疏ꎮ而实际中样本不稀疏时ꎬ则需要利用傅里叶变换或小波变换ꎬ可得到近似稀疏的基础ꎮ该算法只用较少数据就可再现样本ꎬ分辨率可提升至~10μmꎮ对于数字全息图的恢复ꎬ以上算法上的改良只能解决部分问题ꎬ而系统的分辨率最终还会受每次采样实际情况及光电探测器性能影响ꎮ1.3㊀无透镜全息显微成像基于全息理论和光路ꎬ无透镜成像最主要的应用是无透镜全息显微成像ꎮ不同于前面所介绍的成像技术ꎬ全息显微成像需要对采集的原始全息图进行重建和相位恢复等后期算法处理ꎮ对于仅进行全息图重建的图像来说ꎬ再现像有两个问题:1)受奈奎斯特采样定理的限制ꎬ再现像的分辨率严重受到传感器像素尺寸的限制ꎬ一般小于100lp/mm(线对/毫米)ꎮ2)传感器记录过程中的相位丢失ꎬ导致重建图像中存在严重的孪生像问题ꎮ因此对全息图进行简单地重建的方法ꎬ对尺寸较大且较为稀疏的样本效果较好ꎬ可以进行实时监测ꎬ并且使用相关统计进行表征[14]ꎮ图4像素超分辨设置的示意图Fig.4Thediagramoftheset ̄upofpixelsuperresolution(a)亚像素位移设置的示意图[15]ꎻ(b)双方式照明的原理示意图[17]ꎻ(c)多波长照明实现像素超分辨和合成孔径的结构示意图[18](a)Diagramofsubpixeldisplacement[15]ꎻ(b)Schematicdiagramoftwo ̄wayillumination[17]ꎻ(c)Schematicdiagramofmulti ̄wavelengthilluminationforpixelsuper ̄resolutionandsyntheticaperture[18]1.3.1㊀像素超分辨㊀㊀对于那些对分辨率要求较高的样本ꎬ我们可以通过减小等效像素的方法ꎬ即像素超分辨(pixelsuperresolutionꎬPSR)方法来提高分辨率ꎮPSR主要是通过多幅低分辨率(lowresolutionꎬLR)图像合成为高分辨率(highresolutionꎬHR)图像的方式ꎬ提高空间791第3期㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀徐鑫舳等:无透镜显微技术㊀㊀㊀采样率ꎮ除了1.1中提到的小孔阵列和多帧记录ꎬ还可以对光源㊁样本或传感器进行亚像素位移[15]ꎬ采集多幅LR全息图ꎬ如图4a所示ꎬ一般在未达到衍射极限的情况下ꎬ其分辨率的提升与亚像素位移的步长相关ꎮ但是ꎬ进行亚像素位移往往需要精确的控制平台ꎬSobieranski等[16]提出ꎬ降低移动台的精度ꎬ使用基于快速特征配准和连续优化方法对亚像素信息进行精细调整ꎬ在全局中寻找最优解以提高分辨率ꎮ在硬件上ꎬAdachi等[17]提出了另一种双方式照明的方法ꎬ如图4b所示ꎬ即分别使用不同方向的光ꎬ使相邻区域能分别投射在同一感光区域内ꎬ在这个过程中需要考虑到像素孔径比ꎮ另外ꎬ通过多波长照明[18]也可以实现PSRꎬ如图4cꎬ该过程一般使用波长可调谐的光源ꎬ计算时需要引入波长校准和色散补偿等算法ꎮ1.3.2㊀相位恢复方法同轴全息光路的优点在于光路简单和紧凑便携ꎬ但是它有一个无法避免的缺点 孪生像ꎬ尤其是对密集样本ꎮ现阶段ꎬ已有的一些相位恢复方法(phaseretrievalꎬPR)能够较为有效的去除孪生像ꎮ以使用原始全息图数量为分类标准可以分为:单幅和多幅图像的相位恢复ꎮ单幅图像的相位恢复方法(single ̄imagephaseretrievalꎬSPR)[19]一般需要引入支撑边界ꎬ边界内的信息被视为聚焦像进行处理ꎬ随后在虚像平面和实像平面ꎬ或虚像平面和传感器平面之间传播以及迭代更新ꎬ直到到达某阈值ꎮ采集的图像存在自然地稀疏或者变换之后稀疏的特性ꎬ因此基于稀疏先验对高频信息进行恢复[20]ꎬ分别使用L ̄BFGS(limited ̄memorybroyden ̄fletcher ̄gold ̄farb ̄shannon)和TwIST(two ̄stepiterativeshrinkingandthresholding)算法进行加速ꎬ如图5中a和b所示ꎬ可以使横向空间分辨率提升2~3倍ꎮ另外ꎬ考虑到虚像平面上的聚焦像与孪生像之间的稀疏性存在着显著差异ꎬ和波传播的傅里叶变换与所使用的正则基之间的不相关性ꎬ全息光学与压缩感知可以很好地结合起来ꎮ因此ꎬZhang等[21]在压缩感知模型中建立了测量矩阵与全息空间传递函数的傅里叶变换之间的关系ꎬ如图5中c1~c6所示ꎬ在稀疏先验条件下去除孪生像ꎬ并具有很好抗噪声性ꎮ㊀㊀多幅图像相位恢复(multi ̄imagesphaseretrievalꎬMPR)的典型方法为多高度相位恢复(multi ̄heightsphaseretrievalꎬMHPR)ꎬ要求在不同的样本 ̄传感器距离处采集全息图ꎬ其过程与Gerchberg ̄Saxton相位恢复方法[22]相似ꎮ结合PSR后ꎬ进行5个高度的PR可以使图像的对比度大幅改善ꎬ最佳处理效果与40ˑ明场显微镜的结果接近[23]ꎬ这些结果证明了MHPR的有效性ꎮ另外ꎬ结合多波长PSR的合成孔径方法[24]可以在更少数据量的情况下ꎬ达到0.25μm的分辨率ꎮ在此基础上ꎬ无透镜全息成像与偏振光学的结合[25]ꎬ也实现了对尿酸单钠晶体宽视场和高分辨率成像ꎬ显著提高了痛风诊断的效率和准确性ꎮ图5㊀单幅图相位恢复方法的效果图Fig.5㊀Theresultsofthesingle ̄imagephaserecoverymethod(a)基于稀疏先验的相位恢复方法的分辨率测试[20]ꎻ(b)同样像素尺寸下衍射算法和稀疏算法的分辨率比较[20]ꎻ(c1~c6)使用基于物理模型的压缩感知方法和传统相位恢复方法受噪声的影响[21](a)Theresolutiontestforsparsityprior ̄basedphaserecovery[20]ꎻ(b)Resolutioncomparisonofdiffractionalgorithmandsparsealgorithmunderthesamepixelsize[20]ꎻ(c1~c6)Theinfluenceofnoiseusingphysics ̄drivencompressedsensingapproachandconventionalphaserecoveryapproach[21]1.3.3㊀相位恢复的加速方法以上所述的多高度或者合成孔径的相位恢复方法一般需要用到多组数据ꎬ数据量大ꎬ处理时间长ꎬ因此可以分别通过减少数据量和加速处理过程进行改进ꎮ减少采集数据量的方法有两种ꎮ第一种为基于相位掩膜的相位恢复方法ꎮ在样本平面和光源位置之间插入随机相位掩膜[26]ꎬ但是信噪比过低ꎬ所以如图6a所示ꎬHussain等[27]通过引入双轴多角度照明ꎬ将空间分辨率由63μm提升到4μmꎬ提高了信噪比ꎬ而且无需进行图像的迭代处理ꎬ数据需求量小ꎮ第891㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀激㊀光㊀生㊀物㊀学㊀报㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀第28卷二种方法是引入小波中的稀疏度[28]来改进MHPR(图6b)ꎮ常规的MHPR需要利用4~8个高度的原始全息图ꎬ但是这种方法仅需要2个高度的全息图ꎬ就可得到和前者相同质量的振幅和相位图像ꎮ现已在20mm2的大尺寸上实现了密集乳腺样本和巴氏涂片的高分辨率成像ꎬ同时数据量至少减少2倍ꎮ图6㊀加速相位恢复方法的设置及流程示意图Fig.6㊀Thesetupandprocessdiagramofacceleratedphaserecoveryalgorithm(a)使用相位掩膜减少数据采集和处理的时间[27]ꎻ(b)基于小波稀疏度对相位恢复过程进行加速[28]ꎻ(c)引入加权反馈策略加速计算收敛时间[29]ꎻ(d)在C的基础上添加有效支撑约束的判断[29]ꎻ(e)仅需要采集和处理多高度的数据ꎬ减少了数据量和设备精确度的需求[31]ꎻ(f)字典学习的过完备字典库[32](a)Usingaphasemaskinopticalsystemformultipleanglesofilluminationtoreducethetimeofacquisitionandprocessingdata[27]ꎻ(b)Asparsity ̄basedmulti ̄heightphaserecoveryalgorithmtospeedingupthephaseretrieval[28]ꎻ(c)Introducingweightedfeedbackstrategytoreducetheconvergingtimeofiteration[29]ꎻ(d)AddingsupportconstrainttoC[29]ꎻ(e)Acquiringandprocessingthemulti ̄heightdatatoreducetherequirementofthedatavolumeanddeviceaccuracy[31]ꎻ(f)Overcompletedictionarylibraryfordictionarylearning[32]991第3期㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀徐鑫舳等:无透镜显微技术㊀㊀㊀㊀㊀加速处理过程主要是加速重建计算时的收敛速度ꎮ最直接的方法是在物平面对物体加入加权反馈策略ꎬ如图6c[29ꎬ33]ꎬ但是这种策略对测量次数很敏感ꎬ而且容易放大背景中的噪声ꎮ随后ꎬ支撑约束可以实现对支撑区域内外分别进行加权反馈和衰减ꎬ如图6d所示[30]ꎮ这种方法需要对其中的参数进行详细的调节ꎬ而且不适合与密集和连接的样本ꎮ合并以上两种思想ꎬ如图6e所示ꎬZhang等[31]仅需采集不同高度的图像ꎬ充分利用轴向移动时产生的横向漂移[31ꎬ34]ꎬ可达到高分辨率和去孪生像的双重目的ꎬ而且具有更好的抗噪声性能ꎬ其中较为通用的模块有自动聚焦㊁像素合并㊁ALPEC(automaticlateralpositionalerrorcorrection)和BLPEC(before ̄handlateralpositionalerrorcorrection)等[16ꎬ23]横向误差矫正方法ꎮ使用字典学习[32]的方法(图6f)也可达到很好的去孪生像和去噪效果ꎬ训练完成过完备字典后ꎬ可以在几秒钟的时间内完成对单张图像的处理ꎮ总得来说ꎬ上述方法主要是对多组数据进行重建ꎬ而且计算方法越来越趋向于正则先验㊁凸优化和字典学习方向ꎬ将物理问题与算法紧密结合起来ꎬ大大提高了分辨率和计算效率ꎮ1.4㊀无透镜与深度学习近年ꎬ深度学习(deeplearning)在高效处理数据量庞大的数字图像方面展现出卓越能力ꎬ卷积神经网络(convolutionalneuralnetworksꎬCNN)和生成式对抗网络(generativeadversarialnetworkꎬGAN)等是该技术的标志算法ꎮ以Ozcan为代表的课题组近一年已经将上述技术与无透镜系统的图像处理算法有机结合ꎬ产生了更高效的创新ꎮ下面我们从成像的方面选取一些介绍新一代基于深度学习的无透镜技术ꎮ1.4.1㊀基于GAN的样本染色基于GAN的样本染色技术是定量相位成像(quantitativephaseimagingꎬQPI)技术[35]与机器学习的一次结合ꎮ利用无透镜的光路ꎬQPI能够包含足够的样本相位ꎬ得到定量相位图ꎮ和相衬显微镜类似ꎬ它们都是无染色和标记的相衬图ꎬ具有突显样本高频信息的能力ꎮ由于样本染色观察在某些情况下具有绝对的优势ꎬ2018年ꎬRivenson等[36]利用H&E等染色的明场样本与用多高度相位恢复和像素超分辨算法得到的QPI图像对GAN进行训练ꎬ通过图片精确校准㊁GAN建库和训练等过程产生对应染料的数字染色GAN算法ꎬ最终实现对QPI图像数字染色(图7)ꎬ故该技术又叫相位染色(phasestain)ꎮ图7㊀相位染色流程:无标记QPI图像被真实染色样本训练后的GAN染色[36]Fig.7㊀PhaseStainworkflow:quantitativephaseimageofalabel ̄freespecimenisvirtuallystainedbyadeepneuralnetworkꎬbypassingthestandardhistochemicalstainingprocedurethatisusedaspartofclinicalpathology[36]002㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀激㊀光㊀生㊀物㊀学㊀报㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀第28卷1.4.2㊀基于CNN的相位恢复2018年ꎬRivenson等[37]先利用一张只包含样本强度信息的全息衍射图和同一样本对应的多高度相位恢复图像对卷积神经网络CNN模型进行训练ꎬ其中多高度相位恢复图像是用于系统训练的真实本底(groundtruth)和输出标准ꎮ之后ꎬ只需要输入一张全息图即可快速获得无孪生像的样本相位和振幅再现(图8)ꎮ与多高度相位恢复算法相比ꎬ输入图像数量显著减少ꎬ图像处理时间缩短3~4倍ꎮ同时具有离焦校正能力ꎬ在沿光轴距离焦面~ʃ4μm范围内ꎬ均可以得到在焦再现像ꎮ对于由灰尘等引起的干涉条纹还可以进行抑制与消除ꎮ图8㊀只需输入一张全息图即可得到无孪生像样本相位和振幅图像ꎮCNN由卷积层ꎬ残余区块以及上采样区块构成[37]Fig.8㊀Followingitstrainingphaseꎬthedeepneuralnetworkblindlyoutputsartifact ̄freephaseandamplitudeimagesoftheobjectusingonlyonehologramintensity.Thisdeepneuralnetworkiscomposedofconvolutionallayersꎬresidualblocksandupsamplingblocks[37]1.4.3㊀基于CNN的相位恢复和景深扩展2018年ꎬWu等[38]发明了利用深度学习的全息成像阔焦(holographicimagingusingdeeplearningforextendedfocusꎬHIDEF)技术ꎮ受到多层语义分割网络(semanticsegmentationnetwork)的启发ꎬ该算法包括了下采样和上采样过程ꎬ其中下采样过程可以分辨衍射图中的物像信息和分离孪生像结构ꎮ再利用沿光轴方向距焦面一定范围内的离焦图像和离焦图像相对应的在焦相位恢复图像训练卷积神经网络ꎬ称为HIDEFCNN(图9a)ꎮ相较多高度相位恢复算法(图9b)ꎬ该算法可以得到再现速率提高30倍ꎬ景深扩大25倍的无孪生像再现像ꎮ㊀㊀以上只是基于深度学习的无透镜技术的部分代表ꎬ在这基础上ꎬ训练成熟的深度学习网络还可用于低NA物镜的荧光显微成像中ꎬ辅助其实现超分辨成像ꎬ分辨率可与受激发射损耗(stimulatedemissionde ̄pletionꎬSTED)显微技术㊁全内反射显微技术荧光结构光照明(totalinternalreflectionfluorescencestruc ̄turedilluminationꎬTIRF ̄SIM)显微技术等媲美[39]ꎮ与微流体血细胞计数器结合ꎬ实现低成本高通量水生102第3期㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀徐鑫舳等:无透镜显微技术㊀㊀㊀微生物和水质检测[40]ꎮ随着图像处理技术的发展ꎬ今后的光学显微成像将会与计算机科学技术结合更加紧密ꎮ图9㊀HIDEFCNN与多高度相位恢复算法(MHPR)比较Fig.9㊀ThecomparisonofHIDEFCNNandMHPR(a)在不同景深下HIDEF再现景深扩展图像ꎬdzꎻ(b)同样视场下多高度相位恢复算法再现像ꎬ其中粒子来自不同景深视场[38](a)HIDEFreconstructsanextended ̄DOFimageofparticlesatdifferentdepthsꎬdzꎻ(b)Multi ̄height(MH)phase ̄recovery ̄basedimagereconstructionofthesameFOVisshownꎬwheredifferentparticlescomeintofocusatdifferentdepths[38]2㊀无透镜成像应用2.1㊀无透镜自聚集纳米棱镜成像:提升横向分辨率随着科研探索需求的变化ꎬ研究人员需要观察衍射极限以外的生物样本ꎬ并对其进行定位和实时探测ꎮ小于200nm尺度的样本在同轴全息光路中由于其弱散射特点ꎬ物光远小于参考光强度ꎬ导致图像信噪比极低ꎬ且无透镜成像技术的分辨率无法直接达到该尺度ꎮ无透镜自聚集纳米棱镜则尝试解决该问题ꎮ为了能提高采集图像的信噪比ꎬ分辨纳米级样本ꎬ可以在样本周围生成自聚焦纳米棱镜ꎬ使样本与周围环境拥有完全不同的折射率ꎮ利用倾斜法[41]㊁溶剂挥发法[42]和聚合物蒸汽凝结法[43]这三种方法可以产生包围样本粒子的纳米级别的液态半月牙状聚合物棱镜ꎬ再利用无透镜技术即可得到低于照明光波长的分辨能力ꎮ需要注意ꎬ该方法并未突破光学衍射极限ꎬ而是通过纳米棱镜改变周围环境的折射率ꎬ提高了再现像相对背景的对比度和信噪比ꎬ进而提升对样本的分辨能力ꎮ如图10a所示ꎬ每个粒子周围都能形成一层半月牙状结构构成独立的纳米棱镜ꎬ该效应使粒子周围折射率发生明显变化ꎬ将粒子 勾勒 出来ꎬ如图10中的c1~c3ꎮ2010年ꎬAllier等[42]利用溶剂蒸发法观察到大肠杆菌㊁枯草菌和直径1μm的聚合物等微粒ꎬ将信噪比提高至35~55ꎮ2013年ꎬMudanyali等[41]利用倾斜法在大于20mm2视场下分辨出了~100nm粒子ꎮ同年ꎬHennequin等[44]则利用溶剂蒸发法形成粒子平锥棱镜ꎬ实现了大视场或高景深下的纳米粒子成像ꎬ分辨能力和视场范围与Mudanyali等[44]的倾斜法相近ꎮ2014年ꎬMcleod小组[43]使用凝结法ꎬ如图10b所示实现时间或温度可调纳米棱镜ꎬ棱镜曲率半径随温度或凝结时间的变化而变化ꎬ参数可控为提高采集图像的信噪比和分辨率提供了基础ꎮ信噪比大于50ꎬ视场20mm2时ꎬ观察到了直径小于40nm的微粒小球和小于20nm的杆状样本ꎮ探测器采集粒子最佳信号与其自身大小相关ꎬ所以用算法找出这些最佳信号后可以进行粒子尺寸分布的测量ꎮ现在市面上已经研发出了集成的无透镜成像探测设备系统ꎬ可以同时实现样品快速处理㊁成像ꎮ202㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀激㊀光㊀生㊀物㊀学㊀报㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀第28卷图10㊀无透镜自聚集纳米棱镜成像Fig.10㊀Lens ̄freeimagingwithself ̄assemblednano ̄lens(a)样品周围的纳米棱镜[41]ꎻ(b)凝结法制备方法示意图[43]ꎻ(c1~c3)溶剂蒸发过程中细菌随着棱镜效应显现[42](a)Theassemblednano ̄lensaroundthebead[41]ꎻ(b)Thediagrammaticsketchofcondensingapproach[43]ꎻ(c1~c3)Theappearingofbacteriainlens ̄effect[42]2.2㊀无透镜三维全息成像:提升轴向分辨率无透镜三维显微成像的主要目的是对三维样本进行较为精确的空间监控㊁定位和显示ꎮ相对于全息成像ꎬ其景深和分辨率都得到了改进ꎬ而这种改进是在硬件和算法的共同促进下达到的ꎮ第一种思路是引入双色双向成角度照明来定位样本的空间位置ꎬ如图11a所示ꎮ2012年ꎬSu等[45]通过在各方向上进行PRꎬ根据三角定位精子质心的空间位置ꎬ对8~17mm3体积的溶液进行了三维成像ꎬ并且实现了对>1500个精子的三维追踪和分析ꎮ第二种思路的实现是基于多角度的断层成像ꎬ其计算重建的理论模型有两种:1)傅里叶投影定理ꎻ2)傅里叶衍射理论和光传播理论的玻恩近似ꎮ傅里叶投影定理主要是通过局域迭代算法实现各角度上的PSRꎬ硬件如图11b所示ꎬ其中ꎬ对过厚的样本保留感兴趣厚层的信息ꎬ随后使用支撑区域约束的迭代相位恢复方法和滤波反投影法完成三维重图11㊀三维全息成像的设置及理论说明Fig.11㊀Setupandtheoreticalexplanationofthree ̄dimensionimaging(a)双色成角度照明定位样本空间位置[45]ꎻ(b)基于双轴多角度的断层成像[46]ꎻ(c1)在断层成像的设置下对样本进行实时三维检测[47]ꎻ(c2)傅里叶衍射理论的几何说明[47](a)Two ̄colorangledilluminationtolocalizethepositionofsample[45]ꎻ(b)Thesetupoftomographyimagingbasedontwo ̄axis[46]ꎻ(c1)Real ̄time3Ddetectionofsamplesinthesetupoftomographyimaging[47]ꎻ(c2)ThegeometrydescriptionofFourierDiffractionTheory[47]302第3期㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀㊀徐鑫舳等:无透镜显微技术㊀㊀㊀。