红外与可见光图像配准和融合中的关键技术 (1)
- 格式:pdf
- 大小:455.74 KB
- 文档页数:7
热红外与可见光的联合标定
首先,热红外和可见光相机的联合标定需要进行内部参数和外
部参数的标定。
内部参数包括相机的焦距、主点位置等内部特性,
而外部参数包括相机的位置和姿态等外部特性。
这些参数的标定可
以通过使用特定的标定板或者特征点来实现。
其次,联合标定还需要考虑两种相机成像结果之间的对应关系。
这可以通过在场景中放置特定的标定板或者特征点,并利用这些标
定目标在两种成像结果中的位置来建立对应关系。
另外,联合标定还需要考虑两种成像结果之间的畸变校正。
热
红外和可见光相机都会存在一定程度的畸变,需要对这些畸变进行
校正,以保证两种成像结果之间的准确对应关系。
最后,联合标定的结果可以用于将热红外和可见光成像结果进
行融合,从而得到更丰富和更准确的信息。
这种融合可以用于改善
目标检测、跟踪和识别的性能,提高系统在复杂环境下的适用性。
总的来说,热红外与可见光的联合标定是一个复杂而重要的过程,它可以将两种不同波段的成像结果进行关联和校准,为各种应
用提供更丰富和更准确的信息。
在实际应用中,联合标定的精度和
稳定性对系统的性能有着重要的影响,因此需要综合考虑各种因素,并采用合适的方法和工具来实现联合标定的目的。
2010年第1期 (总第191期) 黑龙江交通科技
HE LLONGdlANG dlAOTONG KEJI No.1,2010
(Sum No.191)
红外与可见光图像配准在EFVS中的应用研究 翟 豪,申 冰,李宜,张光明 (中国民航飞行学院飞行技术学院)
摘要:EFVS(视景增强系统)是一种有效的进近着陆助视系统,正逐步在民用航空器上安装运行,其核心技 术之一就是多源图像配准。红外与可见光图像配准作为一类重要的多传感器图像配准方法,在自动控制、遥 感、民用航空及军事应用等领域发挥着重要作用。研究了基于特征的配准方法在EFVS中的应用,并通过仿 真实验显示其对飞行员情景意识的提高。 关键词:红外图像;可见光图像;特征提取;图像配准;EFVS系统 中图分类号:TP967.2 文献标识码:A 文章编号:1008—3383(2010)01—0134一O1
1引 言 从上世纪9o年代中期开始,随着成像技术的进步,人们 开始研究能穿透低能见度天气的机载红外或微波图像传感 技术,研发了增强视觉系统(EFVS)。EFVS的出现,第一次 使得机长在低能见度下都能看到航空器前方场景的动态图 像,极大地改善了机长的空间感知和情景意识。该系统在座 舱下方外安装红外成像仪或微波图像传感器,实时采集航空 器前方场景动态视频图像,经处理后和相关的飞行指引符号 叠加在HUD(平视显示仪)上显示。尽管红外或微波图像具 有分辨率低、图像内容可理解性较差等不足,但由于增强视 觉系统采集的是实时的场景动态图像,图像内容具有较高的 真实性和可信性。特别是在航空器最后进近阶段,因为此时 航空器已对准跑道,图像传感器中所能看到的场景主要限于 跑道、灯光及附近的场面,图像内容更易分辨和理解。目前 投入使用的EFVS存在只能处理和显示单传感器图像、不能 融合显示多个波段和不同视点的增强视觉图像的不足。 国际上自1996年至今,每年举行一次“Enhanced and Synthetic Vision”国际会议;在每年的“IEEE Digital Avionics System”国际会议上也有大量关于合成视觉(SVS)和增强视 真实场景 真实场景 真实场景 觉(EFVS)的工作报道。目前,包括美国、英国、加拿大、德国 等国的政府和军方研究机构,以及国际上著名的航电厂商 (如:Honeywell、Rockwell、Thales等)仍在大力加这方面的研 究。 2 EVFS系统中图像配准技术的应用 由于机载传感器特性和航空器的运动方式,图像中的对 象仅是刚性的改变位置、姿态和刻度,改变的原因往往是由 摄影器材运动引起的。 所以本文拟将基于特征的图像配准技术运用于增强视 景系统中,在传感器位置、指向、焦距不同时,通过实时逆透 视变换处理,将二维图像还原到三维空间中,并对还原的各 图像序列逐帧进行时间同步和空间配准处理,以期为航空器 在低能见度下的最后进近阶段提供更容易分辨和理解的图 像。 在传感器位置、指向、焦距不同时,通过实时逆透视变换 处理,将二维图像还原到三维空间中,并对还原的各图像序 列逐帧进行时间同步和空间配准处理,以期为航空器在低能 见度下的最后进近阶段提供更容易分辨和理解的图像。 合成方案如下。
红外与可见光图像自相似性特征的描述与匹配李俊山;朱英宏;朱艺娟;苏光伟【摘要】A point matching algorithm based on self-similarities is proposed to solve the difficulty of IR and visible images matching. Firstly,sums of square in small neighborhoods are calculated. Secondly,by introducing Gaussian scale space, feature points are extracted by FAST-9 corner detector which has scale-invariance. And the main orientation for each point is assigned according to the neighborhood information. Thirdly, correlation surfaces with corresponding scale are chosen for region. Extreme value of each correlation surface is extracted to construct a normalized descriptor with 100 dimensions. Finally,the nearest neighbor algorithm is used to match control points after eliminating non-informative descriptors. Experimental results indicate that the proposed method is robust to changes in rotation change,affine change and scale change. Meanwhile,it gets a higher correct ratio than SIFT.%针对红外与可见光图像匹配的难题,提出了一种基于自相似性的异源图像点特征匹配算法.首先对红外与可见光图像进行小邻域平方和计算;再通过构造高斯金字塔,运用FAST-9进行角点检测,使得检测的特征点具有尺度属性;然后,统计特征点邻域的特征信息以确定特征点的主方向;再求取在相应尺度下特征点邻域的相关平面,对相关平面进行区域划分,提取每个区域相关平面的极值以构造100维的自相似性描述子,并对描述子进行归一化处理;而后,剔除不良特征描述子;最后采用最近邻匹配算法进行特征匹配.实验结果表明,提出的算法能够实现红外与可见光图像在视角、旋转、尺度变换下的有效匹配;在保证运算速度的前提下,提出的算法较SIFT算法在正确匹配率方面有明显提高.【期刊名称】《激光与红外》【年(卷),期】2013(043)003【总页数】5页(P339-343)【关键词】可见光图像;红外图像;自相似性;多尺度;图像匹配【作者】李俊山;朱英宏;朱艺娟;苏光伟【作者单位】武警工程大学电子技术系网络与信息安全武警部队重点实验室,陕西西安710086【正文语种】中文【中图分类】TP3911 引言相对于单一传感器,多传感器采集的信息具有更高的冗余性、互补性、可靠性。
第39卷第7期激光与红外Vo.l39,No.7 2009年7月L ASER&I NFRARED J u l y,2009文章编号:100125078(2009)0720693207#综述与评论#红外与可见光图像配准研究现状与展望苑津莎,赵振兵,高强,孔英会(华北电力大学电气与电子工程学院,河北保定071003)摘要:红外与可见光图像配准是常见的多模态图像配准,它广泛应用于军事、遥感等领域,有必要对其研究现状进行综述。
在描述了红外与可见光图像配准问题后,首先简述了图像配准的一般方法,分为基于图像区域的配准方法和基于图像特征的配准方法,重点述评了局部不变特征方法中的SI FT算法和S URF算法;然后按文献发表时间顺序对红外与可见光图像配准的国外和国内研究现状进行了详细述评;总结了红外与可见光图像配准研究中存在的问题;最后对其进行展望,并指出未来的研究重点是以SI FT算法和S URF算法为研究基础去构造对模态不敏感的不变特征和其相应的描述子。
关键词:图像配准;红外;可见光;SI FT;S URF中图分类号:T N911.73文献标识码:AR evie w and pros pect on i n frare d/visi b le i m age registrationYUA N Ji n2sha,Z HAO Zhen2bing,G AO Q iang,KONG Y i n g2hui(School of E lectr i ca l and E l ectronic Eng i neer i ng,North Ch i na E l ec tric P o wer Un i vers it y,Baoding071003,Ch i na)Ab stra ct:Infrared/visi b le i m age registrati on is the co mm o n m ulti2modal i m age regi strati on,and it has been w i dely ap2pli ed to l ots of fie l ds such asm ilitary and re m ote sensi ng.So,it is necessary to revie w the current research situati on ofi nfrared/vi sible i m age registratio n.A fter dep icti ng the pro b le m of i nfrared/visi b le i m age registrati on,general m ethodsof i m age regi strati on is desc ri bed briefl y.They are d i vi ded i nto t wo t ypes:area2based m et hods and fea t ure2based m eth2o ds.SIFT a l gorith m and SURF a l gor it hm i n loca l i nvar i ant feat ures are m a i n l y d i scussed.According to ti m e of litera2ture pub lishi ng,the analysis and revi ew for i nfrared/visi b l e i m age registra ti on m ethods at ho m e and abroad are carriedo u t i n detai.l Then the d ifficu lties of i nfrared/vi sible i m age registratio n techn i que are su mma rized and eva l uated.A tl ast,prospects of i nfrared/vi sible i m age registratio n a re made,and the fut ure research o n t h is field could pay m ore a t2tenti on to construct i nvariant and m o da lity2i nsensiti ve features and the i r descri ptors on t he basis of research of S I FT a l2gorith m and S URF a l gorith m.K ey w or ds:i m age registratio n;i nfrared;visi b le;SIFT;SURF1引言图像配准是个极富挑战性的研究领域,所谓图像配准是指依据一些相似性度量决定图像间的变换参数,使从不同传感器、不同视角、不同时间获取的同一场景的两幅或多幅图像,变换到同一坐标系下,在像素层上得到最佳匹配的过程[1-6]。
10红外与激光工程:光电信息处理技术第35卷式中:坛r为标准方差;B,q。
为@’y)处沿第f和第((f砌)mod2m)方向的方向方差。
图像被均匀划分
为2m个方向。
上面的方差都是在以@,y)为中心的窗口内计算的。
②选择邻域内有最高兴趣值的点为待选特征点。
如两待选特征点之间的距离小于最小距离门限,则有较小兴趣值的待选特征点被扔掉。
③如待选特征点的数目仍然大于预定数目,则按兴趣值由大到小的顺序依次选择预定数目的特征点作匹配。
其兴趣值计算的是局部区域的标准方差与方向方差(即边缘强度)之比的最小值的乘积,因而兴趣值具有以下特点:1)易选择局部区域信息多的点;2)计算的是多方向的方向方差,易选择角点而非直线上的点;3)兴趣值对灰度值不敏感,能克服红外图像和可见光图像灰度特性不一致的问题。
图2由一维最大类间方差,SC和综合分割算法得到的分割结果,直方图和平滑直方图
results,mstog姗强dsm00也mst0铲锄f幻m1一Dlargestin位卜cl弱svari觚ce,SC锄dcompositealgorimmsFig.2Segm蛐嘶on
3.3特征点的匹配及误匹配的消除
红外图像和可见光图像由于其固有的特征不一致性,特别要求只选择两幅图像都有的特征点,严格要求消除误匹配及误匹配的剔除。
经过特征点提取后,得到特征匹配点集A(红外图像)和B(可见光图像),需在A和B中确定同名点对,利用同名点对求解变换模型参数。
本文拟对模板相关配准中的交叉相关迭代法进行改进用作匹配。
改进后的交叉相关迭代匹配的优点有:可以有效地降低误匹配;在特征点上滑动搜索,大大减小了运算量,有利于算法的快速实现;随着未匹配上,目标窗口不断缩小,减小了运算量,有利于算法的快速实现;在求解变换模型参数时,有大的变换误差的特征点对被进一步剔除。
3.4新型的基于区域的树状小波活性测度计算
基于树状小波变换的图像融合【71由于它不仅仅将低频信息进行分解,而是根据图像的特征按子带图像的能量自适应地对各个子带信息进行分解,因而它的融合效果要优于传统的金字塔形小波图像融合,进而广泛应用于可见光和红外图像融合。
常用的树状小波分解采用基于窗口的活性测度。
设两组树状小波分解系数的活性测度分别为A(P)和厶(P),窗口模板系数为:
增刊蒋宏等:红外与可见光图像配准和融合中的关键技术
则活性测度为:
删=li;}溅(2)
A(P)=∑烈s,f)lD,(f+J,歹+f,七,z)I,,=1,2(3)
*S.拒r
式中:D,(i,.,,忌,Z)为树状小波分解系数,(f’.,)为分解系数的空间位置,足为分解层数,z为子带频段(扛l,2,3,4)。
作者运用了一种新的基于区域多分辨率分割的区域图像融合方法,其主要特点是多分辨率分割。
它首先对源图像进行基于小波变换的多分辨率分解,然后对每一层图像都进行区域分割,最后用分割得到的区域信息来指导每一层的融合。
因为更多地考虑了像素的邻域特性,所以无论从理论上或者仿真实验上,基于区域的图像融合方法优于基于窗口的融合方法。
为此,本文拟参考这一点,把在树状小波分解中基于窗口的活性测度扩展到基于区域的活性测度计算。
3.5自生成神经网络的产生,优化,剪枝及简化
由于红外和可见光图像的灰度特性差异,模糊图像融合方法常被应用于两者的融合。
近几年来,一种基于自生成神经网络sGNN(self-generatingneuralnetwork)的模糊图像融合方法㈣有所报道。
SGNN是一种非监督学习的神经网络【9】,它不用预先设定类的数目(如自组织特征映射SOFM),适应性好,因其树型结构而适于聚类或分类。
自生成神经网络的产生在国内文献中尚未见详细报道,而其优化,剪枝及简化国内外文献都未见报道。
sGNN网络生成法则以一套训练样本为输入,以生成的SGNN网络为输出。
每个训练样本都是一个实数向量,神经元的权向量与训练样本具有相同的维数和定义域。
在最终生成的SGNT中,所有叶子神经元的权值为训练样本的矢量值,而所有非叶子神经元的权值则是以它为根的子树的所有叶子权值的平均值。
以下是本文所作的用sGNN对图像聚类的实验。
图3和图4分别为要分类的原图和分类的结果。
通过此界面可以看到原图像分类的结果:分类类数(6类),网络的总节点数(230),叶子节点数(130),中间节点数(100),并可通过杏询知道每个节点的祖辈和孩子。
图3要分类的原图
Fig.3originalfigurefbrcl勰sific撕on
图4原图被SGNN分类的结果
Fig..4Cl船sificationresunbySGNN
以上所生成的网络还存在一些弱点:网络在形状上并没有达到最优;可能存在死结点,即某些结点将永远不能被以后的训练样本访问到。
因而需要对以上所生成的SGNN网络进行更深入的优化,剪枝等研究。
优化过程是对以上生成的网络进行结构上的调整,主要是分别检测水平方向与垂直方向上神经元是否放
红外与可见光图像配准和融合中的关键技术
作者:蒋宏, 任章, JIANG Hong, REN Zhang
作者单位:北京航空航天大学,自动化学院,北京,100083
刊名:
红外与激光工程
英文刊名:INFRARED AND LASER ENGINEERING
年,卷(期):2006,35(z4)
被引用次数:1次
1.毛士艺;赵巍多传感器图像融合技术综述[期刊论文]-北京航空航天大学学报 2002(05)
2.CHEN H M Automatic two-stage IR and MMW image registration algorithm for concealed weapons detection 2001(04)
3.章毓晋图像分割 2001
4.XUE Z;BLUMR LI Y Fusion of visual and IR images for concealed weapon detection 2002
5.钮永胜多传感器图像自动配准技术研究[期刊论文]-光学技术 1999(01)
6.WEN W C Self-generating neural networks 1992
7.覃征数字图像融合 2004
8.李树涛基丁树状小波分解的多传感器图像融合[期刊论文]-红外与毫米波学报 2001(03)
9.LI H H A wavelet-based point feature extractor for multi-sensor image registration 1996
1.蒋宏.任章红外与可见光图像配准和融合中的关键技术[会议论文]-2006
2.王鲲鹏.徐一丹.于起峰.WANG Kun-peng.XU Yi-dan.YU Qi-feng红外与可见光图像配准方法分类及现状[期刊论文]-红外技术2009,31(5)
3.曾文锋红外与可见光图像融合中的快速配准方法[期刊论文]-红外与激光工程2002,31(2)
4.李振华.敬忠良.孙韶媛.刘刚.LI Zhen-Hua.JING Zhong-liang.SUN Shao-yuan.LIU Gang基于目标检测的红外和可见光动态图像融合[期刊论文]-上海交通大学学报2005,39(8)
5.王阿妮.马彩文.刘爽.柳丛.赵欣.WANG A-ni.MA Cai-wen.LIU Shuang.LIU Cong.ZHAO Xin基于角点的红外与可见光图像自动配准方法[期刊论文]-光子学报2009,38(12)
6.舒丽霞.彭晓明.周成平.丁明跃一种新颖的红外与可见光图像自动配准算法[期刊论文]-华中科技大学学报(自然科学版)2003,31(6)
7.刘贵喜.赵曙光.陈文锦红外与可见光图像融合的多分辨率方法[期刊论文]-光电子·激光2004,15(8)
8.刘卫光.郭师红.周利华红外与可见光图像实时配准融合系统[期刊论文]-红外技术2004,26(5)
9.王春华.马国超.马苗.WANG Chun-hua.MA Guo-chao.MA Miao基于目标提取的红外与可见光图像融合算法[期刊论文]-计算机工程2010,36(2)
10.张宇.付冬梅.李晓刚.孔维功.ZHANG Yu.FU Dong-mei.LI Xiao-gang.KONG Wei-gong基于特征的多层次红外与可见光图像融合方法[期刊论文]-计算机应用研究2009,26(4)
1.陈玉波.陈乐.曲长征.石艳霞红外制导技术在精确打击武器中的应用[期刊论文]-红外与激光工程 2007(z2)。