电子稳像的特征点跟踪算法
- 格式:pdf
- 大小:506.05 KB
- 文档页数:6
适用于大角度抖动的电子稳像算法初秀琴;王飞;倪乐真;刘洋【摘要】在角点检测的基础上,提出了一点对多点的配对策略,并针对该策略推导了能够解决图像序列同时存在平移和大角度旋转的稳像新算法.该算法克服了其他稳像算法必须准确求解图像旋转中心的缺点,突破了以往大多数算法仅解决平移和小角度旋转(一般是3°到5°)的限制.实验结果表明,当抖动图像的旋转角度转到18°时,仍然能达到很好的稳像效果,且稳像后图像的平均峰值信噪比比稳像前提高了约26 dB.%Based on corner detection, a matching strategy featured point-to-multipoint is presented, from which it is proposed a new image stabilization algorithm for image sequences with both translation and large rotation. The algorithm has made a breakthrough to the limitations of both the traditional algorithms' capability of only resolving translation or small rotation(3° to 5° on average) and the necessity of the center of rotation being precisely determined. Experimental results show that the algorithm still effectively functions even when the rotation angle reaches 18°. Also, the average PSNR is raised approximately 26 dB after stabilization.【期刊名称】《西安电子科技大学学报(自然科学版)》【年(卷),期】2011(038)004【总页数】6页(P26-31)【关键词】电子稳像;大角度抖动;角点匹配;全局运动估计【作者】初秀琴;王飞;倪乐真;刘洋【作者单位】西安电子科技大学电路CAD研究所,陕西西安710071;西安电子科技大学超高速电路设计与电磁兼容教育部重点实验室,陕西西安710071;西安电子科技大学电路CAD研究所,陕西西安710071;西安电子科技大学超高速电路设计与电磁兼容教育部重点实验室,陕西西安710071;西安电子科技大学电路CAD研究所,陕西西安710071;西安电子科技大学电路CAD研究所,陕西西安710071;西安电子科技大学超高速电路设计与电磁兼容教育部重点实验室,陕西西安710071【正文语种】中文【中图分类】TN942.2应用在车载、飞机、舰船等场合的摄像系统输出的图像序列存在着严重的抖动,易使观察者疲劳,也极大地影响了后续处理.为了消除图像序列的抖动,研究人员提出了机械稳像、光学稳像和电子稳像的方法,其中的电子稳像方法具有精度高、易操作的特点,且体积小、功耗低,成为现代稳像技术发展的主要方向.目前的电子稳像算法有投影算法(PA)[1-2]、运动矢量法[3]、位平面匹配方法(BPM)[4]、块匹配算法(BMA)[5]、代表点匹配算法(RPM)[6]、极坐标变换算法[7]、特征跟踪算法(FTA)[8]等.其中,PA 和 BPM 算法只针对摄像机的平移运动进行稳像;BMA和RPM算法经过改进可用于摄像机的小角度旋转稳像;极坐标变换算法虽然能解决大角度旋转问题,但是需要准确地知道图像的旋转中心,而准确地求解旋转中心比较困难.当摄像机存在平移运动和旋转角度较大时,通常采用特征跟踪算法,它具有较好的稳定性,稳像精度也比较高.目前已经提出了多种特征跟踪算法及改进算法[9-10],但是这些算法基本上都用到了块匹配运算.由于块匹配运算是基于块内运动一致性的假设,所以现有的特征跟踪算法大多数只能适用于抖动角度较小的图像序列(一般是3°到5°),而不能对存在大角度抖动的图像序列进行稳像.针对上述问题,笔者提出了一种能够解决同时存在平移和较大角度抖动的稳像新算法.该算法采用角点检测和跟踪的方法,提出了一点对多点的配对策略,在仿射变换的基础上推导出一种新的参数提取算法.新算法不需要知道实际的旋转中心就可以得到含有平移和旋转的全局运动矢量,有效地实现了帧间平移运动的补偿和旋转运动的补偿,同时可以满足较大旋转角度下的稳像要求.图1 原始坐标系和旋转变换后的坐标系1 运动模型摄像机的抖动会引起视频序列背景的运动.全局运动估计就是估计这种背景运动的规律,它是稳像系统的关键步骤,是去除抖动的前提.为了对抖动视频序列进行电子稳像处理,首先要分析图像相对于CCD摄像机载体的运动.摄像机运动有6个自由分量:3个平移分量(Tx,Ty,Tz)和3个旋转分量(α,β,γ),分别表示绕X、Y、Z轴的平移和旋转,如图1所示.图1中,绕水平轴X转动改变俯仰角,绕垂直轴Y转动改变方位角和绕视向滚动(视向即垂直于成像平面的轴).假定空间坐标系中一点(X,Y,Z)移动到点(X',Y',Z'),相应地,其投影像平面坐标由(x,y)运动到(x',y'),其焦距也由f变为f',则空间两点坐标的对应关系为其中 R=R x R y R z,R x、R y、R z分别表示绕X轴、Y轴、Z轴旋转α、β、γ角度的旋转矩阵.一旦确定了摄像机的抖动情况,则旋转矩阵R也随之确定.因此R的表达式为这个模型全面考虑了摄像机的平移、旋转和焦距变化等各种情况,但是过于复杂,不利于计算,所以需要进行简化.假设一台运动中的摄像机面对着一个平坦的面进行拍摄并且焦距不变,即所有场景点的景深相等,或者各点景深变化远远小于平均景深.此时,摄像机的平移运动就会导致二维图像的平移,摄像机的滚动就会导致图像整体旋转.当摄像机的俯仰角和偏向角较小时(一般小于5°),可以将其等效为图像整体的二维平移和旋转.假定参考帧图像是f(x,y),摄像机抖动后的当前帧图像是f(x',y'),抖动造成了图像帧发生(Tx,Ty)的平移以及绕点(x0,y0)发生θ角的旋转,则可以建立如下二维仿射模型:该二维仿射模型为坐标反变换,用于求解全局运动矢量.2 全局运动参数求解为了得到准确的全局运动参数,需要对图像序列进行特征点的检测和提取以及对参考帧和当前帧的特征点进行配对,并在此基础上求解参数,最后从所得的解中提取出有效的全局运动参数.算法的流程如图2所示.图2 全局运动估计流程图2.1 图像中特征点的检测与选取角点是图像的局部特征,包含着丰富的信息,因此可以将角点作为图像的特征点.提取角点的方法有很多种,而在稳像算法中只需要快速提取出10到20个最明显的角点即可(漏检的或不是特别明显的角点对后续处理没有影响).笔者在SUSAN算法[11]和MIC算法[12]基础上加以改进,实现角点的快速检测,步骤如下:步骤1 为了提高精度,先用Saint-Marc等人[13]提出的自适应平滑方法对图像进行自适应平滑.步骤2 在核心点邻域内计算其所有可能方向的最小亮度变化,即CRF值(Conner Response Function),将具有大于某一阈值且为局部最大CRF值的像素点提取出来,组成图像边缘点集合T1.步骤3 选取集合T1中CRF值较大的那部分点,这些点的邻域可以分为3部分:亮度值大于核心亮度的点,亮度值小于核心亮度的点,亮度值非常接近或等于核心亮度的点.采用SUSAN的37圆邻域求前两部分亮度均值,更为接近核心亮度的部分和亮度值等于核心亮度的部分被认为与核心点处于同一区域,记为区域1;而将均值亮度与核心亮度的差值大于某一阈值t(实验表明取t=10效果较好)的另一部分记为区域2.步骤4 计算区域1的面积,根据SUSAN基本原理,若区域1的面积小于整个邻域面积的一半,则认为是角点候选点.步骤5 对候选角点作7×7邻域非最大值压缩处理,得到最后的角点,并从中提取出最明显的部分角点,在实验中一般取10到20个角点.2.2 角点配对策略传统的特征点匹配算法一般都是在参考帧中确定特征点,然后以参考帧特征点为中心选取适当的块,在当前帧一定范围内寻找匹配的块,并以此块的中心作为匹配的特征点.由于这种方法是建立在块内运动一致性基础上的,当旋转角度过大时,就不可能找到真正的匹配点,所以此方法不能用于大角度旋转抖动的图像序列.笔者采用了点到点的配对方式,所以可以有效解决大角度的抖动问题.具体步骤如下: 步骤1 为了防止角点选在了移入或移出的场景中而无法进行特征匹配,先对参考帧进行剪切处理,去掉边缘若干行列.对剪切后的图像进行角点检测,从检测出的角点里选取最明显的N(一般选10到20)个角点,组成角点集合S1.步骤2 同样对当前帧进行剪切处理并提取角点,从检测出的角点里选取最明显的M(取M略大于N)个角点,组成角点集合S2.步骤3 以参考帧中所选取的每一个角点坐标为中心,在当前帧上一定的邻域范围内进行搜索,并把所有在该范围内的角点均当成与参考帧中该角点配对的角点,最终得到与当前帧角点配对的参考帧角点集合S3.步骤4 把集合S3中参考帧的角点横坐标和纵坐标分别放入行向量C和D中(如果是一对多的配对,则将该角点的坐标重复多次放入C和D中),把与之配对的当前帧图像的角点坐标对应地放入行向量G和H中.这一过程并不是为了得到精确的角点匹配,只是一种策略,只要参考帧中的大部分角点能够在与其配对的角点里包含有正确的匹配,就达到了这一步的目的.2.3 运动参数的求解将得到的配对角点的坐标行向量C、D、G、H中的各个元素分别代入式(4)中的相应位置,得到下式:通过联立方程组并令a=C(i)-C(j),b=D(i)-D(j),c=G(i)-G(j),d=H(i)-H(j),可以求得把式(6)代入式(5)中,可得Tx和Ty为从上面的推导可以看出,最终得到的旋转矩阵与图像实际的旋转中心(x0,y0)是没有任何关系的,而平移量的大小则与其有关.将式(6)和式(7)得到的结果代入式(5),则x0,y0将被完全消去.实验表明,除了边缘损失会有一定的差异外,坐标(x0,y0)的变化对最终的稳像结果没有影响.所以,在实际处理中,如果对图像边缘无特殊要求,则没有必要知道实际的旋转中心.为了计算方便,一般取图像的中心作为旋转中心.假设C中有T个元素,显然D、G、H中也含有T个元素,可以联立U个方程组,其中U=T(T-1)/2,即sin θ、cosθ、Tx、Ty均含有 U 组解,按求解的先后顺序将其放入行向量 E s、E c、T x、T y中.2.4 运动参数的提取由于运用了一对多的配对策略,因此上面求得的解并不都是可靠的,需要把那些正确匹配的角点所得到的有效解从中提取出来.由于全局运动矢量具有全局一致性,所以用正确匹配的角点坐标所列的方程组得到的结果应该也具有一致性,而通过误匹配的角点计算得到的解是随机的,不具有规律性.运用迭代算法不断收敛可以得到所需的运动参数,但是迭代算法的精度受迭代次数的影响较大,而且计算量很大.笔者提出了新的参数提取算法,运用这一算法可以从行向量E s、E c、T x、T y中提取出有效的全局运动矢量.具体步骤如下: 步骤1 将T x、T y中的元素Tx(i)、Ty(i)按四舍五入取整,然后按顺序分别存入行向量T x1、T y1,提取出现次数最多的Tx1(i)、Ty1(i)分别作为X、Y方向上的平移量,记为TX2、TY2.步骤2 由于TX2、TY2是四舍五入后得到的,所以不仅存在计算误差,还存在舍入误差,四舍五入造成的误差在正负一个像素之内.为了提高精度,可作如下处理:记录下满足以及的i值.步骤3 从E s、E c、T x、T y中提取出有效的ES(i)、EC(i)、Tx(i)和Ty(i)的值,然后分别求其均值,将得到的均值作为sinθ和cosθ以及Tx和Ty的最终估计值.3 实验结果及分析针对上述算法,用实际图像序列进行了验证.视频捕捉设备选用Canon IXUS 70,图像大小为480×640像素.为了验证大角度抖动下算法的有效性,选取序列的第1帧为参考帧,第25帧为当前帧.用上述算法提取出全局运动参数,并对当前帧进行稳像处理,得到稳像前后当前帧与参考帧的差值图像,计算出峰值信噪比PSNR.峰值信噪比为其中E MS是参考帧与当前帧的最小均方误差,定义为式中M、N为所选部分的水平和垂直尺寸.全局运动矢量参数如下:sinθ=0.3157,cosθ=0.9489,TX2= -6.5857,TY2=11.5014,求反三角函数可得旋转角度θ=18.1203°.针对稳像后的图像边缘损失情况,取行i=60∶380,列j=50∶570,得到:稳像前P SNR=35.30 dB,稳像后P SNR=65.08 dB.实验结果如图3所示.图3(a)~图3(c)分别是参考帧、当前帧和稳像后的图像,图3(d)和图3(e)分别是稳像前后当前帧和参考帧之间的差值图像.从图3可以看出,虽然当前帧和参考帧之间存在很大角度的旋转抖动,但是稳像后得到了明显补偿.图3 稳像前后的图像及差值图像图4 稳像前后图像的峰值信噪比对图像序列的前440帧进行稳像处理,并分别计算每帧图像稳像前后的峰值信噪比值,得到峰值信噪比曲线如图4所示.序列在稳像后平均每帧图像的峰值信噪比值比稳像前提高了26.07 dB.上述实验结果表明,该算法能够有效地消除图像序列的平移和大角度旋转,稳像效果明显,突破了以往特征跟踪算法只能用于摄像机绕视轴旋转不超过3°或5°的限制.4 总结笔者提出的适用于大角度抖动的特征点匹配稳像算法,与以往的基于块匹配的特征跟踪算法相比,解决了对存在大角度抖动的图像序列不能进行稳像的局限,同时避免了极坐标变换算法中需要知道图像准确的旋转中心这一难点,且提出的参数提取算法不会因部分特征点的误匹配而引入全局运动矢量误差,解决了同时存在平移和大角度旋转的图像序列的稳像问题.实验结果表明,当图像序列的旋转角度达到18°时,仍然有很好的稳像效果,且稳像后平均每幅图像的峰值信噪比值提高了约26 dB.参考文献:[1] Sauer K,Schwartz B.Efficient Block Motion Estimation Using Integral Projections[J].IEEE Trans on Circuits and Systems for Video Technology, 1996, 6(5):513-518.[2]李计添,何永强,陈财森,等.一种基于灰度投影算法的车载电子稳像方法[J].红外技术,2010,32(6):328-332.Li Jitian, He Yongqiang, Chen Caisen, et al.A Method of Vehicle-bone Electronic Image Stabilization Based on Gary Projection Algorithm[J].Infrared Technology, 2010,32(6):328-332.[3]彭健,汪佩,贾彦茹.一种用于电子稳像的运动矢量处理方法[J].电子测量与仪器学报,2010,24(6):580-584.Peng Jian, Wang Pei, Jia Yanru.Motion Vector Processing Method for Electronic Image Stabilization[J].Journal of Electronic Measurement and Instrument,2010, 24(6):580-584.[4] Jeon SW.Fast Digital Image Stabilizer Based on Gray-coded Bit-plane Matching[J].IEEE Trans on Consumer Electronics,1999,45(3):598-603.[5] Vella F, Castorina A, Mancuso M, et al.Digital Image Stabilization by Adaptive Block Motion Vectors Filtering[J].IEEE Transon Consumer Electronics, 2002, 48(3):796-801[6] Hsu S C, Liang Shengfu, Fan Kangwei, et al.A Robust In-Car Digital Image Stabilization Technique[J].IEEE Trans on Systems, Man and Cybernetics—Part C:Applications and Reviews, 2007, 37(2):234-247.[7] Zokai S, Wolberg G.Image Registration Using Log-Polar Mappings for Recovery of Large-Scale Similarity and Projective Transformations [J].IEEE Transn on Image Processing, 2005,14(10):1422-1434.[8]朱娟娟,郭宝龙.电子稳像的特征点跟踪算法[J].光学学报,2006,26(4):516-521.Zhu Juanjuan, Guo Baolong.Feature Tracking Algorithm for Video Stabilization[J].Acta Optica Sinica, 2006, 26(4):516-521.[9]朱娟娟,郭宝龙.一种鲁棒的电子稳像系统[J].西安电子科技大学学报,2007,34(3):418-452.Zhu Juanjuan, Guo Baolong.Electronic Image Stabilization System Based on Global Features Tracking[J].Journal of Xidian University, 2007, 34(3):418-452.[10]石磊,苏秀琴,向静波.一种基于特征块匹配的电子稳像方法[J].光子学报,2008,37(1):202-205.Shi Lei, Su Xiuqin, Xiang Jingbo.An Electronic Image Stabilization Method Based on Feature Block Matching [J].Acta Photonica, 2008, 37(1):202-205.[11] Smith SM, Brady JM.SUSAN—a New Approach to Low Level Image Processing[R].London:Oxford University, 1995.[12] Miroslav T, Mark H.Fast Corner Detection[J].Image and Vision Computing, 1998,16(1):75-87.[13] Saint-Marc P, Chen JS, Medioni G.Adaptive Smoothing:AGeneral Tool for Early Vision[J].IEEE Trans on Pattern Analysis and Machine Intelligence, 1991, 13(6):514-529.。
第15卷 第3期中国图象图形学报V o.l 15,N o .32010年3月Journa l o f I m age and G raphicsM ar .2010电子稳像技术综述王志民 徐晓刚(海军大连舰艇学院装备系统与自动化系,大连 116018)摘 要 利用电子稳像技术实现抖动视频序列稳定是现代稳像技术的发展方向之一。
首先简要介绍了电子稳像的基本原理和系统结构;然后从各模块功能出发,对电子稳像的运动估计、运动校正和图像补偿等关键技术的研究进展进行了综述,并给出了稳像性能评估的常用方法;最后总结和分析了电子稳像技术的应用现状以及未来的发展趋势。
研究结果显示,电子稳像技术的研究已经逐渐进入工程应用的新阶段,具有良好的应用前景和市场需求。
关键词 电子稳像 运动估计 运动校正 图像补偿 性能评估中图法分类号:TN911 73 文献标志码:A 文章编号:1006 8961(2010)03 470 11基金项目:辽宁省自然科学基金项目(20082176);浙江大学CAD &CG 国家重点实验室开放基金项目(A0906)收稿日期:2008 09 22;改回日期:2008 12 29简介:王志民(1983 ),男。
海军大连舰艇学院信号与信息处理专业硕士研究生。
主要研究方向为电子稳像、图像处理。
E m ai:l z h i m i nn_w ang @126.co mA Survey on E lectronic I mage Stabilizati onWANG Zh i m in,XU X iaogang(D e part m ent of E qu i p m en tSy ste m &Au to ma tiza tion,Dali an N avalA cad e m y ,Da lian 116018)Abstrac t E l ectron i c i m age stab ili zati on (EIS )techn i que has been w i dely u tilized for remov i ng the unwanted mo ti onfl uctua ti ons from v i deo sequence It is one o f the pri m ary dev elopment directi ons of the f u t ure i m age stab ili za ti on technique T his paper firstl y introduces t he basic pr i nc i ples of E IS and its architec t ure A fter g iv i ng an ove rv i ew o f the sta te o f t he art o f key techniques i ncl uding mo ti on esti m ati on ,m oti on co rrection and i m age com pensati on i n EIS ,w e list a nu m ber o f genera lm eans to assess the perfor m ance o f v i deo stabilization process F i na ll y ,the status about the appli ca tion of EIS i s su mm ar i zed and its deve l op m ent trend is ana l yzed Survey results show that EIS technique possesses pro m isi ng app lica ti on prospec t and g rea tm arke t de m and ,as research on E IS technique has turn i nto eng i neer i ng appli cation K eywords e l ectronic i m ag e stab ili za ti on (EIS ),m otion esti m ati on ,m oti on correcti on ,i m age co m pensation ,perfo r manceassess m ent0 引 言稳像技术广泛应用于机器人远程遥控系统、无人车辆导航系统、视频侦察系统、导弹电视制导系统以及车载火控系统中的观瞄系统等,是电视精确制导、目标检测与跟踪的关键预处理技术,是移动成像系统不可缺少的一种重要视频增强技术。
找特征点的算法SIFT和SURF算法SIFT算法和SURF算法是用于图像特征点的检测与描述的两种经典算法。
它们在图像处理、计算机视觉和模式识别等领域得到广泛应用。
下面将分别介绍SIFT算法和SURF算法,并对其原理和应用进行详细阐述。
一、SIFT算法(Scale-Invariant Feature Transform)SIFT算法是由Lowe于1999年提出的一种用于图像特征点检测与描述的算法。
它通过分析图像的局部特征来提取与尺度无关的特征点,具有尺度不变性、旋转不变性和仿射不变性等优点。
1.特征点检测SIFT算法首先通过高斯差分金字塔来检测图像中的特征点。
高斯差分金字塔是由一系列模糊后再进行差分操作得到的,通过不同尺度的高斯核函数对图像进行卷积,然后对结果进行差分运算,得到图像的拉普拉斯金字塔。
在拉普拉斯金字塔上,通过寻找局部最大值和最小值来确定特征点的位置。
2.特征点描述在确定特征点的位置后,SIFT算法使用梯度直方图表示特征点的局部特征。
首先,计算特征点周围邻域内每个像素点的梯度幅值和方向,然后将邻域分为若干个子区域,并统计每个子区域内的梯度幅值和方向的分布,最后将这些统计结果组合成一个向量作为特征点的描述子。
3.特征点匹配SIFT算法通过计算特征点描述子之间的欧式距离来进行特征点的匹配。
欧式距离越小表示两个特征点越相似,因此选择距离最近的两个特征点作为匹配对。
二、SURF算法(Speeded Up Robust Features)SURF算法是由Bay等人于2024年提出的一种在SIFT算法的基础上进行改进的图像特征点检测与描述算法。
它通过加速特征点的计算速度和增强特征点的稳定性来提高算法的实时性和鲁棒性。
1.特征点检测SURF算法使用Hessian矩阵来检测图像中的特征点。
Hessian矩阵是图像的二阶导数矩阵,通过计算Hessian矩阵的行列式和迹来确定图像的局部最大值和最小值,从而找到特征点的位置。
摄像头跟踪算法的优化与实现近年来随着人工智能技术的飞速发展,摄像头跟踪算法的优化与实现成为研究热点之一。
这些算法被广泛应用于视频监控、智能安防等领域,为人们的生活和工作带来了极大的便利。
本文将介绍摄像头跟踪算法的基本原理及其优化方法,并结合实际应用案例进行探讨。
一、摄像头跟踪算法的基本原理摄像头跟踪算法的基本原理是通过摄像机对目标的图像进行采集,并通过图像处理和分析来得到目标的实时位置和运动轨迹,从而完成对目标的跟踪。
在实际应用中,摄像头跟踪算法可以分为两类:基于像素级别的跟踪算法和基于特征点的跟踪算法。
1、基于像素级别的跟踪算法像素级别的跟踪算法是基于对目标图像的像素级别进行处理和分析得到标的跟踪信息的,它们主要包括:基于图像灰度的跟踪算法、基于背景差分的跟踪算法、基于连续检测的跟踪算法等。
其中,基于图像灰度的跟踪算法是最常见的一种,其原理是通过对目标图像的灰度值进行提取,然后通过各种计算方法来找出目标的实时位置。
但是,这种算法有一个明显的缺点就是对光照条件比较敏感。
2、基于特征点的跟踪算法与像素级别的跟踪算法相比,基于特征点的跟踪算法则是通过对图像中的特殊点进行匹配和跟踪,从而实现对目标的跟踪。
这种算法的优点是在目标位置移动或者发生形态变化时,可以保持较好的跟踪效果。
而缺点则是对处理和计算速度要求相对较高。
二、摄像头跟踪算法的优化与实现摄像头跟踪算法在实际应用中不可避免的需要进行优化和改进,以提高算法的速度和精度。
以下是几种常见的优化方法:1、光照处理基于图像灰度的跟踪算法在光照条件发生变化时容易出现误差,因此可以在算法中引入光照处理的方法。
例如,可以通过对图像中的亮度进行归一化操作,从而达到更好的跟踪效果。
2、特征点提取在基于特征点的跟踪算法中,特征点的提取和匹配显然是决定算法性能的关键因素。
因此,可以通过运用各种特征提取算法,如SIFT、SURF等,来提高算法的效果和速度。
此外,还可以采用快速的特征匹配算法,例如RANSAC算法等,来优化特征点的匹配效果。
基于MEMS陀螺仪的电子稳像算法赵赛;康宝生;王力【摘要】针对电子稳像运动估计过程中,特征匹配方法存在匹配误差以及3D运动估计方法计算复杂等问题,提出一种基于MEMS(Micro-electro-mechanical system)陀螺仪的电子稳像算法.首先,利用MEMS陀螺仪估计相机旋转抖动量,利用尺度不变特征变换方法SIFT(Scale-invariant feature transform)估计相机平移抖动量;其次,利用滤波技术对平移及旋转运动矢量平滑滤波处理;然后,对视频序列的高频率旋转及平移抖动量进行运动补偿;最后,利用图像拼接技术去除运动补偿后的图像边缘“黑边”.实验结果表明,该算法对于相邻图像帧的抖动补偿准确性较高,处理效果较好,减少了系统的计算复杂度.%To the motion estimation process on the video stabilization,the matching error of feature matching method and calculation complexity of 3D motion estimation method are discussed,a kind of video stabilization algorithm based on MEMS (Micro-electro-mechanical system) gyroscope was proposed.Firstly,the motion estimation of camera rotation is achieved by using MEMS gyroscope,and the motion estimation of camera translation is achieved by using SIFT (Scale-invariant feature transform)method;next,the filter technology is used to smooth and filter the translation and rotation vector;then,make a camera motion compensation with the video sequences of the high frequency jitter of rotation and translation;finally,using image mosaic technology to remove the edge black region of the image after the motion compensation.The experimental results show that the algorithm for the adjacent imageframes of jitter compensation accuracy is higher,the effect is good,and reduce the processing time of the system.【期刊名称】《西北大学学报(自然科学版)》【年(卷),期】2018(048)003【总页数】8页(P355-362)【关键词】电子稳像;MEMS陀螺仪;相机标定;图像拼接【作者】赵赛;康宝生;王力【作者单位】西北大学信息科学与技术学院,陕西西安710127;西北大学信息科学与技术学院,陕西西安710127;西北大学信息科学与技术学院,陕西西安710127【正文语种】中文【中图分类】TP391随着科技的发展,具备拍照以及摄像功能的电子设备已大量进入人们的生活[1],其呈现形式多种多样,如智能手机、小型无人机、行车记录仪等。
文章编号:0253 2239(2006)04 0516 6电子稳像的特征点跟踪算法*朱娟娟 郭宝龙(西安电子科技大学机电工程学院智能控制与图像工程研究所,西安710071)摘要: 提出一种利用特征跟踪进行电子稳像的算法,该算法具有计算量小,精度高,有鲁棒性等优点。
算法由两部分构成:(1)基于特征点集二维运动模型进行全局运动估计。
提取图像的特征点,以其为中心建立特征窗进行块匹配,得到匹配特征点集,根据特征点集内具有稳定相对位置的结构特征,提出距离不变准则,对特征匹配进行验证,以保证各点的局部运动具有良好的全局一致性,从而形成特征点集的全局运动矢量;(2)利用自适应均值滤波去除摄像机抖动。
均值滤波器可以有效平滑摄像机的高频抖动,同时滤波器尺寸自适应地根据抖动频率来调整大小,能够防止过稳或欠稳。
实验结果表明,该算法能够有效减轻摄像机的旋转和平移抖动。
关键词: 图像处理;电子稳像;全局运动估计;特征点匹配;运动补偿中图分类号:T P391.4 文献标识码:A*国家自然科学基金(69975015)资助课题。
作者简介:朱娟娟(1980~),女,江苏南通人,西安电子科技大学博士研究生,主要从事图像处理和电子稳像的研究。
E mail:zhujo o@收稿日期:2005 05 18;收到修改稿日期:2005 07 20Feature s Tracking Algorithm for Vide o StabilizationZhu Juanjuan Guo Bao lo ng(School of Elect r om echan ical Engin eer in g ,In telligen t Con tr ol an d Im a ge Engin eer in g In stitu te ,Xidia n U niv er sity ,Xi 'a n 710071)Abstract: A video stabilization algorithm is presented,whic h has the advantages of low c omputation c ost,highac curacy and robustness.It consists of two parts:(1)global motion estim ation is perform ed based on two dimensional m otion model of feature points set.The feature window with eac h selected feature point as the center is matched and then the corresponding points are obtained.The feature set has a stable struc t ure,and the relative positions of all points are stable.So distance invariant criterion is proposed to c heck the feature matching,keep global c oherence of a ll local motions and produce the global m otion vector of the feature points;(2)a self adaptive average filtering is a pplied to exc lude the influence of the camera dithering.The average filter can smooth out the high frequency dithering effectively and adjust the window length automatically according to dithering frequency to prevent overstabilization or understabilization.Experimenta l results show that the algorithm can effectively reduce the influence of unwanted camera rotation and translation dithering.Key wo rds: image processing;electronic image stabilization;global motion estimation;feature points matching;m otion compensation1 引 言电子稳像是一种结合电子设备和数字图像处理,消减摄像机抖动导致的视频序列不稳定甚至模糊现象的技术。
与传统的机械稳像和光学稳像[1]相比,它具有易操作,精度高,体积小,功耗小,以及能实现实时处理等特点,是现代稳像技术发展的主要方向。
目前,电子稳像技术已经被广泛用于摄像机抖动的检测和消除,视频压缩,运动目标的检测和跟踪,以及图像拼接等领域。
经典的稳像算法有块匹配算法(BMA)[2],投影算法(PA)[3],位平面匹配方法(BPM )[4],它们都是针对摄像机的平移运动。
块匹配算法是基于块内运动一致性的假设,投影算法要求图像具有一定的衬比度和明显的灰度变化,位平面匹配方法是一个比较新的算法,它只利用图像的一个位平面进行匹配,速度快,但是精度有待于提高。
当发生旋转运动时,第26卷 第4期2006年4月光 学 学 报A CT A OPT ICA SINICAV ol.26,No.4A pril,2006通常采用特征跟踪算法(FTA)[5],但当跟踪过程中遇到特征遮挡、背景中小物体运动、异物进入视场等问题时,仍没有一个有效的解决方案。
上述问题解决的关键是准确地提取全局运动信息以去除摄像机的随机抖动。
局部特征的运动是模糊的和不确定的[6],但同一图像中的所有特征点之间具有相互约束,形成一个整体的约束结构[7],该结构具有稳定性和抗干扰能力。
本文基于特征点集运动矢量的提取和自适应滤波技术,提出了一种带特征匹配验证的电子稳像算法(FMVA )。
该算法研究了特征点集内存在的相对位置稳定的结构特征,提出了两点间距在摄像机平移和旋转运动前后不变的距离准则,以去除误匹配,保证运动矢量一致性,提高全局运动估计的精度;另外,分析了摄像机扫描运动和随机抖动的运动特征,利用自适应窗长的均值滤波器平滑抖动,能够在去除抖动的同时跟随摄像机的真实扫描。
实验时采用图像差值和图像序列帧间相似度对稳定结果进行了评定,结果表明FM VA 算法可以有效处理摄像机的平移和旋转抖动,实时实现视频序列的稳像处理。
2 全局运动估计摄像机的抖动引起视频序列背景的运动,全局运动估计就是估计背景运动的规律,它是稳像系统的关键步骤,是去除抖动的前提。
图1全局运动估计流程图Fig.1Flow diagr am of g lobal motio n estimat ionFM VA 算法采取的全局运动估计是基于特征点跟踪的思想,具体原理是:选取图像不同区域内的多个特征点,构成特征点集,点集内各点之间的相对位置形成稳定的结构,约束每点的局部运动必须保持全局一致性,因此,可以将这个结构作为全局信息,作为一个整体来跟踪它的运动轨迹,从而来保证运动估计的全局性和鲁棒性,提高抗噪声干扰的能力。
实现步骤是:利用高斯拉普拉斯算子对参考图像进行滤波处理,平滑噪声,分区域选取特征点集S ;以每一特征点为中心,建立特征窗做块匹配,得到匹配特征点集T ;基于多点结构约束的思想,利用相对距离不变准则去除误匹配和局部运动点;然后将剩余的正确匹配点对带入二维运动模型,用最优化计算方法求出最优解即全局运动矢量。
图1为FMVA 算法中全局运动估计的流程图。
2.1 特征点对的对应关系为了对抖动视频序列进行电子稳像处理,首先必须要分析图像相对于CCD 摄像机载体的运动,图像的运动可以看作是由摄像机的某些运动分量引起的。
为了分析视频序列帧间运动,以摄像机当前位置为参照,建立CCD 摄像机载体动坐标系为O -X YZ,其中O 为光轴中心,像平面坐标系定义为W -UV ,如图2所示。
图2运动坐标系Fig.2M otion co or dinates system摄像机运动有6个自由分量:3个平移分量(T x ,T y ,T z )和3个旋转分量( , , ),分别表示绕X YZ 轴的平移和旋转,其中,绕水平轴(pitch)改变俯仰角、绕垂直轴(yaw )改变方位角和绕视向滚动(r oll,视向即垂直于成像平面的轴)。
假定空间坐标系中一点(x ,y ,z ),移动到点(x ,y ,z ),相应地,其投影像平面坐标由(u,v )运动到(u ,v ),其焦距也由f 变为f ,则两点空间坐标的对应关系可由(1)式表示,两点像平面坐标由(2)式表示:x y z=a b c i j k lmnx y z+T x T y T z,(1)u =f au +bv +cf +f T x/z lu +mv +nf +f T z /z,v =f iu +j v +kf +f T y /zlu +mv +nf +f T z /z,(2)当旋转角度小于5 时,(2)式可以近似为(3)式:5174期 朱娟娟等: 电子稳像的特征点跟踪算法u =f u+ v-f+f T x/z u- v+f+f T z/z,v =f - u+v+ f+f T y/zu- v+f+f T z/z.(3)令s=(u- v+f+f T z/z)/f ,(4)则(3)式转变为s!u =u+ v-f+f T x/z,s!v =- u+v+ f+f T y/z.(5) 假设一台运动中的摄像机面对着一个平坦的面进行拍摄,即所有场景点的景深相等,或者各点景深变化远远小于平均景深,此时,摄像机的平移运动就会导致二维图像的均一比例变化和平移;当旋转角度很小(小于5),摄像机的滚动导致图像整体的旋转,同时,摄像机的俯仰和偏向导致图像整体的二维平移。
此时可以建立二维仿射模型如下:s!u =u+ v+T u,s!v =v- u+T v,(6)其中s是比例因子,(T u,T v)是平移量, 是旋转角度。
由此,只要给定两帧图像之间一组(大于3对)匹配点对,就可以求出方程(6)的最小二乘解。
这种模型形式简单,求解稳定,在许多场景中得到应用[8,9]。