视频的超分辨率增强技术综述
- 格式:pdf
- 大小:101.80 KB
- 文档页数:5
视频增强技术综述概述图像超分辨率(superresoulution, SR)指利用一幅或者多幅低分辨率(lowresoulution, LR)图像,通过相应的算法来获得一幅淸晰的高分辨率(highresoulution, HR)图像.HR 意味着图像具有髙象素密度,可以提供更多的细肖,这些细肖往往在应用中起到关键作用.要获得高分辨率图像,最直接的办法是采用髙分辨率图像传感器,但由于传感器和光学器件制造工艺和成本的限制,在很多场合和大规模部署中很难实现。
低分辨率的图像包含的细节信息较少,但我们可以得到一系列低分辨率的图像,这些图像包含的部分细肖信息各有不同,能够相互补充。
通过这一系列低分辨的图像,经过一左的处理,可以得到一幅分辨率较高、包含信息较多的图像。
这个处理过程就是超分辨率重建。
超分辨率重建的核心思想就是用时间带宽(获取同一场景的多帧图像序列)换取空间分辨率,实现时间分辨率向空间分辨率的转换。
因此,利用现有的设备,通过超分辨率技术获取髙分辨率图像具有重要的现实意义。
视频的超分辨率增强是指融合来自相同动态场景的多个低分辨率视频序列的信息,去重构一个髙时空分辨率的视频序列。
可想而知,视频超分辨率包括时间超分辨率和空间超分辨率。
视频中某些事件发生变化比较快,这样就需要用所谓高速(高帧率)的摄像机来采样,如果使用普通帧率的摄像机,那么在时间上就会有一些细节信息的丢失。
视频的时间超分辨率就是要恢复这些丢失的时间上的细肖信息,而视频空间超分辨率就是通常人们提到的图像超分辨率复原。
摄像机在时间和空间上的分辨率能力是有限的。
空间分辨率取决于摄像机光学传感器的空间密度及其本身引入的模糊误差,这些因素限制了图像中被观察到的物体或特征的最小空间尺寸;时间分辨率取决于摄像机的帧率和曝光时间,这就限制了视频序列中能被观察到的动态事件的最大变化速度。
比摄像机帧率发生更快的动态事件在记录下来的视频序列中是不可见或者不正确的,如在网球比赛的视频中是不可能观察到高速运动的网球的全部运动和状态的。
先进技术专题讲座报告题目视频超分辨率重建专业、班级学生姓名学生学号2013 年 12月 01日摘要随着视频和图像处理技术的飞速发展,人们对高分辨率视频和图像序列的需求越来越强烈。
高分辨率图像能提供目标的更多细节信息,对于图像的分析和处理有重要作用。
然而在某些应用场合,由于光学物理器件、处理器性能、信道传输带宽或存储容量等的限制,人们获得图像的分辨率往往较低,并且无法或很难通过直接方式突破这些限制。
因此,如何在现有条件限制下,提高图像和视频序列的空间分辨率,就成为人们研究的重点。
视频超分辨率重建技术是近年图像处理与计算机视觉的研究热点之一,目前,视频超分辨率重建中使用较广的是视频重建模型,但由于该方法未对边界帧进行考虑,不能对视频中的每一帧进行重建。
每一帧图像的超分辨率重建主要包括配准和重建2 个过程,其中配准算法的精度直接关系到重建视频的质量。
配准算法主要包括频率域和空间域两大类,总体而言,空间域方法适用于更为普通的运动模型,但在大运动情况下将会产生较大误差。
重建算法主要包括非均匀内插法、迭代反投影法、集合论方法、最大后验概率估计法和自适应滤波法等。
由于迭代反投影算法具有计算量小、收敛速度快、算法简洁和可自动降噪等优点,被有效地应用于视频超分辨率重建中。
超分辨率重建是采用软件方法对图像或者视频进行一系列的分析处理,提高图像或视频分辨率的一种数字图像处理技术。
利用超分辨率重建技术能够在不升级现有采集设备的情况下,提高采集图像的分辨率;也能够在不增加传输信号带宽的情况下,改善图像或视频的画面质量。
因此,超分辨率重建技术具有良好的研究价值和广泛的应用前景。
在获取视频过程中,有许多因素会导致视频质量的退化,使得视频的空间分辨率降低;而摄像机曝光时间和拍摄帧率又限制了视频的时间分辨率。
视频超分辨率重建是一种能有效提高视频时间分辨率和空间分辨率的方法,已经在计算机视觉和图像处理等领域引起了广泛关注。
详细阐述了视频超分辨率重建研究的概念和必要性,并较全面地回顾了超分辨率技术近年来的发展历程,对视频超分辨率重建中关键问题进行了较为深入的分析,指出了当今研究难点和今后的研究方向,对视频超分辨率重建的应用前景进行了展望。
超分辨率图像重建方法综述随着图像采集技术的不断发展,高分辨率图像在许多领域的应用越来越广泛。
然而,由于受到成像设备、传输介质等因素的限制,很多时候我们只能获取到低分辨率的图像。
为了克服这一限制,超分辨率图像重建技术应运而生。
本文将综述超分辨率图像重建的基本原理、常用方法及其优缺点,并探讨未来的研究方向。
超分辨率图像重建是指在给定一组低分辨率图像的情况下,通过一定的技术手段重建出高分辨率图像的过程。
这一技术在安全监控、医疗影像、遥感图像等领域的应用尤为广泛。
传统的超分辨率图像重建方法主要包括插值法、边缘保持法、频域法等。
这些方法通常基于图像的统计特性和先验知识,以优化图像的视觉效果和重建出更高分辨率的图像。
然而,这些方法往往受到噪声、运动模糊等因素的干扰,且对初始图像的质量要求较高。
近年来,随着深度学习技术的快速发展,许多研究者将深度学习应用于超分辨率图像重建,取得了显著的成果。
深度学习方法通过学习低分辨率图像与高分辨率图像之间的映射关系,能够更有效地重建出高分辨率图像。
例如,卷积神经网络(CNN)和生成对抗网络(GAN)已被广泛应用于超分辨率图像重建。
卷积神经网络通过训练低分辨率图像与对应的高分辨率图像之间的映射关系,能够实现高分辨率图像的重建。
然而,这种方法需要大量的标注数据,且训练过程较为复杂。
生成对抗网络则通过引入竞争机制,使生成的高分辨率图像更加真实、自然。
然而,GAN的训练过程通常较为不稳定,且需要精心设计的网络结构。
超分辨率图像重建技术已取得了显著的成果,但仍存在一些不足和挑战。
深度学习方法需要大量的标注数据进行训练,而标注数据的获取往往是一项耗时耗力的工作。
目前的超分辨率图像重建方法仍难以处理复杂的场景和噪声干扰,如运动模糊、压缩失真等。
超分辨率图像重建方法的计算复杂度较高,实时性是亟待解决的问题。
未来研究方向方面,我们提出以下几点建议:可以研究更为有效的数据增强技术,以减少对标注数据的依赖。
基于深度学习的图像超分辨率重建技术综述引言在图像处理领域,超分辨率重建技术因为其能够提高图像质量而备受关注。
同时,深度学习技术因其在语音识别、图像识别等领域的出色表现而逐渐被应用于图像超分辨率重建。
本文对图像超分辨率重建技术基于深度学习的研究进行了综述,分析总结了目前的技术研究方向和存在的问题。
第一章超分辨率重建技术概述超分辨率重建技术是指对输入低分辨率图像进行处理,使得图像达到高分辨率的效果。
它因为能够在不添加额外像素的情况下提高图像的清晰度而在图像处理领域中有着广泛的应用。
在计算机视觉和机器视觉技术领域中,超分辨率重建技术不仅能够提高图像的视觉效果,也为机器视觉中的目标检测和跟踪等算法提供了更好的基础。
传统的超分辨率重建技术通常是基于插值算法,其主要思想是通过对低分辨率图像的插值推断得到高分辨率图像。
但是,这种方法会造成图像细节损失,因此需要更加精确的算法来提高图像质量。
第二章基于深度学习的图像超分辨率重建技术深度学习技术作为一种有效的模式识别和数据分析的方法,近年来被广泛应用于图像超分辨率重建任务中。
基于深度学习的图像超分辨率重建技术主要包括以下几种。
2.1 单图像超分辨率重建技术单图像超分辨率重建技术是指仅使用一个低分辨率图像进行超分辨率重建。
它主要包括两种技术:基于图像插值和基于深度学习的技术。
其中,基于深度学习的技术又分为基于回归和基于生成模型两种方法。
基于回归的方法旨在建立低分辨率图像和高分辨率图像之间的映射关系。
其主要思想是训练一个深度神经网络来从输入的低分辨率图像中生成高分辨率图像。
近年来,许多基于回归的算法应用于超分辨率重建任务中,如SRCNN、FSRCNN、VDSR等。
基于生成模型的方法则是通过训练一个生成对抗网络(GAN)来生成高分辨率图像。
相比于基于回归的方法,基于生成模型的方法更能够刻画图像的细节纹理等特征。
包括SRGAN、SISR-GAN,EDSR等算法。
2.2 跨域超分辨率重建技术跨域超分辨率重建技术指的是使用多个低分辨率图像来生成高分辨率图像。
图像超分辨率重建算法研究文献综述图像超分辨率重建是一种通过图像增强技术将低分辨率图像转换为高分辨率图像的方法。
在计算机视觉领域,图像超分辨率重建技术具有广泛的应用,如监控视频分析、医学图像诊断和卫星图像分析等。
本文将对图像超分辨率重建算法的研究文献进行综述,包括传统方法和基于深度学习的方法。
传统方法主要基于插值和信号处理技术,如双三次插值、基于边缘的插值和基于局部统计的插值等。
这些方法主要通过将低分辨率图像的像素进行插值来增加图像的分辨率,但其效果有限。
近年来,基于深度学习的图像超分辨率重建方法取得了显著的进展。
主要有以下几种方法:1. SRCNN(Super-Resolution Convolutional Neural Network):SRCNN是一种使用卷积神经网络进行图像超分辨率重建的方法。
它通过学习低分辨率图像到高分辨率图像的映射关系来进行重建。
SRCNN模型包括三个卷积层和一个像素重构层,可以在保持高分辨率细节的情况下,有效地提高图像的分辨率。
2. SRGAN(Super-Resolution Generative Adversarial Network):SRGAN是一种将生成对抗网络应用于图像超分辨率重建的方法。
它通过引入生成器和判别器网络来优化图像重建过程。
生成器网络负责将低分辨率图像转换为高分辨率图像,判别器网络则负责评估生成器网络的输出图像是否与真实高分辨率图像相似。
通过不断迭代训练,SRGAN可以生成更高质量的重建图像。
3. ESPCN(Efficient Sub-Pixel Convolutional Neural Network):ESPCN是一种高效的子像素卷积神经网络。
它通过将低分辨率图像放大到目标分辨率的多倍,然后使用卷积神经网络来提取高频信息。
相比于其他方法,ESPCN具有更少的网络参数和计算复杂度。
4. EDSR(Enhanced Deep Residual Networks):EDSR是一种基于残差网络的图像超分辨率重建方法。
医学CT影像超分辨率深度学习方法综述引言随着医学影像技术的不断进步,CT(计算机断层扫描)在临床诊断中的应用越来越广泛。
然而,低分辨率的CT影像可能会限制医生对细微结构的准确判断。
因此,超分辨率(SR)重建技术成为改善医学影像质量的重要方法之一。
而深度学习作为一种近年来蓬勃发展的人工智能方法,被广泛应用于CT影像的超分辨率重建中。
本文将对医学CT影像超分辨率深度学习方法进行综述。
一、医学CT影像超分辨率方法的研究背景超分辨率重建目的在于从低分辨率图像中获取高分辨率细节,从而提升影像质量,并对影像分析和诊断产生积极影响。
传统的超分辨率重建方法主要基于插值、滤波和统计等技术,但效果有限。
随后,深度学习方法的发展引发了医学影像超分辨率领域的研究热潮。
深度学习通过构建神经网络模型,能够从大量数据中学习特征,并实现优于传统方法的超分辨率重建效果。
二、医学CT影像超分辨率深度学习方法的应用1. 卷积神经网络(CNN)方法CNN是深度学习中最常见的方法之一,它通过多层卷积和池化层构成的网络结构,能够自动提取特征并进行图像分类和重建。
在医学CT 影像超分辨率中,研究者们使用CNN方法进行超分辨率重建实验,并取得了不错的效果。
2. 生成对抗网络(GAN)方法GAN是一种由生成器和判别器组成的网络结构,通过对抗学习的方式实现图像的生成和重建。
在医学CT影像超分辨率中,研究者们将GAN方法应用于超分辨率重建任务,并取得了显著的提升效果。
3. 注意力机制方法注意力机制可以使模型关注感兴趣的区域,并提高模型在关键细节方面的分辨能力。
在医学CT影像超分辨率中,研究者们引入注意力机制来提升模型对重要结构和细节的识别和重建能力,取得了良好的效果。
三、医学CT影像超分辨率深度学习方法的优势与挑战1. 优势(1)超分辨率重建结果更加清晰:深度学习方法能够从大量数据中学习特征,从而实现更加精准的超分辨率重建;(2)模型具有较好的泛化能力:深度学习方法通过大规模数据训练,能够适应不同场景下的超分辨率重建任务;(3)研究者可以通过对模型的改进和优化,不断提高超分辨率重建效果。
基于超分辨率技术的电视节目画质增强随着科技的不断进步,越来越多的人对电视节目的画质提出了更高的要求。
而基于超分辨率技术的画质增强技术,则成为了现在电视行业中备受关注的技术之一。
本文将简要介绍什么是超分辨率技术,为何基于超分辨率技术的电视节目画质增强技术如此受欢迎,以及该技术的现状和未来发展方向。
一、超分辨率技术是什么?超分辨率技术是一种利用计算机算法来提高图像或视频分辨率的技术,目的是通过处理以获得比原始图像更清晰、更准确的图像。
该技术最早被应用于高清电视、互联网视频以及数字图像处理等领域。
在自然图像处理方面,超分辨率技术被广泛应用于工业检测、医学图像和卫星图像等领域。
二、为何基于超分辨率技术的电视节目画质增强技术如此受欢迎?在现代社会中,电视节目作为人们休闲娱乐的重要方式,是人们放松心情的必备工具之一。
然而,在传统的电视技术中,电视节目的画质较为模糊,给人们观看的困扰。
基于超分辨率技术的电视节目画质增强技术,则是解决这个问题的有效方法。
首先,该技术能够提高图像或视频的分辨率,使得观众能够看到更加清晰、细腻的画面。
其次,该技术可以减少图像或视频中存在的伪影、马赛克等问题,让观众在观看时更加舒适自然。
最后,基于超分辨率技术的电视节目画质增强技术能够使电视机在播放节目时更加节能环保,降低能源浪费。
三、该技术的现状和未来发展方向近年来,随着高清电视的普及和电视技术的不断升级,基于超分辨率技术的电视节目画质增强技术也在不断地优化和升级中。
该技术在画质增强方面的效果越来越优秀,且随着机器学习和人工智能等技术的不断发展,其在电视技术领域的应用也将不断扩展。
目前,国内外在电视节目画质增强方面的进展,主要在于研发更加先进、高效的算法,以及加强面向未来的技术创新。
未来,该技术有望根据观众个性化需求,在画面细节、对比度、色彩等方面进行更加细致、准确的调整,从而提供更加舒适、自然、高品质的观看体验。
综上所述,基于超分辨率技术的电视节目画质增强技术正逐渐成为电视技术领域的热点。
超分辨率重建综述温馨提示:该文档是小主精心编写而成的,如果您对该文档有需求,可以对它进行下载,希望它能够帮助您解决您的实际问题。
文档下载后可以对它进行修改,根据您的实际需要进行调整即可。
另外,本小店还为大家提供各种类型的实用资料,比如工作总结、文案摘抄、教育随笔、日记赏析、经典美文、话题作文等等。
如果您想了解更多不同的资料格式和写法,敬请关注后续更新。
Tips: This document is carefully written by the small master, if you have the requirements for the document, you can download it, I hope it can help you solve your practical problems. After downloading the document, it can be modified and adjustedaccording to your actual needs.In addition, the store also provides you with a variety of types of practical information, such as work summary, copy excerpts, education essays, diary appreciation, classic articles, topic composition and so on. If you want to know more about the different data formats and writing methods, please pay attentionto the following updates.超分辨率重建技术已经成为数字图像处理领域中的一个热门研究方向,它帮助我们通过图像处理技术将低分辨率图像提升到高分辨率,从而改善图像的质量和细节。
视频增强技术综述概述图像超分辨率(super resoulution,SR)指利用一幅或者多幅低分辨率(low resoulution,LR)图像,通过相应的算法来获得一幅清晰的高分辨率(high resoulution,HR)图像.HR 意味着图像具有高象素密度,可以提供更多的细节,这些细节往往在应用中起到关键作用.要获得高分辨率图像,最直接的办法是采用高分辨率图像传感器,但由于传感器和光学器件制造工艺和成本的限制,在很多场合和大规模部署中很难实现。
低分辨率的图像包含的细节信息较少,但我们可以得到一系列低分辨率的图像,这些图像包含的部分细节信息各有不同,能够相互补充。
通过这一系列低分辨的图像,经过一定的处理,可以得到一幅分辨率较高、包含信息较多的图像。
这个处理过程就是超分辨率重建。
超分辨率重建的核心思想就是用时间带宽(获取同一场景的多帧图像序列)换取空间分辨率,实现时间分辨率向空间分辨率的转换。
因此,利用现有的设备,通过超分辨率技术获取高分辨率图像具有重要的现实意义。
视频的超分辨率增强是指融合来自相同动态场景的多个低分辨率视频序列的信息,去重构一个高时空分辨率的视频序列。
可想而知,视频超分辨率包括时间超分辨率和空间超分辨率。
视频中某些事件发生变化比较快,这样就需要用所谓高速(高帧率) 的摄像机来采样,如果使用普通帧率的摄像机,那么在时间上就会有一些细节信息的丢失。
视频的时间超分辨率就是要恢复这些丢失的时间上的细节信息,而视频空间超分辨率就是通常人们提到的图像超分辨率复原。
摄像机在时间和空间上的分辨率能力是有限的。
空间分辨率取决于摄像机光学传感器的空间密度及其本身引入的模糊误差,这些因素限制了图像中被观察到的物体或特征的最小空间尺寸;时间分辨率取决于摄像机的帧率和曝光时间,这就限制了视频序列中能被观察到的动态事件的最大变化速度。
比摄像机帧率发生更快的动态事件在记录下来的视频序列中是不可见或者不正确的,如在网球比赛的视频中是不可能观察到高速运动的网球的全部运动和状态的。
超分辨率成像技术发展综述第一章引言超分辨率成像技术是指利用图像处理算法和数学模型,在不增加光学分辨率的前提下,提高图像的空间分辨率。
它已经成为了计算机视觉、图像处理、医学成像和遥感影像处理等领域的热门话题。
本文就超分辨率成像技术的发展历程、应用领域以及研究现状进行了综述。
第二章超分辨率成像技术的发展历程超分辨率成像技术的研究可以追溯到上世纪90年代。
当时,People、Baker等学者提出了基于光流的超分辨率重构算法,并取得了较好的效果。
之后,在实际应用中,由于噪声、运动模糊等问题的存在,这种算法的效果有所限制。
2003年,Hinton等人提出了深度置信网络(Deep Belief Network, DBN),可以实现对图像的降噪和重构。
之后,Krizhevsky等人在DBN的基础上,提出了卷积神经网络(Convolutional Neural Networks,CNN),并在ImageNet数据集上取得了突破性成果。
2015年,Dong等人提出了SRGAN算法,通过生成对抗网络(Generative Adversarial Network,GAN)提高超分辨率成像的效果。
该方法在复杂场景下可以避免模糊、失真等问题,获得更好的图像质量。
第三章超分辨率成像技术的应用3.1 计算机视觉超分辨率成像技术在计算机视觉中有着广泛的应用,可以实现对图像的增强、细节提取等功能。
例如,在人脸识别、行车记录仪成像、监控视频等场景中,可以通过超分辨率成像技术提高图像质量,进一步提升图像分析的准确性。
3.2 医学成像医学成像是超分辨率成像技术的重要应用领域之一。
在医学领域,影像质量对诊断和治疗的效果有着重要的影响。
通过超分辨率成像技术可以在不增加辐射剂量的情况下获得更高分辨率的医学影像,提高医生对疾病的诊断能力。
3.3 遥感影像处理遥感影像处理是指利用遥感数据进行自然资源调查、环境监测、信息提取、建立地理信息系统等工作。
收稿日期:2004202226;修返日期:2004206211基金项目:国家专项工程项目(“613”项目);国家杰出青年科学基金资助项目(60225015);高等学校优秀青年教师教学科研奖励计划资助项目视频的超分辨率增强技术综述3王 勇1,2,郑 辉1,胡德文2(11西南电子电信技术研究所国家重点实验室,四川成都610041;21国防科学技术大学机电工程与自动化学院,湖南长沙410073)摘 要:视频超分辨率增强的目的在于从时间上弥补视频采样设备采样帧率的不足,描述高速运动变化对象的细节信息;在空间上复原视频图像截止频率之外的信息,以使图像获得更多的细节。
这项技术广泛应用于视频通信、监控、遥感和高清晰度电视等多个领域。
从视频超分辨率的含义、发展现状、主要技术方法和未来研究展望等方面,对视频超分辨率增强领域的研究进行了综述。
关键词:视频;图像;超分辨率;时空中图法分类号:TP391 文献标识码:A 文章编号:100123695(2005)0120004204Survey on Video Super 2Resolution EnhancementW ANG Y ong 1,2,ZHE NG Hui 1,H U De 2wen 2(11National K ey Laboratory ,Southwest Institute o f Electronic &Telecommunication Techniques ,Chengdu Sichuan 610041,China ;21College o f Mecha 2tronics &Automation ,National University o f De fense Technology ,Changsha Hunan 410073,China )Abstract :Video super 2res olution enhancement technique has tw o main aims.T he first is rein forcing the sh ortage of video device framerate ,describing the details of fast 2m oving object.An other is recovering the lost image space in formation.T he technique is widely ap 2plied to many fields ,such as video communication ,surveillance ,rem ote 2sensing and H DT V.T his paper gives an overview of super 2res o 2lution in term of main used techniques.W ith the present problems in this area ,the paper gives s ome w ork and open issues that can be researched m ore in the future.K ey w ords :Video ;Image ;Super 2Res olution ;S pace 2T ime1 引言 视频的超分辨率增强是指融合来自相同动态场景的多个低分辨率视频序列的信息,去重构一个高时空分辨率的视频序列。
可想而知,视频超分辨率包括时间超分辨率和空间超分辨率。
视频中某些事件发生变化比较快,这样就需要用所谓高速(高帧率)的摄像机来采样,如果使用普通帧率的摄像机,那么在时间上就会有一些细节信息的丢失。
视频的时间超分辨率就是要恢复这些丢失的时间上的细节信息,而视频空间超分辨率就是通常人们提到的图像超分辨率复原。
摄像机在时间和空间上的分辨率能力是有限的。
空间分辨率取决于摄像机光学传感器的空间密度及其本身引入的模糊误差,这些因素限制了图像中被观察到的物体或特征的最小空间尺寸;时间分辨率取决于摄像机的帧率和曝光时间,这就限制了视频序列中能被观察到的动态事件的最大变化速度。
比摄像机帧率发生更快的动态事件在记录下来的视频序列中是不可见或者不正确的,如在网球比赛的视频中是不可能观察到高速运动的网球的全部运动和状态的。
有两类非常典型的由高速运动引起的可视化效果:①运动模糊,它是摄像机的曝光时间引起的,如高速运动的网球所带有的尾迹;②运动混淆,它是由于帧率限制的时间采样引起的,如一个小球以正弦波形向前运动,摄像机的帧率如果与小球正弦运动周期可比或相等,记录下的视频上就将观察到小球以很长的周期正弦运动或直线运动,这类似于一维信号的欠采样。
这两种视频效果都不能依靠视频的慢速播放而消除,甚至使用复杂的时间插值算法来增加帧率也收效甚微[1],这是因为包含在单个视频序列中的信息是不足以恢复高速动态事件中丢失的信息。
多个视频序列提供了附加的动态时空场景采样,这样就可融合这些信息去弥补丢失的信息,产生一个高时空分辨率的视频序列。
2 相关工作图像超分辨率的概念和方法最早由Harris 和G oodman [2,3]于20世纪60年代提出;随后有许多人对其进行了研究,并相继提出了各种方法,如长椭球波函数法[4]、线性外推法[5]、叠加正弦模板法[6]。
以上这些方法虽然能给出令人印象深刻的仿真结果,但在实际应用中并没有获得理想的结果。
80年代末之后,人们在超分辨率图像复原方法研究上取得了突破性的进展。
Hunt 等人不仅在理论上说明了超分辨率存在的可能性[7],而且提出和发展了许多有实用价值的方法,如能量连续降减法[8]、Bayesian 分析法[9~12]和凸集投影法[13]。
超分辨率・4・计算机应用研究2005年图像增强逐渐成为人们研究的热点,人们从多个角度对其进行了深入的研究。
20世纪90年代初Irani和Peleg将经过相似性变换和仿射变换的图像[14,15]进行超分辨率增强,Mann和Pi2 card又研究了经过投影变换的图像[16],其他的研究者还研究了非参数运动模型[10]和区域追踪[17]。
在成像建模方面,不同的图像污染模型被人们使用。
Irani和Peleg的图像污染模型包括光学模糊和空间量化误差,Bascle等将运动模糊也包含进来[17],Cheeseman等从Vidicon相机的基准调平中建立成像模型[18]。
人们在统计先验知识或调整规则的使用上也采取了不同的方法。
Cheeseman等使用了基于高斯平滑先验知识的M AP 估计器来增强卫星遥感图像[18];Schultz和S tevens on改进了Bayesian方法,通过在边缘响应上使用带Huber惩罚函数的MRF先验知识来比较单幅和多幅图像的增强方法[10];Capel和Z isserman也比较了M L和MPA估计器对视频马赛克效果的超分辨率增强[19];Z omet和Peleg应用Irani和Peleg的误差反向投影方法来增强他们使用管道投影方法获得的视频马赛克效果[20];Rudin等应用了重采样和去模糊方法,在去模糊算法中使用了总变差规则[21]。
利用序列和多幅图像进行超分辨率图像的增强也成为人们研究的热点[10,13,22,23],因为它充分利用了不同幅图像之间类似而又不同的信息,所以其超分辨率增强能力好于利用单幅图像进行增强所获得的超分辨率能力。
除以上所提到的,还有很多增加图像空间分辨率的方法被提出,这些方法多是融合子像素替换得到的多个低分辨率图像的信息[24,25]。
然而,这些方法通常是假设静态场景,而没有关注在动态场景中有限的时间分辨率。
随着视频应用需求的发展,视频分辨率增强逐渐被人们关注。
视频区别于静态图像的最重要的特征,就在于其时间特性以及时空联合特性。
通常视频摄像机采集帧率是50H z~60H z,电影被录制和播放在24H z, 25H z或30H z,而PC的显示器的图像刷新频率在60H z~120H z 之间。
这样,如果普通广播电视视频要在PC显示器上显示的话,必须在时间上进行插值处理。
一个好的运动补偿插值算法能够沿着运动轨迹将运动物体插值到当时正确的位置上,从而获得高质量的视频效果。
空间维和时间维是非常不同的,但又是相关的,这导致了视频在空间和时间上的折中。
时间分辨率的大幅度提高,通常是以空间分辨率的降低为代价的,反之亦然。
而这在传统的基于图像的空间超分辨率应用中是不存在的,这也带来了一些新的视频应用。
比如,靠增加时间分辨率来处理一些对空间分辨率的人为影响(如运动模糊),融合不同时空分辨率的输入序列(如NTS V,PA L以及高质量的静态图像)去产生一段高质量的视频序列,等等。
所以应该考虑一个统一的框架,融合来自时空未对准而获得的动态场景的多个视频序列信息,来增加视频的时空分辨率,这将提高动态事件的可视化能力,尤其是高速动态事件的表示能力。
这些已经开始成为视频超分辨率的研究热点。
3 视频超分辨率增强技术的主要方法对于视频序列图像或同一物体的多幅图像,如果图像之间存在着相互运动(如平移和旋转),则这些序列图像含有类似但不完全相同的信息。
基于序列或多幅图像的超分辨率增强就是利用这些不同但相互补充的信息以及物体的先验信息,从一系列低分辨率的图像恢复出高分辨率的单幅图像。
该思想与前述的单幅图像超分辨率复原法相比,其优点是除了利用物体的先验信息和单幅图像的信息之外,还充分利用了不同图像之间的补充信息,因此其超分辨率增强能力高于单幅图像超分辨率复原法。
视频超分辨率增强技术目前主要有以下三大类:基于重建的方法、基于学习的方法和基于插值运动估计补偿的方法。
3.1 基于重建的超分辨率方法基于重建的算法的基础是均衡及非均衡采样定理。
它假设低分辨率的输入采样信号(图像)能很好地预估出原始的高分辨率信号(图像)。
绝大多数超分辨率算法都属于这一类,其中主要包括频域法和空域法。
频域方法实际上是在频域内解决图像内插问题,其观察模型是基于傅里叶变换的移位特性[26]。
虽然频域方法理论简单,运算复杂度低,很容易实现并行处理,具有直观的去变形超分辨率机制,但这类方法只能局限于全局平移运动和线性空间不变降质模型,并且包含空域先验知识的能力有限。
因为目前这类方法不再成为研究的主流,所以本文也不再赘述。
在空域类方法中,其线性空域观测模型涉及全局和局部运动、光学模糊、帧内运动模糊、空间可变点扩散函数、非理想采样等内容。
此时成像模型可描述为:Y=HX+N。
其中,Y= [y1T…y k T]T表示像;H=[H1T…H k T]T表示运动补偿、欠采样和退化的影响;X表示原物;N表示噪声。