下载文档原格式
信息论与编码技术信息论是研究信息传输、存储和处理的一门学科，而编码技术则是信息论的一项重要应用。
信息论与编码技术的发展，对现代通信、数据存储和计算机科学等领域产生了深远的影响。
本文将从信息熵、信道容量和编码理论等方面来探讨信息论与编码技术的基本概念和应用。
一、信息熵信息熵是信息论中的一个重要概念，它用来衡量一个离散随机变量的不确定性。
在信息论中，信息熵越大，代表着信息的不确定性越高，信息量也就越大；相反，信息熵越小，表示信息的不确定性越低，信息量也就越小。
信息熵的计算公式为：H(X) = -∑(p(i) * log2(p(i)))其中，H(X)表示离散随机变量X的信息熵，p(i)表示X取各个值的概率。
通过计算信息熵，我们可以评估信息的平均编码长度。
在通信系统中，对于概率分布已知的消息源，我们可以使用无损编码技术将信息源的输出编码成二进制串，从而实现高效的信息传输和存储。
二、信道容量信道容量是衡量信道传输速率的理论上限。
在信息论中，我们可以通过计算信道容量来确定一种特定的编码和调制方案是否可以实现理论最大传输速率。
对于离散无记忆信道，其信道容量C计算公式为：C = ∑(p(x) * log2(p(x)/p(y)))其中，p(x)表示发送端发出的信号为x的概率，p(y)表示接收端接收到的信号为y的概率。
在计算信道容量时，我们需要寻找一种合适的编码方案，使得发送端发出的信号与接收端接收到的信号之间的互信息最大化。
这样可以有效提高信道的利用率，提高信号传输的可靠性。
三、编码理论编码理论是信息论的重要组成部分，它研究如何将信息源的输出进行编码，以减少数据传输或存储过程中的冗余，从而提高信息传输的效率。
常见的编码技术有可变长编码、定长编码、哈夫曼编码等。
其中，哈夫曼编码是一种基于概率的编码方法，它可以根据不同符号的出现概率，为每个符号分配不同长度的编码，从而实现信息的高效压缩。
除了无损编码技术，还有一种重要的编码技术是差分编码。
信息论与编码技术论文2009年06月02日星期二 06:21信息论与编码技术论文多媒体信息是未来人类获取信息最主要的载体，因此它已成为目前世界上技术开发和研究的热点。
视频信息作为多媒体信息中最被关注、数据量最大的一员，现在也正面临着一场其意义不亚于从模拟到数字的技术进步革新：从传统的矩形DCT变换编码到根据视频内容、划分对象、分别变换编码的新的编码方法。
一、传统的编码方式传统的视频编码是以视频信号的数字量为编码对象的，与视频信息的内容无关，无论是M-JPEG、MPEG-1还是MPEG-2，都是以DCT矩形变换块为变换编码单元，对DCT块内图像的亮度和色度进行特征取样，提取像素；采用帧间编码、运动估测技术，在参考帧帧内DCT编码的基础上，对DCT块内图像的像素特征进行差值预测编码。
基于矩形DCT编码的视频编码在设计思想上只考虑到对信号数据进行处理的需要（比如小的比特率以利于传输、高的比特率以保证质量），但未考虑视频信息--图像内容本身的含义和重要性，以及视频信息应用者的主观需求（比如部分内容的提取功能）。
另外，这种基?quot;块"的压缩算法在低码率时容易产生"方块效应"和"抽帧"，大大缩小了视频信息的应用领域。
小波变换是一种新的变换编码方法，它与DCT变换相比，考虑到了视频信号对不同应用环境的自适应性（不同的清晰度与比特率），可以将基础图像层与增强图像层分离编码传输，用户可根据实际情况选择是否打开增强图像层。
但无论用户选择是或否，被传送的视频信息却都是一样的。
二、基于内容对象的编码1、 VO与VOP概念的引入传统的视频编码方式是将整个视频信号作为一个内容单体来处理，其本身不可再分割，而这与人类对视觉信息的判别法则，也就是大脑对视神经导入的视觉信号的处理方法是完全不同的。
这就决定了我们不可能将一个视频信息完整的从视频信号中提取出来，比如：将加有台标和字幕的视频恢复成无台标、字幕的视频。
《信息论与编码》课程论文——通过信息论对已有知识产生的新认识马赛1143031014《信息论与编码》课程是通信专业的一门基础课。
其讲述的理论——香农信息论是当今信息科学的基础，可以说没有信息论的理论支持，就没有当今的信息化社会。
通过对于信息论的学习，我认识到，信息论的贡献就是解释了什么是“信息”，同时使用数学工具，对信息及伴随它产生的各种事物概念进行了解析。
近代科学的重大飞跃往往都是因人类对于一个事物有了强有力的分析工具而产生的。
有了信息论这一近乎完备（存在一些缺陷）的解析理论，人类才得以驾驭信息，社会才有了长足的进步。
在学习时，我习惯于把正在学习的知识和自己已经掌握的知识进行联系。
通过这种方法，可以增进对正在学习知识的理解，同时对已掌握的知识也有新的认识。
下文中，列举了两个问题，同时使用信息论的角度去进行解释。
一、计算机的存储容量与信息量的联系当今的计算机已经十分普及。
存储容量，无论内存还是外存，都是判定一台计算机性能的重要指标。
现在的个人计算机硬盘容量已经达到了TB级别，而在20年前，几百MB的硬盘都十分罕见。
在追求更高的存储容量时，我们是否思考过存储的东西是什么？KB、MB、GB等单位究竟代表的含义是什么？这是计算机科学的基本知识：“8 bit = 1 byte”。
bit即“位”，这是计算机存储单元最基本的单位；而信息论中也将信息量——用于衡量信息的量的单位称为bit，这两个概念有什么联系吗？在课程讲解时提到过这个问题，幻灯片上的答案如是解释：两者代表着不同的概念，信息论中的bit代表着信息量；而计算机中的bit代表着计算机中的二元数字1和0。
我认为两者是同一种概念，都代表信息量，而计算机中的bit是更为细化的概念，单指计算机中的信息量。
信息的一种解释是：对于不确定性的消除。
信息量是对信息的一种衡量手段，描述对事件不确定性消除的程度。
而描述事件不确定性的量就是这个事件发生的概率，因此一个事件发生的概率与事件包含的信息量具有对应的关系。
滨江学院《信息论与编码》课程论文题目阐述信息论院系电子工程系专业班级12通信3 班学生姓名学号教师杨玲成绩二Ｏ一四年十二月二十二日阐述信息论20122334942摘要：本文介绍了信息论的基础探究，通过本文可以让读者更好的去了解信息论的发展历史和应用。
现代社会是一个充满信息的世界，没有信息的世界是混乱的世界。
因而信息十分重要，随着社会信息化进程的加速，人们对信息的依赖程度会越来越高。
所以关于信息的研究——信息论也因运而生。
提到信息论就不得不提一个人——香农，他为信息论的发展做出了巨大的贡献。
信息论的主要基本理论包括：信息的定义和度量；各类离散信源和连续信源的信源熵；有记忆、无记忆离散和连续信道的信道容量；无失真信源编码和限失真信源编码定理等。
关键词：信息，信源，信源熵，信道容量、信源编码引言现代社会是一个充满信息的世界，没有信息的世界是混乱的世界。
因而信息十分重要，随着社会信息化进程的加速，人们对信息的依赖程度会越来越高。
结合所学知识和查阅相关书籍本文简要介绍了信息论的发展、和主要的几个基础理论，让人们更好的去了解信息论这门课程。
一、信息论的发展过程信息论理论基础的建立，一般来说开始于香农（C.E.Shannon）在研究通信系统时所发表的论文。
随着研究的深入与发展，信息论有了更为宽广的内容。
信息在早些时期的定义是由奈奎斯特（H.Nyquist）和哈特利（L.V.R.Hartley）在20世纪20年代提出来的。
香农被称为是“信息论之父”。
人们通常将香农于1948年10月发表于《贝尔系统技术学报》上的论文《A Mathematical Theory of Communication》（通信的数学理论）作为现代信息论研究的开端。
这一文章部分基于哈里·奈奎斯特和拉尔夫·哈特利先前的成果。
后来其他科学家维纳、朗格等科学家又对信息理论作出了更加深入的探讨。
使得信息论到现在形成了一套比较完整的理论体系。
香农信息论对现代社会的影响摘要：1948年香农在Bell System Technical Journal上发表了《A Mathematical Theory of Communication 》。
论文由香农和威沃共同署名。
这篇奠基性的论文是建立在香农对通信的观察上，即“通信的根本问题是报文的再生，在某一点与另外选择的一点上报文应该精确地或者近似地重现”。
这篇论文建立了信息论这一学科，给出了通信系统的线性示意模型，即信息源、发送者、信道、接收者、信息宿，这是一个新思想。
此后，通信就考虑为把电磁波发送到信道中，通过发送1和0的比特流，人们可以传输图像、文字、声音等等。
今天这已司空见惯，但在当时是相当新鲜的。
他建立的信息理论框架和术语已经成为技术标准。
他的理论在通信工程师中立即获得成功，并刺激了今天信息时代所需要的技术发展。
关键词：香农、通信、编码Abstract: In 1948, Shannon Bell System Technical Journal published "A Mathematical Theory of Communication". Paper co-signed by the Hong farmers. This ground-breaking paper is based on Shannon's observation of the communication that "the fundamental problem of communication is the message of regeneration, at some point with another point to report the selected text should be reproduced exactly or approximately." This paper established the discipline of information theory, given the linear signal model of communication system, that information source, sender, channel, receiver, message places, this is a new idea. Since then, the communication to consider the electromagnetic waves sent to the channel, by sending a stream of bits 1 and 0, one can transfer images, text, and so on. It has become commonplace today, but was very fresh. He established the theoretical framework and terminology of information technology has become the standard. His theory in communications engineer in immediate success, and stimulate the need for the information age of today's technology.Keywords:Shannon、Communications、Coding信息论的理论定义是由当代伟大的数学家美国贝尔实验室杰出的科学家香农在他1948年的著名论文《通信的数学理论》所定义的，它为信息论奠定了理论基础。
信息论与编码课程论文电子邮件安全与密码学的应用刘畅，200900840179山东大学威海分校机电与信息工程学院，威海 264209摘要：本文分析了传统电子邮件系统存在的安全性问题，探讨应用密码技术采弥补这些安全漏洞，并且绍了在安全电子邮件系统中使用的密码技术。
关键词：RSA；PGB；PEM1、概述随着计算机技术和网络技术的迅速发展，电子邮件的应用也越来越广泛．成为网络牛活中重要的组成部分，大有取代传统邮件之势。
作为一种新的信息传递技术，电子邮件以其简单、快捷、方便的优势被人们所接受和喜爱。
但是也存在一些问题妨碍了它的推广。
其中关键之一就是电子邮件的信息安全。
由于电子邮件技术在设计之初是为了科学家之间的通信方便，所以并来考虑信息安全因素。
但是髓着时代的发展。
尤其是电子商务的速成长。
作为其沟通手段的电子邮件的安全性问题就不得不受到高度重视。
人们很自然的想到把已经成熟的密码技术商用于电子邮件系统。
密码技术就是对信息进行重新编码。
从而达到隐藏信息内容使非法用户无法获取真实信息内容的一种手段。
本文就浅述一下密码技术安全电子邮件中的应用。
2、密码学简介2.1、加密的历史作为保障数据安全的一种方式，数据加密起源于公元前2000年。
埃及人是最先使用特别的象形文字作为信息编码的人。
随着时间推移，巴比伦，希腊等都开始使用一些方法来保护他们的书面信息。
对信息进行编码曾被Julias Caesar（恺撒大帝）使用，也曾用于历次战争中，包括美国独立战争，美国内战和两次世界大战。
最广为人知的编码机器是German Enigma机，在第二次世界大战中德国人利用它创建了加密信息。
此后，由于Alan Turing 和Ultra计划及其他人的努力，终于对德国人的密码进行了破解。
当初，计算机的研究就是为了破解德国人的密码，当时人们并没有想到计算机给今天带来的信息革命。
随着计算机的发展，运算能力的增强，过去的密码都变的十分简单了。
于是人们又不断地研究出了新的数据加密方式，如私有密钥算法和公有密钥算法。
编码技术在单片机通信中的研究与应用摘要：计算机之间数据通讯的校验以奇偶校验或数据块和校验较为常见．在误码率稍显突出时，这种方式的数据通信效率就会降低．本文从实际出发，介绍了一种提高计算机通信效率的编译码方法，并以八位单片机为例，给出了软件实现编译码的设计．该设计对于提高单片机数据通信效率，减少误码率具有很强的实用价值．关键词：单片机；通信；编码；译码；纠错；抗干扰Application of the Coding to Data Communicatingin the MicroprocessorAbstract：There are two familiar methods of checking the accuracy of the data communicated between two computers．0ne is the method of counting the number of 0 or 1in the data．Another is the method of adding all data．When the mistake code rate is slightly outstanding ,the efficiency of the data communication will lower．Proceeding from actual condition，this test introduces a kind of the coding method and gives a design with 8 bit microprocessor .The method can raise the efficiency the data communication and cut down the wrong data．Keywords：microprocessor；communication; encoding；correcting code：anti-interference0 概述在数据通信中，误码率是项重要指标．误码可能发生在各个环节，大量实践证明，传输媒介是产生误码的主要来源．为了提高数据传输可靠性，人们开始广泛采用编码技术，通过编码以一定的规则产生一些附加数字(称为监督数字)，使原来不相关的信息序列变为相关的新列(称为码序或码字)，然后把新的序列发送出去．通过编码的方法使信息具有纠检差错的能力．该通信模型可简要地用图1表示．1 设计思想1．1选择编码形式人们已研究出许多编码方法，如奇偶校验码、汉明码、循环码和卷积码等．这些编码中，有的具有检错能力，有的既能检错、又能纠错．在众多的编码中，汉明码比较直观简单，传输信息数字的频率（即信息率)最高，它既具有检错能力，又具有纠错能力，而且软硬件实现起来也较为简单．本设计采用汉明码中纠1检2错线性码编码，当接收端发现接收的信息出现了一位差错时，在译码的同时也就完成了纠错；当出现两位差错时，能及时检出舍弃⋯．1．2 MCS-51编码方案设计对于Mcs ．5l 系列单片机的串行口来说，若接收和发送双方约定选用方式1工作时，串行口一次能够发送10位数码(1位起始位、8位数据位和l 位停止位)．接收缓冲器里一次只能存放一个字节数据．对于一个8位数码，若再加上一些监督位，则该码就超过8位，Mcs ．5 1单片机一次发送不能完成．若先发送8位信息，后发送监督位，则达不到纠1检2的目的．为此，一个8位信息可分为两组编码，即高4和低4位分别编码发送、分别纠检差错． 2 编码技术具体应用2．2 译码依据原则根据汉明码取最少的监督数字，包含最多的信息原则，来确定监督数字的位数．该原则可用公式：21mm -- 表达，式中m 为监督数字位数．该表达式运算结果即为所包含的最多有效信息．本例中取m=3(位)监督数字，则可包含4位有效信息，这时码长为：4+3=7(位)，根据一致监督矩阵的特点可知，一致监督矩阵的横行数等于监督数字的个数，纵列数等于码的长度．这样把1、2、⋯、7化为二进制数，然后把它们作为矩阵的纵列，组成一个矩阵，再按照一致监督矩阵排列得：在做一致监督矩阵时，要求包含：100r （）、 r r（010）、（001）.这3个纵列是为了保证矩阵中的每一横行线性无关，这样就能保证由这个一致监督矩阵做出的42=16个状态包含所有的信息．为了更加明确编程思路，简要介绍一下纠码原理．设c 为一个码字，根据一致监督方程的关系，则有：们7=0．根据此关系，设接收矢量为R ，则当0T HR =时，认为R 是一个正确的码字；若0T HR ≠时，则R 就不是一个正确的码字，即接收信息有错．假设接收矢量R 只包含一个差错，则利用监督子T T S HR =可确定这个差错的位置，从而可得到纠正．针对本例，设112277(,,,)R C E C E C E =+++ ，其中E 为错型，则T T S HR =展开后得:由式2可见，当接收矢量中只有一个差错时，监督子TS 就等于监督矩阵中的某一纵列，从而能纠正单个差错。
本科生课程论文题目：互信息技术在数字图像配准中的应用姓名：学院：理学与信息科学学院专业：信息与计算科学班级：学号：指导教师：完成时间：2011 年7 月1 日2011年7月1日课程论文任务书学生姓名指导教师论文题目互信息技术在数字图像配准中的应用论文内容（需明确列出研究的问题）：图像配准是使两幅图像上的对应点达到空间上一致的一个过程。
本文介绍了一种基于最大互信息原理的图像配准技术。
并针对基于最大互信息图像配准的不足，研究了基于Harris角点算子的多模态医学图像配准。
在计算互信息的时候，采用部分体积插值法计算联合灰度直方图。
在优化互信息函数的时候采用了改进的遗传算法将配准参数收敛到最优值附近。
资料、数据、技术水平等方面的要求：论文要符合一般学术论文的写作规范，具备学术性、科学性和一定的创造性。
文字要流畅、语言要准确、论点要清楚、论据要准确、论证要完整、严密，有独立的观点和见解。
内容要理论联系实际，计算数据要求准确，涉及到他人的观点、统计数据或计算公式等要标明出处，结论要写的概括简短。
参考文献的书写按论文中引用的先后顺序连续编码。
发出任务书日期2011.06.23 完成论文（设计）日期2011.07.01 学科组或教研室意见（签字）院、系（系）主任意见（签字）目录摘要： (1)Abstract： (2)前言 (3)1 概述 (4)1.1 互信息与信息论 (4)1.2 数字图像配准 (5)1.2.1 数字图像配准的介绍 (5)1.2.2 数字图像配准的方式 (5)1.2.3 数字图像配准的发展 (6)2 配准方法 (7)2.1 变换和插值模型 (7)2.2 特征点的提取 (8)2.3 多元互信息 (11)2.4 优化算法 (12)2.4.1 编码方式 (12)2.4.2适应度表示 (12)2.4.3轮盘赌法和最优保存策略 (12)3 互信息技术在图像配置中的应用 (13)3.1 Harris角点后的CT图和PET图 (14)3.2 配准过程及结果 (14)4 总结 (14)参考文献： (16)互信息技术在数字图像配准中的应用信息与计算科学专业指导教师【摘要】：医学图像配准技术已经被应用于心脏病诊断和包括脑瘤在内的各种各样的神经混乱诊断研究中。
信息论与编码论文通过信道编码器和译码器实现的用于提高信道可靠性的理论和方法。
信息论的内容之一。
信道编码大致分为两类：①信道编码定理，从理论上解决理想编码器、译码器的存在性问题，也就是解决信道能传送的最大信息率的可能性和超过这个最大值时的传输问题。
②构造性的编码方法以及这些方法能达到的性能界限。
编码定理的证明，从离散信道发展到连续信道，从无记忆信道到有记忆信道，从单用户信道到多用户信道，从证明差错概率可接近于零到以指数规律逼近于零，正在不断完善。
编码方法，在离散信道中一般用代数码形式，其类型有较大发展，各种界限也不断有人提出，但尚未达到编码定理所启示的限度，尤其是关于多用户信道，更显得不足。
在连续信道中常采用正交函数系来代表消息，这在极限情况下可达到编码定理的限度。
不是所有信道的编码定理都已被证明。
只有无记忆单用户信道和多用户信道中的特殊情况的编码定理已有严格的证明；其他信道也有一些结果，但尚不完善。
信道编码技术数字信号在传输中往往由于各种原因，使得在传送的数据流中产生误码，从而使接收端产生图象跳跃、不连续、出现马赛克等现象。
所以通过信道编码这一环节，对数码流进行相应的处理，使系统具有一定的纠错能力和抗干扰能力，可极大地避免码流传送中误码的发生。
误码的处理技术有纠错、交织、线性内插等。
提高数据传输效率，降低误码率是信道编码的任务。
信道编码的本质是增加通信的可靠性。
但信道编码会使有用的信息数据传输减少，信道编码的过程是在源数据码流中加插一些码元，从而达到在接收端进行判错和纠错的目的，这就是我们常常说的开销。
这就好象我们运送一批玻璃杯一样，为了保证运送途中不出现打烂玻璃杯的情况，我们通常都用一些泡沫或海棉等物将玻璃杯包装起来，这种包装使玻璃杯所占的容积变大，原来一部车能装5000各玻璃杯的，包装后就只能装4000个了，显然包装的代价使运送玻璃杯的有效个数减少了。
同样，在带宽固定的信道中，总的传送码率也是固定的，由于信道编码增加了数据量，其结果只能是以降低传送有用信息码率为代价了。
电子测量论文论文题目：论最大熵原理及其应用学院：电子工程学院年级：2011级专业：电子信息工程姓名：学号：任课教师：2014年6 月17 日目录目录 (2)摘要 (3)引言 (4)第一章信息熵的概念 (5)第二章最大熵原理 (6)第三章最大熵原理的合理性 (7)第四章最大熵原理在实际中的应用 (8)4.1最大熵原理在水文水资源科学中的应用 (9)4.2最大熵原理在投资项目风险分析中的应用 (10)4.3最大熵原理在地震重现关系上的应用 (10)4.4最大熵原理在灾害损失分析中的应用 (11)结论 (11)参考文献： (12)摘要熵是源于物理学的基本概念，后来Shannon在信息论中引入了信息熵的概念，它在统计物理中的成功使人们对熵的理论和应用有了广泛和高度的重视。
最大熵原理是一种在实际问题中已得到广泛应用的信息论方法。
本文从信息熵的概念出发，对最大熵原理做了简要介绍，并论述了最大熵原理的合理性，最后提及它在一些领域的应用，通过在具体例子当中应用最大熵原理，展示该原理的适用场合，以期对最大熵原理及其应用有更深刻的理解。
关键词：熵；信息熵；最大熵原理；不适定性问题引言科学技术的发展使人类跨入了高度发展的信息化时代。
在政治、军事、经济等各个领域，信息的重要性不言而喻，有关信息理论的研究正越来越受到重视，信息论方法也逐渐被广泛应用于各个领域。
信息论一般指的是香农信息论，主要研究在信息可以度量的前提下如何有效地、可靠地、安全地传递信息，涉及消息的信息量、消息的传输以及编码问题。
1948年C.E.Shannon为解决通信工程中不确定信息的编码和传输问题创立信息论，提出信息的统计定义和信息熵、互信息概念，解决了信息的不确定性度量问题，并在此基础上对信息论的一系列理论和方法进行了严格的推导和证明，使以信息论为基础的通信工程获得了巨大的发展。
信息论从它诞生的那时起就吸引了众多领域学者的注意，他们竞相应用信息论的概念和方法去理解和解决本领域中的问题。
《信息论基础与编码》课程论文（设计）题目：信息论在图像信号压缩中的应用*名：***学院：电信分院专业：通信工程班级：2012.1学号：**************指导教师：***2014 年12 月27 日目录摘要： (1)引言 (1)1 概述 (1)1.1 信息与信息论 (1)1.2 图像处理 (2)1.2.1 数字图像处理的介绍 (2)1.2.2 数字图像处理的发展 (2)2 图像信号压缩 (4)2.1 图像信号压缩的概念与原理 (4)2.1.1 图像信号压缩的概念 (4)2.1.2 图像信号压缩的原理 (4)2.2 图像信号压缩的分类 (6)2.2.1 按照压缩前及解压后的信息保持程度分类 (6)2.2.2 按照图像压缩的方法原理分类 (7)2.3 压缩技术的性能指标 (8)3 信息论在图像信号压缩中的应用 (9)3.1 无失真图像压缩编码 (10)3.1.2 Huffman编码 (10)3.1.3 算术编码 (12)3.2 有限失真图像压缩编码 (14)3.2.1 基于DCT的图像压缩编码 (14)3.2.2 变换编码 (16)4 总结 (17)参考文献 (19)附录 (20)信息论在图像信号压缩中的应用信息与计算科学专业郑耀涛指导教师杨小翠摘要：本文首先简单介绍了信息、信息论以及图像处理技术，并通过多个实例对图像信号压缩的原理和冗余度问题做出解释。
然后引入图像信号压缩的概念、原理、分类及压缩技术的性能指标。
论文运用Huffman编码以及算术编码方法对图像信号进行编码压缩处理，并比较了两种方法各自的优缺点，体现了信息论在图像信号压缩中的应用。
同时还运用Matlab软件实现了图片压缩，通过对工作区各个数据的分析，求得图片的冗余度等。
此外，本文用有限失真图像压缩编码方法对图片进行处理。
最后，论文介绍了基于DCT的图像压缩编码、变换编码及其它编码。
关键词：信息论；图像信号压缩；应用1引言在社会生活和科研生产活动中，人们随时随地都要接触图像。
图像信息是人类认识世界的重要知识来源，其他任何形式的信息都没有图像信息丰富和真切。
为了利用有限的存储容量存储更多的图像，或者为了以最短的时间传递尽可能多的图片，就要研究怎样才能最大限度地压缩图像数据，并保证利用这些数据所重建的图像是用户能够接受的，这便是图像数据压缩所要解决的问题，在信息论中，它又称为信源的有效性编码问题。
随着社会的发展，科学技术的不断进步，信息、反馈、控制、机制、稳定性等大量新概念和新名词被人们所接受。
与此同时，信息论也被广泛的应用到各学科当中，它在图像信号压缩方面有着非常重要的作用。
1 概述1.1 信息与信息论信息一词由来已久，古代人讲的信息泛指音讯和消息。
到了近代，信息又被用作英语中information的译名，information在英语中来自词根inform（通知），指被告知的事实或知识。
实地上，信息这一概念是在人类社会互通情报的实践过程中产生的，它所涉及的范围非常广，比如语言信息、生物遗传信息、经济信息、管理信息。
这些信息的研究涉及到语言学、生物遗传学、社会经济学、管理科学等更广泛的学科领域乃至许多边缘学科领域。
1948年贝尔研究所的Shannon在题为《通讯的数学理论》的论文中比较系统地提出了关于信息的论述，创立了信息论。
目前，人们已把早先建立的有关信息的规律与理论广泛应用到物理学、化学、生物学等学科中去。
一门研究信息的产生、获取、变换、传输、存储、处理、显示、识别和利用的信息科学正在形成。
信息论将信息的传递作为一种统计现象来考虑，给出了估算通信信道容量的方法[1]。
信息论是一门应用概率论、随机过程、数理统计和高等代数的方法来研究信息传输、提取和处理系统中一般规律的学科；它的主要目的是提高信息系统的可靠性、有效性、保密性和认证性，以便达到系统最优化；它的主要内容包括香农理论、编码理论、检测和估计理论、信号设计和处理理论、调制理论、随机噪声理论和密码学理论。
信息理论的应用领域是十分广泛的，也是非常重要的，我们所知道的多是在通讯方面的应用，这是因为香农等人的工作开拓了这方面的广泛而深入的应用。
实际上，任一科学技术领域都离不开信息的基本知识和基本概念的。
1.2 图像处理1.2.1 数字图像处理的介绍根据图像记录方式的不同，图像可分为两大类：一类是模拟（analog）图像，一类是数字（digital）图像。
模拟图像是通过某种物理量（光、电）的强弱变化来记录图像上各点的灰度信息（如电视等）的；而数字图像则完全是用数字来记录图像灰度信息的，因而数字图像比模拟图像更易于保存。
图像处理（image processing）就是对图像信息进行加工处理和分析，以满足人的视觉心理需要和实际应用或某种目的（如压缩编码或机器识别）的要求。
图像处理的任务是将原图像的灰度分布作某种变换，使图像中的某部分信息更加突出，以使其适用于某种特殊的需求，而图像数据压缩就是数字图像处理技术的一种应用。
把数字化的图像数据按一定规则进行排列或运算的过程称为图像编码，利用图像本身的内在特性，通过某种特殊的编码方式，达到减少原图像数据信息占用量的处理叫做图像压缩编码[2]。
数字图像处理是对一个物体的数字表示施加一系列操作的过程，以得到所期望的结果。
即将一幅图像经过修改（改进、加工）成为另一幅本质不变的图像。
因此，数字图像处理就是一个从图像到图像的过程。
采用的工具一般是数字计算机。
数字图像处理的主要内容包括图像变换、图像压缩编码、图像增强、图像复原与重建、图像分割、图像描述、图像分析以及分类等。
1.2.2 数字图像处理的发展数字图像最早应用在报纸行业，当时图像第一次由海底电缆从伦敦传往纽约。
用电缆传输图片，首先需对图片进行编码，然后在接收端用特殊的打印设备重构传输的图片。
后来转而采用基于光学还原的技术，在电报接收端用穿孔纸带打出图片。
到1929年灰度等级已经由5个增加到了15个。
这三个例子都没有考虑数字图像处理的结果，主要原因是当时还没有使用计算机。
而随着科技的进步，计算机的诞生与发展，数字图像处理也得以更广泛的应用。
20世纪50年代，当时的电子计算机已经发展到一定水平，在进行空间应用的同时，人们开始利用计算机来处理图形以及图像等信息。
在20世纪50年代使用计算机对美国“旅行者7号”传送的月球图像进行处理，以矫正航天器上电视摄像机中各种类型的图像畸变。
数字图像处理作为一门学科大约形成于20世纪60年代初期。
60年代至70年代开始用于医学图像、地球遥感监测、天文学等领域。
70年代以后，数字图像处理得到迅猛的发展，广泛应用于太空探索、遥感应用、生物医学、工程工业应用、军事应用等方面。
早期的图像处理，其主要目的是改善图像的质量，它以人为对象，以改善人的视觉效果为目的。
在图像处理中，输入的是质量低的图像，输出的是得到改善的图像，常用的图像处理方法有图像增强、复原、编码、压缩等。
图像处理首次获得实际成功应用的是美国喷气推进实验室（JPL）。
他们对航天探测器旅行者7号在1964年发回的几千张月球照片使用了图像处理技术，如几何校正、灰度变换、去除噪声等方法进行处理，而且还考虑了太阳位置和月球环境的影响，由计算机成功地绘制出月球表面地图，获得了巨大的成功。
随后又对探测飞船发回的近十万张照片进行了更为复杂的图像处理，获得了月球的地形图、彩色图及全景镶嵌图，获得了非凡的成果，为人类登月创举奠定了坚实的基础，也推动了数字图像处理这门学科的诞生。
在以后的宇航空间技术，如对火星、土星等星球的探测研究中，数字图像处理技术都发挥了巨大的作用。
数字图像处理除了上述作用外，其取得的另一个巨大成就是在医学上获得的成果。
1972年英国EMI公司工程师Housfield发明了用于头颅诊断的计算机断层X射线摄影装置，也就是我们通常所说的CT（Computed Tomography）。
CT的基本方法是根据人的头部截面的投影，经计算机处理来重建截面图像，称为图像重建。
1975年EMI公司又成功研制出全身用的CT装置，获得了人体各个部位清晰鲜明的断层图像。
1979年，这项无损伤诊断技术获得了诺贝尔奖，说明它对人类做出了划时代的贡献。
于此同时，图像处理技术在许多应用领域受到广泛重视并取得了重大的开拓性成就，属于这些领域的有航空航天、生物医学工程、工业检测、机器人视觉、公安司法、军事制导、文化艺术等，使图像处理成为一门引人注目、前景远大的新型学科。
随着图像处理技术的深入发展，从20世纪70年代中期开始，计算机技术和人工智能、思维科学研究的迅速发展，数字图像处理向更高、更深层次发展。
人们已开始研究如何用计算机系统解释图像，实现类似人类视觉系统理解外部世界，这被称为图像理解或计算机视觉。
很多国家，特别是发达国家投入更多的人力、物力到这项研究当中，取得了不少重要的研究成果。
其中代表性的成果是20世纪70年代末MIT的Marr提出的视觉计算机理论，这个理论成为计算机视觉领域此后十多年的主导思想。
图像理解虽然在理论方发研究上已经取得不小的进展，但它本身是一个比较难的研究领域，仍然存在不小困难，因人类本身对自己的视觉过程还了解甚少，因此计算机视觉是一个有待于人们进一步探索的新领域[3]。
2 图像信号压缩众所周知，计算机处理的图像都是用点阵表示并且是用图像文件的形式存放的。
通常，图像文件都是大型文件。
而在应用系统中，常常需要在不同用户之间传递和交换图像文件，这就需要设法把大型图像文件进行压缩，以减少存储资源和网络资源的开销。
2.1 图像信号压缩的概念与原理2.1.1 图像信号压缩的概念图像压缩编码就是图像数据的压缩和编码表示，是通过消除信息冗余来设法减少表达图像信息所需数据的比特数。
从统计意义上说，就是将图像数据转化为尽可能不相关的数据集合。
图像压缩编码系统主要包括图像编码和图像解码两部分。
前者就是对图像信息进行压缩和编码，在存储、处理和传输之前进行，也称图像压缩。
后者是对压缩图像进行解压以重建原图像或其近似图像[4]。
2.1.2 图像信号压缩的原理首先我们通过以下两个例题，研究一下图像像素之间的相关性以及与此有关的图像信息冗余度问题。
例2.1 有一线状图像，其灰度随长度坐标的变化如图2-1所示，描述这个一维图像，可以用有顺序的七个3bit的二进制数表示，即011，011，011，011，101，101，101共21bit（写成十进制数即3，3，3，3，5，5，5），但是，如果我们用行程编码方法对其编码，即用三位二进制数表示灰度幅度，再用三位二进制数表示具有该灰度的顺序像素数，那么同时这个图像，其编码便变成011，100；101，011（即十进制数的3，4；5，3），共用了12bit数，比前种编码节省了9bit。
