信源编码的基本原理及其应用
- 格式:doc
- 大小:245.00 KB
- 文档页数:13
信源编码的基本原理及其应用课程名称通信原理Ⅱ专业通信工程班级*******学号******学生姓名*****论文成绩指导教师***********信源编码的基本原理及其应用信息论的理论定义是由当代伟大的数学家美国贝尔实验室杰出的科学家香农在他1948 年的著名论文《通信的数学理论》所定义的,它为信息论奠定了理论基础。
后来其他科学家,如哈特莱、维纳、朗格等人又对信息理论作出了更加深入的探讨。
使得信息论到现在形成了一套比较完整的理论体系。
信息通过信道传输到信宿的过程即为通信,通信中的基本问题是如何快速、准确地传送信息。
要做到既不失真又快速地通信,需要解决两个问题:一是不失真或允许一定的失真条件下,如何提高信息传输速度(如何用尽可能少的符号来传送信源信息);二是在信道受到干扰的情况下,如何增加信号的抗干扰能力,同时又使得信息传输率最大(如何尽可能地提高信息传输的可靠性)。
这样就对信源的编码有了要求,如何通过对信源的编码来实现呢?通常对于一个数字通信系统而言,信源编码位于从信源到信宿的整个传输链路中的第一个环节,其基本目地就是压缩信源产生的冗余信息,降低传递这些不必要的信息的开销,从而提高整个传输链路的有效性。
在这个过程中,对冗余信息的界定和处理是信源编码的核心问题,那么首先需要对这些冗余信息的来源进行分析,接下来才能够根据这些冗余信息的不同特点设计和采取相应的压缩处理技术进行高效的信源编码。
简言之,信息的冗余来自两个主要的方面:首先是信源的相关性和记忆性。
这类降低信源相关性和记忆性编码的典型例子有预测编码、变换编码等;其次是信宿对信源失真具有一定的容忍程度。
这类编码的直接应用有很大一部分是在对模拟信源的量化上,或连续信源的限失真编码。
可以把信源编码看成是在有效性和传递性的信息完整性(质量)之间的一种折中有段。
信源编码的基本原理:信息论的创始人香农将信源输出的平均信息量定义为单消息(符号)离散信源的信息熵:香农称信源输出的一个符号所含的平均信息量为 为信源的信息熵。
信源编码技术在通信电子中的应用随着通信技术的不断发展,信源编码技术已经成为通信电子领域的一个热点话题。
信源编码技术是指将输入信号进行编码,以使其能够更加有效地传输,达到提高传输效率和保证传输质量的目的。
在本文中,我将介绍信源编码技术的相关知识及其在通信电子中的应用。
一、信源编码技术的基本原理信源编码技术是一种通过对输入信号进行处理和编码的方法来提高信号传输效率和质量的方法。
在信源编码技术中,信号编码是将原始信号转换为一定的编码格式的过程,通过处理和编码,使信息传输更高效、更精确。
信源编码技术主要有两种常见的编码方法:离散信号统计编码和连续信号编码。
离散信号统计编码是指将离散时间离散幅度的信号转换为字典代码,再将字典代码发送到接收端进行恢复。
而连续信号编码是通过将连续时间和连续幅度的信号按照一定规律进行抽样采样,然后将采样值转换为数字信号,再进行编码和传输。
二、信源编码技术的应用信源编码技术在通信电子领域中有着广泛的应用,主要包括如下三个方面。
1. 无线通信在无线通信领域中,信源编码技术被广泛应用于通信信道的编码和解码中。
例如,在卫星通信系统中,信源编码技术可以将原始信号进行信源编码和信道编码,以保证信号的传输质量。
同时,信源编码技术还可以根据不同的应用需求,选择相应的编码算法和参数,以达到更好的编码效果。
2. 数据压缩在数据传输或存储中,信源编码技术可以用来对数据进行压缩,以减少数据的传输量或保存空间。
信源编码技术通过对数据进行编码,使重复数据的编码更加紧凑,从而达到对数据的压缩效果。
在数据存储和传输过程中,数据压缩可以帮助节省大量的存储空间和传输带宽,提高数据的传输效率和速度。
3. 多媒体传输信源编码技术在多媒体传输中也有着广泛的应用。
例如,对于音频和视频数据的传输,在信源编码技术的帮助下,可以将这些数据进行压缩和编码,以达到更好的传输效果。
另外,在语音识别和图像识别等领域中,信源编码技术也可以对数据进行压缩和编码,以提高识别的准确率和速度。
信息论与编码原理信源编码
信息论是一门涉及了信息处理的学科,它研究信息生成、传输、接收、存储、利用等过程的一般性理论。
它探讨涉及信息的一切问题,强调掌握
信息所必需的体系性的体系知识,其主要内容有:信息的定义、信息测度,信息的熵,信息编码,信息的可计量性,信息传输,信息和随机性,信息
编译,信息安全,信息认证,解码准确性,信息的保密,校验,系统复杂性,信息的加密等。
信源编码是一种在信息论中常用的编码技术,其目的是用最少的信息
量表示最多的信息内容,以提高信息发送效率。
它主要包括概率信息源编
码和确定性信息源编码两种。
概率信息源编码是根据一个信息源的发生概率来编码,是根据发出信
息的概率来决定编码方式的。
它根据一个消息源中发出的不同信息的概率
来决定信息的编码,并确定每种信息的编码长度。
在这种情况下,越高概
率的信息,编码长度越短。
确定性信息息源编码,是根据一个消息源中出现特定信息的概率确定
编码方式的。
在这种情况下,编码长度取决于消息源的熵,也就是期望的
信息量。
信源编码的基本思想是以最小的编码来传输最多的信息量。
信源编码的基本原理及其应用信源编码的基本原理及其应用课程名称通信原理Ⅱ专业通信工程班级 *******学号 ******学生姓名 *****论文成绩指导教师 ***********信源编码的基本原理及其应用信息论的理论定义是由当代伟大的数学家美国贝尔实验室杰出的科学家香农在他1948 年的著名论文《通信的数学理论》所定义的,它为信息论奠定了理论基础。
后来其他科学家,如哈特莱、维纳、朗格等人又对信息理论作出了更加深入的探讨。
使得信息论到现在形成了一套比较完整的理论体系。
信息通过信道传输到信宿的过程即为通信,通信中的基本问题是如何快速、准确地传送信息。
要做到既不失真又快速地通信,需要解决两个问题:一是不失真或允许一定的失真条件下,如何提高信息传输速度(如何用尽可能少的符号来传送信源信息);二是在信道受到干扰的情况下,如何增加信号的抗干扰能力,同时又使得信息传输率最大(如何尽可能地提高信息传输的可靠性)。
这样就对信源的编码有了要求,如何通过对信源的编码来实现呢?通常对于一个数字通信系统而言,信源编码位于从信源到信宿的整个传输链路中的第一个环节,其基本目地就是压缩信源产生的冗余信息,降低传递这些不必要的信息的开销,从而提高整个传输链路的有效性。
在这个过程中,对冗余信息的界定和处理是信源编码的核心问题,那么首先需要对这些冗余信息的来源进行分析,接下来才能够根据这些冗余信息的不同特点设计和采取相应的压缩处理技术进行高效的信源编码。
简言之,信息的冗余来自两个主要的方面:首先是信源的相关性和记忆性。
这类降低信源相关性和记忆性编码的典型例子有预测编码、变换编码等;其次是信宿对信源失真具有一定的容忍程度。
这类编码的直接应用有很大一部分是在对模拟信源的量化上,或连续信源的限失真编码。
可以把信源编码看成是在有效性和传递性的信息完整性(质量)之间的一种折中有段。
信源编码的基本原理:信息论的创始人香农将信源输出的平均信息量定义为单消息(符号)离散信源的信息熵:香农称信源输出的一个符号所含的平均信息量为 为信源的信息熵。
信源编码的基本原理及应用1. 什么是信源编码信源编码,也称为数据压缩或编码压缩,是指在数字通信中对信息源进行编码,以便更有效地表示和传输数据。
信源编码的目标是尽量减小数据的表示和传输所需的比特数,提高传输效率。
2. 信源编码的基本原理信源编码的基本原理是利用编码技术将信息源中的冗余部分去除,从而实现数据压缩。
信源编码可以分为两种基本类型:无损编码和有损编码。
2.1 无损编码无损编码是指经过编码和解码后,能够完全还原原始数据的编码方法。
无损编码的基本思想是通过找到数据中的冗余部分,并对其进行有效的压缩和表示。
2.2 有损编码有损编码是指经过编码和解码后,不能完全还原原始数据的编码方法。
有损编码的基本思想是通过牺牲一定的数据精度来实现数据压缩,从而提高传输效率。
3. 信源编码的应用信源编码在数字通信领域有着广泛的应用。
下面列举一些常见的应用场景:•数据传输:信源编码常用于数据传输中,通过压缩数据,减少传输所需的带宽和存储空间。
•图像压缩:对于数字图像的存储和传输,信源编码可以显著减小存储和传输负荷,提高图像的传输效率。
•音频编码:在音频编码中,通过信源编码可以将音频数据进行压缩,实现更高效的音频传输和存储。
•视频编码:信源编码在视频编码中也起到了关键作用,通过对视频数据的压缩,可以实现高清视频的传输和存储。
•文本压缩:在文本处理和存储中,信源编码可以将文本数据进行压缩,并提供更高效的文本处理和存储方式。
•无线通信:在无线通信中,信源编码可以将数据进行压缩,减小数据量,提高无线通信的传输效率。
4. 总结信源编码是数字通信中重要的一环,通过对信息源进行编码,可以实现数据的压缩和高效传输。
无损编码和有损编码是信源编码的两种基本类型,根据不同的应用场景选择合适的编码方式。
信源编码在数据传输、图像压缩、音频编码、视频编码、文本压缩和无线通信等领域都有着重要的应用价值。
通过合理地选用信源编码技术,可以有效地提高数据的传输效率和存储效率,减少网络带宽消耗,为数字通信提供更好的服务和用户体验。
联合信源信道编码的原理及其在无线通信中的应用文章标题:深度解析联合信源信道编码的原理及其在无线通信中的应用在无线通信中,联合信源信道编码是一个重要的概念,它涉及到信源编码和信道编码的结合,能够有效提高通信系统的可靠性和效率。
本文将从信源编码和信道编码的原理入手,深入探讨联合信源信道编码在无线通信中的应用,并对其进行全面评估和分析。
一、信源编码的原理及应用1. 信源编码简介信源编码是将来自信源的信息进行编码压缩,以便在传输过程中占用更少的带宽或传输资源。
常见的信源编码算法包括霍夫曼编码、算术编码等。
2. 信源编码在无线通信中的应用信源编码可以大大减少数据传输的冗余度,提高数据传输的效率,尤其在无线通信中,由于带宽和传输资源的有限性,信源编码显得尤为重要。
二、信道编码的原理及应用1. 信道编码简介信道编码是为了提高数据传输的可靠性,通过在数据中添加冗余信息,增加数据的容错性。
常见的信道编码技术包括海明码、卷积码等。
2. 信道编码在无线通信中的应用在无线通信中,信道往往会受到多径衰落、多径干扰等影响,信道编码可以减小误码率,提高通信的可靠性。
三、联合信源信道编码的原理及应用1. 联合信源信道编码的概念联合信源信道编码是信源编码和信道编码的结合,通过联合设计信源和信道编码方案,提高信号的压缩率和传输可靠性。
其核心是在保证压缩率的增强信道编码的纠错能力。
2. 联合信源信道编码在无线通信中的应用在无线通信中,联合信源信道编码可以有效降低误码率,提高信号的传输质量,尤其在高速移动通信或弱信号覆盖的情况下具有明显的优势。
四、个人观点和结论根据对联合信源信道编码原理及应用的深入研究和分析,我认为在无线通信中采用联合信源信道编码能够有效提高通信系统的可靠性和效率,特别是在面对复杂的通信环境时能够更好地应对各种干扰和噪音。
但同时也需要考虑编解码复杂度和性能损耗,需要根据具体的通信场景进行灵活选择。
通过本文的全面介绍和分析,相信读者对联合信源信道编码的原理和应用有了更深入的了解,能够在实际的无线通信系统设计和优化中发挥重要作用。
第四章移动通信中的信源编码在当今这个信息爆炸的时代,移动通信已经成为我们生活中不可或缺的一部分。
无论是与亲朋好友的语音通话,还是观看精彩的视频直播,亦或是随时随地获取各种信息,都离不开移动通信技术的支持。
而在移动通信系统中,信源编码是一个至关重要的环节,它直接影响着通信的质量和效率。
那么,什么是信源编码呢?简单来说,信源编码就是将信源输出的信号转换成适合在信道中传输的形式。
在移动通信中,信源通常是指语音、图像、视频等各种信息。
由于这些原始信息的数据量往往非常庞大,如果直接进行传输,将会占用大量的信道资源,导致传输效率低下,甚至无法实现实时通信。
因此,需要通过信源编码对原始信息进行压缩和处理,减少数据量,提高传输效率。
信源编码的主要目的有两个:一是减少冗余信息,二是提高编码效率。
冗余信息是指那些在传输过程中不必要或者可以通过其他方式恢复的信息。
例如,在语音信号中,相邻的语音样本之间往往存在很强的相关性,这就意味着存在大量的冗余信息。
通过对这些冗余信息进行分析和处理,可以大大减少数据量。
同时,信源编码还需要考虑如何在保证一定质量的前提下,尽可能地提高编码效率,也就是用更少的比特数来表示相同的信息。
在移动通信中,常用的信源编码技术包括语音编码和图像编码。
语音编码是将语音信号转换为数字信号的过程。
目前,广泛应用的语音编码标准有 GSM 语音编码、CDMA 语音编码和 3GPP 语音编码等。
这些编码技术通过采用不同的算法和策略,对语音信号进行分析、建模和编码,在保证语音质量的前提下,实现了较高的压缩比。
例如,GSM 语音编码采用了规则脉冲激励长期预测(RPELTP)编码算法,将语音信号分成若干个帧,对每一帧进行分析和编码。
CDMA 语音编码则采用了可变速率码激励线性预测(QCELP)编码算法,根据语音的特征动态调整编码速率,从而在不同的信道条件下都能提供较好的语音质量。
3GPP 语音编码则引入了自适应多速率(AMR)技术,能够根据网络状况和用户需求自适应地选择不同的编码速率,进一步提高了语音通信的灵活性和效率。
信源编码的原理、方法、优缺点及应用信源编码就是从信源产生的信号到码符号的一种映射,它把信源输出的符号变换成码元序列。
信源编码主要是利用信源的统计特性,解决信源的相关性,去掉信源冗余信息,从而达到压缩信源输出的信息率,提高系统有效性的目的。
冗余信息是指信源产生信息所用数据位数与消息中包含的实际信息数据位的数目差值。
解决信源的相关性本质就是降低信源中的冗余,常用消除信源相关性的方法:“合并法”和“预测法”。
如果信源的符号序列中,只在相邻的少数几个符号之间有相关性,而相距较远的符号之间的相关性可以忽略不计,那么,这种信源称为弱记忆信源。
在这种情况下,可以把具有较强相关性的邻近几个符号看成一个大符号。
于是,这些大符号之间的相关性就变得很小了。
实际上就是把原来的基本信源空间变换成了多重空间。
多重空间的重数越高,这种大符号之间的相关性越小,最终可以获得相互独立的情况。
这种方法称为合并法。
如果信源的符号序列之间存在较强的相关性联系,以至根据其中一部分符号能够以一定的准确性推测出其余的符号,这种信源就称为强记忆信源。
在传递这样的信息时,那些可以被精确推断出来的符号就不必传送,从而可以节省时间,提高传输的效率。
但是,大多数情况下,完全可以精确推断出来的情况是极少的,只能根据信源的统计相关性作近似的预测,这就是预测法。
信源编码的作用之一是设法减少码元数目和降低码元速率,即通常所说的数据压缩:作用之二是将信源的模拟信号转化成数字信号,以实现模拟信号的数字化传输。
最原始的信源编码就是莫尔斯电码,另外还有电报码都是信源编码,它们主要用于传输电报信息。
但现代通信应用中常见的信源编码方式有:香农编码、费诺编码、Huffman 编码、算术编码、L-Z编码等,另外还有一些有损的编码方式。
信源编码的目标就是使信源减少冗余,更加有效、经济地传输,最常见的应用形式就是压缩。
另外,在数字电视领域,信源编码包括通用的MPEG—2编码和H.264(MPEG—Part10 AVC)编码等。
信源编码的基本原理及其应用课程名称通信原理Ⅱ专业通信工程班级*******学号******学生*****论文成绩指导教师***********信源编码的基本原理及其应用信息论的理论定义是由当代伟大的数学家美国贝尔实验室杰出的科学家香农在他1948 年的著名论文《通信的数学理论》所定义的,它为信息论奠定了理论基础。
后来其他科学家,如哈特莱、维纳、朗格等人又对信息理论作出了更加深入的探讨。
使得信息论到现在形成了一套比较完整的理论体系。
信息通过信道传输到信宿的过程即为通信,通信中的基本问题是如何快速、准确地传送信息。
要做到既不失真又快速地通信,需要解决两个问题:一是不失真或允许一定的失真条件下,如何提高信息传输速度(如何用尽可能少的符号来传送信源信息);二是在信道受到干扰的情况下,如何增加信号的抗干扰能力,同时又使得信息传输率最大(如何尽可能地提高信息传输的可靠性)。
这样就对信源的编码有了要求,如何通过对信源的编码来实现呢?通常对于一个数字通信系统而言,信源编码位于从信源到信宿的整个传输链路中的第一个环节,其基本目地就是压缩信源产生的冗余信息,降低传递这些不必要的信息的开销,从而提高整个传输链路的有效性。
在这个过程中,对冗余信息的界定和处理是信源编码的核心问题,那么首先需要对这些冗余信息的来源进行分析,接下来才能够根据这些冗余信息的不同特点设计和采取相应的压缩处理技术进行高效的信源编码。
简言之,信息的冗余来自两个主要的方面:首先是信源的相关性和记忆性。
这类降低信源相关性和记忆性编码的典型例子有预测编码、变换编码等;其次是信宿对信源失真具有一定的容忍程度。
这类编码的直接应用有很大一部分是在对模拟信源的量化上,或连续信源的限失真编码。
可以把信源编码看成是在有效性和传递性的信息完整性(质量)之间的一种折中有段。
信源编码的基本原理:信息论的创始人香农将信源输出的平均信息量定义为单消息(符号)离散信源的信息熵:香农称信源输出的一个符号所含的平均信息量为 为信源的信息熵。
通信原理中对信源研究的容包括3个方面:(1)信源的建模信源输出信号的数学描述已有成熟的理论——随机过程,一般的随机过程理∑=-=Li i i x p x p x H 12)(log )()()(x H论并不涉及和讨论信号中所携带的信息,而通信原理所关心的中心容则是信号中携带的信息。
发射器发送1和发送0的概率是不相等的,因此需要讨论发送1和发送0的不同概率。
(2)信源输出信号中携带信息的效率的计算在通信原理中,信源输出信号所携带信息的效率是用熵率或冗余度来表示的。
(3)信源输出信息的有效表示一般地,信源输出信号中携带信息的效率并不很高,如何用适当的信号有效地表示信源输出的信息是人们感兴趣的问题,这就是信源编码的问题。
信源编码的方式:一、模数转化:脉冲编码调制和增量编码调制PCM/DM二、离散无记忆信源编码DMS ,包括有Huffman 编码和等长编码三、线性预测编码LPC ,将信源等效地视为在一个适当输入信号激励下的线性系统输出。
用线性系统的参数及伴随的输入激励信号进行编码。
一、脉冲编码调制1.1低通信号的抽样定理——Nyquist 抽样定理(均匀采样定理)一个带限于(0,fm )Hz 的连续时间信号f(t),如果以Ts ≤1/2fm 秒的时间间隔进行抽样,则f(t)将由得到的抽样值f(kTt)完全确定。
Nyquist 抽样速率: Nyquist 最大时间间隔: 低通信号的抽样示意图:ms f f 2=ms f T 21=1.2量化:1.2.1均匀量化在整个输入信号的幅度围各量化分级间隔相等的量化方式即为均匀量化。
其原理图为:在满足信噪比要求的输入信号取值围进行均匀量化时,信号动态围将受到较大的限制。
因此均匀量化的缺陷十分明显。
1.2.2非均匀量化为克服均匀量化的缺点,使小信号的量化台阶减小,大信号的量化台阶增大,而形成的量化方式为非均匀量化。
即根据信号的不同区间确定间隔。
(1)方法:压扩处理,在发送端进行压缩,在接收端进行扩。
(2)非均匀量化框图:1.2.3优点(1)当输入量化器的信号具有非均匀的概率密度时,非均匀量化器的输出端可以得到较高的平均信噪比;(2)非均匀量化时,量化噪声功率的均方根值基本与信号抽样值成正比,从而改善了小信号的信噪比;可以做到在不增大量化级数N 的条件下,使信号在较宽的动态围的(S/Nq)dB 达到指标的要求。
1.3非均匀量化的生活中应用:A 律13折线压扩技术(我国现在使用)目前应用较多的是以数字电路方式实现的A 律特性折线近似。
具体实现:1.对x 轴在0~1(归一化)围以1/2递减规律分成8个不均匀段,其分段点是1/2,1/4,1/8,1/16,1/32,1/64和1/128;2.对y 轴在0~1(归一化)围以均匀分段方式分成8个均匀段,其分段点是1/8,2/8,3/8,4/8,5/8,6/8,7/8和1。
3.将x 轴和y 轴对应的分段线在x-y 平面上的相交点相连接的折线就是有8个线段的折线。
1.4DM 增量编码调制DM :把过去的信号样值作为预测值的单纯预测编码的方式。
40年代提出的,是脉冲编码的一种特殊形式,是模拟信号数字化的另一种基本方法。
它的编码设备比较简单。
二、离散无记忆信源编码DMS在DMS 编码中,我们给每个符号赋予一定长度的代码表示。
因此假设,信源的输出来自一个由有限个符号组成的集合, 表示符号出现的概率,则: )(i x p由此可以看出,在赋予一定长度的代码时,每个符号的二进制代码平均长度最短不应小于信源的熵。
我们对信源编码的要:不仅要使传递编码序列的信息速率尽量变小,还要从该编码序列能无失真的恢复出源信号的输出符号即能正确的进行反变换或者译码,称此信源编码为无失真离散信源编码。
2.1等长编码:信源编码原理图为:等长编码又称为均匀编码,即不管符号出现的概率如何,每个符号都用N 位二进制代码表示。
码长为:编码效率为:它表示信源的平均每个符号的信息熵 与信源平均每个符号的编码长度R 之比值。
若信源编码器用不同长度的符号来表示信源的输出符号,则称为变长编码。
变长编码的思路是根据信源输出符号出现概率的不同来选择码字,出现概率大的用短码表示,出现概率小的用长码,使平均编码长度K 最短,因而可提高编码效率。
变长编码可以无失真编码,无差错编码。
使用变长编码可以达到相当高的编码效率。
一般,变长码所要求的信源消息序列长度L 比等长编码的小得多。
其特点是:1.当L 为2的整数次幂且等概出现时,编码效率为100%;2.当符号等概出现,但L 不是2的整数次幂时,编码效率下降,符号平均信息量与码长N 之间最多可相差1比特;∑=≤-=Li i i L x p x p x H 122log )(log )()(⎣⎦1log log 22+=L L N 或Rx H )(=η)(x H3.L 较小时,编码效率较低,因此,可以采用扩展编码的方法,即将连续J 个符号进行统一编码,则:L J N 2log ≥取整⎣⎦1log 2+=L J N即:也就是说,每个符号所增加的1比特下降到1/J 比特,编码效率增加。
2.2哈夫曼编码在信源编码的变长编码中哈夫曼编码(Huffman )是无前缀的变长编码,它没有一个码字是其他码字的前缀,以确保唯一可以码。
它能够提供信源熵的编码序列,其编码效率高,且能无失真的编译码。
哈夫曼编码步骤:(1)将信源消息符号按其出现的概率大小依次排列P 1 ≥ P 2 ≥ ··· ≥ P n 。
(2)取两个概率最小的字母分别配以0和1两个码元,并将这两个概率相 加作为一个新的字母的概率,与未分配的二进制符号的字母重新排队。
(3)对重排后的两个概率最小符号重复步骤(2)的过程。
(4)不断继续上述过程,直到最后两个符号配以0和1为止。
(5)从最后一级开始,向前返回得到各个信源符号所对应的码元序列,即 相应的码字平均编码效率:哈夫曼编码的主要特点: 1.哈夫曼编码构造的码字不唯一;2.哈夫曼编码是变长编码,硬件实现比较困难;3.采用哈夫曼编码,要传送编码表,占用传送时间;4.哈夫曼编码是变长编码,出错时难以识别;哈夫曼编码方法不唯一,因为编码时的0和1是任意给的,另外在两个符号有相同概率时的编码过程不唯一,造成编码结果不同,但平均码长相同。
其次:对信源进行缩减时两个概率最小的符号合并后的概率与其他信源符号的概率相⎣⎦J L J N N 1log 2+==N x H )(=η同时,这两者在缩减信源中进行概率排序,其位置放置次序是可以任意的,故会得到不同的哈夫曼码此时将影响码字的长度,一般将合并的概率放在上面,这样可以获得较小的码方差。
对于多进制哈夫曼编码,为了提高编码效率,就要使长码的符号数量尽量少、概率尽量小,所以信源符号数最好满足()r n r m +-=1,其中r 为进制数,n 为缩减的次数。
例如,要进行三进制编码,那么最好信源有7个符号,第1次合并后减少2个成为5个,第2次合并后又减少2个成为3个,这样给每一步赋予三进制符号就没有浪费了。
但如果信源只有6个符号时,为了尽量减少最长码的数量,则应该在第1次合并时添置概率为零的虚拟符号1个,事实上只合并2个概率最小的符号,后面每次合并三个,就可以使得最长码的符号数量最少,也就是长码的概率最小,从而得到最高的编码效率。
哈夫曼编码现已广泛应用于各类图像编码中,然而应用最早、最为有效的则是在传真编码中。
在传真编码中应用的是游程编码,它是一类基于哈夫曼编码的推广。
哈夫曼编码被称为最优的变长信源编码,但是这一最佳性能是建立在稳定、确知的概率统计特性的基础上,一旦统计特性不稳定或发生变化或不完全确知,变长编码将失去统计匹配的前提,其性能必然引起恶化,实际信源往往不可能提供很稳定、确知的概率特性,因此人们开始研究比较稳健、适应性比较强的准最佳信源编码。
而且哈夫曼编码仍然存在一些分组码所具有的缺点。
例如概率特性必须得到精确地测定,它若略有变化,还需要换码表,以及对于二元信源,常需要多个符号合起来编码,才能取得好的效果,但当合并的符号数不大时,编码效率提高不多,尤其对于相关信源,不能令人满意,而合并的符号数增大时,码表中的码字数很多,设备将越来越复杂。
当容量设定后,随着时间的增长,存储器溢出和取空的的概率都将增。
当T 很大时,几乎一定会溢出或损失;由此可见,对于无线长的信息,很难采用变长码而不出现错误。
一般来说,变长码只适用于有限码的传输;即送出一段信息后,信源就停止输出,例如传真机送出一纸上的信息后停止。
对于长信息在实际使用时可把长信息分段送出,也可通过检测存储器的状态调节信源输出即发现存储器将要溢出就停止信源输出;发现存储器将要被取空就在信道上插上空闲标志,或加快信源输出。