i=1
编码理论——信源编码
4
13
必须注意: 必须注意:
–Kraft不等式只是用来说明唯一可译码是否存在,并不能 Kraft不等式只是用来说明唯一可译码是否存在, Kraft不等式只是用来说明唯一可译码是否存在 作为唯一可译码的判据。 作为唯一可译码的判据。 –如码字{0,10,010,111}虽然满足Kraft不等式,但它不 如码字{0,10,010,111}虽然满足Kraft不等式, 如码字{0 虽然满足Kraft不等式 是唯一可译码。 是唯一可译码。
n L≤m K
X
信源
L长序列
信源编码器
Y
信道
码表
K长码字
15
பைடு நூலகம்
编码理论——信源编码
若对信源进行定长编码,必须满足: 若对信源进行定长编码,必须满足: 定长编码
n ≤m
L
K
或
K log n ≥ L log m
(2-2)
只有当K长的码符号序列数 mK大于或等于信源的符号数nL时,才可能存 只有当K 大于或等于信源的符号数n 定长非奇异码 非奇异码。 在定长非奇异码。 例如英文电报有27个符号,n=27,L=1,m=2(二元编码) 例如英文电报有27个符号,n=27,L=1,m=2(二元编码) 27个符号,n=27,L=1,m=2(二元编码
时,只要 失真, 也就是收端的译码差错概率接近于零, 失真 , 也就是收端的译码差错概率接近于零 , 条件是所取的 符号数L足够大。 符号数L足够大。
KL 1 (2-5) K= log m = log M L L _ 这种编码器一定可以做到几乎无 K > HL ( X ) ,这种编码器一定可以做到几乎无
a1 a2 a3 a4