- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
•最常用的失真函数
均方失真： 绝对失真： 相对失真：
误码失真：
d ( xi , y j ) x
i
yj
2
d ( xi , y j ) xi y j
d ( xi , y j ) xi y j / xi
0, d ( xi , y j ) ( xi , y j ) 1， xi y j 其它
R( D) min I (U ;V )
PD
Pij PD
min p(ui ) p(v j / ui ) log
i 1 j 1
n
m
p(v j / ui ) p (v j )
研究信息率失真函数是为了解决在已知 信源和允许失真度D的条件下，使信源必 须传送给用户的信息量最小。就是在一 定失真度D条件下，尽可能用最少的码符 号来传送信源信息，使得信源的消息尽 可能快的传送出去。以提高有效性。属 于信源编码问题。
6.1 失真测度
失真函数 平均失真 ห้องสมุดไป่ตู้真度准则
失真函数
在实际问题中，信号有一定的失真是可以容忍 的。但是当失真大于某一限度后，信息质量将 被严重损伤，甚至丧失其实用价值。要规定失 真限度，必须先有一个定量的失真测度。为此 可引入失真函数。 直观而言，允许失真越大，信息传输率可以越 小；若允许失真越小，信息传输率需要越大。
i 1 j 1 m
n
m
p (ai ) p (b j / ai )d (ai , b j )
i 1 j 1
n
对于连续随机变量同样可以定义平均失真：
D
p xy ( x, y)d ( x, y)dxdy
保真度准则
保真度准则：给定失真D，如果平均失真度 D 不大于D. D失真许可的实验信道：信源给定，单个符号 失真度给定，满足保真度准则的信道。
i 1
n
式右边达到最小，这时上式可简化成 Dmax min
j 1,, m
pd
i 1 i
n
ij
例：设输入输出符号表为X＝Y{0，1}，输入概率分 布p(x)={1/3，2/3}，失真矩阵为
d (a1 , b1 ) d (a1 , b2 ) 0 1 d d ( a , b ) d ( a , b ) 1 0 2 2 2 1
6.2 信息率失真函数的性质
R(D)函数的定义域 ⑴ Dmin和R(Dmin) Dmin p(ui ) min p(v j / ui )d (ui , v j )
Dmin p(ui ) min d (ui , v j )
i
i
j
实际中，一般Dmin＝0, 当失真矩阵每行至少一个 0，每列至多一个0时，满足 R( Dmin ) R(0) H (U ) 0 1 1 / 2 例1：U取值{0,1},V取值{0,1,2},失 p 1 0 1 / 2 真矩阵 例2：U等概取值{0,1,2},V取值{0,1},失真矩阵
独立 p p(v / u ) q(v ) q ij j i j j • 求出满足条件 m q 1 的D中的最小值 ，即
j 1
j
Dmax min q j pi dij
j 1 i 1
m
n
从上式观察可得：在j=1,…,m中，可找到 pi d ij 值 最小的 j，当该 j对应的 qj＝ 1，而其余 qj为零时，上
失真函数
假如某一信源X，xi{a1,…an}，经过有失真的信道传输输出 Y，yj {b1,…bm}。指定非负函数
若xi＝yj，则认为没有失真；若xi yj，那么就产生了失真。 这个函数用以衡量用yj代替xi所引起的失真程度。
xi y j 0 d(xi ,y j ) α α 0 xi y j
失真矩阵：单个符号失真度的全体构成的矩阵
d (a1 , b1 ) d (a1 , b2 ) d (a1 , bm ) d (a , b ) d (a , b ) d (a , b ) 2 1 2 2 2 m d d (a n , b1 ) d (a n , b2 ) d (a n , bm )
PD p (v j / ui ) : D D, i 1,2, , n; j 1,2, , m
满足保真度准则下，寻找信源必须传输给收信 者的信息量R的下限值。也就是希望在满足一 定失真的情况下，使得信息传输率R尽可能小。
信息率失真函数R(D)
信息率R是所需输出的有关信源X的信息量。接收端 获得的平均信息量，是互信息I(U;V)。互信息取决 于信源分布和信道转移概率分布，当p(ui)一定时，I 是关于p(vj/ui) 的凸函数，存在极小值。 在允许信道PD中，可以寻找一种信道pij，使给定的 信源p(ui)经过此信道传输后，互信息达到最小。该 最小的互信息就称为信息率失真函数R(D)：
解：当 Dmin＝ 0 时， R(Dmin) ＝ H(X) ＝ H(1/3 ， 2/3)＝ 0.91 比特/符号，这时信源编码器无失真，所以该编码器的 转移概率为
1 0 P 0 1
当R(Dmax)＝0时
1 0 p1 1 / 2 1 / 2 0 1
0 1 p2 0 0 1 0
(2) Dmax和R(Dmax)
• 选择所有满足R(D)＝0中D的最小值，定义为R(D) 定义域的上限Dmax，即 Dmax min D R ( D ) 0 • 显然的，当D> Dmax时，I(X;Y)=0, 即输入和输出
前三种失真函数适用于连续信源，后一种适用于离
散信源。
平均失真
由于 xi和 yj都是随机变量，所以失真函数 d(xi， yj) 也是随机 变量，限失真时的失真值，只能用它的数学期望或统计平均值， 因此将失真函数的数学期望称为平均失真，记为：
D p (ai b j )d (ai , b j )
