第三章 估计理论1. 估计的分类矩估计：直接对观测样本的统计特征作出估计。
参数估计：对观测样本中的信号的未知参数作出估计。
待定参数可以是未知的确定量，也可以是随机量。
点估计：对待定参量只给出单个估计值。
区间估计：给出待定参数的可能取值范围及置信度。
(置信度、置信区间) 波形估计：根据观测样本对被噪声污染的信号波形进行估计。
预测、滤波、平滑三种基本方式。
✓ 已知分布的估计✓ 分布未知或不需要分布的估计。
✓ 估计方法取决于采用的估计准则。
2. 估计器的性能评价✧ 无偏性：估计的统计均值等于真值。
✧ 渐进无偏性：随着样本量的增大估计值收敛于真值。
✧ 有效性：最小方差与实际估计方差的比值。
✧ 有效估计：最小方差无偏估计。
达到方差下限。
✧ 渐进有效估计：样本量趋近于无穷大时方差趋近于最小方差的无偏估计。
✧ 一致性：随着样本量的增大依概率收敛于真值。
✧ Cramer-Rao 界： 其中为Fisher 信息量。
3. 最小均方误差准则模型：假定： 是观测样本，它包含了有用信号 及干扰信号 ，其中 是待估计的信号随机参数。
根据观测样本对待测参数作出估计。
最小均方误差准则：估计的误差平方在统计平均的意义上是最小的。
即使达到最小值。
此时 从而得到的最小均方误差估计为： 即最小均方误差准则应是观测样本Y 一定前提下的条件均值。
需借助于条)()(1αα-≥F V ⎪⎭⎪⎬⎫⎪⎩⎪⎨⎧⎥⎦⎤⎢⎣⎡∂∂=⎭⎬⎫⎩⎨⎧∂∂-=2212122);,(ln );,(ln )(αααααm m y y y p E y y y p E F )(),()(t n t s t y +=θ)(t n T N ),,,(21θθθθ=),(θts {}{})ˆ()ˆ()ˆ,(2θθθθθθ--=T E e E {}0)ˆ,(ˆ2=⎥⎦⎤⎢⎣⎡=MSE e E d d θθθθθθθθθd Y f Y MSE )|()(ˆ⎰=件概率密度求解，是无偏估计。
