中科院 现代数字信号处理课件-完全版
- 格式:ppt
- 大小:10.78 MB
- 文档页数:701
首席教授 邹谋炎, 主讲教师 刘艳: 中科院大学“现代信号处理”课程材料(二)随机过程和统计估计2.9 参数估计经典参数估计问题:给定:概率分布模型 ,是待估计的参数(向量,例如));(θx p θT],[σμ=θ N个观测数据N X X X ,,,21L 估计问题:估计参数θ经典估计方法1:矩量法(1)用观测数据计算1 到 k 阶样本矩: ∑===Ni rir kr XNm 1,,2,1 ,1L(2)令样本矩=理论矩,即得到各个估计量,例如11m =μ;22m =μ;… ; k k m =μ, 以及2122μμσ−=经典估计方法2:最大似然法假定N 个观测数据 皆由独立试验获得,联合似然函数为最大似然法是关于参数求似然函数最大时的参数值。
通常概率模型有指数函数的形式,可以先将似然函数取对数,再找最大化点。
具体地,是记N X X X ,,,21L ∏=Ni ip 1);(θx θ);(θx i p∑∏====Ni i N i i p p L 11);(ln ));(ln()(θx θx θ令 Mm L m,,2,1 ,0)(L ==∂∂θθ,M 是模型中参数个数,即向量的长度。
解这M 个方程,得到各个参数的估计。
);(θx i p θBayes 估计一类特别重要的估计,许多重要的估计方法都由此派生出来。
在 Bayes 估计中,将未知参数θ作为随机量。
定义一个表征估计量 误差的价格函数。
例如 θˆ)ˆ(θθ−C)ˆ(θθ−C θ=, =, 等等。
已知观测 X 的条件下, 随机量 的条件密度记为 , 称为 的后验概率密度。
积分2||ˆ||θθ−)|(x θp ∫)(θC =arg{=expect θ)ˆ(θθ−C ˆexp θ)ˆ(θθ−C θ−()ˆ(θθp ∫∫)()(ˆ[min x C θθ∫(ˆmin arg{θ2|ˆ|θθ−()(θθp =∫θ|ˆ|θθ−d )|θx −)ˆ(θθ−)ˆ(θθC :d )|θx =θθ是价格函数的条件期望值。