第1章随机信号概论特征函数随机过程统计特性
- 格式:doc
- 大小:383.50 KB
- 文档页数:8
第一章随机过程 的基本概念与基本类型 一.随机变量及其分布X ,分布函数 F (x) P(X x) 1.随机变量 离散型随机变量 X 的概率分布用分布列 p P(X x k ) F(x)p kf (t)dt分布函数kxX 的概率分布用概率密度 f (x)F(x)分布函数连续型随机变量 2.n 维随机变量 X (X ,X , , X ) 1 2 n F(x) F(x ,x , ,x ) P(X x , X 2 x , , X n x n ,)其联合分布函数 1 2 n 1 1 2 离散型联合分布列连续型联合概率密度3.随机变量 的数字特征 数学期望:离散型随机变量 XEX x p kkXEX xf (x)dx连续型随机变量2DX E(X EX) 2 EX (EX) 2方差:反映随机变量取值 的离散程度协方差(两个随机变量 X ,Y ):B E[( X EX)(Y EY)] E(XY) EX EYXYB XY相关系数(两个随机变量X,Y ):0,则称 X ,Y 不相关。
若XYDX DY独立不相关itXg(t) E(e )itxe p k 连续 g(t)ke itxf (x)dx4.特征函数离散 g(t) 重要性质: g(0) 1,g(t) 1 g( t) g(t),, g (0) i EX kk k5.常见随机变量 的分布列或概率密度、期望、方差 0-1分布 二项分布P( X 1) p,P( X 0) qEX pDX pqP(X k) C p q n kk kEX npDX n p qnk泊松分布P( X k) ek!EXDX均匀分布略( x a)21 2N(a, ) f (x)222EX a正态分布eDX2xe ,x 0 0, x 011指数分布f (x)EXDX2X (X ,X , ,X ) 的联合概率密度 X ~ N(a, B) 6.N维正态随机变量1 2 n11 2T 1(x a) B (x a)}f (x , x , , x n ) exp{ 11 2n 2(2 ) | B |2a (a ,a , ,a ), x (x , x , ,x ), B (b ) 正定协方差阵 1 2 n 1 2 n ij n n二.随机过程 的基本概念 1.随机过程 的一般定义设 ( , P)是概率空间, T 是给定 的参数集,若对每个 t T ,都有一个随机变量 X 与之对应, X(t,e),t T ( , 是P)上 的随机过程。
随机信号特征函数
随机信号的特征函数是描述随机信号统计特性的一种重要工具,它是随机变量的概率密度函数的傅里叶变换。
特征函数在随机信号的分析和处理中扮演着重要的角色,因为它能够揭示随机信号的频率特性和统计规律。
对于随机信号X(t),其特征函数定义为Φ(ω) = E[exp(jωX(t))],其中E[]表示数学期望,j是虚数单位,ω是角频率。
特征函数Φ(ω)是一个复值函数,其模值和相位分别表示了随机信号的幅度和相位特性。
特征函数具有一些重要的性质,如:
特征函数在原点处的值为1,即Φ(0) = 1;
如果随机信号是实值的,则其特征函数是共轭对称的,即Φ(-ω) = Φ*(ω);
特征函数的模平方等于随机信号的概率密度函数的傅里叶变换,即|Φ(ω)|^2 = F[p(x)],其中F[]表示傅里叶变换,p(x)是随机信号X(t)的概率密度函数。
特征函数在随机信号的分析和处理中有广泛的应用,如随机信号的谱分析、随机过程的滤波和预测等。
通过特征函数,我们可以更加深入地了解随机信号的统计特性和频率特性,为随机信号的处理和应用提供更加有效的工具和方法。
需要注意的是,以上内容仅适用于连续时间的随机信号。
对
于离散时间的随机信号,其特征函数的定义和性质会有所不同,需要根据具体情况进行分析和处理。
同时,特征函数只是描述随机信号统计特性的一种工具,其具体应用还需要结合实际情况和信号处理的目标来进行选择和优化。
第一章信号及其描述⏹信号的分类与描述⏹周期信号与离散频谱⏹瞬变非周期信号与连续频谱⏹随机信号基本概念1⏹随机信号的特点⏹无确定的数学表达式,不可预测,任意观测值只代表在其变动范围中可能产生的结果之一,其值变动服从统计规律⏹描述方法⏹概率和统计的方法基本概念1⏹样本函数与样本记录⏹随机过程基本概念2⏹集合平均与算术平均⏹随机过程中的各种平均值(均值、方差、均方值、均方根值)是按集合平均来计算的⏹随机过程---平稳随机过程+非平稳随机过程⏹平稳随机过程:统计特征参数不随时间而变化⏹各态历经随机过程:在平稳随机过程中,任一单个样本函数的时间平均统计特征等于该过程的集合平均统计特征为什么要研究随机信号?随机过程的主要特征参数(各态历经随机信号)⏹均值、方差、均方值⏹概率密度函数⏹自相关函数⏹功率谱密度函数各态历经随机信号之------⏹均值μx —表示信号的常值分量⏹方差σx 2—描述信号的波动分量,σx 称为标准偏差⏹均方值ψx 2—描述随机信号的强度,均方根值x rms ()dt t x TT T x ⎰∞→=01lim μ()[]dt t x T x T x 202lim ⎰-=∞→μσ()dt t x T T T x⎰∞→=0221lim ψX(t)---样本函数T ---观测时间三者之间的关系 均值、方差、和均方值的相互关系是222xx x μσ-=ψ对于集合平均,t1时刻的均值和均方值为概率密度函数1定义:随机信号的概率密度函数是表示信号幅值落在指定区间内的概率。
当样本函数的记录时间趋于无穷大时,的比值就是幅值落在区间(x , x +Δx )的概率率。
T T x ()[]x x t x x P r ∆+≤<概率密度函数2 定义幅值概率密度函数为()()[]xx x t x x P x p r x ∆∆+≤<=→∆0lim 概率密度函数提供了随机信号幅值分布的信息,是随机信号的主要特征参数之一.四种随机信号及其概率密度函数正弦信号(初始相角为随机量)正弦信号加随机噪声窄带随机噪声宽带随机噪声样本参数、参数估计和统计采样误差⏹样本参数⏹从截取的有限时间的样本记录计算出的相应的特征参数;用此作为随机信号特征参数的估计值⏹显然样本参数是随机变量,因为它随所采用的样本记录而异⏹均值、均方值的估计注意:用集合平均计算随机信号的特征参数时存在同样的问题统计采样误差⏹定义⏹以上述估计值作为随机信号的特征参数所带来的误差⏹其大小与样本记录的长度、样本记录的数目有关概率密度函数•在多次估计过程中,估计值和被估计参数的关系如图统计采样误差2⏹统计采样误差可用均方误差来描述,均方误差定义为⏹展开后得到⏹其中前者描述统计采样误差中的随机部分,其大小表达概率分布曲线的宽窄,后者描述误差中的系统误差,与估计方法有关分析结论用上述估计方法来估计随机信号的均值和方差时,其偏度误差为零;其随机误差(方差)则与样本记录长度T 的平方根成反比;即随机误差要减小一半,T 就必须增加四倍。
1・4随机变量的特征函数引言:分布函数:反映随机变量的统计规律性。
数字特征:反映、掌握分布函数的某些特征。
矩是最主要的特征,但随着矩的阶数的增高,计算机较麻烦,寻求一种有效的方法来计算。
特别是计算、处理多个随机变量,特征函数特征函数:一种计算各阶矩的有效工具。
显示其优越性一。
1. 4. 1特征函数的定义⑴设X是定义在概率空间(S,F,P)上的随机变量,它的分布函数为F(x),称的数学期望E(e juX)为X的特征函数,记为C x(u)。
当X为离散型随机变量时,其特征函数为:C x(u)二E(e juX) = ' e juXi P(X 二X i)y当X为连续型随机变量时,其特征函数为:C X(U)二E(e juX)= ;e jux p(x)dx(2) 利用特征函数求概率密度函数1 -be .p(x) e"C x(u)du2兀皿证明:利用傅里叶变换与反变换关系可证明。
举例:例1 :求标准正态分布N(0,1)的特征函数。
_ 2讼4 上_C x(u)二E(e juX)「二2e 2e jux dx 二1. 4. 2特征函数的性质⑴ C x(u) <1C x(0) =1⑵两两相互独立的随机变量之和的特征函数等于各个随机变量的特征函数之积,即:n若Y = 7 X k,式中X1,X2/ X n为n个两两相互独立的随机变量,则k ±n(u)C Y(U)二'C x kk 1(3) 求矩公式:1. 4. 3 特征函数应用举例函数。
解:用特征函数方法是最简单的方法。
因为 X ~ N(0,1),所以 C x (u) 由于X 与Y 相互独立,于是2C z (u)二C X (U )C Y (U )即:Z ~ N (0,2)例2:设随机变量X在(一玮)是均匀分布的,即I 1Px(X )-■■:$Y =sin X ,求Y 的概率密度函数。
解:C Y (U ) — _ e juy p Y (y)dyE(X k)=(一『护6 (u)k — u=°(du)(4) 特征函数的级数展开C x (u)八 EX)®)n=0n!例1.设X 与Y 都服从标准正态分布N (0,1), 且相互独立,Z = X Y 求Z 的概率密度二e 2,同样,C Y (u) = e 2-be .e-ux 」二C Z (u)due 『du 二 1 e2飯'4ji x — 2其它C Y (U )=P x (x)dx =juY ju sin Xju sin xC Y (U )二E(e j ) = E(e j厂=e j P x (x)dxr - ju sin x e-=Oejuy-41. 5随机过程的概念及分类引言:随机变量是不确定事件的量化函数,变量X 由样本点s 决定,但同时X 还随时间t变化而变化,即: X =X(t,s),简记为X =X(t)。
第一章随机变量基础1 历史上哪些学者对随机过程学科的基础理论做出了突出贡献?答: 随机过程整个学科的理论基础是由柯尔莫哥洛夫和杜布奠定的。
这一学科最早源于对物理学的研究,如吉布斯、玻尔兹曼、庞加莱等人对统计力学的研究,及后来爱因斯坦、维纳、莱维等人对布朗运动的开创性工作。
1907 年前后,马尔可夫研究了一系列有特定相依性的随机变量,后人称之为马尔可夫链。
1923 年维纳给出布朗运动的数学定义,直到今日这一过程仍是重要的研究课题。
随机过程一般理论的研究通常认为开始于20 世纪30 年代。
1931 年,柯尔莫哥洛夫发表了《概率论的解析方法》,1934 年A·辛饮发表了《平稳过程的相关理论》,这两篇著作奠定了马尔可夫过程与平稳过程的理论基础。
1953 年,杜布出版了名著《随机过程论》,系统且严格地叙述了随机过程基本理论。
2 全概率公式的含义?答:全概率公式的含义就是各种可能发生的情况的概率之和为1。
3 概率空间有哪几个要素,其概念体现了对随机信号什么样的建模思想?答:样本空间、事件集合、概率函数称为概率空间的三要素。
概率函数建立了随机事件与可描述随机事件可能性大小的实数间的对应关系,因此,概率空间是在观测者观测前对随机事件发生的可能性大小进行了量化,其有效性是通过多次观测体现出来的,也即在多次观测中,某个随机事件发生的频率可直接认为与其发生的概率相等,所以,概率空间的建模思想实际是对大量观测中某随机事件发生频率的稳定性的描述。
4 可用哪些概率函数完全描述一个随机变量?答:概率分布函数(cdf)、概率密度函数(pdf )、特征函数(cf)、概率生成函数(gf)。
5 可用哪些数字特征部分描述一个随机变量?答:均值、方差、协方差、相关系数和高阶矩。
6 随机变量与通常意义上的变量有何区别与联系?答:随机变量具有通常意义上的变量的所有性质和特征(即变量特性),还增加了变量取每个值的可能性大小的描述(即概率特性)。
1.4 随机变量的特征函数引言:分布函数:反映随机变量的统计规律性。
数字特征:反映、掌握分布函数的某些特征。
矩是最主要的特征,但随着矩的阶数的增高,计算机较麻烦,寻求一种有效的方法来计算。
特征函数:一种计算各阶矩的有效工具。
特别是计算、处理多个随机变量,特征函数显示其优越性一。
1.4.1 特征函数的定义(1) 设X 是定义在概率空间),,(P F S 上的随机变量,它的分布函数为)(x F ,称juXe 的数学期望)(juXeE 为X 的特征函数,记为)(u C X 。
当X 为离散型随机变量时,其特征函数为:∑∞====1)()()(i i jux juXX x X P e eE u C i当X 为连续型随机变量时,其特征函数为:⎰+∞∞-==dx x p e e E u C jux juX X )()()((2) 利用特征函数求概率密度函数⎰+∞∞--=du u C e x p X jux )(21)(π证明:利用傅里叶变换与反变换关系可证明。
举例:例1:求标准正态分布)1,0(N 的特征函数。
222221)()(u jux x juX X edx e ee E u C -∞+∞--===⎰π1.4.2 特征函数的性质 (1) 1)(≤u C X 1)0(=X C(2) 两两相互独立的随机变量之和的特征函数等于各个随机变量的特征函数之积,即:若∑==nk kXY 1,式中n X X X Λ,,21为n 个两两相互独立的随机变量,则∏==nk X Y u C u C k 1)()((3) 求矩公式:)()()()(=-=u kX k kkdu u C d j X E(4) 特征函数的级数展开∑∞==0!)()()(n nnX n ju X E u C1.4.3 特征函数应用举例例1.设X 与Y 都服从标准正态分布)1,0(N ,且相互独立,Y X Z +=求Z 的概率密度函数。
解:用特征函数方法是最简单的方法。
因为)1,0(~N X,所以22)(u X e u C -=,同样,22)(u Y eu C -=由于X 与Y 相互独立,于是2)()()(u Y X Z e u C u C u C -== 4222121)(21)(z u jux Z jux Z edu e e du u C e x p -∞+∞---∞+∞--===⎰⎰πππ即:)2,0(~N Z例2:设随机变量X 在)2,2(ππ-是均匀分布的,即 ⎪⎩⎪⎨⎧<<-=其它221)(πππx x p XX sin Y =,求Y 的概率密度函数。
解:⎰+∞∞-==dy y p e u C Y juy Y )()(⎰+∞∞-===dx x p e e E e E u C X x ju X ju juY Y )()()()(sin sindx y xdx dy 21cos -==, 21y dy dx -=⎰⎰+-+∞∞--==112sin 11)()(y dye dx x p eu C juyX xju Y π⎪⎩⎪⎨⎧≤-=其它111)(2y y y p Y π1.5 随机过程的概念及分类引言:随机变量是不确定事件的量化函数,变量X 由样本点s 决定,但同时X 还随时间t 变化而变化,即:),(s t X X =,简记为)(t X X =。
更一般地,在试验过程中,随机变量有可能随某个参量(不一定是时间t )的变化而变化。
我们把这种随某个参量而变化的随机变量统称为随机函数,而把以时间t 作为参变量的随机函数称为随机过程。
1.5.1 随机过程的定义定义1:设随机试验的样本空间是S ,若对于每个元素S s ∈,总有一个确定的时间函数),(s t X X =,T t ∈与它相对应。
这样对于所有的S s ∈,就可以得到一族时间t 的函数,将其称为随机过程。
定义2:对于每个特定的时间0t ,),(0s t X X =都是随机变量,则称),(s t X X =是随机过程。
对随机过程的理解:在以t 为横轴,X 为纵轴的坐标系中,)(t X X =表现为有一定统计规律的曲线族(多条曲线,主要原因是因为s 的取值不同)。
当t 固定在0t 时,X 可随机地取值(有分布规律性)。
如图:具体有四种不同的情况:(1) 当t ,s 都是可变量时,)(t X X =是时间函数族;(2) 当t 是可变量,s 固定时,)(t X X =是一个确定的时间函数; (3) 当t 固定,s 是可变量时,)(t X X =是一个随机变量; (4) 当t 固定,s 固定时,)(t X X =是一个确定值。
1.5.2随机过程的分类一、 按时间和状态分:(时间:t 的取值情况,状态:X 的取值情况。
) ①连续型随机过程:当t 固定时,)(t X X =是连续型随机变量。
②离散型随机过程:当t 固定时,)(t X X =是离散型随机变量。
③连续型随机序列:当t 取定时,)(t X X =是连续型随机变量,但t 只等间距取有限或可数个值。
④离散型随机序列:当t 取定时,)(t X X =是离型随机变量,但t 只等间距取有限或可数个值。
二、 按样本函数的形式分:①不确定随机过程:如果任意样本函数的未来值,不能由过去观测值准确预测。
②确定的随机过程:如果任意样本函数的未来值,可以由过去观测值准确预测。
即只要初值确定,其它值便确定,如)sin()(Φ+=t A t X ω 。
三、按随机过程的统计特性、分布函数的不同进行分类 ① 平衡随机过程 ② 高斯过程 ③ 马尔可夫过程 ④ 独立增量过程1.6 随机过程的统计特征当t 的取定后,)(t X 是一随机变量。
对于随机变量,要研究它的三大要素:分布函数(概率密度)、数字特征(期望、方差)、特征函数。
1.6.1 随机过程的概率分布一、一维概率分布设随机过程)(t X 在任一特定时刻t 的取值)(t X 是一维随机变量,记))((),(x t X P t x F X ≤=称),(t x F X 为随机过程)(t X 的一维分布函数。
如果),(t x F X 对于x 的偏导数存在,则有xt x F t x p X X ∂∂=),(),( 称),(t x p X 为随机过程)(t X 的一维概率密度。
二、二维概率分布设随机过程)(t X 在任意两个时刻1t 、2t 的取值)(1t X 和)(2t X 构成二维随机变量()(1t X ,)(2t X ),它们的联合概率))(,)((2211x t X x t X P ≤≤是取值1x 、2x 和时刻1t 、2t 的函数,记))(,)((),,,(22112121x t X x t X P t t x x F X ≤≤=称),,,(2121t t x x F X 为随机过程)(t X 的二维分布函数。
如果),,,(2121t t x x F X 对于1x 、2x 的二阶混合偏导数存在,则有21212122121),,,(),,,(x x t t x x F t t x x p X X ∂∂∂=称),,,(2121t t x x f X 为随机过程)(t X 的二维概率密度。
三、多维概率分布设随机过程)(t X 在任意两个时刻1t ,2t ……n t 的取值)(1t X ,)(2t X ……)(n t X 构成多维随机变量()(,)(),(21n t X t X t X Λ),它们的联合概率))()(,)((2211n n x t X x t X x t X P ≤≤≤Λ是取值1x ,2x ,……n x 和时刻1t ,2t ,……n t 的函数,记))(,)(,)((),,,,,(22112121n n n n X x t X x t X x t X P t t t x x x F ≤≤≤=ΛΛΛ称),,,,,(2121n n X t t t x x x F ΛΛ为随机过程)(t X 的多维分布函数。
如果),,,,,(2121n n X t t t x x x F ΛΛ对于1x ,2x ,……n x 的n 阶混合偏导数存在,则有nn n X n n n X x x x t t t x x x F t t t x x x p ∂∂∂∂=ΛΛΛΛΛ2121212121),,,,,(),,,,,( 称),,,,,(2121n n X t t t x x x p ΛΛ为随机过程)(t X 的多维概率密度。
1.6.2 随机过程的数字特征一、数学期望随机过程)(t X 当0t t =(取定)时,)(0t X 是一随机变量,因此可以计算数学期望。
定义:⎰+∞∞-==dx t x xp t X E t m X X ),())(()(称为随机过程)(t X 的数学期望,它是时间t 的确定函数。
数学期望的几何描述:曲线族的中轴线。
如图:二、均方值与方差定义:随机过程)(t X 的二阶原点矩定义为⎰+∞∞-==dx t x p x t X E t X),())(()(222α称)(2t X α为随机过程)(t X 的均方值。
二阶中心矩记作)(2t X σ,⎰+∞∞--=-==dx t x p t m x t m t X E t X D t X X X ),())(())()(())(()(222σ称之为随机过程)(t X 的方差。
方差的几何描述。
称)()()(0t m t X t X X -=为中心化的随机过程。
三、自相关函数两个随机过程)(t X 和)(t Y 可以有相同的期望和方差,但可以是完全不同类型的随机过程。
自相关函数(简称相关函数)就是用来描述随机任意两个时刻的状态之间的内存联系的重要特征。
定义:实随机过程)(t X 的自相关函数),(21t t R X 定义为212121212121),,,())()((),(dx dx t t x x p x x t X t X E t t R X X ⎰⎰+∞∞-+∞∞-=⋅=它反映了)(t X 在任意两个时间21,t t 的状态之间的相关程度。
如果t t t ==21,则))((),(),(221t X E t t R t t R X X ==实随机过程)(t X 的自协方差函数),(21t t K X 定义为))()())(()(())()((),(2211201021t m t X t m t X E t X t X E t t K X X X --=⋅=当t t t ==21时,)(),(),(221t t t K t t K X X X σ==1.7 随机过程的特征函数一、一维特征函数随机过程在任一时刻t 的取值)(t X 是一维随机变量。
)(t X 的特征函数定义为:⎰+∞∞-==dx t x p e eE t u C X jux t juX X ),()(),()(式中,),(t x p X 为过程)(t X 的概率密度函数。