下载文档原格式
概率论_特征函数特征函数（characteristic function）是概率论中一个非常重要的工具，它能够完全描述一个随机变量的分布，并且可以用来推导和证明一系列的性质和定理。
特征函数具有许多重要的性质，如唯一决定定理、独立性的性质、收敛性的性质等。
特征函数的定义如下：对于一个随机变量X，它的特征函数$\varphi(t)$定义为$E[e^{itX}]$，其中 i 是复数单位，t 是实数。
特征函数是关于 t 的复数函数，其实部和虚部分别是 $\cos(tx)$ 和$\sin(tx)$。
特征函数的一个重要性质是唯一决定性（uniqueness），即对于一个分布，它的特征函数是唯一确定的，并且确定了分布的所有性质。
这一性质使得特征函数成为一种描述概率分布的有效工具。
对于连续分布，特征函数可以通过概率密度函数和积分的关系得到，对于离散分布，特征函数可以通过概率质量函数和求和的关系得到。
另一个重要的性质是独立性的性质。
如果两个随机变量 X 和 Y 是独立的，那么它们的特征函数的乘积等于它们各自的特征函数的乘积。
即$\varphi_{X+Y}(t)=\varphi_X(t)\varphi_Y(t)$。
这个性质可以用来推导和证明随机变量的和的分布。
特别地，如果 X 和 Y 是独立同分布的，那么它们的特征函数的乘积等于它们特征函数的平方。
特征函数还有一个重要的性质是收敛性的性质。
对于一个随机变量序列X₁,X₂,...，如果它们的特征函数逐点收敛于一个函数，那么这个函数也是一个随机变量的特征函数，且收敛到的分布是弱收敛的。
这个性质可以用来证明中心极限定理等重要的结果。
特征函数在概率论和统计学中有广泛的应用。
它被用来推导和证明许多重要的定理，如中心极限定理、大数定律、极限理论等。
它还可以用来计算随机变量的矩、协方差、相关系数等统计量，并且可以用来推导各种分布族的性质。
特征函数的计算通常比较简单，只需计算指数函数的期望。
常见分布的特征函数特征函数概述特征函数是概率论和数理统计中的常用概念，它是一个复数函数，描述了随机变量的特征信息。
对于一个随机变量X，它的特征函数f(t)定义为：f(t) = E[e^(itX)]，其中i为虚数单位，E为期望运算符。
特征函数不仅对概率密度函数具有很好的描述和表达作用，还可以描述随机变量的各种性质，比如分布、矩和相关系数等。
下面将具体介绍几种常见的分布的特征函数。
1.正态分布正态分布是自然界中多种现象的分布模式，其概率密度函数在数学上也能很好地描述为高斯函数。
其特征函数如下：f(t) = e^(-t^2/2)该特征函数具有良好的解析性质和奇偶性质，能很好地反映正态分布的对称性和峰态。
2.泊松分布泊松分布是描述单位时间内某个随机事件发生次数的概率分布，例如单位时间内打进一个电话亭电话而来的电话数量、在网球场内接到的球的数量等。
其特征函数如下：f(t) = e^(λ(e^(it)-1))其中λ为单位时间内事件发生的平均次数。
3.指数分布指数分布是描述随机事件发生的时间间隔的概率分布，例如寿命、等待时间、顾客到达时间等。
其特征函数如下：f(t) = 1 / (1-it/λ)，其中λ为事件发生的平均速率。
4.卡方分布卡方分布是应用最广泛的概率分布之一，常用于分析样本差异性和偏离程度，例如方差分析、偏度分析、正态性检验等。
其特征函数如下：f(t) = (1-2it)^(-k/2)其中k为自由度。
5. beta分布beta分布是应用广泛的概率分布之一，常用于贝叶斯统计、假设检验、数据挖掘等领域。
其特征函数如下：f(t) = B(a+it,b-it) / B(a,b)其中B(a,b)表示beta函数，a,b为形状参数。
上述几种分布是常见的概率分布，它们的特征函数形式各不相同，但都能很好地反映分布的各种性质和特点，为进一步分析和研究提供了便利。
常用分布函数及特征函数常用的分布函数及特征函数主要包括正态分布、伯努利分布、二项分布、泊松分布、指数分布和卡方分布等。
下面将分别对这些分布函数及其特征函数进行介绍。
1. 正态分布（Normal Distribution）正态分布是以均值μ和方差σ²为参数的连续概率分布。
其概率密度函数为：f(x)=1/(σ*√(2π))*e^(-(x-μ)²/(2σ²))正态分布的特征函数为：φ(t) = e^(itμ - (σ²t²)/2)，其中i为虚数单位。
2. 伯努利分布（Bernoulli Distribution）伯努利分布是一种离散概率分布，用于描述只有两种结果（成功或失败）的随机试验。
其概率函数为：P(X=k)=p^k*(1-p)^(1-k)，k=0或1伯努利分布的特征函数为：φ(t) = 1-p + pe^(it)3. 二项分布（Binomial Distribution）二项分布是描述n重伯努利试验中成功次数的离散概率分布。
其概率函数为：P(X=k)=C(n,k)*p^k*(1-p)^(n-k)，k=0,1,...,n二项分布的特征函数为：φ(t) = (p*e^(it) + 1-p)^n4. 泊松分布（Poisson Distribution）泊松分布是用于描述单位时间（或单位空间）内随机事件发生次数的离散概率分布。
其概率函数为：P(X=k)=(λ^k*e^(-λ))/k!泊松分布的特征函数为：φ(t) = e^(λ*(e^(it)-1))5. 指数分布（Exponential Distribution）指数分布是描述连续随机事件发生时间间隔的概率分布。
其概率密度函数为：f(x)=λ*e^(-λx)，x>=0指数分布的特征函数为：φ(t) = λ/ (λ-it)6. 卡方分布（Chi-square Distribution）卡方分布是描述标准正态分布随机变量平方和的概率分布。
特征函数与分布函数的关系
特征函数是概率论与数理统计中的一种重要工具，用于描述随机变量的性质。
它与分布函数密切相关，二者之间有着紧密的联系。
特征函数是指随机变量的复数形式的期望函数，即
E[e^(itX)]，其中i为虚数单位，t为实数。
它的意义在于，对于任意的t，特征函数都能唯一地描述随机变量X的各种特性，如分布、均值、方差、偏度、峰度等。
特别地，当t=0时，特征函数的值为1，表示随机变量的期望为1。
分布函数是指随机变量取值不超过某个数值时的概率，即
F(x)=P(X<=x)。
它描述了随机变量的取值范围及其概率分布情况。
在统计分析中，分布函数经常用于推断某个事件发生的可能性大小。
特征函数与分布函数的关系可以用逆傅里叶变换来描述。
具体来说，若X的特征函数为φ(t)，则X的分布函数为
F(x)=1/2π∫φ(t)e^(-itx) dt。
反之，若X的分布函数为F(x)，则X的特征函数为φ(t)=∫e^(itx) dF(x)。
这表明，特征函数和分布函数是一一对应的关系，可通过逆傅里叶变换相互转换。
在实际应用中，特征函数与分布函数的关系可用于求解各种随机变量的概率密度函数、累积分布函数、期望值、方差等等。
它对于统计分析和数据建模具有重要的作用，是概率论与数理统计中不可或缺的基础工具。
特征函数的概念及意义目录：一．特征函数的定义。
二．常用分布的特征函数。
三．特征函数的应用。
四．绪论。
一．特征函数的定义设X 是一个随机变量，称 ()()itXe t E =ϕ, +∞<<∞-t ,为X 的特征函数.因为＝１Ｘit e ，所以()itX e E 总是存在的，即任一随机变量的特征函数总是存在的.当离散随机变量X 的分布列为() ,3,2,1,P p k ===k x X k ，则X 的特征函数为()∑+∞==1k k itx p e t k ϕ, +∞<<∞-t .当连续随机变量X 的密度函数为()x p ,则X 的特征函数为 ()()⎰+∞∞-=dx x p e t k itx ϕ, +∞<<∞-t .与随机变量的数学期望，方差及各阶矩阵一样，特征函数只依赖于随机变量的分布，分布相同则特征函数也相同，所以我们也常称为某分布的特征函数.二．常用分布的特征函数1、单点分布：().1P ==a X 其特征函数为 ().e t it a =ϕ2、10-分布：()(),10x p 1p x X P x1x =-==-，，其特征函数为()q pe t it +=ϕ，其中p 1q -=.3、泊松分布()λP ：()λλ-==e k k X P k！，k=0,1， ，其特征函数为()()∑+∞=---===0k 1e e kiktitit e e e e k et λλλλλϕ！. 4、均匀分布()b a U ,：因为密度函数为()⎪⎩⎪⎨⎧<<-=.;,0,1其他b x a a b x p所以特征函数为()()⎰--=-=b aiatibt itx a b it e e dx a b e x ϕ. 5、标准正态分布()1,0N ：因为密度函数为()2221x e x p -=π， +∞<<∞-x .所以特征函数为()()⎰⎰∞+∞-∞+∞-----∞==dxit x t x itx e edx e x 2222222121πϕ=⎰-∞+-∞----=ititt t t edz ee22222221π.其中⎰-∞+-∞--=ititx dz eπ222 .三．特征函数的应用1、在求数字特征上的应用求()2N σμ，分布的数学期望和方差. 由于()2N σμ，的分布的特征函数为()2t i 22et σμϕ=,于是由()k k k i 0ξϕE =得，()μϕξi 0i ′==E , ()22″220i σμϕξ--==E , 由此即得()222D σξξξμξ=E -E ==E ，.我们可以看出用特征函数求正态分布的数学期望和方差, 要比从定义计算方便的多.2、 在求独立随机变量和的分布上的应用利用归纳法, 不难把性质4推广到n 个独立随机变量的场合,而n21,ξξξ ，，是n 个相互独立的随机变量, 相应的特征函数为()()()∑==n 1i i n 21t t t ξξϕϕϕ，则，，， 的特征函数为()()∏==n1i i t t ϕϕ.设()n ,,21j j ，=ξ是n 个相互独立的，且服从正态分布()2N j j a σ，的正态随机变量.试求∑==n1j j ξξ的分布.由于j ξ的分布为()2N j j a σ，，故相应的特征为()222tia j j je t σϕ=.由特征函数的性质()()ξϕϕ可知∏==nj j t t 1的特征函数为()()21212221112t t a i n j nj tia j nj j nj j j jeet t ⎪⎪⎭⎫ ⎝⎛-⎪⎪⎭⎫ ⎝⎛==∑∑=====∏∏σσϕϕ.而这正是⎪⎪⎭⎫ ⎝⎛∑∑==n j j n j j a N 121,σ的特征函数.由分布函数与特征函数的一一对应关系即知ξ服从⎪⎪⎭⎫ ⎝⎛∑∑==n j j n j j a N 121,σ. 3、 在证明二项分布收敛于正态分布上的应用在n 重贝努力实验中，事件A 每次出现的概率为p(0<p<1)，n μ为n 次试验中事件A 出现的次数，则dt e x npq np P xt nn ⎰∞-∞→=⎪⎪⎭⎫ ⎝⎛<-2221lim πμ.要证明上述结论只需证明下面的结论，因为它是下面的结论一个特例. 若 ,,21ξξ是一列独立同分布的随机变量，且(),,2,1,0,22 =>==E k D a k k σσξξ则有dt e x nna P xt n k k n ⎰∑∞-=∞→=⎪⎪⎪⎪⎭⎫ ⎝⎛<-21221lim πσξ.证明 设a k -ξ的特征函数为(),t ϕ则∑∑==-=-nk k nk kn anna11σξσξ的特征函数为nn t ⎥⎦⎤⎢⎣⎡⎪⎭⎫ ⎝⎛σϕ又因为()(),,02σξξ=-=-E a D a k k 所以()()20,00σϕϕ-=''=' 于是特征函数()t ϕ有展开式()()()()()()222222112000t t t t t t οσοϕϕϕϕ+-=+''+'+=.从而对任意的t 有，∞→→⎥⎦⎤⎢⎣⎡⎪⎪⎭⎫ ⎝⎛+-=⎥⎦⎤⎢⎣⎡⎪⎭⎫ ⎝⎛-n e n t nt n t tn,2122222οσϕ. 而22t e-是()1,0N 分布的特征函数，由连续定理可知dt e x n na P xt n k k n ⎰∑∞-=∞→=⎪⎪⎪⎪⎭⎫ ⎝⎛<-21221lim πσξ.成立，证毕.我们知道在n 2221P lim μπμ中dt e x npq np xt n n ⎰∞-∞→=⎪⎪⎭⎫⎝⎛<-是服从二项分布.()n k q p C k p kn k k n n ≤≤==-0,μ.的随机变量，dt e x xt ⎰∞-∞→=⎪⎭⎫⎝⎛<-2221P lim πλλξλλ为“泊松分布收敛于正态分布” , 我们把上面的结论常常称为“ 二项分布收敛于正态分布”.4、在求某些积分上的应用我们知道⎰+∞-022dx e x x k 可以用递推法，现在我们用特征函数来解决随机变量ξ服从⎪⎭⎫ ⎝⎛21,0N ，其密度函数为：()21x e x p -=π，其特征函数为：()∑⎰∞+=-∞+∞--⎪⎭⎫ ⎝⎛-==⋅⋅=0241!41122i tit x itx i tedx e e t πϕξ， 故 ()()()() +++⎪⎭⎫⎝⎛-+⎪⎭⎫ ⎝⎛-=+!131241!!241212k t k k k t k kkξϕ ，所以 ()()()!!1221!!24102-⎪⎭⎫⎝⎛-=⎪⎭⎫ ⎝⎛-=k k k kkk ξϕ,由特征函数的性质 ()()()kk kk k i 2!!120222-=-=E ξϕξ，又 ⎰+∞-=E 0222dx e x x k kξ，故()⎰∞+∞-+--=122!!122k x k k dx e x .即 ()⎰∞++--=0122!!122k x k k dx e x四．结论从上面的内容可以看出：特征函数并不是一个抽象概念，在概率论与数理统计的许多问题中，无论是证明还是应用，通过构造特征函数，比如在求分布的数学期望和方差；在求独立随机变量和的分布上的应用，利用独立随机变量和的特征函数为特征函数的积性质推广，往往能使问题得到简化；在证明二项分布收敛于正态分布上的应用，可以从特例到一般问题，从而使问题迎刃而解；在求某些积分上的时候，可以通过构造特征函数使问题简单.。
常用的概率分布类型及其特征3．1 二点分布和均匀分布1、两点分布许多随机事件只有两个结果。
如抽检产品的结果合格或不合格；产品或者可靠随机事件变量只有两个取值，一般取0和1。
它服从的分布称两点分布。
其概率分布为：其中 Pk=P（ X=Xk），表示X取Xk值的概率：0≤P≤1。
X 的期望 E（X）=PX的方差 D（X）=P（1—P）2 、均匀分布如果连续随机变量X的概率密度函数 f（x）在有限的区间[a，b]上等于一个常布。
其概率分布为：X的期望 E（X）=（a+b）/2X的方差 D（X）=（b-a）2/123．2 抽样检验中应用的分布3．2．1 超几何分布假设有一批产品，总数为N，其中不合格数为d，从这批产品中随机地抽出n件格数X服从的分布称超几何分布。
X的分布概率为：X=0，1，……X的期望 E （ X ） =nd/NX 的方差 D （ X ） =（（nd/N）（（N-d）/N）（（ N-n）/N））（1/2）3．2．2 二项分布个阶乘，因而计算起来9超几何分布的概率公式可以写成阶乘的形式，共有成是超几何分布的一个简化。
假设有一批产品，不合格品率为P，从这批产品中随机地抽出n 件作为被检样分布为二项分布。
X的概率分布为：0<p<1n ，……， x=0，1=np）（X的期望 X E）1-p=np（ X的方差 D（X）3．2．3 泊松分布泊松分布比二项分布更重要。
我们从产品受冲击（指瞬时高电压、高环境应力实引入泊松分布。
假设产品只有经过一定的冲击次数后，产品才失效，又设这些冲击满（1）、两个不相重叠的时间间隔内产品所受冲击次数相互独立；（2）、在充分小的时间间隔内发生两次或更多次冲击的机会可忽略不计；（3）、在单位时间内发生冲击的平均次数λ（λ＞0）不随时间变化，即在时Δt 的起点无关。
冲击，它和则在[0，t]时间内发生冲击的次数X服从泊松分布，其分布概率为：X的期望 E（X）=λtX的方差 D（X）=λt假设仪表受到n次冲击即发生故障，则仪表在[0，t]时间内的可靠度为：。
多项分布的数学期望、协方差阵、特征函数及母函数多项分布的数学期望、协方差阵、特征函数及母函数 1一、定义与性质设 X 为随机变量， I 是一个包含 0 的 ( 有限或无限的 ) 开区间，对任意t ∈ I ，期望 E e t x 存在设X为随机变量，I是一个包含0的(有限或无限的)开区间，对任意t∈I，期望Ee^{tx}存在设X为随机变量，I是一个包含0的(有限或无限的)开区间，对任意t∈I，期望Eetx存在则称函数M X ( t ) = E ( e t X ) = ∫ − ∞ + ∞ e t x d F ( x ) , t ∈ I 为 X 的矩母函数则称函数M_{X}(t)=E(e^{tX})=\int_{-\infin}^{+\infin}e^{tx}dF(x),t∈I为X的矩母函数则称函数MX(t)=E(etX)=∫−∞+∞etxdF(x),t∈I为X的矩母函数设 X 为任意随机变量，称函数φ X ( t ) = E ( e i t X ) = ∫ − ∞ + ∞ e i t x d F ( x ) 为 X 的特征函数设X为任意随机变量，称函数\varphi_{X}(t)=E(e^{itX})=\int_{-\infin}^{+\infin}e^{itx}dF(x)为X的特征函数设X为任意随机变量，称函数φX(t)=E(eitX)=∫−∞+∞eitxdF(x)为X 的特征函数一个随机变量的矩母函数不一定存在，但是特征函数一定存在。
一个随机变量的矩母函数不一定存在，但是特征函数一定存在。
一个随机变量的矩母函数不一定存在，但是特征函数一定存在。
随机变量与特征函数存在一一对应的关系随机变量与特征函数存在一一对应的关系随机变量与特征函数存在一一对应的关系二、离散型随机变量的分布0、退化分布(Degenerate distribution)若 X 服从参数为 a 的退化分布，那么 f ( k ;a ) = { 1 , k = a 0 , k ≠ a 若X服从参数为a的退化分布，那么f(k;a)=\left\{\begin{matrix} 1,k=a \\ 0,k\neq a \end{matrix}\right. 若X服从参数为a的退化分布，那么f(k;a)={1,k=a0,k=a M ( t ) = e t a M(t)=e^{ta}M(t)=eta φ ( t ) = e i t a \varphi(t)=e^{ita}φ(t)=eita M ′ ( t ) = a e t a M'(t)=ae^{ta}M′(t)=aeta E X = M ′ ( 0 ) = a EX=M'(0)=aEX=M′(0)=a M ′ ′ ( t ) = a 2 e t a M''(t)=a^2e^{ta} M′′(t)=a2eta E X 2 = M ′ ′ ( 0 ) = a 2EX^2=M''(0)=a^2 EX2=M′′(0)=a2 D X = E X 2 − ( E X ) 2 = 0 DX=EX^2-(EX)^2=0 DX=EX2−(EX)2=01、离散型均匀分布(Discrete uniform distribution)若 X 服从离散型均匀分布 D U ( a , b ) , 则 X 分布函数为 F ( k ; a , b ) = ⌊ k ⌋− a + 1 b −a + 1 若X服从离散型均匀分布DU(a,b) ,则X分布函数为F(k;a,b)=\frac{\lfloor k\rfloor -a+1}{b-a+1} 若X服从离散型均匀分布DU(a,b),则X分布函数为F(k;a,b)=b−a+1⌊k⌋−a+1 则矩母函数M ( t ) = ∑ k = a b e t k P ( x = k ) 则矩母函数M(t)=\sum_{k=a}^{b} e^{tk}P(x=k) 则矩母函数M(t)=k=a∑betkP(x=k) = ( ∑ k = a b e t k ) 1 b − a + 1 =(\sum_{k=a}^{b} e^{tk})\frac{1}{b-a+1} =(k=a∑b etk)b−a+11 = e a t − e ( b + 1 ) t ( 1 − e t ) ( b − a + 1 ) =\frac{e^{at}-e^{(b+1)t}}{(1-e^{t})(b-a+1)} =(1−et)(b−a+1)eat−e(b+1)t 特征函数φ ( t ) = ∑k = a b e i t k P ( x = k ) 特征函数\varphi(t)=\sum_{k=a}^{b} e^{itk}P(x=k) 特征函数φ(t)=k=a∑beitkP(x=k) = ( ∑ k = a b e i t k ) 1 b −a + 1 =(\sum_{k=a}^{b} e^{itk})\frac{1}{b-a+1}=(k=a∑beitk)b−a+11 = e a i t − e ( b + 1 ) i t ( 1 − e i t ) ( b − a + 1 ) =\frac{e^{ait}-e^{(b+1)it}}{(1-e^{it})(b-a+1)}=(1−eit)(b−a+1)eait−e(b+1)it M ′ ( t ) = 1 b − a + 1 ( a e a t − ( b + 1 ) e ( b + 1 ) t ) ( 1 − e t ) + ( e a t − e ( b + 1 ) t ) e t ( e t − 1 ) 2M'(t)=\frac{1}{b-a+1}\frac{(ae^{at}-(b+1)e^{(b+1)t})(1-e^t)+(e^{at}-e^{(b+1)t})e^t}{(e^{t}-1)^{2}} M′(t)=b−a+11(et−1)2(aeat−(b+1)e(b+1)t)(1−et)+(eat−e(b+1)t)et t = 0 为M ′ ( t ) 的可去间断点，补充定义M ′ ( 0 ) = lim t → 0 M ′ ( t ) t=0为M'(t)的可去间断点，补充定义M'(0)=\lim_{t\rightarrow0}M'(t) t=0为M′(t)的可去间断点，补充定义M′(0)=t→0limM′(t) E X = M ′ ( 0 ) = lim t → 0 1 b − a + 1 ( a 2 e at − ( b + 1 ) 2 e ( b + 1 ) t ) ( 1 − e t ) + ( e at − e ( b + 1 ) t ) e t 2 ( e t − 1 ) e tEX=M'(0)=\lim_{t\rightarrow0}\frac{1}{b-a+1}\frac{(a^2e^{at}-(b+1)^2e^{(b+1)t})(1-e^t)+(e^{at}-e^{(b+1)t})e^t}{2(e^{t}-1)e^t}EX=M′(0)=t→0limb−a+112(et−1)et(a2eat−(b+1)2e(b+1)t)(1−et)+(eat−e(b+1)t) et = lim t → 0 1 b − a + 1 ( a 2 e a t − ( b +1 )2 e ( b + 1 ) t ) ( e − t − 1 ) + ( e a t − e ( b + 1 ) t ) 2 ( e t − 1 )=\lim_{t\rightarrow0}\frac{1}{b-a+1}\frac{(a^2e^{at}-(b+1)^2e^{(b+1)t})(e^{-t}-1)+(e^{at}-e^{(b+1)t})}{2(e^{t}-1)} =t→0limb−a+112(et−1)(a2eat−(b+1)2e(b+1)t)(e−t−1)+(eat−e(b+1)t) = lim t → 0 1 b − a + 1 ( a 3 e a t − ( b + 1 ) 3 e ( b + 1 ) t ) ( e − t − 1 ) − ( a 2 e a t −( b + 1 ) 2 e ( b + 1 ) t ) e − t + ( a e a t − ( b + 1 ) e ( b + 1 ) t ) 2 e t=\lim_{t\rightarrow0}\frac{1}{b-a+1}\frac{(a^3e^{at}-(b+1)^3e^{(b+1)t})(e^{-t}-1)-(a^2e^{at}-(b+1)^2e^{(b+1)t})e^{-t}+(ae^{at}-(b+1)e^{(b+1)t})}{2e^{t}} =t→0limb−a+112et(a3eat−(b+1)3e(b+1)t)(e−t−1)−(a2eat−(b+1)2e(b+1)t)e−t+(aeat−(b+1)e(b+1)t) = − a 2 + ( b + 1 ) 2 +a − (b + 1 ) 2 ( b − a + 1 ) =\frac{-a^2+(b+1)^2+a-(b+1)}{2(b-a+1)} =2(b−a+1)−a2+(b+1)2+a−(b+1) = − a 2 + ( b + 1 ) 2 2 ( b − a + 1 ) − 1 2 =\frac{-a^2+(b+1)^2}{2(b-a+1)}-\frac{1}{2}=2(b−a+1)−a2+(b+1)2−21 = ( b + 1 − a ) ( b + 1 +a ) 2 (b − a + 1 ) − 1 2 =\frac{(b+1-a)(b+1+a)}{2(b-a+1)}-\frac{1}{2}=2(b−a+1)(b+1−a)(b+1+a)−21 = b + 1 + a 2 − 1 2=\frac{b+1+a}{2}-\frac{1}{2} =2b+1+a−21 = b + a 2=\frac{b+a}{2} =2b+a 由于对M ′ ( t ) 求导得到M ′ ′ ( t ) ，再求M ′ ′ ( 0 ) 的方法比较繁琐，而我们只需要 t = 0 时 M 的二阶导数值，由于对M'(t)求导得到M''(t)，再求M''(0)的方法比较繁琐，而我们只需要t=0时M的二阶导数值，由于对M′(t)求导得到M′′(t)，再求M′′(0)的方法比较繁琐，而我们只需要t=0时M的二阶导数值，因此可以考虑使用 T a y l o r 公式计算M ′ ′ ( 0 ) 因此可以考虑使用Taylor公式计算M''(0) 因此可以考虑使用Taylor公式计算M′′(0) 令 1 − e t = u , t = 0 时 , u = 0 令1-e^t=u,t=0时,u=0 令1−et=u,t=0时,u=0 M ( t ) = e a t − e ( b + 1 ) t ( 1 − e t ) ( b − a + 1 )M(t)=\frac{e^{at}-e^{(b+1)t}}{(1-e^{t})(b-a+1)}M(t)=(1−et)(b−a+1)eat−e(b+1)t = 1 b − a + 1 u a −u b + 1 u =\frac{1}{b-a+1}\frac{u^a-u^{b+1}}{u}=b−a+11uua−ub+1 = 1 b − a + 1 1 + a 1 ! ( − u ) + a ( a − 1 ) 2 ! u 2 + a ( a − 1 ) ( a − 2 ) 3 ! ( − u 3 ) + o ( u 3 ) − 1 − b + 1 1 ! ( − u ) −( b + 1 ) b 2 ! u 2 − ( b + 1 ) b ( b − 1 ) 3 ! ( −u 3 ) − o ( u 3 ) u =\frac{1}{b-a+1}\frac{1+\frac{a}{1!}(-u)+\frac{a(a-1)}{2!}u^2+\frac{a(a-1)(a-2)}{3!}(-u^3)+o(u^3)-1-\frac{b+1}{1!}(-u)-\frac{(b+1)b}{2!}u^2-\frac{(b+1)b(b-1)}{3!}(-u^3)-o(u^3)}{u} =b−a+11u1+1!a (−u)+2!a(a−1)u2+3!a(a−1)(a−2)(−u3)+o(u3)−1−1!b+1(−u)−2!(b+1)bu2−3!(b+1)b(b−1) (−u3)−o(u3) = 1 b − a + 1 a 1 ! ( − u ) + a ( a −1 ) 2 ! u 2 + a ( a − 1 ) ( a − 2 ) 3 ! ( − u 3 ) + o ( u 3 ) − b + 1 1 ! ( − u ) − ( b + 1 ) b 2 ! u 2 − ( b + 1 ) b ( b − 1 ) 3 ! ( − u 3 ) u=\frac{1}{b-a+1}\frac{\frac{a}{1!}(-u)+\frac{a(a-1)}{2!}u^2+\frac{a(a-1)(a-2)}{3!}(-u^3)+o(u^3)-\frac{b+1}{1!}(-u)-\frac{(b+1)b}{2!}u^2-\frac{(b+1)b(b-1)}{3!}(-u^3)}{u} =b−a+11u1!a(−u)+2!a(a−1)u2+3!a(a−1)(a−2)(−u3)+o(u3)−1!b+1 (−u)−2!(b+1)bu2−3!(b+1)b(b−1)(−u3) = 1 b − a + 1 ( ( b + 1 − a ) + a ( a − 1 ) 2 ! u + a ( a − 1 ) ( a − 2 ) 3 ! ( − u 2 ) + o ( u 2 ) − ( b + 1 ) b2 ! u − ( b + 1 ) b ( b − 1 )3 ! ( − u 2 ) )=\frac{1}{b-a+1}((b+1-a)+\frac{a(a-1)}{2!}u+\frac{a(a-1)(a-2)}{3!}(-u^2)+o(u^2)-\frac{(b+1)b}{2!}u-\frac{(b+1)b(b-1)}{3!}(-u^2)) =b−a+11((b+1−a)+2!a(a−1)u+3!a(a−1)(a−2)(−u2)+o(u2)−2!(b+1)bu−3!(b+1)b(b−1)(−u2)) = 1 + a ( a − 1 ) − ( b + 1 ) b 2 ! ( b − a + 1 ) u + ( b +1 ) b ( b − 1 ) − a ( a − 1 ) ( a −2 )3 ! ( b −a + 1 ) u 2 + o ( u 2 ) =1+\frac{a(a-1)-(b+1)b}{2!(b-a+1)}u+\frac{(b+1)b(b-1)-a(a-1)(a-2)}{3!(b-a+1)}u^2+o(u^2) =1+2!(b−a+1)a(a−1)−(b+1)bu+3!(b−a+1)(b+1)b(b−1)−a(a−1)(a−2)u2+o(u2) 而 u = 1 − e t = − t − t 2 2 ! + o ( t 2 ) 而u=1-e^t=-t-\frac{t^2}{2!}+o(t^2) 而u=1−et=−t−2!t2+o(t2) 因此M ( t ) = 1 − a ( a − 1 ) − ( b + 1 ) b 2 ! ( b −a + 1 ) t − a ( a − 1 ) − (b + 1 ) b 2 ! ( b − a + 1 ) t 2 2 ! + ( b + 1 ) b ( b − 1 ) − a ( a − 1 ) ( a − 2 ) 3 ! ( b − a + 1 ) t 2 + o ( t 2 ) 因此M(t)=1-\frac{a(a-1)-(b+1)b}{2!(b-a+1)}t-\frac{a(a-1)-(b+1)b}{2!(b-a+1)}\frac{t^2}{2!}+\frac{(b+1)b(b-1)-a(a-1)(a-2)}{3!(b-a+1)}t^2+o(t^2) 因此M(t)=1−2!(b−a+1)a(a−1)−(b+1)bt−2!(b−a+1)a(a−1)−(b+1)b2!t2+3!(b−a+1)(b+1)b(b−1)−a(a−1)(a−2)t2+o(t2) 又因为M ( t ) = M ( 0 ) + M ′ ( 0 ) t + M ′ ′ ( 0 ) 2 ! t 2 + o ( t 2 ) 又因为M(t)=M(0)+M'(0)t+\frac{M''(0)}{2!}t^2+o(t^2) 又因为M(t)=M(0)+M′(0)t+2!M′′(0)t2+o(t2) 因此M ′ ( 0 ) = − a ( a − 1 ) − ( b + 1 ) b 2 ! ( b − a + 1 ) = a + b 2 因此M'(0)=-\frac{a(a-1)-(b+1)b}{2!(b-a+1)}=\frac{a+b}{2} 因此M′(0)=−2!(b−a+1)a(a−1)−(b+1)b=2a+b E X = M ′( 0 ) = a + b 2 EX=M'(0)=\frac{a+b}{2} EX=M′(0)=2a+b 而M ′ ′ ( 0 ) = 2 ! ∗ ( − a ( a − 1 ) − ( b +1 ) b 4 ( b − a + 1 ) + ( b + 1 ) b ( b − 1 ) − a ( a − 1 ) ( a −2 )3 ! ( b − a + 1 ) ) 而M''(0)=2!*(-\frac{a(a-1)-(b+1)b}{4(b-a+1)}+\frac{(b+1)b(b-1)-a(a-1)(a-2)}{3!(b-a+1)}) 而M′′(0)=2!∗(−4(b−a+1)a(a−1)−(b+1)b+3!(b−a+1)(b+1)b(b−1)−a(a−1)(a−2)) = a + b 2 + ( b + 1 − a ) ( b 2 + a b − b + a 2 − 2 a ) 3 ( b − a + 1 ) =\frac{a+b}{2}+\frac{(b+1-a)(b^2+ab-b+a^2-2a)}{3(b-a+1)} =2a+b+3(b−a+1)(b+1−a)(b2+ab−b+a2−2a) = a + b 2 + b 2 + a b − b + a 2 − 2 a 3=\frac{a+b}{2}+\frac{b^2+ab-b+a^2-2a}{3} =2a+b+3b2+ab−b+a2−2a = 2 a 2 + 2 b 2 + 2 a b + b − a 6 =\frac{2a^2+2b^2+2ab+b-a}{6} =62a2+2b2+2ab+b−a D X = E X 2 − ( E X ) 2 = M ′ ′ ( 0 ) − ( E X ) 2DX=EX^2-(EX)^2=M''(0)-(EX)^2DX=EX2−(EX)2=M′′(0)−(EX)2 = 2 a 2 + 2 b 2 + 2 a b + b − a 6 − a 2 + 2 a b + b 2 4=\frac{2a^2+2b^2+2ab+b-a}{6}-\frac{a^2+2ab+b^2}{4}=62a2+2b2+2ab+b−a−4a2+2ab+b2 = ( b − a + 1 ) 2 − 1 12 =\frac{(b-a+1)^2-1}{12} =12(b−a+1)2−12、伯努利分布/两点分布(Bernoulli distribution)若 X 服从伯努利分布 B ( 1 , p ) , 则 X 满足 P ( x = 1 ) = p , P ( x = 0 ) = 1 − p = q 若X服从伯努利分布B(1,p) ,则X满足P(x=1)=p, P(x=0)=1-p=q 若X服从伯努利分布B(1,p),则X满足P(x=1)=p,P(x=0)=1−p=q M ( t ) = p e t + 1 − p M(t)=pe^{t}+1-p M(t)=pet+1−p φ ( t ) = p e i t + 1 − p \varphi(t)=pe^{it}+1-pφ(t)=peit+1−p M ′ ( t ) = p e t M'(t)=pe^{t}M′(t)=pet E X = M ′ ( 0 ) = p EX=M'(0)=p EX=M′(0)=pM ′ ′ ( t ) = p e t M''(t)=pe^{t} M′′(t)=pet E X 2 = M ′ ′ ( 0 ) = p EX^{2}=M''(0)=p EX2=M′′(0)=p D X = E X 2 − ( E X ) 2 = p ( 1 − p ) DX=EX^{2}-(EX)^{2}=p(1-p) DX=EX2−(EX)2=p(1−p)3、二项分布(Binomial distribution)若 X 服从二项分布 B ( n , p ) , 则 X 满足 f ( k ; n , p ) = P ( x = k ) = C n k p k ( 1 − p ) n − k ( n 为整数 ) 若X服从二项分布B(n,p) ,则X满足f(k;n,p)=P(x=k)=C_{n}^{k}p^k(1-p)^{n-k} (n为整数) 若X 服从二项分布B(n,p),则X满足f(k;n,p)=P(x=k)=Cnkpk(1−p)n−k(n为整数) 因为服从二项分布的变量可以看作 n 个独立相同的服从伯努利分布的变量之和因为服从二项分布的变量可以看作n个独立相同的服从伯努利分布的变量之和因为服从二项分布的变量可以看作n个独立相同的服从伯努利分布的变量之和因此M ( t ) = ( p e t + 1 − p ) n 因此M(t)=(pe^{t}+1-p)^{n} 因此M(t)=(pet+1−p)n φ ( t ) = ( p e i t + 1 − p ) n \varphi(t)=(pe^{it}+1-p)^{n}φ(t)=(peit+1−p)n M ′ ( t ) = n p ( p e t + 1 − p ) n − 1 e t M'(t)=np(pe^{t}+1-p)^{n-1}e^{t}M′(t)=np(pet+1−p)n−1et E X = M ′ ( 0 ) = n pEX=M'(0)=np EX=M′(0)=np M ′ ′ ( t ) = n ( n − 1 )p 2 ( p e t + 1 − p ) n − 2 e 2 t + n p ( p e t + 1 − p ) n − 1 e t M''(t)=n(n-1)p^{2}(pe^{t}+1-p)^{n-2}e^{2t}+np(pe^{t}+1-p)^{n-1}e^{t}M′′(t)=n(n−1)p2(pet+1−p)n−2e2t+np(pet+1−p)n−1et E X 2 = M ′ ′ ( 0 ) = n ( n − 1 ) p 2 + n pEX^{2}=M''(0)=n(n-1)p^{2}+np EX2=M′′(0)=n(n−1)p2+npD X =E X 2 − ( E X ) 2 = n p ( 1 − p ) DX=EX^{2}-(EX)^{2}=np(1-p) DX=EX2−(EX)2=np(1−p)4、几何分布(Geometric distribution)若 X 服从几何分布 G e ( p ) , 则 X 满足 f ( k ; p ) = P ( x = k ) = ( 1 − p ) k − 1 p ( k = 1 , 2 , 3...... ) 若X服从几何分布Ge(p), 则X满足f(k;p)=P(x=k)=(1-p)^{k-1}p (k=1,2,3......) 若X服从几何分布Ge(p),则X满足f(k;p)=P(x=k)=(1−p)k−1p(k=1,2,3......) M ( t ) = ∑ k = 1 ∞ ( 1 − p ) k − 1 p e t kM(t)=\sum_{k=1}^{\infin}(1-p)^{k-1}pe^{tk}M(t)=k=1∑∞(1−p)k−1petk = p e t ∑ k = 1 ∞ ( ( 1 − p ) e t ) k − 1 =pe^{t}\sum_{k=1}^{\infin}((1-p)e^t)^{k-1} =petk=1∑∞((1−p)et)k−1 = p e t 1 −( 1 − p ) e t =\frac{pe^{t}}{1-(1-p)e^{t}}=1−(1−p)etpet φ ( t ) = ∑ k = 1 ∞ ( 1 − p ) k −1 p e i t k \varphi(t)=\sum_{k=1}^{\infin}(1-p)^{k-1}pe^{itk} φ(t)=k=1∑∞(1−p)k−1peitk = p e i t ∑ k = 1 ∞ ( ( 1 − p ) e i t ) k − 1=pe^{it}\sum_{k=1}^{\infin}((1-p)e^{it})^{k-1}=peitk=1∑∞((1−p)eit)k−1 = p e i t 1 − ( 1 − p ) e i t =\frac{pe^{it}}{1-(1-p)e^{it}} =1−(1−p)eitpeit M ′ ( t ) = p e t ( 1 − ( 1 − p ) e t ) 2M'(t)=\frac{pe^t}{(1-(1-p)e^t)^2}M′(t)=(1−(1−p)et)2pet E X = M ′ ( 0 ) = 1 pEX=M'(0)=\frac{1}{p} EX=M′(0)=p1 M ′ ′ ( t ) = p e t ( e t − p e t + 1 ) ( 1 − ( 1 − p ) e t ) 3M''(t)=\frac{pe^t(e^t-pe^t+1)}{(1-(1-p)e^t)^3}M′′(t)=(1−(1−p)et)3pet(et−pet+1) E X 2 = M ′ ′( 0 ) = 2 − p p 2 EX^{2}=M''(0)=\frac{2-p}{p^2}EX2=M′′(0)=p22−p D X = E X 2 − ( E X ) 2 = 1 − p p 2 DX=EX^{2}-(EX)^{2}=\frac{1-p}{p^2}DX=EX2−(EX)2=p21−p5、负二项分布(Negative binomial distribution)若 X 服从负二项分布 N B ( r , p ) , 则 X 满足 f ( k ; r , p ) = ( k + r − 1 k ) p k ( 1 − p ) r , k = 0 , 1 , 2 , 3...... 若X服从负二项分布NB(r,p), 则X满足f(k;r,p)=\binom{k+r-1}{k}p^{k}(1-p)^{r} ,k=0,1,2,3...... 若X服从负二项分布NB(r,p),则X满足f(k;r,p)=(kk+r−1)pk(1−p)r,k=0,1,2,3...... ( r 可以为实数，此时的分布称为波利亚分布 ) (r可以为实数，此时的分布称为波利亚分布) (r可以为实数，此时的分布称为波利亚分布) M ( t ) = ∑ k = 0 ∞ ( k +r − 1 k ) p k ( 1 − p ) r e t kM(t)=\sum_{k=0}^{\infin}\binom{k+r-1}{k}p^k(1-p)^re^{tk} M(t)=k=0∑∞(kk+r−1)pk(1−p)retk = ∑ k = 0 ∞ ( − 1 ) k ( − r k ) p k ( 1 − p ) r e t k=\sum_{k=0}^{\infin}(-1)^k\binom{-r}{k}p^k(1-p)^re^{tk} =k=0∑∞(−1)k(k−r)pk(1−p)retk = ∑ k = 0 ∞ ( − p e t ) k ( − r k ) ( 1 − p ) r =\sum_{k=0}^{\infin}(-pe^t)^k\binom{-r}{k}(1-p)^r =k=0∑∞(−pet)k(k−r)(1−p)r = ( 1 − p ) r ∑ k = 0 ∞ ( − p e t ) k( − r k ) 1 − r − k =(1-p)^r\sum_{k=0}^{\infin}(-pe^t)^k\binom{-r}{k}1^{-r-k} =(1−p)rk=0∑∞(−pet)k(k−r)1−r−k = ( 1 − p ) r ( 1 − p e t ) −r =(1-p)^r(1-pe^t)^{-r} =(1−p)r(1−pet)−r φ ( t ) = ∑ k = 0 ∞ ( k + r − 1 k ) p k ( 1 − p ) r e i t k \varphi(t)=\sum_{k=0}^{\infin}\binom{k+r-1}{k}p^k(1-p)^re^{itk} φ(t)=k=0∑∞(kk+r−1)pk(1−p)reitk = ∑ k = 0 ∞ ( − 1 ) k ( − r k ) p k ( 1 − p ) r e i t k =\sum_{k=0}^{\infin}(-1)^k\binom{-r}{k}p^k(1-p)^re^{itk} =k=0∑∞(−1)k(k−r)pk(1−p)reitk = ∑ k = 0 ∞ ( − p e i t ) k ( − r k ) ( 1 − p ) r=\sum_{k=0}^{\infin}(-pe^{it})^k\binom{-r}{k}(1-p)^r=k=0∑∞(−peit)k(k−r)(1−p)r = ( 1 − p ) r ∑ k = 0 ∞ ( − p e i t ) k ( − r k ) 1 − r − k =(1-p)^r\sum_{k=0}^{\infin}(-pe^{it})^k\binom{-r}{k}1^{-r-k} =(1−p)rk=0∑∞(−peit)k(k−r)1−r−k = ( 1 − p ) r ( 1 − p e i t ) − r =(1-p)^r(1-pe^{it})^{-r}=(1−p)r(1−peit)−r M ′ ( t ) = ( 1 − p ) r ( − r ) ( 1 − p e t ) − r − 1 ( − p e t ) M'(t)=(1-p)^r(-r)(1-pe^{t})^{-r-1}(-pe^t)M′(t)=(1−p)r(−r)(1−pet)−r−1(−pet) = r p ( 1 −p ) r e t ( 1 − p e t ) − r − 1 =rp(1-p)^re^t(1-pe^t)^{-r-1} =rp(1−p)ret(1−pet)−r−1 E X = M ′( 0 ) = r p 1 − p EX=M'(0)=\frac{rp}{1-p}EX=M′(0)=1−prp M ′ ′ ( t ) = r p ( 1 − p ) r e t ( 1 − p e t ) − r − 1 + r p ( 1 − p ) r e t ( − r − 1 ) ( 1 − p e t ) − r − 2 ( − p e t )M''(t)=rp(1-p)^re^t(1-pe^t)^{-r-1}+rp(1-p)^re^t(-r-1)(1-pe^t)^{-r-2}(-pe^t)M′′(t)=rp(1−p)ret(1−pet)−r−1+rp(1−p)ret(−r−1) (1−pet)−r−2(−pet) E X 2 = r p ( 1 − p ) − 1 + r ( r + 1 ) p 2 ( 1 − p ) − 2 EX^2=rp(1-p)^{-1}+r(r+1)p^2(1-p)^{-2}EX2=rp(1−p)−1+r(r+1)p2(1−p)−2 = r p ( 1 − p ) + r ( r + 1 ) p 2 ( 1 − p ) 2 =\frac{rp(1-p)+r(r+1)p^2}{(1-p)^2} =(1−p)2rp(1−p)+r(r+1)p2 = r p + r 2 p 2 ( 1 − p ) 2 =\frac{rp+r^2p^2}{(1-p)^2}=(1−p)2rp+r2p2 D X = E X 2 − ( E X ) 2 = p r ( 1 −p ) 2 DX=EX^2-(EX)^2=\frac{pr}{(1-p)^2}DX=EX2−(EX)2=(1−p)2pr6、泊松分布(Poisson distribution)若 X 服从泊松分布P ( λ ) , 则 P ( X = k ) = e− λ λ k k ! , k = 0 , 1 , 2...... 若X服从泊松分布P(\lambda),则P(X=k)=\frac{e^{-\lambda}\lambda^k}{k!},k=0,1,2...... 若X服从泊松分布P(λ),则P(X=k)=k!e−λλk,k=0,1,2...... M ( t ) = ∑k = 0 ∞ e − λ λ k k ! e t kM(t)=\sum_{k=0}^{\infin}\frac{e^{-\lambda}\lambda^k}{k!}e^{tk} M(t)=k=0∑∞k!e−λλketk = e − λ ∑ k = 0 ∞ ( λ e t ) k k ! =e^{-\lambda}\sum_{k=0}^{\infin}\frac{(\lambda e^t)^k}{k!} =e−λk=0∑∞k!(λe t)k = e − λ e λ e t =e^{-\lambda}e^{\lambda e^t} =e−λeλet= e λ ( e t − 1 ) =e^{\lambda (e^t-1)} =eλ(et−1) φ ( t ) = ∑ k = 0∞ e − λ λ k k ! e i t k\varphi(t)=\sum_{k=0}^{\infin}\frac{e^{-\lambda}\lambda^k}{k!}e^{itk} φ(t)=k=0∑∞k!e−λλk eitk = e − λ ∑ k = 0 ∞ ( λ e i t ) k k ! =e^{-\lambda}\sum_{k=0}^{\infin}\frac{(\lambdae^{it})^k}{k!} =e−λk=0∑∞k!(λe it)k = e − λ e λ e i t =e^{-\lambda}e^{\lambda e^{it}} =e−λeλeit = e λ ( e i t − 1 ) =e^{\lambda (e^{it}-1)} =eλ(eit−1) M ′ ( t ) = e λ ( e t − 1 ) λ e t M'(t)=e^{\lambda (e^t-1)}\lambda e^t M′(t)=eλ(et−1)λe t E X = M ′ ( 0 ) = λ EX=M'(0)=\lambda EX=M′(0)=λM ′ ′ ( t ) = e λ ( e t − 1 ) λ e t + e λ ( e t − 1 ) λ e tλ e t M''(t)=e^{\lambda (e^t-1)}\lambdae^t+e^{\lambda (e^t-1)}\lambda e^t\lambda e^tM′′(t)=eλ(et−1)λe t+eλ(et−1)λe tλe t E X 2 =M ′ ′ ( 0 ) = λ + λ 2EX^2=M''(0)=\lambda+\lambda^2 EX2=M′′(0)=λ+λ2 D X = E X 2 − ( E X ) 2 = λ DX=EX^2-(EX)^2=\lambdaDX=EX2−(EX)2=λ三、连续型随机变量的分布1、连续型均匀分布(Uniform distribution (continuous))若 X 服从连续型均匀分布 U ( a , b ) , 则 f( x ) = 1 b − a I [ a , b ] ( x ) 若X服从连续型均匀分布U(a,b),则f(x)=\frac{1}{b-a}I_{[a,b]}(x) 若X服从连续型均匀分布U(a,b),则f(x)=b−a1I[a,b](x) M ( t ) = ∫ a b 1 b − a e t x d x M(t)=\int_{a}^{b}\frac{1}{b-a}e^{tx}dx M(t)=∫abb−a1etxdx = 1 b − a ∫ a b e t x d x =\frac{1}{b-a}\int_{a}^{b}e^{tx}dx =b−a1∫abetxdx = 1 b − a ( 1 t e t x ∣ a b ) =\frac{1}{b-a}(\frac{1}{t}e^{tx}\mid_{a}^{b}) =b−a1(t1etx∣ab) = e t b − e t a t ( b − a ) =\frac{e^{tb}-e^{ta}}{t(b-a)} =t(b−a)etb−eta φ ( t ) = ∫ a b 1 b − a e i t x d x \varphi(t)=\int_{a}^{b}\frac{1}{b-a}e^{itx}dxφ(t)=∫abb−a1eitxdx = 1 b − a ∫ a b e i t x d x=\frac{1}{b-a}\int_{a}^{b}e^{itx}dx =b−a1∫abeitxdx = 1 b − a ( 1 i t e i t x ∣ a b ) =\frac{1}{b-a}(\frac{1}{it}e^{itx}\mid_{a}^{b}) =b−a1(it1eitx∣ab) = e i t b − e i t a i t ( b − a ) =\frac{e^{itb}-e^{ita}}{it(b-a)} =it(b−a)eitb−eita M ′ ( t ) = 1 b − a ( b e t b − a e t a ) t − ( e t b − e t a ) t 2 M'(t)=\frac{1}{b-a}\frac{(be^{tb}-ae^{ta})t-(e^{tb}-e^{ta})}{t^2} M′(t)=b−a1t2(betb−aeta)t−(etb−eta) t = 0 为M ′ ( t ) 的可去间断点，补充定义M ′ ( 0 ) = lim t → 0 M ′ ( t ) t=0为M'(t)的可去间断点，补充定义M'(0)=\lim_{t\rightarrow0}M'(t) t=0为M′(t)的可去间断点，补充定义M′(0)=t→0limM′(t) E X = M ′ ( 0 ) = lim t → 0 ( b e t b − a e t a ) + ( b 2 e t b − a 2 e t a ) t − ( b e t b − a e ta ) 2 t (b − a )EX=M'(0)=\lim_{t\rightarrow0}\frac{(be^{tb}-ae^{ta})+(b^2e^{tb}-a^2e^{ta})t-(be^{tb}-ae^{ta})}{2t(b-a)} EX=M′(0)=t→0lim2t(b−a)(betb−aeta)+(b2etb−a2eta)t−(betb−aeta) = lim t → 0 ( b 2 e t b − a 2 e t a ) 2 ( b − a ) =\lim_{t\rightarrow0}\frac{(b^2e^{tb}-a^2e^{ta})}{2(b-a)} =t→0lim2(b−a)(b2etb−a2eta) = b 2 − a 2 2 ( b − a ) =\frac{b^2-a^2}{2(b-a)} =2(b−a)b2−a2 = a + b 2 =\frac{a+b}{2} =2a+b M ′ ′ ( t ) = 1 b − a ( ( b 2 e t b − a 2 e t a ) t + ( b e t b − a e t a ) −( b e t b − a e t a ) ) t − 2 ( ( b e t b − a e ta ) t − ( e tb − e t a ) ) t 3 M''(t)=\frac{1}{b-a}\frac{((b^2e^{tb}-a^2e^{ta})t+(be^{tb}-ae^{ta})-(be^{tb}-ae^{ta}))t-2((be^{tb}-ae^{ta})t-(e^{tb}-e^{ta}))}{t^3} M′′(t)=b−a1t3((b2etb−a2eta)t+(betb−aeta)−(betb−aeta))t−2((be tb−aeta)t−(etb−eta)) = 1 b − a t 2 ( b 2 e t b −a 2 e t a ) − 2 t (b e t b − a e t a ) + 2 ( e t b − e t a ) t 3 =\frac{1}{b-a}\frac{t^2(b^2e^{tb}-a^2e^{ta})-2t(be^{tb}-ae^{ta})+2(e^{tb}-e^{ta})}{t^3} =b−a1t3t2(b2etb−a2eta)−2t(betb−aeta)+2(etb−eta) t = 0 为M ′ ′ ( t ) 的可去间断点，补充定义M ′ ′ ( 0 ) = lim t → 0 M ′ ′ ( t ) t=0为M''(t)的可去间断点，补充定义M''(0)=\lim_{t\rightarrow0}M''(t) t=0为M′′(t)的可去间断点，补充定义M′′(0)=t→0limM′′(t) E X 2 =M ′ ′ ( 0 ) = lim t → 0 1 b − a t 2 ( b 3 e t b − a 3 e t a ) + 2 t ( b 2 e t b − a 2 e t a ) − 2 t ( b 2 e t b − a 2 e t a ) − 2 ( b e t b − a e t a ) + 2 ( b e t b − a e t a ) 3 t 2EX^2=M''(0)=\lim_{t\rightarrow0}\frac{1}{b-a}\frac{t^2(b^3e^{tb}-a^3e^{ta})+2t(b^2e^{tb}-a^2e^{ta})-2t(b^2e^{tb}-a^2e^{ta})-2(be^{tb}-ae^{ta})+2(be^{tb}-ae^{ta})}{3t^2}EX2=M′′(0)=t→0limb−a13t2t2(b3etb−a3eta)+2t(b2etb−a2eta)−2t(b2etb−a2eta)−2(betb−aeta)+2(betb−aeta) = 1 b − a lim t → 0 t 2 ( b 3 e t b − a 3 e t a ) 3 t 2 =\frac{1}{b-a}\lim_{t\rightarrow0}\frac{t^2(b^3e^{tb}-a^3e^{ta})}{3t^2} =b−a1t→0lim3t2t2(b3etb−a3eta) = 1 b − a lim t → 0 ( b 3 e t b − a 3 e t a ) 3=\frac{1}{b-a}\lim_{t\rightarrow0}\frac{(b^3e^{tb}-a^3e^{ta})}{3} =b−a1t→0lim3(b3etb−a3eta) = 1 b − a ( b 3 − a 3 ) 3 =\frac{1}{b-a}\frac{(b^3-a^3)}{3}=b−a13(b3−a3) = b 2 + a b + a 2 3=\frac{b^2+ab+a^2}{3} =3b2+ab+a2 D X = E X 2 − ( E X ) 2 = ( b − a ) 2 12 DX=EX^2-(EX)^2=\frac{(b-a)^2}{12} DX=EX2−(EX)2=12(b−a)22、指数分布(Exponential distribution)若 X 服从指数分布 E ( λ ) ，则 f ( x ) = λ e− λ x I [ 0 , + ∞ ) ( x ) 若X服从指数分布E(\lambda)，则f(x)=\lambda e^{-\lambdax}I_{[0,+\infin)}(x) 若X服从指数分布E(λ)，则f(x)=λe−λx I[0,+∞)(x) M ( t ) = ∫ 0 + ∞ λ e −λ x e t x d x M(t)=\int_{0}^{+\infin} \lambda e^{-\lambda x}e^{tx}dx M(t)=∫0+∞λe−λx etxdx = λ ∫ 0 + ∞ e ( t − λ ) x d x =\lambda \int_{0}^{+\infin} e^{(t-\lambda)x}dx =λ∫0+∞e(t−λ)xdx = λ t − λ ( e ( t − λ ) x ∣ 0 + ∞ ) =\frac{\lambda}{t-\lambda}(e^{(t-\lambda)x}\mid_{0}^{+\infin}) =t−λλ(e(t−λ)x∣0+∞) t < λ 时，M ( t ) = λ t − λ ( 0 − 1 ) t<\lambda时，M(t)=\frac{\lambda}{t-\lambda}(0-1) t<λ时，M(t)=t−λλ(0−1) = λ λ − t =\frac{\lambda}{\lambda-t} =λ−tλφ ( t ) = λ λ − i t \varphi(t)=\frac{\lambda}{\lambda-it}φ(t)=λ−itλM ′ ( t ) = λ ( λ − t ) 2M'(t)=\frac{\lambda}{(\lambda-t)^2} M′(t)=(λ−t)2λE X = M ′ ( 0 ) = 1 λ EX=M'(0)=\frac{1}{\lambda}EX=M′(0)=λ1 M ′ ′ ( t ) = 2 λ ( λ − t ) 3M''(t)=\frac{2\lambda}{(\lambda-t)^3}M′′(t)=(λ−t)32λ E X 2 = M ′ ′ ( 0 ) = 2 λ 2 EX^2=M''(0)=\frac{2}{\lambda^2} EX2=M′′(0)=λ22 D X = E X 2 − ( E X ) 2 = 1 λ 2 DX=EX^2-(EX)^2=\frac{1}{\lambda^2} DX=EX2−(EX)2=λ213、正态分布(Normal distribution)若 X 服从正态分布N ( μ , σ 2 ) , 则 f ( x ) = 1 2 π σ e − ( x − μ ) 2 2 σ 2 若X服从正态分布N(\mu,\sigma^2),则f(x)=\frac{1}{\sqrt{2\pi}\sigma}e^{-\frac{(x-\mu)^2}{2\sigma^2}} 若X服从正态分布N(μ,σ2),则f(x)=2πσ1e−2σ2(x−μ)2 引理 1 ：∫ − ∞ + ∞ e − t 2 2 d t = 2 π 引理1：\int_{-\infin}^{+\infin}e^{-\frac{t^2}{2}}dt=\sqrt{2\pi} 引理1：∫−∞+∞e−2t2dt=2π证明：( ∫ − ∞ + ∞ e − t 2 2 d t ) 2 = ∫ − ∞ + ∞ ∫ − ∞ + ∞ e − x 2 + y 2 2 d x d y 证明：(\int_{-\infin}^{+\infin}e^{-\frac{t^2}{2}}dt)^2=\int_{-\infin}^{+\infin}\int_{-\infin}^{+\infin}e^{-\frac{x^2+y^2}{2}}dxdy 证明：(∫−∞+∞e−2t2dt)2=∫−∞+∞∫−∞+∞e−2x2+y2dxdy = ∫ 0 2 π d θ ∫ 0 + ∞ e − r 2 2 r d r=\int_{0}^{2\pi}d\theta \int_{0}^{+\infin}e^{-\frac{r^2}{2}}rdr =∫02πdθ∫0+∞e−2r2rdr = 2 π ∫ 0 + ∞ e − r 2 2 r d r =2\pi \int_{0}^{+\infin}e^{-\frac{r^2}{2}}rdr =2π∫0+∞e−2r2rdr = 2 π ( − e −r 2 2 ∣0 + ∞ ) =2\pi (-e^{-\frac{r^2}{2}}\mid_{0}^{+\infin}) =2π(−e−2r2∣0+∞) = 2 π =2\pi =2π因此∫ − ∞ + ∞ e − t 2 2 d t = 2 π 因此\int_{-\infin}^{+\infin}e^{-\frac{t^2}{2}}dt=\sqrt{2\pi} 因此∫−∞+∞e−2t2dt=2πM ( t ) = ∫ − ∞ + ∞ 1 2 π σ e − ( x − μ ) 2 2 σ 2 e t x d x M(t)=\int_{-\infin}^{+\infin}\frac{1}{\sqrt{2\pi}\sigma}e^{-\frac{(x-\mu)^2}{2\sigma^2}}e^{tx}dx M(t)=∫−∞+∞2πσ1e−2σ2(x−μ)2etxdx = 1 2 π σ ∫ − ∞ + ∞ e −( x − μ ) 2 2 σ 2 + t x d x=\frac{1}{\sqrt{2\pi}\sigma}\int_{-\infin}^{+\infin}e^{-\frac{(x-\mu)^2}{2\sigma^2}+tx}dx =2πσ1∫−∞+∞e−2σ2(x−μ)2+txdx 令 w = x − μ σ 令w=\frac{x-\mu}{\sigma} 令w=σx−μ原式= 1 2 π ∫ − ∞ + ∞ e − w 2 2 + t ( w σ + μ ) d w 原式=\frac{1}{\sqrt{2\pi}}\int_{-\infin}^{+\infin}e^{-\frac{w^2}{2}+t(w\sigma+\mu)}dw 原式=2π1∫−∞+∞e−2w2+t(wσ+μ)dw = e μ t 1 2 π ∫ − ∞ + ∞ e − w 2 2 + t σ w d w =e^{\mut}\frac{1}{\sqrt{2\pi}}\int_{-\infin}^{+\infin}e^{-\frac{w^2}{2}+t\sigma w}dw=eμt2π1∫−∞+∞e−2w2+tσw dw = e μ t 1 2 π ∫ − ∞ + ∞ e − ( w − t σ ) 2 − t 2 σ 2 2 d w =e^{\mut}\frac{1}{\sqrt{2\pi}}\int_{-\infin}^{+\infin}e^{-\frac{(w-t\sigma)^2-t^2\sigma^2}{2}}dw=eμt2π1∫−∞+∞e−2(w−tσ)2−t2σ2dw = e μ t + t 2 σ 2 2 1 2 π ∫ − ∞ + ∞ e − ( w − t σ ) 2 2 d w=e^{\mut+\frac{t^2\sigma^2}{2}}\frac{1}{\sqrt{2\pi}}\int_{-\infin}^{+\infin}e^{-\frac{(w-t\sigma)^2}{2}}dw=eμt+2t2σ22π1∫−∞+∞e−2(w−tσ)2dw = e μ t + t 2 σ 2 2 1 2 π 2 π =e^{\mut+\frac{t^2\sigma^2}{2}}\frac{1}{\sqrt{2\pi}}\sqrt{2\p i} =eμt+2t2σ22π12π= e μ t + t 2 σ 2 2 =e^{\mu t+\frac{t^2\sigma^2}{2}} =eμt+2t2σ2 φ ( t ) = ∫ − ∞ + ∞ 1 2 π σ e −( x − μ ) 2 2 σ 2 e i t x d x \varphi(t)=\int_{-\infin}^{+\infin}\frac{1}{\sqrt{2\pi}\sigma}e^{-\frac{(x-\mu)^2}{2\sigma^2}}e^{itx}dx φ(t)=∫−∞+∞2πσ1e−2σ2(x−μ)2eitxdx = 1 2 π σ ∫ − ∞ + ∞ e − ( x − μ ) 2 2 σ 2 + i t x d x=\frac{1}{\sqrt{2\pi}\sigma}\int_{-\infin}^{+\infin}e^{-\frac{(x-\mu)^2}{2\sigma^2}+itx}dx=2πσ1∫−∞+∞e−2σ2(x−μ)2+itxdx 令 w = x − μ σ 令w=\frac{x-\mu}{\sigma} 令w=σx−μ原式= 1 2 π ∫ − ∞ + ∞ e − w 2 2 + i t ( w σ + μ ) d w 原式=\frac{1}{\sqrt{2\pi}}\int_{-\infin}^{+\infin}e^{-\frac{w^2}{2}+it(w\sigma+\mu)}dw 原式=2π1∫−∞+∞e−2w2+it(wσ+μ)dw = e i μ t 1 2 π ∫ −∞ + ∞ e − w 2 2 + i t σ w d w =e^{i\mut}\frac{1}{\sqrt{2\pi}}\int_{-\infin}^{+\infin}e^{-\frac{w^2}{2}+it\sigma w}dw=e iμt2π1∫−∞+∞e−2w2+itσw dw = e i μ t 1 2 π ∫ − ∞ + ∞ e − ( w − i t σ ) 2 + t 2 σ 2 2 d w =e^{i\mut}\frac{1}{\sqrt{2\pi}}\int_{-\infin}^{+\infin}e^{-\frac{(w-it\sigma)^2+t^2\sigma^2}{2}}dw=e iμt2π1∫−∞+∞e−2(w−itσ)2+t2σ2dw = e i μ t − t 2 σ 2 2 1 2 π ∫ − ∞ + ∞ e − ( w − i t σ ) 2 2 d w =e^{i\mu t-\frac{t^2\sigma^2}{2}}\frac{1}{\sqrt{2\pi}}\int_{-\infin}^{+\infin}e^{-\frac{(w-it\sigma)^2}{2}}dw=e iμt−2t2σ22π1∫−∞+∞e−2(w−itσ)2dw = e i μ t − t 2 σ 2 2 12 π 2 π =e^{i\mu t-\frac{t^2\sigma^2}{2}}\frac{1}{\sqrt{2\pi}}\sqrt{2\pi} =e iμt−2t2σ22π12π= e i μ t − t 2 σ 2 2 =e^{i\mu t-\frac{t^2\sigma^2}{2}} =e iμt−2t2σ2 M ′ ( t ) = eμ t + t 2 σ 2 2 ( μ + σ 2 t ) M'(t)=e^{\mut+\frac{t^2\sigma^2}{2}}(\mu+\sigma^2t)M′(t)=eμt+2t2σ2(μ+σ2t) E X = M ′ ( 0 ) = μEX=M'(0)=\mu EX=M′(0)=μM ′ ′ ( t ) = e μ t + t 2 σ 2 2 ( μ + σ 2 t ) 2 + e μ t + t 2 σ 2 2 σ 2M''(t)=e^{\mut+\frac{t^2\sigma^2}{2}}(\mu+\sigma^2t)^2+e^{\mut+\frac{t^2\sigma^2}{2}}\sigma^2 M′′(t)=eμt+2t2σ2 (μ+σ2t)2+eμt+2t2σ2σ2 E X 2 = M ′ ′ ( 0 ) = μ 2 + σ 2 EX^2=M''(0)=\mu^2+\sigma^2 EX2=M′′(0)=μ2+σ2 D X = E X 2 − ( E X ) 2 = σ 2 DX=EX^2-(EX)^2=\sigma^2 DX=EX2−(EX)2=σ2 特别地 , X 服从标准正态分布 N ( 0 , 1 ) 时特别地,X服从标准正态分布N(0,1)时特别地,X服从标准正态分布N(0,1)时 M ( t )= e t 2 2 M(t)=e^{\frac{t^2}{2}} M(t)=e2t2 φ ( t ) = e − t 2 2 \varphi(t)=e^{-\frac{t^2}{2}} φ(t)=e−2t2 E X = 0 , D X = 1 EX=0,DX=1 EX=0,DX=14、伽马分布(Gamma distribution)若 X 服从伽马分布Γ ( α , β ) ( α , β > 0 ) , 则 f ( x ) = β α Γ ( α ) x α − 1 e − β x I( 0 , + ∞ ) ( x ) 若X服从伽马分布\Gamma(\alpha,\beta)(\alpha,\beta>0),则f(x)=\frac{\beta^\alpha}{\Gamma(\alpha)}x^{\alpha-1}e^{-\beta x}I_{(0,+\infin)}(x) 若X服从伽马分布Γ(α,β)(α,β>0),则f(x)=Γ(α)βαxα−1e−βx I(0,+∞)(x) 其中，Γ ( α ) = ∫ 0 + ∞ t α − 1 e − t d t , α > 0 其中，\Gamma(\alpha)=\int_{0}^{+\infin}t^{\alpha-1}e^{-t}dt,\alpha>0 其中，Γ(α)=∫0+∞tα−1e−tdt,α>0 指数分布 E ( λ ) 是伽马分布Γ ( 1 , λ ) , χ 2 分布χ n 2 是伽马分布Γ ( n 2 , 1 2 ) 指数分布E(\lambda)是伽马分布\Gamma(1,\lambda),\chi^2分布\chi^2_n是伽马分布\Gamma(\frac{n}{2},\frac{1}{2}) 指数分布E(λ)是伽马分布Γ(1,λ),χ2分布χn2是伽马分布Γ(2n,21) M ( t ) = ∫ 0 + ∞ β α Γ ( α ) x α −1 e − β x e t x d xM(t)=\int_{0}^{+\infin}\frac{\beta^\alpha}{\Gamma(\alp ha)}x^{\alpha-1}e^{-\beta x}e^{tx}dx M(t)=∫0+∞Γ(α)βαxα−1e−βx etxdx = ∫ 0 + ∞ β α Γ ( α ) x α − 1 e ( t − β ) x d x=\int_{0}^{+\infin}\frac{\beta^\alpha}{\Gamma(\alpha)} x^{\alpha-1}e^{(t-\beta) x}dx =∫0+∞Γ(α)βαxα−1e(t−β)xdx = β α ∫ 0 + ∞ 1 Γ ( α ) x α− 1 e ( t − β ) x d x=\beta^\alpha\int_{0}^{+\infin}\frac{1}{\Gamma(\alpha) }x^{\alpha-1}e^{(t-\beta) x}dx =βα∫0+∞Γ(α)1xα−1e(t−β)xdx t < β 时，令v = ( β − t ) x ，原式= β α β − t ∫ 0 + ∞ 1 Γ ( α ) ( v β −t ) α − 1 e − v d v t<\beta时，令v=(\beta-t)x，原式=\frac{\beta^\alpha}{\beta-t}\int_{0}^{+\infin}\frac{1}{\Gamma(\alpha)}(\frac{v}{ \beta-t})^{\alpha-1}e^{-v}dv t<β时，令v=(β−t)x，原式=β−tβα∫0+∞Γ(α)1(β−tv)α−1e−vdv = ( β β − t ) α 1 Γ ( α ) ∫ 0 + ∞ v α − 1 e − v d v =(\frac{\beta}{\beta-t})^\alpha\frac{1}{\Gamma(\alpha)}\int_{0}^{+\infin}v^ {\alpha-1}e^{-v}dv =(β−tβ)αΓ(α)1∫0+∞vα−1e−vdv = ( β β − t ) α 1 Γ ( α ) Γ ( α ) =(\frac{\beta}{\beta-t})^\alpha\frac{1}{\Gamma(\alpha)}\Gamma(\alpha)=(β−tβ)αΓ(α)1Γ(α) = ( β β − t ) α=(\frac{\beta}{\beta-t})^\alpha =(β−tβ)αφ ( t ) = ( β β − i t ) α \varphi(t)=(\frac{\beta}{\beta-it})^\alpha φ(t)=(β−itβ)αM ′ ( t ) = β α ( β − t ) − α − 1 α M'(t)=\beta^\alpha(\beta-t)^{-\alpha-1}\alpha M′(t)=βα(β−t)−α−1α E X = M ′ ( 0 ) = α β EX=M'(0)=\frac{\alpha}{\beta}EX=M′(0)=βαM ′ ′ ( t ) = β α ( β − t ) − α − 2 α ( α + 1 ) M''(t)=\beta^\alpha(\beta-t)^{-\alpha-2}\alpha(\alpha+1)M′′(t)=βα(β−t)−α−2α(α+1) E X 2 = α ( α + 1 ) β 2 EX^2=\frac{\alpha(\alpha+1)}{\beta^2}EX2=β2α(α+1) D X = E X 2 − ( E X ) 2 = α β 2。
