概率论与数理统计12-区间估计与置信区间

σ 2 = S2 =
2 1 n Xi − X ) ( ∑ n i =1
n −1 2 ⎛ n −1 2 ⎞ n −1 S ⎟= E (S2 ) = 由于 E σ 2 = E S 2 = E ⎜ σ ， n n ⎝ n ⎠
n 3 ⎡ X 2 − nX 2 ⎤ ∑ i ⎥ n⎢ ⎣ i =1 ⎦
3 ( X − X )2 i n∑ i =1
n
在总体 X 为离散型随机变量情形， 求未知参数 θ 的矩估计量的方法和连续型 情形完全相同。 极大似然估计法 直观想法：概率最大的事件最可能出现。 设总体 X 为连续型随机变量，具有密度函数 f ( x;θ ) ，其中 θ 是待估未知参 数，又设 ( x1 ,L , xn ) 是样本 ( X 1 ,L , X n ) 的一个观测值，则样本 ( X 1 ,L , X n ) 落在观
n
（１）
ˆr ， 把上式中的 α r 都换成相应的样本矩 M r = 1 ∑ X ir ，便得到参数 θ r 的矩估计量 θ n i =1
概率论与数理统计—学习笔记十一
即
θˆr = hr ( M 1 ,L , M k ) , r = 1, 2,L , k .
（２）
这种求估计量的方法称为矩估计法（简称矩法） ，由矩估计法得出的估计量称为 矩估计量。 例１ 设总体 X 在 [ a, b ] 上服从均匀分布，a,b 未知， X 1 ,L , X n 是总体 X 的 一个样本，试求 a,b 矩估计量。 解 X 的概率密度为 1 , a≤ x≤b ⎧ ⎪ f ( x; a, b ) = ⎨ b − a ⎪ 其它 ⎩ 0,
上节介绍了总体参数的常用点估计方法，对同一参数用不同的估计方法可能 得到不同的估计量，哪个估计量更好些呢？下面给出几种评选估计量好坏的标 准。 无偏估计 估计量是样本的函数，是随机变量，对不同的样本观测值，它有不同的估计 值，我们希望估计量的取值在未知参数真值附近摆动，即希望估计量的数学期望 等于未知参数的真值，这就是无偏性的概念。 定义 设 θˆ ( X 1 ,L , X n ) 是未知参数 θ 的估计量，若

数理统计11：区间估计，t分布，F分布在之前的⼗篇⽂章中，我们⽤了九篇⽂章的篇幅讨论了点估计的相关知识，现在来稍作回顾。

⾸先，我们讨论了正态分布两个参数——均值、⽅差的点估计，给出了它们的分布信息，并指出它们是相互独⽴的；然后，我们讨论到其他的分布族，介绍了点估计的评判标准——⽆偏性、相合性、有效性；之后，我们基于⽆偏性和相合性的讨论给出了常⽤分布的参数点估计，并介绍了两种常⽤于寻找点估计量的⽅法——矩法与极⼤似然法；最后，我们对点估计的有效性进⾏了讨论，给出了⼀些验证、寻找UMVUE的⽅法，并介绍了CR不等式，给出了⽆偏估计效率的定义。

以上就是我们在前九篇⽂章中提到的主要内容，还顺便介绍了⼀些常⽤的分布：Γ分布、β分布、χ2分布。

今天开始，我们将进⼊区间估计与假设检验部分。

由于本系列为我独⾃完成的，缺少审阅，如果有任何错误，欢迎在评论区中指出，谢谢！⽬录Part 1：什么是区间估计区间估计同样是参数估计的⼀种⽅法，不同于点估计⽤样本计算出的⼀个统计量直接作为原始参数的估计，区间估计会根据抽取出的样本，计算出⼀个基于样本观测值的区间。

简单说来，如果对总体f(x;θ)中的参数θ作估计，则⾸先从总体中获得样本\boldsymbol{X}=(X_1,\cdots,X_n)，并确定两个具有确定⼤⼩关系的统计量\hat g_1(\boldsymbol{X})\le \hat g_2(\boldsymbol{X})，根据样本观测值计算出的区间[\hat g_1(\boldsymbol{X}),\hat g_2(\boldsymbol{X})]就是待估参数\theta的区间估计。

由此，我们可以看出，区间估计依然是依赖于统计量的，并且往往需要不⽌⼀个统计量。

区间估计相⽐于点估计的特点是，区间估计给出了⼀个相对“粗糙”的范围，这就导致你需要使⽤这个参数时，不像点估计⼀样能直接把估计值拿来⽤；但是，区间估计具有涵盖参数真值的可能，因为当参数空间\Theta的取值连续时，点估计\hat\theta与真值相等的可能性\mathbb{P}(\hat\theta=\theta)=0，但是区间估计包含真值的可能性\mathbb{P}(\theta\in[\hatg_1(\boldsymbol{X}),\hat g_2(\boldsymbol{X})])>0，这使得区间估计⽐起点估计⽽⾔，增加了⼀定的可靠性。

化学
在化学领域，概率论与数理统计被用于研究化学反应的速率和化 学物质的分布，如化学反应动力学、量子化学计算等。
生物
在生物学中，概率论与数理统计用于研究生物现象的变异和分布， 如遗传学、生态学、流行病学等。
在工程中的应用
通信工程
01
概率论与数理统计在通信工程中用于信道容量、误码率、调制
解调等方面的研究。
边缘分布
对于n维随机变量(X_1,...,X_n)，在概 率论中，分别定义了X_1的边缘分布 、...、X_n的边缘分布。
04
数理统计基础
样本与抽样分布
01
02
03
总体与样本
总体是包含所有可能数据 的数据集合，样本是总体 的一个随机子集。
抽样方法
包括简单随机抽样、分层 抽样、系统抽样等。
样本分布
描述样本数据的分布情况 ，如均值、中位数、标准 差等。
参数估计与置信区间
参数估计
利用样本数据估计总体的 未知参数，如均值、方差 等。
点估计
用样本统计量作为总体参 数的估计值。
置信区间
给出总体参数的一个估计 区间，表示对总体的参数 有一个可信的估计范围。
假设检验与方差分析
假设检验
通过样本数据对总体参数提出 假设，然后根据假设进行检验
01
定义
设E是一个随机试验，X，Y是定义在E上，取值分别为实数的随机变量
。称有序实数对(X，Y)为一个二维随机变量。
02
分布函数
设(X，Y)是一个二维随机变量，对于任意实数x,y，二元函数
F(x,y)=P({X<=x,Y<=y})称为二维随机变量(X,Y)的分布函数。
03
边缘分布
对于二维随机变量(X,Y)，在概率论中，分别定义了X的边缘分布和Y的

《概率论与数理统计》 第一章 随机事件与概率事件之间的关系： 事件之间的运算： 运算法则：交换律A ∪B=B ∪A A ∩B=B ∩A结合律(A ∪B)∪C=A ∪(B ∪C) (A ∩B)∩C=A ∩(B ∩C) 分配律(A ∪B)∩C=(AC)∪(BC) (A ∩B)∪C=(A ∪C)∩(B ∪C) 对偶律 A ∪B ‾‾ =A ‾∩B ‾ A ∩B ‾‾ =A ‾∪B ‾ 古典概型： 概率公式：求逆公式 P(A ‾)=1- P(A)加法公式 P(A ∪B)=P(A)+P(B)-P(AB)P(A ∪B ∪C)=P(A)+P(B)+P(C)-P(AB)-P(AC)-P(BC)+P(ABC) 求差公式：P(A-B)=P(A)-P(AB); 当A ⊃B 时，有P(A-B)=P(A)-P(B)注意： A-B = A B ‾ = A-AB = (A ∪B)-B条件概率公式：P(A|B)=P(AB)P(B); (P(B)>0)P(A|B)表示事件B 发生的条件下，事件A 发生的概率。

乘法公式：P(AB)=P(A)P(B|A)= P(B)P(A|B) (其中P(A)>0, P(B)>0) 一般有P(ABC)=P(A)P(B|A)P(C|AB) (其中P(AB)>0)全概率公式：P(A)= ∑i=1nP(A|B i )P(B i ) 其中B 1,B 2,…,B n 构成Ω的一个分斥。

贝叶斯公式：P(A k |B)= P(B|A k )P(A k )P(B) = P(B|A k )P(A k )∑i=1nP(B|A i )P(A i )（由果溯因）概论的性质：事件的独立性：如果事件A 与事件B 满足P(AB)=P(A)P(B)，则称事件A 与事件B 相互独立。

结论：1. 如果P(A)>0，则事件A 与B 独立⇔2. 事件A 与事件B 独立⇔事件A 与事件B ‾独立⇔事件A ‾与事件B 独立⇔事件A ‾与事件B ‾独立贝努里概型：指在相同条件下进行n 次试验；每次试验的结果有且仅有两种A 与A ‾；各次试验是相互独立；每次试验的结果发生的概率相同P(A)=p, P(A‾)=1-p 。