均匀分布参数点估计

N1,N2 离散均匀分布参数的点估计本文基于Wolfram Mathematica 9,讨论了 N1,N2 离散均匀分布参数的点估计，包括矩估计法和极大似然估计。

并通过程序产生伪随机数进行模拟。

N1,N2 区间内的离散均匀分布，我们记作DU N1,N2 。

总体均值Μ m1 N1 N22，方差Σ2 1121 1 N1 N2 2 。

X 1,X 2, ,X n 为其一简单随机样本，X 1 ,X 2 , ,X n 为样本顺序统计量。

一、矩估计当N1，N2其中一个已知时，可知另一个即N1 2m1 N20或N2 2m1 N10，用样本矩估计总体矩m1 X 1n n i 1X i ，即得N1 2m1 N20或N2 2m1 N10。

当N1，N2其均未知时，显然方差是均值的函数，因此，无法用样本均值和方差估计出参数N1、N2。

我们考虑二阶原点矩m2 16N1 2N12 N2 2N1N2 2N22 ,将N2 2m1 N1代入，得到：m2 13m1 4m12 N1 2m1N1 N12 。

整理得到：N12 2m1 1 N1 4m12 m1 3m2 0,令b 2m1 1,c 4m12 m1 3m2,解方程得到：N1 b b 2 4c2.由于N1和N2对称且N1 N2,所以N1 b b 2 4c2，N2 b b 2 4c2。

同样，用样本矩m1 X 1n n i 1X i 代替同m1,m2 1n n i 1X i 2代替m2,即可得N1 ，N2 。

二、极大似然估计不管N1，N2是否其中一个已知，还是都未知，通过求解对数似然方程，容易得它们的极大似然估计为N1 X 1 ,N2 X n 。

三、计算程序及结果In[225]:=Needs "HypothesisTesting`"N10 6;N20 57000;X RandomVariate DiscreteUniformDistribution N10,N20 ,300 ;min Min X ;max Max X ;m1 Mean X ;m2 Moment X,2 ;"一.矩估计：""1.已知N1 N10，估计N2：""1.1公式法："N2ME1 Ceiling 2m1 N10"1.2函数法："N2ME2 CeilingN2ME2 .FindDistributionParameters X,DiscreteUniformDistribution N10,N2ME2 , ParameterEstimator "MethodOfMoments"Clear N2ME1,N2ME2 ;"2.已知N2 N20，估计N1：""2.1公式法："N1ME1 Ceiling 2m1 N20"2.2函数法："N1ME2 CeilingN1ME2 .FindDistributionParameters X,DiscreteUniformDistribution N1ME2,N20 , ParameterEstimator "MethodOfMoments"Clear N1ME1,N1ME2 ;"3.N1、N2均未知：""3.1公式法："a 1;b 2m1 1;c 4m12 m1 3m2;N1ME3 Floor b b2 4a c 2a ;N2ME3 Ceiling b b2 4a c 2a ;N1ME3,N2ME3"3.2函数法："N1ME3,N2ME3 N1ME3,N2ME3 .FindDistributionParameters X,DiscreteUniformDistribution N1ME3,N2ME3 ,ParameterEstimator "MethodOfMoments" ;Floor N1ME3 ,Ceiling N2ME3Clear N1ME3,N2ME3 ;"二.极大似然估计：""1.已知N1 N10，估计N2：""1.1公式法："N2MLE1 max"1.2函数法："N2MLE2 Ceiling N2MLE2 .FindDistributionParameters X,DiscreteUniformDistribution N10,N2MLE2 Clear N2MLE1,N2MLE2 ;"2.已知N2 N20，估计N1："2[N1,N2]离散均匀分布参数的点估计.nb[N1,N2]离散均匀分布参数的点估计.nb3"2.1公式法："N1MLE1 min"2.2函数法："N1MLE2 Ceiling N1MLE2 .FindDistributionParameters X,DiscreteUniformDistribution N1MLE2,N20 Clear N1MLE1,N1MLE2 ;"3.N1、N2均未知：""3.1公式法："N1MLE3 min;N2MLE3 max;N1MLE3,N2MLE3"3.2函数法："N1MLE3,N2MLE3 N1MLE3,N2MLE3 .FindDistributionParameters X,DiscreteUniformDistribution N1MLE3,N2MLE3 ; N1MLE3,N2MLE3Clear N1MLE3,N2MLE3 ;Clear N10,N20,X,min,max,m1,m2 ;Out[233]=一.矩估计：Out[234]= 1.已知N1 N10，估计N2：Out[235]= 1.1公式法：Out[236]=58932Out[237]= 1.2函数法：Out[238]=58932Out[240]= 2.已知N2 N20，估计N1：Out[241]= 2.1公式法：Out[242]=1938Out[243]= 2.2函数法：Out[244]=1938Out[246]= 3.N1、N2均未知：Out[247]= 3.1公式法：Out[253]= 434,58504Out[254]= 3.2函数法：Out[256]= 434,58504Out[258]=二.极大似然估计：4[N1,N2]离散均匀分布参数的点估计.nbOut[259]= 1.已知N1 N10，估计N2：Out[260]= 1.1公式法：Out[261]=56930Out[262]= 1.2函数法：Out[263]=56930Out[265]= 2.已知N2 N20，估计N1：Out[266]= 2.1公式法：Out[267]=203Out[268]= 2.2函数法：Out[269]=203Out[271]= 3.N1、N2均未知：Out[272]= 3.1公式法：Out[275]= 203,56930Out[276]= 3.2函数法：Out[278]= 203,56930。

多维均匀分布矩估计【引言】多维均匀分布矩估计是概率统计学中重要的概念之一。

在实际问题中，我们经常需要对多维均匀分布的参数进行估计，以便更好地理解和分析数据。

本文将从简单到复杂，从理论到实践，深入探讨多维均匀分布矩估计的主要内容和相关方法。

【主体内容】1. 多维均匀分布的基本概念多维均匀分布是指在多维空间中各个维度之间均匀分布的概率分布。

它是一种简单而重要的分布，常用于描述各种物理、生物、经济等现象。

我们可以将多维均匀分布看作是一个区域内的每个点被选择的概率相等。

2. 多维均匀分布的参数估计为了更好地理解和分析多维均匀分布，我们需要对其参数进行估计。

常用的参数估计方法包括矩估计、最大似然估计和贝叶斯估计等。

在本文中，我们重点介绍多维均匀分布的矩估计方法。

3. 多维均匀分布的矩估计方法矩估计是一种常用的参数估计方法，它基于样本矩与总体矩之间的对应关系。

对于多维均匀分布，我们可以通过样本均值和样本方差来估计其参数。

具体而言，我们可以通过计算样本均值得到各个维度上的均值估计值，通过计算样本方差得到各个维度上的方差估计值。

4. 多维均匀分布矩估计的优势与局限性多维均匀分布矩估计方法具有简单易懂、计算方便的优点，尤其适用于大样本情况。

然而，由于仅基于一阶和二阶矩的信息进行估计，矩估计方法可能存在估计偏差和不稳定性的问题。

在实际应用中，我们需要根据具体问题选取合适的估计方法。

【个人观点和理解】多维均匀分布矩估计作为一种常见的参数估计方法，具有一定的可行性和可靠性。

在实际应用中，我们常常使用大样本的数据来进行估计，以降低估计偏差和提高估计精度。

另外，多维均匀分布的矩估计方法也可以用作其他概率分布的近似估计方法，扩展了其应用范围和价值。

【总结】通过对多维均匀分布矩估计的全面评估，我们了解了其基本概念、参数估计方法及其优劣势。

多维均匀分布矩估计在实际问题中具有广泛的应用前景，可以帮助我们更好地理解和分析复杂的数据。

第七讲 参数估计1.点估计 (1) 矩估计i) 当总体仅含一个未知参数θ时,即令 )(),(),(1θθθh dxx xf x X P x EX X ii i =⎪⎩⎪⎨⎧===⎰∑∞+∞- 从中解出θ=T(x 1,x 2,…, x n )从而θ的矩估计为 ),,(ˆ1n X X T =θ 若EX=0,则令)(12212θh EXX nni i ==∑=，从中解出θ的矩估计 ),,(ˆ1n X X T =θii)当总体含有两个未知参数θ1,θ2时,即令 ⎪⎩⎪⎨⎧====∑=),(1),(212212211θθθθg EXX n g EX X ni i 从方程组中解出θ1,θ2从而求出θ1,θ2的矩估计 ),,,(ˆ),,,(ˆ122111n n X X T X X T ==θθ当总体方差DX 是熟知的已知形式时,则令 ⎪⎩⎪⎨⎧==-==),()1(),(2122211θθθθg DX n S n g EX X ，从中解出θ1,θ2的矩估计。

由上可知，对任意的总体分布，若其期望和方差均存在，则 （1）样本均值是总体均值μ的矩估计。

即 X =μˆ （2）nS n 2)1(-是总体方差σ2的矩估计。

即 ∑=-=-=ni iX XnnSn 1222)(1)1(ˆσ例1 已知总体X 有密度函数 ⎪⎩⎪⎨⎧<<-=其它00)(6),(3θθθθx x x x f 其中θ为未知参数,X 1,X 2,…,X n ,为总体X 的一个样本。

(1)求θ的矩估计量。

(2)若3.5, 4.2, 5.3, 4.4, 3.7, 5.8, 3.9, 4.8为一组样本观察值，求θ的矩估计值。

解 (1) 总体X 只有一个未知参数,故考虑用一阶总体原点矩。

⎰=-=θθθθ0322)(6dx x x EX令 X X 2ˆ,2=∴=θθ是θ的矩估计。

(2) 代入样本观测值，求出样本均值 ∑===8145.481i ix x ，则9.82ˆ==X θ即9.8ˆ=θ为矩估计值。

第六章参数估计6.1 点估计问题概述习题1总体X在区间[0，θ］上均匀分布，X1，X2,⋯，Xn是它的样本，则下列估计量θ是θ的一致估计是（).(A）θ=Xn；(B）θ=2Xn；(C)θ=X¯=1n∑i=1nXi;（D)θ=Max{X1,X2，⋯,Xn｝。

解答：应选（D）.由一致估计的定义，对任意ɛ>0，P(∣Max{X1，X2，⋯,Xn}—θ∣〈ɛ)=P（-ɛ+θ〈Max{X1，X2，⋯，Xn}<ɛ+θ）=F(ɛ+θ）—F(-ɛ+θ).因为FX（x)=｛0,x〈0xθ,0≤x≤θ1，x〉θ,及F（x）=FMax｛X1，X2，⋯,Xn｝（x)=FX1(x)FX2(x)⋯FXn（x）,所以F（ɛ+θ)=1，F（-ɛ+θ）=P（Max｛X1，X2,⋯,Xn}〈—ɛ+θ)=(1—xθ）n，故P(∣Max{X1,X2，⋯,Xn｝-θ∣〈ɛ）=1-(1-xθ)n→1（n→+∞).习题2设σ是总体X的标准差，X1，X2,⋯，Xn是它的样本，则样本标准差S是总体标准差σ的（)。

(A）矩估计量；(B)最大似然估计量；（C)无偏估计量; (D）相合估计量。

解答:应选（D）.因为，总体标准差σ的矩估计量和最大似然估计量都是未修正的样本标准差；样本方差是总体方差的无偏估计，但是样本标准差不是总体标准差的无偏估计.可见,样本标准差S是总体标准差σ的相合估计量.习题3设总体X的数学期望为μ，X1,X2，⋯，Xn是来自X的样本，a1,a2,⋯，an是任意常数，验证(∑i=1naiXi)/∑i=1nai（∑i=1nai≠0)是μ的无偏估计量。

解答：E（X）=μ，E（∑i=1naiXi∑i=1nai）=1∑i=1nai⋅∑i=1naiE（Xi) （E（Xi)=E(X）=μ)=μ∑i=1nai∑i=1n=μ,综上所证，可知∑i=1naiXi∑i=1nai是μ的无偏估计量。

习题4设θ是参数θ的无偏估计，且有D(θ)〉0, 试证θ2=（θ)2不是θ2的无偏估计.解答：因为D（θ）=E(θ2）-［E(θ)］2，所以E(θ2)=D（θ)+［E(θ)]2=θ2+D（θ）〉θ2，故(θ)2不是θ2的无偏估计。

关于参数估计虽然⾮计算机专业，但因为⼀些原因打算学习西⽠书，可由于长时间没有碰过概率统计的知识，有所遗忘。

所以特意重新复习了⼀遍类似的知识，写在这⾥权当总结。

主要参考《概率论与数理统计》(陈希孺)。

参数估计就是根据样本推断总体的均值或者⽅差、或者总体分布的其他参数。

可以分两种，⼀种是点估计(估计⼀个参数的值)，另⼀种是区间估计(估计⼀个参数的区间)。

参数估计的⽅法有多种，各种估计⽅法得出的结果不⼀定相同，很难简单的说⼀个必定优于另⼀个。

点估计点估计主要有三种⽅法：矩估计、最⼤似然估计、贝叶斯估计。

矩估计定义k阶样本原点矩为 $$a_k=\frac{1}{n}\sum n_{i=1}X_i k$$若k=1则原点矩显然就是样本均值\bar{X}；再定义k阶样本中⼼矩为m_k=\frac{1}{n}\sum^n_{i=1}(X_i-\bar{X})^k.另⼀⽅⾯，总体分布设为f(x;\theta_1,\theta_2,...,\theta_k)则有m阶原点矩\alpha_m=\int x^mf(x;\theta_1,\theta_2,...,\theta_k){\rm d}x.矩估计的思想就是：令样本k阶矩等于总体k阶矩，得到⼀组⽅程，由此反解出\{\theta_i\}.⼀般原则是要求解n个参数，就选n个最低阶的矩，令它们相等并反解。

例题：设X_1,...,X_n为区间[\theta_1,\theta_2]上均匀分布总体中抽出的n个样本，估计出\theta_1,\theta_2.计算出样本中⼼矩m_1=\sum_iX_i/n和m_2=\sum_iX_i^2/n.再计算出总体中⼼矩分别为\frac{\theta_1+\theta_2}{2}和\frac{(\theta_1+\theta_2)^2}{12}，令它们对应相等，解出来两个\theta即可。

极⼤似然估计符号同前，样本(X_1,...,X_n)的联合概率密度(PDF)为f(x_1;\theta_1,...,\theta_k)f(x_2;\theta_1,...,\theta_k)...f(x_n;\theta_1,...,\theta_k).现在反过来，固定样本\{X_i\}⽽把上⾯PDF看作关于\{\theta_i\}的“密度函数”，加引号是因为实际上\{\theta_i\}是固定参数⽽⾮随机变量，这⾥可以叫做似然函数(likehood, ⽽⾮probability)。