极大似然估计模型

第４８卷第４期　２０１０年７月　吉林大学学报（理学版）　Ｊｏｕｒｎａｌ　ｏｆ　Ｊｉｌｉｎ　Ｕｎｉｖｅｒｓｉｔｙ（Ｓｃｉｅｎｃｅ　Ｅｄｉｔｉｏｎ）　Ｖｏ１．４８　Ｎｏ．４　Ｊｕｌｙ　２０１０　

ＩＮＧＡＲＣＨ模型拟极大似然估计的相合性　

潘保国，林依勤　

（湖南科技学院数学与计算科学系，湖南永州４２５１００）　

摘要：利用拟极大似然方法研究ＩＮＧＡＲＣＨ模型参数的估计问题，证明了拟极大似然估计的　

强相合性．模拟结果表明，在样本数较大时，拟极大似然估计比最大似然估计效果更好．　

关键词：ＩＮＧＡＲＣＨ模型；平稳性；拟极大似然；相合性　

中图分类号：０２１２．６　文献标志码：Ａ　文章编号：１６７１—５４８９（２０１０）０４—０６００－０５　

Ｃｏｎｓｉｓｔｅｎｃｙ　ｏｆ　Ｑｕａｓｉ－ｍａｘｉｍｕｍ　Ｌｉｋｅｌｉｈｏｏｄ　Ｅｓｔｉｍａｔｏｒｓ　

ｉｎ　ＩＮＧＡＲＣＨ　Ｍｏｄｅｌ　

ＰＡＮ　Ｂａｏ—ｇｕｏ，ＬＩＮ　Ｙｉ—ｑｉｎ　（Ｄｅｐａｒｔｍｅｎｔ　ｏｆ　Ｍａｔｈｅｍａｔｉｃｓ　ａｎｄ　Ｃｏｍｐｕｔａｔｉｏｎ，Ｈｕｎａｎ　Ｕｎｉｖｅｒｓｉｔｙ　ｏｆ　Ｓｃｉｅｎｃｅ　ａｎｄ　Ｅｎｇｉｎｅｅｒｉｎｇ，　Ｙｏｎｇｚｈｏｕ　４２５１００，Ｈｕｎａｎ　Ｐｒｏｖｉｎｃｅ，Ｃｈｉｎａ）　

Ａｂｓｔｒａｃｔ：Ｔｈｅ　ｐｒｏｂｌｅｍｓ　ｏｆ　ｐａｒａｍｅｔｅｒ　ｅｓｔｉｍａｔｉｏｎ　ｉｎ　ｔｈｅ　ＩＮＧＡＲＣＨ　ｍｏｄｅｌ　ｗｅｒｅ　ｓｔｕｄｉｅｄ　ｂｙ　ｍａｋｉｎｇ　ｕｓｅ　ｏｆ　ａ　

ｍｅｔｈｏｄ　ｏｆ　ｑｕａｓｉ—ｍａｘｉｍｕｍ　ｌｉｋｅｌｉｈｏｏｄ．Ｓｔｒｏｎｇ　ｃｏｎｓｉｓｔｅｎｃｙ　ｏｆ　ｔｈｅ　ｅｓｔｉｍａｔｏｒｓ　ｗａｓ　ｐｒｏｖｅｄ．Ｗｈｅｎ　ｔｈｅ　ｎｕｍｂｅｒ　ｏｆ　

ｔｈｅ　ｓａｍｐｌｅ　ｉｓ　ｃｏｍｐａｒａｔｉｖｅｌｙ　ｌａｒｇｅ，ｔｈｅ　ｓｉｍｕｌａｔｉｏｎ　ｓｔｕｄｙ　ｓｈｏｗｓ　ｔｈａｔ　ｔｈｅ　ｑｕａｓｉ—ｍａｘｉｍｕｍ　ｌｉｋｅｌｉｈｏｏｄ　ｅｓｔｉｍａｔｏｒｓ　

第１Ｏ卷第２期　

２００７年６月　湖北职业技术学院学报　

Ｊｏｕｒｎａｌ　ｏｆ　Ｈｕｂｅｉ　Ｖｏｃａｔｉｏｎａｌ—－Ｔｅｃｈｎｉｃａｌ　Ｃｏｌｌｅｇｅ　Ｎｏ．２　Ｖｏ１．１０　

Ｊｕｎ．２００７　

［文章编号］１６７１—８１７８（２００７）Ｏ２—Ｏｏ９４—０４　

极大似然估计的性质探讨　

邹小云　

（湖北职业技术学院公共课部，湖北孝感４３２０００）　

［摘要］文章首先介绍了极大似然估计，然后综述了极大似然估计的优良性质，同时探讨了在应用极　

大似然估计时所应注意的问题。　

［关键词］极大似然估计；不变性；存在性；唯一性；相合性；渐近正态性　

［中图分类号］０２１２　［文献标识码］Ａ　

１　引言　由于极大似然估计的渐近最优性，它已成为参　

数估计的一种常用方法，并且已经在众多的领域中　

广泛得到应用。例如系统辩识、语音处理、图象处理　

及模型识别等等。它是建立在极大似然原理的基础　

上的一个统计方法，并且所得到的极大似然估计具　

有良好的性质，如相合性、有效性、不变性等。从某　

种意义上来说没有比极大似然估计更好的参数估　

计。因此，对极大似然估计性质进行探讨是很有必　

要的。本文在文献…的基础上对极大似然估计的性　

质进行了探讨。　

２极大似然估计　

定义１【２】：设总体　的概率函数为，（　１　０），其　

中０＝｛０　一，０　｝为未知参数，０∈０。设　＝（　，　

…，　），是来自Ｘ的简单随机样本，令：　

Ⅳ　Ｌ（０　Ｉ　）：Ａ兀，（　１　０）　。（１）　

称作为０的函数／４　０　Ｉ　）为似然函数。进＿步，若　

（　）是０的一个估计量，满足条件：　

三（　（　）Ｊ　）＝ｓｕｅｚ．（ｏ　Ｊ　），　∈　（２）　

其中　是样本空间，则称　（　）是０的极大似然估计。　

由于概率函数大多具有指数函数形式，采用似　

然函数的对数求解通常更为简便。称　

Ⅳ　ｚ（０　Ｉ　）＝ｌｎＬ（０　Ｉ　）＝∑Ｉｎ　１　０））（３）　为对数似然函数。由于对数变换是严格单调的，故　

ｌｎＬ（０　Ｉ　）与￡（０　Ｉ　）在寻求极大值时是等价的。因　

1.设总体X的概率密度函数是

1, 01(;)0, xxfxa其它

其中0为未知参数。12, , , nxxx是一组样本值，求参数的最大似然估计。

解：似然函数1111nnniiiiLxx

1lnln(1)lnniiLnx

1lnln0niidLnxd

1ˆlnniinx

2、设总体X的概率密度函数是

1 01(;)0 xxfxa（）其它

123,,,,nxxxx是一组样本值，求参数的最大似然估计。

解：似然函数11(1)(1)nnniiiiLxx

1lnln(1)lnniiLnx

1lnln01niidLnxd

1ˆ1lnniinx

3、设总体X的概率密度函数是

22exp{}, 0()0, xxxfx其它

>0为未知参数，123,,,,nxxxx是一组样本值，求参数的最大似然估计。

解：似然函数22111(2exp{})(2exp{})nnnnniiiiiiiLxxxx

211lnln(2)lnnniiiiLnxx

极大似然估计牛顿法计算过程

嘿，朋友！咱们今天来聊聊极大似然估计牛顿法的计算过程。

您知道吗，这极大似然估计就像是在黑暗中寻找那最亮的一颗星。我们想通过已有的一些数据，去猜一猜最有可能产生这些数据的那个神秘的“幕后黑手”。

那牛顿法呢，就好比是一个聪明的探险家，在复杂的地形中寻找最快到达山顶的路。

咱们先来说说极大似然估计。假设您在一个大果园里，看到了一堆苹果，有的大，有的小。您想知道这是从哪棵树上掉下来的。那您就得根据这些苹果的大小、形状等等特征，去猜哪棵树最有可能是它们的“妈妈树”。这就是极大似然估计的基本思路！

再说这牛顿法，它可是个厉害的角色！您想想，如果您在爬山，不知道哪条路能最快到达山顶，那牛顿法就像一个有超能力的导航，能帮您迅速找到最佳路径。

那在计算中，极大似然估计首先要确定一个概率模型，就像给咱们的探险定个地图。然后呢，根据已知的数据，去计算这个概率模型的参数，让整个概率变得最大。这可不简单啊，就好比在一堆乱麻中找出那根关键的线头。 而牛顿法呢，每次都根据当前的位置和地形的坡度，来调整前进的方向。它通过不断地迭代，越来越接近那个最优解，是不是很神奇？

比如说，您要解一个方程，就像要打开一个神秘的宝箱，可是钥匙的位置不知道。极大似然估计就帮您猜猜钥匙可能在哪个范围，牛顿法就带着您在这个范围内精确地找到钥匙的位置。

这计算过程中，每一步都得小心翼翼，就像走钢丝一样。一个不小心，可能就跑偏了。但只要您掌握了其中的窍门，那就能像武林高手一样，轻松应对。

您说，这是不是很有趣？其实啊，数学的世界就是这样充满了神秘和惊喜，只要您愿意去探索，就会发现无尽的宝藏！

总之，极大似然估计牛顿法的计算过程虽然有点复杂，但只要您用心去理解，多做练习，就一定能掌握这个神奇的工具，为您解决更多的难题！