03充分统计量与完备性(补充)-教学辅导一、【内容提要】1．充分统计量（sufficient statistic ）1）定义5.5.1 ： 设 12 ,,, n X X X 是来自某个总体的样本，总体分布函数为(;) Fx θ，统 计量 12 (,,,) n T T X X X = 称为的充分统计量，如果在给定T 的取值后，12 ,,, n X X X 的条件与θ无关2）定理5.5.1（因子分解定理Factorization Theorem ）：设总体概率函数为(;) f x θ，12 ,,, n X X X 为样本，则 12 (,,,) n T T X X X = 为充分统计量得充分必要条件是：存在两个函数(,) g t θ和 12 (,,,) n h X X X 使得对任意的θ和任意组观测值 12 ,,, n X X X ，有 12 (,,,;) n f X X X θ= 1212 ((,,,),)(,,,) n ng T X X X h X X X θ， 其中是通过统计量的取值而依赖于样本的.证明：一般性结果的证明超出本课程范围，此处我们将给出离散型随机变量下的证明， 此时， ()()111 ,,;,;. n n nf x x P X x X x θθ ===先证必要性.设T 使充分统计量,则在Tt=下, ) 11 ,, n n P X x X x T t === 与无关,记为 () 1 , n h x x 或 () h X ,令 ()()}: A t X T X t ==,当 ()x A t ∈时有 { 11 ,,, n n T tX x X x =⊃==故()() () () ()()1111 11 1,,;,,,;,,; ,,,,n n n n n n n P X x X x P X x X x T tP X x X x T t P T t h x x g t θθ θ θ ====== ===== =其中 ()() ,;,g t P Tt θθ==而 ()) 11 ,, n n h X PX x X x T t ==== 与θ无关,必要 性得证.对充分性,由于()) ()(){} ()() ()(){} 11 11 11 ,:,1 ,:,;,;,,, n n n n nn x x T x x tn x x T x x t P T t P X x X x g t h x x θθ θ = = ==== = ∑∑对任给 () 1, n X x x = 和t ,满足 () X A t ∈,有()()()()()()() ()() ()(){}()() ()(){}11 11 11 11 11 1 1 ,:, 1 1 ,:,,, ,,,; ; ,,; ; ,,, ,,,, , , n n n n n n n n n n n n y y T y y t n n y y T y y t P X x X x T t P X x X x T t P T t P X x X x P T t g t h x x g t h y y h x x h y y θ θ θ θ θ θ = = === ===== === = ==∑ ∑该分布与无关,这证明了充分性.3）充分性判别法则定理 4.1 设样本分布密度函数族（连续或离散）为() } () ,:, Ff x TT X θθ=∈Θ=为统计量.则：T 为充分统计量的充分必要条件为：存在关于t 的可测函数 () g t θ 与关于x 的非负可测函数 () h x ，使得()))() , f x g T x h xθ θ= (0.1)对每一. x Xθ∈Θ∈与成立注： () . h x θ 不依赖于证：只对离散型情况给出证明.这时,()[] , f x P X xθ θ== 对于 () T X 的值域中任意固定的t ,定义集合()()} :.A t x T x t== 充分性 设 () , f x θ θ使因子分解式（1.1）成立.则对任意的(), x A t ∈ () T x t =成立,条件概率() () () [] [] () () () ()()() ()()() ()()() ()() () ()() (), , , , u A t u A t u A t u A t P X x T X t P X x T X t P T X tg T x h x P X x f x P T t f u g T u h u g t h x h x g t h u h u θ θ θ θ θθ θ θ θ θ ∈∈ ∈∈==⎡⎤⎣⎦⎡==⎤= ⎣⎦ =⎡⎤ ⎣⎦ = === = =∑∑ ∑∑它与参数无关.又若()) ,, x A t T x t ∉≠则() ) () [][], 0.P X x T X t P X x T X t P T X tP P T t θ θ θ θ == ⎡⎤ ⎣⎦ ⎡==⎤=⎣⎦ =⎡⎤⎣⎦ ∅ === 也与无关.因此,条件分布 ))() . f x t f x t T X θ θθ =与无关,即是的充分统计量必要性 设 () T X 是θ的充分统计量,由充分统计量的定义, () P X x T X tθ ⎡==⎤⎣⎦ 与 参数无关,它是的函数,记为() . h x 于是,对任意固定的t ,当 () x A t ∈时, () T x t = 成立;这时()) ()() ()()()() ()()(),,, T x P X x P X x T X t P T X t P X x T X t P T X t h x g t h x g T x h x θθ θθ θθ θ θ===== ⎡⎤ ⎣⎦ ==⎡==⎤⎡⎤ ⎣⎦⎣⎦ === ⎡⎤ ⎣⎦ =式中 ()() . g t P T X t θθ ==⎡⎤ ⎣⎦ 因而（1.1）成立. 由因子分解定理,若样本的密度函数 () , f x θ能分解成两个因子的乘积,其中一个为 () T X 的函数,而另一个仅为的函数,与参数θ无关,则 () T X 是的充分统计量.2．完备性 1）定义：{(;),} Fp x θθ=∈Θ ，设()g x 是定义在样本空间Ω上的一个实函数，一般来 说，积分（如果存在）[()]()(;) E g x g x p x dx θΩ = ⎰（θ∈Θ），因此上述积分（数学 期望）可以看作一个变换，且是一对一的变换. 即对θ∀∈Θ， 1212 ()()1[()][()]g g g x g x E g x E g x ==⇔=12 0 g g g =-=， 12 ()0 g E g g -= ，则{()0}1[()]0 g p g x E g x θ ==⇔= 英文注释：Definition (Complete Statistic) : Let be a family of pdfs of pmfs for a statistic .The family of probability distributions is called complete if for all implies for all . Equivalently, is called a complete statistic . 2）分布族的完备性： 定义：{(;),} Fp x θθ=∈Θ对于任何一个可测函数() g x ，由[()]()()(;)0 g E g x g x p x dx πϕθθ === ⎰ 对θ ∀有{{()}0}1 g p g x ==or ()0(..) g x a e p = 等价的， 12[()][()] g E g x E g x θ =对 θ∀∈Θ成立，可推出 12 {()()}1p g x g x θ == 3）完备性意义：① 积分变换（数学期望）的唯一性. ② 常用的积分变换.a . 傅里叶变换 ()() itx f x e f xdx +∞ -∞ → ⎰ 特征函数，它在(,) t ∈-∞+∞上 都存在且有 唯一性.b . laplas 变换 ()() sxf x e f x dx+∞- -∞ → ⎰ ，该式在s=0存在至少在s=0某个领域内有 定义，则有唯一性.4）完备充分统计量（complete sufficient statistic ）定义：设(;) p x θ是一概率密度函数且是指数族的正规案，设1 ,, n X X 是具有p.d.f(;) p x θ的分配的随机样本.则统计量 1ni i T X = = ∑ 是的完备充分统计量.5) 某些完全性定理（指数族的完全性）：设X 的样本空间为(,) x x β，分布族为指数族，对θ∈Θ，有θ∈Θ 1 ()()exp[()]() ki i i dp x c T x du x θ θθ = = ∑ ，此处Θ为 k R 之一子集，若Θ（作为 k R 的子 集）由内点，则统计量 1()((),,()) k t x T x T x = 是完全统计量. 定理（次序统计量的完全性）： 设分布族f 满足以下两个条件：（a ）若12,F f F f ∈∈，则对任何 1212 0,0,1, P P P P >>+= 有 1122 PF P F f +∈.（b ）若,[,), F f S a b a b ∈=-∞<<<+∞，而()0 F s ≠，则 B F f ∈，则次序统计量(1)() ,, n X X 是完全的（对任何自然数n ）.引理 ：设分布族满足上面的条件（a ），1 (,,) n f X X 为Bore （可测得对称函数），满足条件11(1)() (,,)()()0(,,) n n n f X X dF X dF X f X X +∞+∞-∞-∞= ⎰⎰，对任何F f ∈， 则对F 中的任意n 个分布 1,, n F F ，必有 111(1)() (,,)()()0(,,) n n n nf X X dF X dF X f X X +∞+∞-∞-∞ = ⎰⎰定义（有界完全性）：设变量X 的样本空间为(,) x x β，分布族为{,} pθ θ∈Θ，() t x 为定义 于X 取值于(,) f f β的统计量，其分布族为{,} Tp θ θ∈Θ，若对任何满足条件” ()()0 xf x dp x θ = ⎰ ,对一切θ∈Θ”的有界 x β可测函数() f x ，必有 {()0}0 p X f x θ =≠=，对一切θ∈Θ，则称分布族{,} p θ θ∈Θ为有界完全的.若 {,} T p θθ∈Θ为有界完全的，则称t 为有界完全统计量.3．极小充分统计量（minimal sufficient statistic ）1）定义： 设() t x 为(,) x x β上的一个充分统计量，取值于(,) f f β，β上的分布族为 {,} p θ θ∈Θ.若对任何定义于，取值于某可测空间(,) s S β的充分统计量.必存在由(,) s S β到(,) f f β的可测变换()t q s =，以及 x A β ∈，满足条件()0 p A θ =对任何θ∈Θ， 致()(())t x q S x =，对任何x A ∈，则称唯一极小充分统计量. 2）定理（极小充分统计量的存在定理）： 假定分解定理中的条件成立，且样本空间为欧式的，则极小充分统计量存在.3）要求：①信息损失越少越好 ②统计量越简化越好4．指数族：1）定义：设(,|:|) p θ θ X B ∈Θ是可控参数统计结构，加入其密度函数可表示为如下形 式： 1()()exp{()()}() kjji p x c c T x h xθ θθ = = ∑ 并且它的支撑{:()0} x p x θ >不依赖于，则称此结构为指数型的统计结构，简称指数结构，其中的分布族为指数族，这里的1 0(),(),,(),() k jc c c T x θθθ <<∞ 都与θ无关，且取有限值的B 可测函数，k 为正整数，()0 h x >.2）定理：① 自然参数空间Ω为凸集②() x Φ是X 上的B 可测函数，且对一切 1 (,,) k w w w =∈Ω有 1|()|exp{()} kj jj x w T x dμ = Φ<∞∑ ⎰ ③ 设 1(,,) n X X X = 是来自指数型分布标准形式的一个样本，则有统计量 11 11((),,())((),,()) nnk i k ii i T X T X T x T x == = ∑∑ 是指数型分布族的充分统计量.ln 1 ()(1)(1) x x n x n n n p x e x x θ θ θ θθθ - - ⎛⎫⎛⎫ =-=- ⎪ ⎪ ⎝⎭⎝⎭1 ()exp{()}(),0,1,, c c x h x x nθθ==其中 1 ()(1),()ln ,() 1 n n c c x h xx θ θθθ θ ⎛⎫ =-== ⎪ - ⎝⎭22 , 222()}exp{} 22 u x xp x σ μμ σσσ=--+ 其中 2 12 2221(,)},(,),(,) 22c c c μμμσμσμσσσσ=-==2 12()1,(),() h x T x x T x x ===1 , 12 () () exp{(1)ln } () (,)exp{(,)(,)ln },0x p x x ex x c c x c x x α αλαλ αλ α λ λα α αλαλαλ --= Γ =-+- Γ =+< 其中 12(,),(,),(,)(1) () c c c α λ αλαλλαλα α ==-=-Γ注：如果Gammar 分布中引入第三个参数——门限参数，其密度函数为1() ,, ()(), () x p x x e x α αλμ μαλ λ μμ α --- =->Γ5．辅助统计量（ancillary statistic ）： 1）定义： 设~{(;),}Xf x θθ∈Θ，若统计量() A A X =的分布与θ无关，则称() A X 为辅助统计量（即()A X 中不包含关于的信息）英文注释：Definition (Ancillary Statistic) : A statistic () S X whose distribution does notdepend on the parameter θ is called an ancillary statistic . Alone, an ancillary statistic contains no information about θ.An ancillary statistic is an observation on a random variable whose distribution is fixed and known, unrelated to .Paradoxically, an ancillary statistic, when used in conjunction with otherstatistics, sometimes does contain valuable information for inferences about θ.二、【释疑解难】1．对上述充分统计量的证明*b (1,p ) 设 12 ,,, n X X X 使来自二点分布) 1,b p 的一个样本，其中01,2 p n <<>，现在我们来考 察如下两个统计量：12121 ,.ni iT X T X X = ==+∑ 我们知道，样本()12 ,,, n X X X 的联合分布是()()1 1 1122 ,,,1, nn i i i i X n X n n P X x X x X x p p = = - ∑ ∑ ====-其中，诸 i x 非0即1.而统计量 1 1nii T X = =∑ 的分布为二项分布 () ,b n p ，即()() 1,0,1,,.n t t n P T t p p t n t - ⎛⎫ ==-= ⎪ ⎝⎭而在给定 1 T t =下，样本的条件分布为()()()()()()1122111221111111111,,,,,,,,,,1.1n nn nnn n n iin ttn ttP X x X x X x T tP X x X x X x T tP T tP X x X x X t xP T tnp pn tp pt---=---==========⎛⎫===-⎪⎝⎭==-⎛⎫== ⎪⎛⎫⎝⎭-⎪⎝⎭∑计算结果表明，这个条件分布与参数p无关.它已不含有参数p的有关信息了.样本中有关p的信息都含在统计量1T中.另外，统计量212T X X=+的分布仍是二次分布)2,b p，即()()2221,0,1,2.ttP T t p p tt-⎛⎫==-=⎪⎝⎭于是在给定2T t=下，样本的条件分布为()()()()()()3333112221121332212,,,,,,12121.nniiiinniiiin nn nt xn t xttxn xP X x X x X x T tP X x X t x X x X xP T tp pp ptp pt====+------======-====∑∑-=⎛⎫-⎪⎝⎭∑⎛⎫∑=-⎪⎝⎭可见，这个条件分布与参数有关.这意味着，这个条件分布还含有参数的信息，而样本中有关的信息没有完全包含在统计量2T之中.注：从上例可以直观地看出，用条件分布与参数无关来表示不损失样本中有价值的信息室妥当的.一般的充分统计量的定义也正是这样给出的.(数理统计_茆诗松王静龙P46/Ex 1.6.2)()Pλ（书P283/E x5.5.2）：设1,,nx x是来自泊松分布)Pλ的样本，则1niiT x==∑是充分统计量解：(;)exp{(ln )ln(!)},0,1, !x p x e x x x x λλ λθθ- ==--= 且 1,, n X X 独立同分布，根据充分完备统计量定义可得， 1n T x x =++ 为其充分统计量.令解：由泊松分布性质知， ) T P n λ在给定Ｔ的取值后，对任意的一组1 1 ,, n n i i x x x t = ⎛⎫= ⎪⎝⎭∑ ，有 ()1 1111 1 11 1 ,,, ,, n n n n i i n n n i i P X x X x X t x P X x X x T t P x t - -- = = ⎛⎫==-=⎪⎝⎭==== ⎛⎫ = ⎪ ⎝⎭∑ ∑() () 11 1 1 e ! n n i i n i i i tn P X x PX t x n t λ λ -- = = - ⎛⎫ ==- ⎪ ⎝⎭= ∑ ∏() 1 1 1 1 1 1 e e! ! e !n i i i t x x n n i i i i tn x t x n t λλλ λλ λ - = -- --- = = -∑ ⎛⎫ - ⎪⎝⎭ = ∏ ∑() 1 e! e ! t n ni i t n x n t λ λ λλ - = -= ∏1! ! nt i i t n x= =⋅ ∏ 与无关，是充分统计量.()Ge θ （书P 283/E x 5.5.１）：设 1 ,, n x x 是来自几何分布 ()() 1,0,1,2,xP X x x θθ ==-=的样本，则1niiT x==∑是充分统计量.解：()()1exp{ln ln(1)},0,1,2,xP X x x xθθθθ==-=+-=且1,,nX X独立同分布，则由充分完备统计量定义得，1nT x x=++为其充分统计量.令解：由几何分布性质知，),T Nb nθ其分布列为()()11,0,1,2,tnn tP T t ttθθ+-⎛⎫==-=⎪⎝⎭在给定Ｔ的取值后，对任意的一组11,,nn iix x x t=⎛⎫=⎪⎝⎭∑，有()111111 111,,,,,nn n n iin n niiP X x X x X t x P X x X x T tP x t---==⎛⎫==-=⎪⎝⎭====⎛⎫=⎪⎝⎭∑∑()()111111n ni i n iiitnP X x P X t xn ttθθ--==⎛⎫==-⎪⎝⎭=+-⎛⎫-⎪⎝⎭∑∏()()()11111111nt x iiinxitnn ttθθθθθθ--∑=-=⎛⎫-⋅-⎪⎝⎭=+-⎛⎫-⎪⎝⎭∏()()111tntnn ttθθθθ-=+-⎛⎫-⎪⎝⎭11n tt=+-⎛⎫⎪⎝⎭与无关，是充分统计量.E x p(l)设1,,nx x是来自指数分布E x p(l)的样本，则1niiT x==∑是充分统计量.解：(;)exp{ln},0,1,xp x e x xλλλλλ-==-=且 1,, n X X 独立同分布，则由充分完备统计量定义得， 1n T x x =++ 为其充分统计量.令解：由泊松分布性质知， () , T Ga n λ其分布函数为() ()() 11; 1! n n n t n t p t t e t e n nλλλλλ ---- == Γ-在给定Ｔ的取值后，对任意的一组1 1 ,, n n i i x x x t = ⎛⎫= ⎪⎝⎭∑ ，有 ()1 1111 1 11 1 ,,, ,, n n n n i i n n n i i P X x X x X t x P X x X x T t P x t - -- = = ⎛⎫==-=⎪⎝⎭==== ⎛⎫ = ⎪⎝⎭∑ ∑() ()11 1 1 1 1! n n i i n i i i nn tP X x PX t x t e n λ λ -- = = -- ⎛⎫ ==- ⎪ ⎝⎭= - ∑ ∏() 1 1 1 1 1 1! n i i it x n x i n n t e et en λ λ λ λλ λ - = ⎛⎫⎪ -- - ⎪ - ⎝⎭= -- ∑ ⎛⎫ ⋅ ⎪ ⎝⎭ = - ∏()1 1! n t nn te t e n λ λ λ λ - -- = -) 1 1!n n t- - =与无关，是充分统计量.*对于非指数族用其因子分解定理来求充分统计量，以下就是典型的例子(0,) U θ（书P 282/E g5.5.4）：设 1 ,, n x x 是取自总体(0,) U θ的样本，即总体的密度函数为() 1,0 ; 0x p x θ θ⎧ << ⎪ = ⎨ ⎪ ⎩ 其他 解：于是样本的联合密度函数为()() {}{} 1 1 ,0min max ;; 0n i i n x x p x p x θ θθ θ ⎧ ⎛⎫<≤< ⎪ ⎪ = ⎨ ⎝⎭⎪ ⎩ 其他由于诸0 i x >，所以我们可将上式改写()() () {} 1 1 ;;,n n n x p x p x I θ θθ θ < ⎛⎫=⎪ ⎝⎭取 () , n T x =并令 () {} () 1 ,,1, nt g t I h X θ θ θ < ⎛⎫==⎪ ⎝⎭由因子分解定理知， () n T x =是的充分统计量.12(,) U θθ （书P 283/E x 5.5.１0）：设 1 ,, n x x 是来自均匀分布 12 (,)U θθ的样本，试给出一个充 分统计量.解：总体的密度函数为 () 1221 12 1, ;, 0 x p x θθ θθ θθ ⎧ << ⎪ - = ⎨ ⎪ ⎩其他 于是样本的联合密度函数为()() {}{} 11212 21 1 ,0min max ;,;, 0n i i n x x p x p x θ θθθθ θθ ⎧ ⎛⎫⎪<≤< ⎪ = - ⎨ ⎝⎭⎪⎩ 其他 由于诸0i x >，所以我们可将上式改写为 ()() ()() {} 12 1 11212 21 1 ;,;, n n n x x p x p x I θθ θθθθ θθ <≤< ⎛⎫= ⎪ - ⎝⎭取 ()() 12 1 , n t x t x ==，并令 () {} () 1122 1212 21 1 ,,,,1, nt t g t t I h X θθθθ θθ <≤< ⎛⎫== ⎪ - ⎝⎭由因子分解定理知， () ()() ()121 ,, n T t t x x ==是12 , θθ的充分统计量. (,2)U θθ （书P 283/E x 5.5.１1）：设 1 ,, n x x 是来自均匀分布(,2) U θθ的样本，试给出一个充分统计量.解：总体的密度函数为 () 1,2; 0 x p x θθ θ θ ⎧ <<⎪ = ⎨ ⎪ ⎩其他于是样本的联合密度函数为()() {}{} 1 1 ,min max 2 ;; 0n i i n x x p x p x θθ θθ θ ⎧ ⎛⎫<≤<⎪ ⎪ = ⎨ ⎝⎭⎪ ⎩ 其他由于诸 0 i x >，所以我们可将上式改写为()() ()() {}1 12 1 ;; n nn x x p x p x I θθ θθ θ <≤< ⎛⎫= ⎪ ⎝⎭取 ()() 121 , n t x t x ==，并令 (){} () 12 122 1 ,,,1 nt t g t t I h X θθ θ θ <≤<⎛⎫== ⎪ ⎝⎭由因子分解定理知， () ()() )12 1 ,, n T t t x x ==是的充分统计量.*均匀分布族不是指数型分布族 () 2, N μσ（书P 282/E g5.5.5）：设 1 ,, n x x 是取自总体 ()2 , N μσ的样本， ) 2 , θμσ =是未知的，解：联合密度函数为 ()()22212 11 ,,;2exp(())2 nn n i p x x x θπσμ σ- = =-- ∑()2 22 222 111 2exp()exp2 22 n n ni i i n x x μπσμ σσ - == ⎧⎫ ⎛⎫ =--+ ⎨⎬ ⎪⎝⎭⎩⎭∑∑ 取 212 11,,nni ii i t x t x == == ∑∑ 并令 () () 2 2 21221 22 1 (,,)2exp()exp 2,() 1 22 nn g t t t t h X μ θπσμ σσ- ⎧⎫=--+=⎨⎬ ⎩⎭由因子分解定理知， () 2 12 11 ,, n n i i i i T t t x x == ⎛⎫ == ⎪ ⎝⎭∑∑ 是充分统计量. 进一步，我们指出这个统计量与 () 2, x s 是一一对应的，这明在正态总体场合常用的 () 2, x s 是充分统计量.解1：样本联合密度函数为 () 11 1 ,,; nn i i p x x x θ θθ - = = ∏ 1 1 n n i i x θ θ - = ⎛⎫ = ⎪⎝⎭∏ 取 1ni i t x = =∏ ，并令()) 1 ;,1ng t t h X θ θθ - == 由因子分解定理知， 1ni i T x = =∏ 是充分统计量. 解２：样本联合密度函数为() 11 1,,; nn ii p x x x θ θθ - = = ∏ 11 n ni i x θ θ - = ⎛⎫ = ⎪ ⎝⎭∏1 1 exp ln n n i i x θ θ - = ⎧⎫ ⎡⎤ ⎛⎫⎪⎪ = ⎢⎥ ⎨⎬ ⎪ ⎝⎭ ⎢⎥ ⎪⎪ ⎣⎦ ⎩⎭∏() 1 exp ln 1 n ni i x θθ= ⎧⎫ =⋅-⎨⎬ ⎩⎭∑1 ln 1 e n i i x n e θ θ = - ∑ =取 1ln nii t x= =∑ ，并令 ))1;e ,1n t g t e h X θ θθ -== 由因子分解定理知， 1ln nii T x = = ∑ 是充分统计量.（书P 284/x 5.5.１2）：设 1,, n x x 是来自双参数指数分布 () 1 ;,,,0 xp x e x μ θ θμμθ θ- - =>> 的样本，证明 () ()1 , x x 是分统计量.解：样本联合密度函数为() () {} 1 1 1 1 ,,;, ix nn x i p x x e I μ θ μ θμ θ- - > = = ∏() {} 1 1 1()1 n i i nx x e I μ θμ θ = -- > ⎛⎫ = ⎪ ⎝⎭() () {} 1 1 1 n n n x e I μ θμ θ -- > ⎛⎫ = ⎪ ⎝⎭取 () 121 ,t x t x==并令 () () () {} () 1 1 12 1 ,;,,1 nn x n x g t t e I h X μ θ μ θμ θ --> ⎛⎫ ==⎪⎝⎭由因子分解定理知， () () ()121 ,, T t t x x ==是充分统计量. G a (a ,l )解：样本联合密度函数为 () 1 1 1 ,,;, () i nx a n ii p x x x e α λ λ αλ α - - ==Γ ∏1 1() i n x a i i x e α λ λ α - - = = Γ ∏1 11 () n i i a nx i i x e αλ λ α = - - = ∑ ⎛⎫ = ⎪ Γ ⎝⎭∏ 取 12 11 , nni i i it x t x == == ∑∏ ，并令 ()()()1 1 122 ,;,,1 () a t g t t t e h X αλλ αλ α - - == Γ 由因子分解定理知， () 12 11 ,, n n i i i i T t t x x == ⎛⎫== ⎪ ⎝⎭∑ ∏ 是充分统计量.() 2, LN μσ设 1 ,, n x x 是取自总体 () 2, LN μσ的样本， ) 2 , θμσ =是未知的，解：联合密度函数为 ()()22212 11,,;2exp((ln )) 2 n n n i p x x x θπσμσ - = =--∑()() 2 2 2 222 111 2exp()exp ln 2ln 22 n n ni ii i n x x μ πσμ σσ - == ⎧⎫ ⎛⎫=--+⎨⎬ ⎪⎝⎭⎩⎭∑∑取()212 11ln ,ln , nni ii i t x t x== == ∑∑并令 ()() 2 2 21221 22 1 (,,)2exp()exp 2,() 1 22 n n g t t t t h X μ θπσμ σσ - ⎧⎫ =--+=⎨⎬ ⎩⎭由因子分解定理知， ()() 2 12 11 ,ln ,ln n n i i i i T t t x x == ⎛⎫== ⎪ ⎝⎭∑∑ 是充分统计量.B e (a ,b )解：样本联合密度函数为 () 111 1 1 ,,;,(1) (,)na b n i ii p x x a b x x B a b -- = =-∏1111 (1) (,) n a b i i i x x B a b -- = =-∏111 1ex p ln (1) (,)n a b i i i x x B a b -- =⎧⎫ ⎛⎫=-⎨⎬ ⎪ ⎝⎭⎩⎭∏11 111 exp ln ln (1) (,) n n a b i i i i x x B a b -- == ⎧⎫ ⎛⎫⎛⎫=+-⎨⎬ ⎪ ⎪ ⎝⎭⎝⎭⎩⎭∏∏ ()() 111 exp ln 1ln (1) 1 (,) n n i ii i x a x b B a b == ⎧⎫ ⎛⎫⎛⎫ =-+--⎨⎬ ⎪ ⎪ ⎝⎭⎝⎭ ⎩⎭∏∏ ()() 11 1 exp ln 1ln(1) 1 (,) nn i ii i x a x b B a b == ⎧⎫ =-+--⎨⎬ ⎩⎭∑∑ 取 1211ln ,ln(1) nniii i t x t x == ==-∑∑ ，并令 ()()(){}() 1212 1,;,exp 11,1 (,)g t t a b t a t b h X B a b =-+-=由因子分解定理知，() 1211 ,ln ,ln(1) nn i i i i T t t x x == ⎛⎫==- ⎪ ⎝⎭∑∑ 是充分统计量. 2．常用分布族的完备性{(,)}F vλ =Γ的完备性若有 10 (,)()0,(,) () v x v v h x e x dx v v λ λ ϕλλ∞--==∀Γ⎰ ， 则对任何(,) v λ有 10()0 x v h x e x dx λ ∞ -- = ⎰ ；该式左端可视为 1 () v h x x - 的拉氏变换，因此有 拉氏变换的唯一性，可以推出 1 ()0(..) v h x x a e - =， 1 0 v x - ≠，即得()0(..) h x a e ≠.类似的，分布族0 {(,}F vλ=Γ也完备. 2 0 {(,)} N μσ =的完备性1） 1 {(,1),(,)} F N μμ=∈-∞+∞完备. 解：因为对任何，由 2 1 2 () [()](0 x E h X h x dx μ μ ∞-- -∞==⎰可以推得 2 1 2 ()()0 x x h x e e dx μ ϕμ ∞- -∞== ⎰ 有拉氏变换唯一性可知： 2 1 2 ()0(..) xh x e a e - =，即可得()0(..) h x a e =. 2） 20{(,),(,)} F N μσμ =∈-∞+∞完备.与1）类似. 3） 223 {(0,),0} F N σσ=> 不完备.因为(),[()]0 h x x E h X σ==，但()0(..) h xa e ≠ 4） 22 40 {(,),0} F N μσσ=>不完备.与3）类似. 5） 2 {(,),,} FN μσμσ=∀ 完备.因为若对任何(,) μσ有 , ()()0 h x x dx μσ ϕ= ⎰，其中 , () x μσ ϕ为正态分布 2 (,) N μσ的密度函数，必有 ,1()()0h x x dx μ ϕ= ⎰ ，μ ∀，由（1）知()0(..) h x a e =. {(,),(0,1)} b n θθ=∈的完备性若对任何有 ()[()]0 E h X θ ϕθ== ，即 0 ()()(1)0 nx n x x n h x x ϕθθθ - = ⎛⎫=-= ⎪⎝⎭∑ 由此可推出0 ()()0 1 nx x n h x x θ θ = ⎛⎫ = ⎪ - ⎝⎭∑ ，该式为 1 y θθ = - 的n 次多项式，它对一切0y >为 零，则其系数必为零，即()0 n h x x ⎛⎫= ⎪ ⎝⎭，所以()0,0,1,, h x x n == .{(0,),0} R θθ=>的完备性若对任何θ有 10 [()]()0 E h X h x dx θθ θ - == ⎰ ，则()()0 h x dx θϕθ== ⎰ .由于() h x 可测，其 不连续点为零测集，在() h x 的连续点处，() ϕθ可导，因此对任何() h x 的连续点θ处有'()()0 h x ϕθ==，即()0 h θ=，(..)a e θ ∀，因此有()(..) h x a e = 3．因子分解定理中的是不是向量统计量？ 答：假如存在充分统计量()T X ，那么样本分布() f x θ 一定可以分解为两个因子的乘积， 其中一个因子与θ无关，仅与样本有关，另一个因子与有关，但与样本的关系可以通过充分统计量() T X 表现出来.所以，应该指出，这个定理中的() T X 可以是向量统计量.4．用指数族去解决问题的完全性有多大的作用？答：我们通过学习，可以总结出指数族的三个优点：1）是它包含了很多常见的分布.2）其次是它有良好的分析性质.3）是它有（在定理条件下）完全充分统计量.这后两条性质决定了许多问题在这个族中有满意的解决，因此，指数族的重要性就可想而知了.5．分布族要有怎样的性质，才能使次序统计量有完全性？答：先引进若干有关的记号，设12,,F F Fγ为个一维概率测度，0,1,2,,iP iγ≥= 而11P Pγ++=，则1i iiF PFγ==∑理解为一概率测度，定义为1()()i iiF S PF Sγ==∑，对任何1Sβ∈，又若F为一概率测度，1Sβ∈而()0F S≠，则记号SF表示一个概率测度定义为1()()/(),SF A F S A F S Aβ=∈.6．充分统计量的函数是不是充分统计量？答：设2~(,)X Nμσ，2σ已知，1(,,)nX X X= 是抽自X的iid样本，则依因子分解可知X是的充分统计量，但2X不是的充分统计量，事实上212211{()}(,,|)()n nniinExp xf X X X tf tσμ=--===∑与有关，故2X不是的充分统计量因为222)~()(,){}2nnX t N Expσμϕμσ-==-2~()(({X f t t Exp Expϕϕ=+7.指数族分布表达式中的是不是充分完全统计量？答：我们可以给出一个指数族分布，其中并不是参数的充分完全统计量.设2~(,)X Nμσ，其中0σ>是未知参数，1(,)nX X X= 是抽自其中的iid样本，则211()(,)n ni ii iT X X X===∑∑是的充分统计量.但不是的完全充分统计量，事实上，因为2~(,)X Nμσ，所以，子样1(,)nX X X= 的联合分布为222211111111(;)(;){()}){} 222nnnnnni i i ii i i i n L x f x Exp x Exp x x θθσσσσ==== ==--=-+-∑∑∑∏ 令()1 h X = 22 111 ((),){} 22n n n i i i i ng T X Exp x x θσ == =-+-∑∑ 则(;)((),)()L X g T X h X θθ = 所以，根据Fisher-Neyman 因子分解定理得 211()(,)nni ii i T X x x == = ∑∑ 是的充分统计量，记 211()(,)(,) nni ii i T X x x u v == ==∑∑则 1()() ni E u E X n σ = ==∑ 21()() nii Varu Var x n σ = ==∑ 所以, 222()()(())(1) E u Var u E u n n σ =+=+因为， 222 11()()(()())2 nnii i i i E v E x Var x E x n σ== ==+= ∑∑ 令 2()2(1) g T u n v =-+22(())2(1)(1)20 E g T n n n n σσ=+-+= 但 2 n ≥时，()0 g T ≠，故0σ>不是的完全统计量那么，为什么会出现这种情况呢？原因是上述定理中 12 2 11(,)(, 2 θθθ σσ==-的值域应包含一个二维开集的条件得不到满足进一步的讨论，得注：设 1 ,, n X X 是抽自 2 (,) N ασσ分布族的iid 样本，其中是已知的实数，0 σ> 是 未知参数，则同样可知， 211()(,)nni ii i T X x x == = ∑∑ 是的充分统计量，但不是的完全统计量注：设 2 1 ~(,) X N μσ ， 2 2 ~(,) Y N μσ 其中 22 12 (,,) μσσ是未知参数又设 12 (,,)m X X X ，12 (,,) m Y Y Y 是分别从, X Y 母体中抽取的iid 样本，可证明 221111(,)(,,,) mnmni i ii i j i j T X Y X Y X Y ==== = ∑∑∑∑是 2212 (,,) u σσ的充分统计量，但不是完全统计量，原因是上述定理中1234 2222 1212 1111 (,,,)(,,,) 22 Q Q Q Q Q σσσσ == -- 的值域应包含一个四维井集的条件 得不到满足.三、【典型例题和研究生试题】1.（充分统计量） （1）设 1 ,, n x x是来自() 1;,01,0p x x x θ θθθ - =⋅<<>的样本，试给出一个充分统计量.解：样本的联合密度函数为()()1 11212 1,,,;,n n nn n ii p x x x x x x x θ θ θθθ - - = ⎛⎫== ⎪ ⎝⎭∏ 令 1ni i T x = =∏ ，取 ()()11 ;,,,1 n n gt t h x x θ θθ - == ，由因子分解定理， 1ni i T x = = ∏ 为θ的充 分统计量.另外，T 的一一变换得到的统计量，如1 ,, n x x 的几何平均 () 1 1 nn x x 或其对数11 ln ni i x n = ∑ ，都是的充分统计量.注：（概率论与数理统计教程 习题与解答--茆诗松 程依明 濮晓龙）P257~261（2）设 1 ,, n x x 是来自正态分布 ) 2, N μσ的样本.（1） 在已知时给出 2σ的一个充分统计量；（2） 在 2σ已知时给出的一个充分统计量.解：（1）在已知时，样本联合密度函数为()()() 22 22 12 2 1 1 ,,,;2exp . 2 n n n ii p x x x x σπσμσ - = ⎧⎫ =--⎨⎬ ⎩⎭∑ 令 () 21ni i T x μ= =- ∑ ，取()()() 22 2 ;2exp ,1 2 n t g t h x σπσ σ - ⎧⎫ =-= ⎨⎬ ⎩⎭，由因子分解定理， () 21ni i T x μ = =- ∑ 为 2 σ的充分统计量.（2）在 2σ已知时，样本联合密度函数为() () () () 22 2 1 2 1 2 222 22 111 ,,;2exp2 11 2exp exp 2. 22 n n n ii n n n i ii i p x x x x n x μπσμ σ πσμμ σσ - = - == ⎧⎫ =-- ⎨⎬ ⎩⎭⎧⎫ ⎧⎫⎛⎫ =--- ⎨⎬⎨⎬ ⎪ ⎩⎭⎝⎭ ⎩⎭∑ ∑∑ 令 11 ni i x x n = = ∑ ，取()() ()()2 222221 11;exp 2,2exp , 22n n i i g x n n x h x x μμμπσσσ- = ⎧⎫ ⎧⎫ =--=- ⎨⎬⎨⎬⎩⎭ ⎩⎭∑ 由因子分解定理，x 为的充分统计量.注：（概率论与数理统计教程 习题与解答--茆诗松 程依明 濮晓龙）P257~261（3）设 ) 2 01 ,,1,2,,, i i Y N x i n ββσ+=诸i Y 独立， 1,, n x x 是已知常数，证明 2 111 ,, n n n i i i i i i i Y x Y Y === ⎛⎫⎪ ⎝⎭∑∑∑ 是充分统计量. 证： 1,, n Y Y 的联合密度函数为()()() () () 2 101 2 1 2 2 2 01 2 1 2 22222 010101 2 11111 1 ,, 2 1 2exp 2 1 2exp 222. 2 nn i i i n n i ii n n n n n n i i i i i i i i i i i p y y y x y x y n x y x y x ββ σ πσββ σ πσββββββ σ = - = - ===== ⎧⎫ ⎧⎫ =--- ⎨⎬⎬ ⎩⎭ ⎭⎧⎫ =--- ⎨⎬ ⎩⎭⎧⎫ ⎛⎫=-++--+ ⎨⎬⎪⎝⎭⎩⎭∏ ∑ ∑∑∑∑∑注意到 1 ,, n x x 是已知常数，令 () 2 123 111 ,,,, n n n i i i i i i i t t t t y x y y === ⎛⎫ == ⎪ ⎝⎭∑∑∑ ，取()() () 222222010101 2 11301122 1 ,,,2exp 2 2 1 exp 22, 2 n nn i ii i g t n x x t t t σββπσββββ σ ββ σ - == ⎧⎫ ⎛⎫=-++⋅⎨⎬ ⎪⎝⎭⎩⎭⎧⎫--- ⎨⎬ ⎩⎭∑∑() 1 ,, 1. n h y y =由因子分解定理， 2 111 ,, n n n i i i i i i i Y x Y Y === ⎛⎫ ⎪⎝⎭∑∑∑ 是 ) 2 01 ,, ββσ的充分统计量.注：（概率论与数理统计教程 习题与解答--茆诗松 程依明 濮晓龙）P257~261（4）设 1 ,, n x x 是来自正态总体 )21 , N μσ的样本， 1 ,, n y y 是来自另一正态总体()2 2 , N μσ的样本，这两个样本相互独立，试给出 ) 22 12,, μσσ的充分统计量. 解：样本 1,, n x x ，的联合密度函数为 () ()()() () 2222 12 222 222222 121212 11 11 22 11 11 11 2 2222 1211 ,,,,, 2 i i n m i i i i nm x y n m i i nx my n m x y n m n m p x x y y e μμ σσ μμ σσσσσσ πσσ == ---- == ⎧⎫ ⎛⎫⎛⎫ ⎪⎪-+-+++ ⎪ ⎪ ⎨⎬ ⎪ ⎪ -+ --⎪⎪ ⎝⎭⎝⎭⎩⎧⎫⎧⎫⎪⎪ = ⎬⎬ ⎪⎪ ⎭⎭∑∑ = ∏∏ 其中 11 11 , n m i i i i x x y y n m == == ∑∑ ，令 () 22 1234 11,,,,, n m i i i i t t t t t x y x y == ⎛⎫== ⎪ ⎝⎭∑∑ ，取() () () () 23412222222 121212 112 2222 22 121211 ,,,2,,,,,,1,n m n m t t t t n m n m n mg t e h x x y y μμσσσσσσ μσσπσσ ⎧⎫⎛⎫⎛⎫ ⎪⎪ -+-+++ ⎪ ⎪ ⎨⎬ ⎪ ⎪ -+ --⎪⎪⎝⎭⎝⎭⎩= =由因子分解定理， () 22 1234 11 ,,,,, n m i i i i t t t t t x y x y == ⎛⎫ == ⎪ ⎝⎭∑∑ 是 ) 22 12 ,, μσσ的充分统计量. 注：（概率论与数理统计教程 习题与解答--茆诗松 程依明 濮晓龙）P257~2612．（完全性） 证(,) Gaαλ具有完全性.证： 1 0 ()(,)0 () x g x x e dx α αλ λ ϕαλ γα +∞--== ⎰ ，对(,) αλ ∀，有 1 0()0x g x x e dx αλ +∞--= ⎰ 有拉式变换唯一性知 1()0()0 g x xg x α-=⇒= .3．（辅助统计量）设 1,, n X X 独立同分布， 1 ~(,1) X N θ，则 21()nii S X X = =- ∑ 为辅助统计量. 解：因为 2 ~(1) S n χ-与θ无关， ()(1) n T X X =-亦为辅助统计量，因为()(1)()(1) ()() n n T X X Y Y θθ =---=-，而~(0,1) i i Y X Nθ =-，其分布与无关4．（极小充分统计量）设 1 ,, n X X 为相互独立的样本，且 2 ~(0,) j X N σ一切j i≠，求完备的极小充分统计量. （1） 若 2~(,) i X N γσ （2） 若 12 ~(0,) i X N ωσ - 其中R γ∈，0 ω>， 2σ都是未知参数证：（1） 1(,,) T n X X X = 的联合分布可表示为 22 22222 11 (,){log(2)} 2222 n j i j n f x Exp X X γγ θπσσσσ = =+--- ∑ 其中 2 1 1()nj i T X X = = ∑ ， 1 2 1 () 2 Q θ σ =-； 2 () i T X X =， 2 2 () Q X γ σ ==； 22 () 2 b n γ θσ =+，因此，为 2 1(,) n j i j X X = ∑ 完备的极小充分统计量 （2） 类似的， 1(,,) T n X X X = 的联合分布可表示为 22222 11(,){log(2)log()} 2222 j i j in f x Exp X X ω θπσω σσ ≠ =--+-∑ 其中， 2 1 ()j j i T X X ≠ = ∑ ， 1 2 1 () 2 Q X σ =-； 2 2 () i T X X =， 2 2 () 2 Q X ω σ =-1()log 2b n θω=-，因此， 2 (,) nj i j iX X ≠ ∑ 为完备的极小充分统计量.5．（完备性的极小充分统计量）1 ,, n X X 独立同分布， 1 ~(0,) X R θ，则 ()n X 为完备的极小充分统计量. 证：() ~(,1) n X Be n θ ，故有 11 (){0} ~(,)( n n tt X f t n I θ θθ θ-- ≤≤ = 若[()]0 E h T θ =，则 1()0 n h t tdt θ- = ⎰ ，该式在 () h t 的连续处对θ，求导可得1 ()0 n h θθ - =，所以()0 h θ=，即()0 h t =.因此， () n T X =为完备的极小充分统计量注：若 1 ,, n X X 独立同分布， 112~(,) X R θθ，则 (1)()(,) n T X X =为完备的极小充分统计量.6．（完备性）设总体X 在 12 (,) θθ上服从均匀分布，概率密度函数为 1221 12 1(,,) 0 x f x θθθθ θθ ⎧ << ⎪- = ⎨ ⎪ ⎩其它1 ,, n X X 为子样，顺序统计量为 (1)() n X X ≤≤ ，当 12 0, 2 θθθθ =>=时，试证 (1) X 及 () n X 都为充分统计量，但并非完备统计量. 证：子样的联合密度函数为：(1)()1(02)(,,,) n n n X X f X X I θ θθ - <<< =可见 (1) X 及 () n X 都为的充分统计量. 总体X 的概率密度函数及分布函数为12 (,) 0 x f x θθ θ θ ⎧ << ⎪= ⎨ ⎪ ⎩ 其它0 F(,)0 2 12x x x xx θθθθ ≤ ⎧ ⎪ ⎪=<< ⎨ ⎪ ≥ ⎪ ⎩(1) X 的分布函数为1(1)(1) 1 ()()1()1[1()]1(2) nni v F v P X v P X v F v θ = =<=-≥=--=-- ∏，02v θ <<密度函数为 1 1()(2)/ n n f v n v θθ - =-，02v θ << 2 1 11 1(1) ()()[12(1)] 1 n n E X vf v n θθθ - +- ==+-++ ⎰ ()n X 的分布函数为 1() 1()()()(1) nn n i i uF u P X u P X u θ = =<=<=- ∏，02u θ <<密度函数为 1()()/ n n n f u n u θθ- =-，02u θ << 2 1 1(1) ()()[12(1)] 1 n n n n E X uf u n θθθ - +- ==+-+ + ⎰记 (1)()(,) n T X X = 又 1111(1)() 1(1)1(1) ()[12(1)[12(1) 11n nnnn g T X X n n ---- +-+- =+-+-+-+ ++ 则 [()]0 E g T = ，但 ()0 g T ≠ ，于是由 (1) X 及 ()n X 组成的统计量是非完备的.7.（英文习题）(1).Let X be one observation from a () 2 0, n σpopulation. Is X a sufficient statistic? 解：By the Factorization Theorem, X is sufficient because the pdf of X is()()()22 222 222 1 x xh x f x g x σ σ σσ - - ===⋅中文注释：随机变量X 是来自总体 ()20,n σ的一个样本.X 是一个充分统计量吗？ 解：由因子分解定理知，X 的密度函数为()()()2 2 222 222 1 x xh x f x g x σ σ σσ - - ===⋅所以，X 是充分统计量.注：E02 Statistical Inference(2ed) by George Casella(2).Let 1 ,, n X X be independent random wariables with densities()0 i x i e x i fx x x i θ θ θ θ -⎧≥ = ⎨ < ⎩Prove that () min i i T X=is a sufficient statistic for .。
