矩估计与极大似然估计的典型例题

关于矩估计与极大似然估计的典型例题关于矩估计与极大似然估计的典型例题关于矩估计与极大似然估计的典型例题关于矩估计与极大似然估计的典型例题 例例例例1111，设总体，设总体，设总体，设总体 X 具有分布律具有分布律具有分布律具有分布律 ⎟⎟ ⎠ ⎞ ⎜⎜ ⎝ ⎛ −− 22 )1()1(2 321 ~ θθθθ X 其中其中其中其中 10 <<θ 为未知参数。已经取得了样本值为未知参数。已经取得了样本值为未知参数。已经取得了样本值为未知参数。已经取得了样本值 1,2,1 321 === xxx ，，，， 试求参数试求参数试求参数试求参数θ的矩估计与极大似然估计。的矩估计与极大似然估计。的矩估计与极大似然估计。的矩估计与极大似然估计。 解解解解：：：：（（（（iiii）求）求）求）求矩矩矩矩估计量，列估计量，列估计量，列估计量，列矩矩矩矩方程（只有一个未知参数）方程（只有一个未知参数）方程（只有一个未知参数）方程（只有一个未知参数） XXE =−=−×+−×+= θθθθθ 23)1(3)1(22)( 22 得得得得 6 5 2 3 4 3 2 x3 2 X3 = − = − = − =矩θ （（（（iiiiiiii）求极大似然估计，写出似然函数，即样本出现的概率）求极大似然估计，写出似然函数，即样本出现的概率）求极大似然估计，写出似然函数，即样本出现的概率）求极大似然估计，写出似然函数，即样本出现的概率 ),,()( 332211 xXxXxXPL ====θ )1,2,1( 321 ==== XXXP )1()2()1( 321 =×=×== XPXPXP )1(2)1(2 522 θθθθθθ −=×−×= 对数似然对数似然对数似然对数似然 )1ln(ln52ln)(ln θθθ −++=L 0 1 15)(ln = − −= θθθ θ d Ld 得极大似然估计为得极大似然估计为得极大似然估计为得极大似然估计为 6 5ˆ =极θ 例例例例2222，，，，某种电子元件的寿命某种电子元件的寿命某种电子元件的寿命某种电子元件的寿命（（（（以以以以h记记记记））））X服从双参数指数分布服从双参数指数分布服从双参数指数分布服从双参数指数分布，，，，其概其概其概其概 率密度为率密度为率密度为率密度为 ⎪⎩ ⎪ ⎨ ⎧ ≥−− = 其他,0 ],/)(exp[ 1 )( µθµ θ xx xf 其中其中其中其中 0>µθ， 均为未知参数，自一批这种零件中随机抽取均为未知参数，自一批这种零件中随机抽取均为未知参数，自一批这种零件中随机抽取均为未知参数，自一批这种零件中随机抽取 n件进行件进行件进行件进行 寿命试验，设它们的失效时间分别为寿命试验，设它们的失效时间分别为寿命试验，设它们的失效时间分别为寿命试验，设它们的失效时间分别为 .,,2,1 nxxx L （（（（1111））））求求求求 µθ， 的最大似然估计量；的最大似然估计量；的最大似然估计量；的最大似然估计量； （（（（2222））））求求求求 µθ， 的矩估计量。的矩估计量。的矩估计量。的矩估计量。 解解解解：：：：（（（（1111）似然函数，记样本的联合概率密度为）似然函数，记样本的联合概率密度为）似然函数，记样本的联合概率密度为）似然函数，记样本的联合概率密度为 ∏ = == n i in xfxxxfL 1 2,1 )();,,()( µθµθ ，， L ⎪ ⎩ ⎪ ⎨ ⎧ ≥−− = ∏= 其他,0 ,,,]/)(exp[ 1 2,1 1 µθµ θ n n i i xxxx L ⎪ ⎩ ⎪ ⎨ ⎧ > ≤−− = ∑ = )1( )1( 1 ,0 ),/)(exp( 1 x xnx n i i n µ µθµ θ 在求极大似然估计时在求极大似然估计时在求极大似然估计时在求极大似然估计时，，，， 0)( =µθ，L 肯定不是最大值的似然函数肯定不是最大值的似然函数肯定不是最大值的似然函数肯定不是最大值的似然函数 值，不考虑这部分，只考虑另一部分。值，不考虑这部分，只考虑另一部分。值，不考虑这部分，只考虑另一部分。值，不考虑这部分，只考虑另一部分。 取另一部分的对数似然函数取另一部分的对数似然函数取另一部分的对数似然函数取另一部分的对数似然函数 )1( 1 ,/)(ln),(ln xnxnL n i i ≤−−−= ∑ = µθµθµθ ⎪ ⎪ ⎩ ⎪ ⎪ ⎨ ⎧ >= ∂ ∂ = − +−= ∂ ∂ ∑= 0 ),(ln 0 ),(ln 2 1 θµ µθ θ µ θθ µθ nL nx nL n i i 可知关于可知关于可知关于可知关于 µθ， 的驻点不存在，但能判定单调性的驻点不存在，但能判定单调性的驻点不存在，但能判定单调性的驻点不存在，但能判定单调性 由由由由 0 ),(ln >= ∂ ∂ θµ µθ nL 知知知知 ,,/)(ln),(ln )1( 1 xnxnL n i i ≤−−−= ∑ = µθµθµθ 关于关于关于关于µ是增函数，故是增函数，故是增函数，故是增函数，故 )1(ˆ x=极µ 将之代入到将之代入到将之代入到将之代入到 0 ),(ln 2 1 = − +−= ∂ ∂ ∑= θ µ θθ µθ nx nL n i i 中得中得中得中得 )1( ˆ xx−=极θ 则则则则 )1(ˆ x=极µ ，，，， )1( ˆ xx−=极θ 一定能使得似然函数达到最大，故一定能使得似然函数达到最大，故一定能使得似然函数达到最大，故一定能使得似然函数达到最大，故 µθ， 的极大似然估计为的极大似然估计为的极大似然估计为的极大似然估计为 ⎪⎩ ⎪ ⎨ ⎧ = −= )1( )1( ˆ ˆ x xx 极 极 µ θ （（（（2222）列矩方程组（两个未知参数））列矩方程组（两个未知参数））列矩方程组（两个未知参数））列矩方程组（两个未知参数） ⎪ ⎪ ⎩ ⎪⎪ ⎨ ⎧ =++=−−= =+=−−= ∫ ∑ ∫ ∞+ = ∞+ µ µ θθµθµ θ θµθµ θ n i i X n dxxxXE XdxxxXE 1 2222 21)(]/)(exp[ 1 )( ]/)(exp[ 1 )( 解出解出解出解出 ⎪ ⎪ ⎩ ⎪ ⎪ ⎨ ⎧ −−= −= ∑ ∑ = = n i i n i i XX n X XX n 1 2 1 2 )( 1 ˆ )( 1ˆ 矩 矩 µ θ 例例例例3333，，，，设总体设总体设总体设总体 ],0[~ θUX ，，，，其中其中其中其中 0>θ 为未知参数为未知参数为未知参数为未知参数，，，， n XXX ,,, 21 K 为为为为 来自总体来自总体来自总体来自总体X的一组简单随机样本的一组简单随机样本的一组简单随机样本的一组简单随机样本，，，， n xxx ,,, 21 K 为样本观察值为样本观察值为样本观察值为样本观察值，，，，求未求未求未求未 知参数知参数知参数知参数θ的极大似然估计。的极大似然估计。的极大似然估计。的极大似然估计。 解：似然函数，即样本的联合概率密度解：似然函数，即样本的联合概率密度解：似然函数，即样本的联合概率密度解：似然函数，即样本的联合概率密度 ⎪⎩ ⎪ ⎨ ⎧ ≤≤ === ∏ − else xxx xfxxxfL n n n i in ,0 ,,,0, 1 )();,,,()( 21 1 21 θ θ θθ L L 0)( =θL 肯定不是最大值，考虑另一部分的最大值，肯定不是最大值，考虑另一部分的最大值，肯定不是最大值，考虑另一部分的最大值，肯定不是最大值，考虑另一部分的最大值， 取对数似然取对数似然取对数似然取对数似然 )(,ln)(ln nxnL ≥−= θθθ 0 )(ln <−= θθ θ n d Ld 知知知知 θθ ln)(ln nL −= 在在在在 )(nx≥θ 内是单调递减的，故内是单调递减的，故内是单调递减的，故内是单调递减的，故 θ 取取取取 )(nx 能使得似然函数达到最大，则能使得似然函数达到最大，则能使得似然函数达到最大，则能使得似然函数达到最大，则θ 的极大似然估计值为的极大似然估计值为的极大似然估计值为的极大似然估计值为 )( ˆ n x=极θ ，极大似然估计量为，极大似然估计量为，极大似然估计量为，极大似然估计量为 )( ˆ n X=极θ