Пособие по терверу
.pdf
14 Точечные оценки
14.1 Свойства статистических оценок
Пусть X1; : : : ; Xn выборка значений случайной величины X. И пусть h(x1; : : : ; xn) какая-либо действительная функция.
Случайная величина h(X1; : : : ; Xn) называется статистикой. Предположим, что распределение случайной величины X зависит от
некоторого параметра .
^
Статистической оценкой параметра называется любая случай-
^
ная величина вида = h(X1; : : : ; Xn).
^
Оценка = h(X1; : : : ; Xn) это приближенное значение параметра , полученное по выборке X1, : : :, Xn объема n. Такая оценка носит название точечной в противовес интервальной оценке, где параметр оценивается не одним числом, а некоторым интервалом.
Выделяют следующие свойства точечных оценок.
|
^ |
|
|
|
1. Оценка параметра называется несмещенной, если ее матема- |
||||
|
|
|
|
^ |
|
ожидание равно оцениваемому параметру, т.е. E = . |
|||
тическое |
E |
^ |
|
|
|
|
|
||
Разность ^ |
|
|
называется смещением. |
|
2. Оценка параметра называется состоятельной, если она сходит- |
||||
ся по вероятности к при n ! 1. Это означает, что при любом " > 0
lim P |
|
^ |
|
|
|
< " = 1: |
|
||||||
n!1 |
|
|
|
|||
|
|
|
|
|
|
|
3. Несмещенная оценка называется эффективной в некотором классе несмещенных оценок, если в этом классе при фиксированном объеме выборки она имеет наименьшую дисперсию.
Выборочное среднее является несмещенной состоятельной оценкой математического ожидания:
E(X) = E(X):
141
Выборочная дисперсия является состоятельной, но смещенной оценкой
дисперсии:
^ n 1
E(D(X)) = n D(X):
Несмещенной оценкой дисперсии является исправленная выбороч-
ная дисперсия, которая определяется по формуле
|
|
|
n |
|
1 |
s |
||
|
|
|
|
|
|
|
||
|
|
|
^ |
Xi |
||||
|
|
|
|
|
||||
|
2 |
|
|
|
2 |
|||
s |
|
= |
n 1 |
D = |
n 1 |
ni(Xi X) : |
||
|
|
|
|
|
|
=1 |
|
|
Пример. По выборке объема n = 51 найдена выборочная дисперсия
^ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
. |
|
D = 3. Требуется найти исправленную выборочную дисперсию s |
||||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
50 |
|
|
|
|
|
|
|
|||||
|
|
|
|
|
|
|
|
B |
|
2 |
|
|
|
|
|
|
|
|
|
|
|
^ |
|
|
|
|
3 = 3;06: C |
|
||||||||||
|
|
|
|
|
|
|
|
s |
|
|
|
= |
n 1 |
D = |
51 |
|
||||||||||||||||||||||
Пример. Дана выборка 30 значений признака X : |
|
|||||||||||||||||||||||||||||||||||||
70, 75, 100, 120, 75, 60, 100, 120, 70, 60, 65, 100, 65, 100, 70, |
|
|||||||||||||||||||||||||||||||||||||
75, 60, 100, 100, 120, 70, 75, 70, 120, 65, 70, 75, 70, 100, 100. |
|
|||||||||||||||||||||||||||||||||||||
Требуется найти исправленную выборочную дисперсию. |
|
|||||||||||||||||||||||||||||||||||||
B Составляем частотное распределение: |
|
|
|
|
|
|||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
xi |
|
|
|
60 |
65 |
|
|
|
70 |
|
|
75 |
|
100 |
120 |
. |
|
|||||||||||
|
|
|
|
|
|
|
|
|
|
ni |
|
|
|
3 |
|
3 |
|
|
|
|
7 |
|
|
5 |
|
|
8 |
|
4 |
|
||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||
Находим выборочные характеристики: |
|
|
|
|
|
|
||||||||||||||||||||||||||||||||
|
|
|
|
|
1 |
(3 60 + 3 |
|
65 + 7 70 + 5 75 + 8 100 + 4 120) = 84; |
||||||||||||||||||||||||||||||
|
|
X = |
|
|||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|||||||||||||||||||||||||||||||||
|
|
30 |
|
|||||||||||||||||||||||||||||||||||
|
|
|
|
|
1 |
(3 602 + 3 |
|
652 + 7 |
|
702 + 5 752 + 8 1002 + 4 1202) = |
||||||||||||||||||||||||||||
|
X2 = |
|
|
|||||||||||||||||||||||||||||||||||
|
|
|
|
|||||||||||||||||||||||||||||||||||
|
30 |
|
||||||||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
= |
|
223500 |
|
= 7450; |
|
|
|
|
|||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
30 |
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
^ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
2 |
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||
|
|
|
|
|
= |
|
|
|
|
|
|
^ |
30 |
|
|
|
|
|
|
|
|
|
|
|||||||||||||||
|
|
|
|
|
|
|
|
|
2 |
X |
n |
|
|
|
|
|
|
84 |
|
= 394; |
|
|||||||||||||||||
|
|
|
|
|
|
|
|
D |
|
|
|
|
|
|
X |
|
|
|
= 7450 |
|
|
|
||||||||||||||||
|
|
|
|
|
|
|
|
s |
|
= |
|
D = |
|
394 407;59: C |
|
|||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
n 1 |
29 |
|
|||||||||||||||||||||||||||
14.2 Методы получения оценок
14.2.1 Метод моментов
Имеется случайная выборка X1, X2, : : :, Xn значений признака X, распределение которого зависит от параметров 1; : : : ; k. Требуется найти
^
оценки i параметров i.
142
Рассматриваются выборочные начальные моменты ^i (или центральные моменты ^i), i = 1; 2; : : : ; k. Величины i являются функциями неиз-
|
|
i = |
|
|
|
вестного вектора параметров !, т.е. |
|
|
i |
! . |
|
|
|
|
|
|
! |
|
|
|
|
|
^ |
В методе моментов в качестве точечной оценки вектора пара- |
|||||
|
|
|
|
|
|
метров ! берут статистику, значение которой получается в результате |
|||||
решения системы уравнений |
|
|
|
|
|
|
i ! |
= ^i |
; |
i |
= 1 2 |
|
|
; ; : : : ; k: |
|||
Пример. Имеется выборка X1, X2, : : :, Xn значений признака X, подчиненного показательному закону распределения. Требуется, используя
метод моментов, найти оценку параметра распределения .
B Здесь имеется один неизвестный параметр. Нужно использовать один выборочный момент; возьмем 1 = E(X). Для случайной величины X, распределенной по показательному закону, имеем равенство
E(X) = 1= .
Приравнивая теоретическое среднее к выборочному, получим
1 |
|
|
|
|
^ |
1 |
|
C |
|
|
|
|
|
||||
|
= X; |
= |
|
: |
||||
X |
||||||||
Пример. Известно, что случайная величина X имеет равномерное распределение, но отрезок [a; b], в котором она распределена, не известен.
|
|
|
^ |
|
Требуется по выборке X1, X2, : : :, Xn найти оценки a^ и b величин a и b |
||||
методом моментов. |
|
|
||
B В этом примере два неизвестных параметра. Используем два мо- |
||||
мента: 1 = E(X) и 2 = D(X). Для равномерно распределенной слу- |
||||
чайной величины X имеем равенства |
|
|
||
E(X) = |
a + b |
; D(X) = |
(b a)2 |
: |
|
12 |
|||
2 |
|
|
||
Приравнивая теоретические моменты к выборочным, получим систему уравнений
8a + b
> |
|
|
|
|
|
= X |
||||
(b |
|
a)2 |
||||||||
|
^ |
|
|
|||||||
< |
|
2 |
|
= D |
||||||
> |
|
|
a^ = X |
p3^; |
||||||
: |
|
12 |
|
|
|
|||||
|
|
|
|
|
|
|
||||
() |
|
(b |
|
|
|
|
|
|
+a = 2p3^; |
||||||||
|
|
a |
|
b = 2X |
|
|
||
|
|
|
|
|||||
^ |
|
p |
|
|
||||
|
|
|||||||
b = X + |
3^: C |
|||||||
143
14.2.2 Метод максимального правдоподобия
Имеется выборка X1, : : :, Xn значений случайной величины X, распределение которой зависит от параметра , где число или вектор.
^
Требуется найти оценку параметра .
Для дискретной случайной величины функция правдоподобия определяется по формуле
L(x; ) = p(x1; ) p(x2; ) : : : p(xn; );
где p(xi; ) вероятность события fX = xig, зависящая от .
Для непрерывной случайной величины функция правдоподобия определяется по формуле
L(x; ) = f(x1; ) f(x2; ) : : : f(xn; );
где f(xi; ) значение плотности распределения случайной величины X в точке xi.
Оценкой максимального правдоподобия параметра называет-
^ ^
ся такая статистика = (x1; x2; : : : ; xn), значения которой для любой
выборки удовлетворяют условию
^
L(x; ) = max L(x; ):
Оценку максимального правдоподобия находят из уравнения правдоподобия
@ln L(x; ) = 0:
Пример. Случайная величина X распределена по биномиальному закону с неизвестным параметром p. Статистическое распределение выборки представлено в следующей таблице:
|
значение X |
0 |
1 |
2 |
3 |
4 |
5 |
6 |
7 |
. |
|
частота |
2 |
3 |
10 |
22 |
26 |
20 |
12 |
5 |
|
|
|
|||||||||
|
|
|
|
|
|
|
|
|
|
|
Требуется найти оценку p^ параметра p методом максимального правдоподобия.
144
P8
B Объем выборки: n = i=1 ni = 100. Вероятность получения выборочного значения xi равна C100xi pxi(1 p)100 xi. Функция правдоподобия
8 |
|
|
|
|
|
|
|
|
8 |
|
|
|
|
|
Yi |
pxi(1 p)100 xi = |
Y |
C100xi pPxi (1 p)100 Pxi = |
|||||||||||
L(x; p) = C100xi |
|
|
|
|||||||||||
=1 |
|
|
|
|
|
|
|
|
i=1 |
|
|
|
||
|
|
|
|
|
|
|
8 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Yi |
|
|
|
|
|
|
|
|
= |
C100xi p28(1 p)72; |
||||||||||||
|
|
|
|
|
|
|
=1 |
C100xi ! + 28 ln p + 72 ln(1 p); |
||||||
|
|
|
|
|
|
|
8 |
|||||||
ln L(x; p) = ln |
|
|||||||||||||
|
|
|
|
|
|
|
Yi |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
=1 |
|
|
|
|
|
|
|
|
@ |
|
|
|
|
28 |
72 |
|
||||||
|
|
|
|
|
|
ln L(x; p) = |
|
|
|
|
|
: |
||
|
|
|
|
@p |
|
p |
1 p |
|||||||
Приравнивая производную к нулю, получим |
||||||||||||||
|
28 |
|
|
|
72 |
|
|
p^ = 0;28: C |
||||||
|
|
|
|
|
= 0; |
|
||||||||
|
|
p |
1 p |
|
||||||||||
Пример. Случайная величина X распределена по показательному закону с неизвестным параметром . Статистическое распределение выборки представлено в таблице.
|
значение X |
5 |
15 |
25 |
35 |
45 |
55 |
65 |
. |
|
частота |
365 |
245 |
150 |
100 |
70 |
45 |
25 |
|
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
Требуется найти оценку максимального правдоподобия параметра .
B Плотность распределения f(x) = e x. Функция правдоподобия
n
|
|
|
|
Yi |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
L(x; ) = e xi = ne Pxi; |
|
|||||||||||
|
|
|
|
=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
@ |
|
|
|
|
|
|
n |
n |
||
ln L(x; ) = n ln |
X |
|
|
|
|
|
|
Xi |
|||||||
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
||||||
xi; |
|
@ ln L(x; ) = xi: |
|||||||||||||
|
|
|
|
i=1 |
|
|
|
|
|
|
|
|
|
|
=1 |
Приравнивая производную к нулю, получим |
|
|
|
|
|
|
|||||||||
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
Xi |
|
^ |
|
|
n |
|
n |
|
|||||
|
|
|
|
|
|
P |
|
|
|
|
|
|
|
||
|
|
|
= 0; |
= |
|
= X : C |
|
||||||||
|
xi |
|
xi |
|
|||||||||||
|
|
|
=1 |
|
|
|
|
|
|
|
|
|
|
|
|
145
14.3 Задания
Задачи для практических занятий
14.1. Имеется следующее частотное распределение признака X:
|
xi |
2 |
4 |
5 |
8 |
. |
|
ni |
6 |
10 |
9 |
2 |
|
|
|
Найдите исправленную выборочную дисперсию.
14.2. Случайная величина X имеет равномерное распределение на некотором неизвестном интервале [a; b]. Выборочные данные о значениях случайной величины X заданы в виде статистического ряда
|
xi |
2 |
3 |
4 |
5 |
6 |
. |
|
ni |
4 |
6 |
5 |
12 |
8 |
|
|
|
Найдите оценки параметров a и b методом моментов.
14.3.Случайная величина X распределена по показательному закону
снеизвестным параметром . Выборочные данные о значениях случайной величины X заданы в виде статистического ряда
|
xi |
4 |
3 |
10 |
12 |
1 |
. |
|
ni |
3 |
3 |
6 |
4 |
4 |
|
|
|
Найдите оценку параметра методом моментов.
14.4. Случайная величина X подчиняется нормальному распределению с некоторыми неизвестными параметрами m и 2. Получена выборка ее значений:
|
xi |
3 |
5 |
7 |
9 |
11 |
13 |
15 |
. |
|
ni |
6 |
9 |
16 |
25 |
20 |
16 |
8 |
|
|
|
Найдите оценки параметров m и 2 методом моментов.
14.5.Найдите оценку максимального правдоподобия для вероятности p успеха в биномиальной схеме испытаний по данному числу k появления этого события в N испытаниях.
14.6.Случайная величина X распределена по закону Пуассона с неизвестным параметром . Статистическое распределение выборки представлено в таблице
146
|
xi |
0 |
1 |
2 |
3 |
4 |
5 |
6 |
7 |
. |
|
ni |
199 |
169 |
87 |
31 |
9 |
3 |
1 |
1 |
|
|
|
Найдите оценку максимального правдоподобия параметра .
14.7.Имеется выборка X1, X2, : : :, Xn значений случайной величины X, подчиняющейся показательному закону распределения. Найдите оценку максимального правдоподобия для математического ожидания E(X).
14.8.Найдите методом максимального правдоподобия по выборке объема n точечную оценку параметра p геометрического распределения
P (X = xi) = p(1 p)xi 1:
14.9. Методом максимального правдоподобия по выборке X1, X2, : : :,
Xn найдите оценку параметра b распределения Парето:
f(x) = |
a |
|
b |
|
a+1 |
если |
x < b, |
a > 0; b > 0: |
(0; |
|
|
|
|||||
|
b |
|
|
|
; если |
x > b, |
|
|
|
|
x |
|
|
|
|||
Ответы
|
14.1. s |
2 |
|
|
^ |
^ |
|
|
|
|
|
|
|
|
|
= 4;24. 14.2. a^ 2;12; b |
6;68. 14.3. 0;15. 14.4. m^ = 9;48; |
||||||||||
|
2 |
|
|
|
k |
|
^ |
|
|
|
1 |
|
|
^ |
|
= 10;25. 14.5. p^ = |
|
. 14.6. = 1. 14.7. m^ |
= X. 14.8. p^ = |
|
|
. |
|||||
|
N |
|
|||||||||||
|
|
X |
|||||||||||
^
14.9. b = X(1).
Домашнее задание
14.10. Выборочные значения случайной величины X представлены в следующей таблице:
|
xi |
3 |
2 |
0 |
1 |
4 |
. |
|
|
|
|
|
|||
|
ni |
7 |
10 |
9 |
4 |
10 |
|
|
|
Найдите исправленную выборочную дисперсию.
14.11. Случайная величина X имеет равномерное распределение на отрезке [0; b], где значение параметра b > 0 неизвестно. Выборочные данные о значениях случайной величины X заданы в виде статистического ряда
147
|
xi |
1 |
2 |
3 |
4 |
. |
|
ni |
6 |
7 |
5 |
7 |
|
|
|
Найдите оценку параметра b методом моментов.
14.12.Пользуясь методом максимального правдоподобия, оцените вероятность появления герба, если при двадцати бросаниях монеты герб появился 12 раз.
14.13.Случайная величина X распределена по закону Пуассона с неизвестным параметром . Выборочные данные о значениях случайной величины X заданы в виде статистического ряда
|
xi |
0 |
1 |
2 |
3 |
4 |
5 |
6 |
7 |
. |
|
ni |
7 |
21 |
26 |
21 |
13 |
7 |
3 |
2 |
|
|
|
Найдите оценку параметра методом моментов и методом максимального правдоподобия.
14.14. Известно, что случайная величина X имеет плотность распределения следующего вида: f(x) = A 3x5e x2 , где параметр распределения, A константа. Выборочные данные о значениях случайной величины заданы в виде статистического ряда
|
xi |
1 |
2 |
3 |
4 |
. |
|
ni |
6 |
10 |
9 |
10 |
|
|
|
Используя метод максимального правдоподобия, найдите оценку параметра .
Ответы
14.10. s |
2 |
|
^ |
^ |
|
6;84. 14.11. b |
= 5;04. 14.12. p^ = 0;6. 14.13. = 2;55. |
14.14.0;073.
Дополнительные задачи
14.15. Известно, что случайная величина X имеет плотность распределения следующего вида:
(
2xe x; если x > 0,
f(x) =
0; |
если x 6 0, |
148
где > 0 неизвестный параметр. Найдите оценку параметра методом максимального правдоподобия.
14.16. Имеется случайная выборка X1, : : :, X5 объемом n = 5 из генеральной совокупности X, распределенной по показательному закону: f(x) = e x, x > 0. В качестве точечной оценки m^ математического ожидания E(X) берется среднее арифметическое крайних членов вариационного ряда:
m^ = X(1) + X(5) :
2
Покажите, что данная оценка является смещенной.
14.17. Имеется случайная выборка объема n из генеральной совокупности X с плотностью распределения
f(x) = |
(0; |
если |
x < a. |
|
ea x; |
если |
x > a, |
В качестве точечной оценки неизвестного параметра a берется первый член вариационного ряда, уменьшенный на n1 : a^ = X(1) n1 . Покажите, что данная оценка является несмещенной и состоятельной.
Ответы
^2
14.15.= X .
149
15 Интервальные оценки
15.1 Определение интервальной оценки
Доверительным интервалом (интервальной оценкой) для параметра с доверительной вероятностью называется такой интервал
|
|
|
|
|
|
|
|
; , для которого выполняется условие: P f 2 |
; g = : |
||||||
Величина = 1 |
|
называется уровнем значимости. |
|||||
15.2 Доверительный интервал для математического ожидания
Доверительный интервал для математического ожидания при известной дисперсии.
Исходные данные: выборка X1, X2, : : :, Xn объема n из нормального распределения с известной дисперсией 2; доверительная вероятность .
Искомый доверительный интервал:
X z =2 pn |
; X + z =2 pn |
; |
||||||
|
|
|
|
|
|
|
|
|
где z =2 100 2 %-ная точка нормального распределения, = 1 .
100p%-ная точка нормального распределения zp находится из соотношения: (zp) = 0;5 p.
Доверительный интервал для математического ожидания при неизвестной дисперсии.
Исходные данные: выборка X1, X2, : : :, Xn объема n из нормального распределения; доверительная вероятность .
150