Добавил:

Upload Опубликованный материал нарушает ваши авторские права? Сообщите нам.

Вуз:

Белорусский государственный университет информатики и радиоэлектроники

Предмет:

Теория вероятностей и математическая статистика

Файл:

ТВиМС.pdf

Скачиваний:

Добавлен:

11.05.2015

Размер:

848.97 Кб

Скачать

☆

<<< < Предыдущая 1 2 3 4 5 6 7 8 9 10 11 12 1314 / 1814 15 16 17 18 > Следующая >>>

государственныйш

информатики

Лекция 14

Точечные оценки параметров распределения

купностирадиоэлектроникиопределен с точностью до значений входящих в его распределениее

Белорусский

Предположим, что для оценки закона распределения исследуемой с.в. X

или какихуниверситет-либо других соображений закон распределения генеральной сово-

F(x)

из-

из генеральной совокупности с неизвестной функцией распределения

параметровдθ1

, θ2

,...θk , часть из которых может быть известнагосударственный. Оценка

шнеиз-

влечена выборка

, x2 , ....,

xn .

Далее,

по виду гистограммы, полигонаичастот

вестных параметров заключается в построении функции θинформатики= u(x , x с, ....,

радиоэлектроники

Белорусский

университет

Существуюты

Функция

называется статистикой или оценкой параметра θ .

два вида оценок – точечные и интервальные. Точечная оценка θ

Вопределяется

θ = u(x1 , x2 , ...., xn ). Для выбора «наилучших» оценоканеобходи-

одним числом

мо определить их свойства: несмещенность, эффективность и состоятельность.

Оценка θ

параметра θ

называется несмещеннойд,

если математическое

ожидание оценки совпадает с истинным значением

е:

M (θ ) =θ .

В противном случае оценка θ

называется смещеннойа

Пример.

X1 ,

X 2 , ...., X n

Пусть

- взаимно независимые с.в.

м.о.

m = M ( X i )

и дисперсией σ 2 = D( X i ) ,

i =1, 2, ..., n.

Выберем в качестве оцен-

ки

дисперсии

σ 2

генеральной

совокупности

выборочную

дисперсию

n i∑=1

государственныйшn i∑=1

(X i − x )2 .

S 2 = ∑

i=1

информатики

S 2 =

((X

− m)−(X − m))

((иX − m)2 − 2(X − m)(X − m)+(X − m)2 )=

государственный2 ш

радиоэлектроники1

+ (X

− m)

Белорусский(X − m)

−

2(X

− m)

−(X

− m) .

iи

n i=1

− m)

− 2(X − m)

− m)

− m) =

университет

n i=1

i=1

1 n

информатикис

∑

университетрадиоэлектроники

M (S

2 )

= n −1σ

M (S

)

= M

∑(X − m)

−(X − m)

∑M ((X

− m)

)

− M ((X − m) )

i=1

Белорусский

iе1

σ 2

i 1

n −1

∑

)

− D( X ) = σ

−

σ .

nа

фD( X

S 2

= n

S 2

являетсягосударственныйнесмещеннойш

оценкой дисперсии σ 2 .

n −1

S 2 является смещенной оценкой

информатикис

Таким образом, выборочная дисперсия

дисперсии

σ 2

Очевидно,

выборочная

дисперсия

модифицированная

сией

радиоэлектроникивсех несмещенных оценок для θ называется эффективной.

среди

Белорусский

Несмещеннаяуниверситет

оценка θ

параметра θ ,

обладающая минимальной диспер-

Для некоторых задач математическойи

статистики можем существовать

государственныйш

несколько несмещенных оценок. Обычно предпочтение отдают той, которая

обладает наименьшим рассеиванием (дисперсией).

информатики

ПустьдD(θ ) - минимальная дисперсия, а D(θα ) - дисперсия любой другой

радиоэлектроники

называется асимптотически эффективной.

параметра

θ .

Белорусский

несмещенной оценки θα

Тогда по определению эффективность

Если при

n → ∞ эффективность становитсяуниверситетравной единице,

то оценка

оценки θаравна

)

Очевидно 0

≤

)

≤1.

D(θα )

Оценка θ

состоятельной,

называется состоятельной или асимптотическид

если с увеличением объема выборки

(n → ∞)

оценка сходится по вероятности к

> 0

точному значению параметра θ , т.е. если для любогоф ε

lim P(

θ −θ

< ε)

n→∞

мозначает, что с ростом

n объ-

Состоятельность оценки θ

параметра

ема выборки качество оценки θ улучшается.

Методы нахождения точечных оценок

государственныйш

1. Метод моментов (Пирсона). Пусть известен закон распределения с.в.

X, содержащий неизвестные параметры θ1 , θ2 ,...θr . Произведем выборку объема

информатики

n этой с.в. Находим первые r выборочных моментов этой выборки и прирав-

ниваем их к первым r

теоретическим моментам с.в. x.

Из полученной системы

радиоэлектроники

параметров θ , θ ,...θ .

Теоретическим

уравнений находим оценки θ , θ ,...θ

Белорусский

государственныйш

Методуниверситетмоментов отличается простотой, однако оценки, найденные этиме

обоснованием метода моментовислужит закон больших чисел, согласно которо-

му для рассматриваемого случая при большом объеме выборки

выборочные

информатики

моменты близки к истинным моментам генеральной совокупности.

методом, как правило, являются смещенными и малоэффективными. Исключе-

радиоэлектроники

ние представляет лишь нормальное распределение, при котором методсмомен-

Белорусский

тов дает эффективныее

университет

и состоятельные оценки неизвестных параметров.

Примерт.

С.в. X

распределена по показательному закону с плотностью

f (x,θ) =θ e−θx ,

x ≥ 0 .

вероятностейа

По результатам выборки оценить пара-

метр θ .

■ Найдем начальным момент первого порядка

∞

−θx

α1 = mx = ∫xf (x,θ)dx =θ ∫xe

еdx =

государственныйш

Выборочный начальный момент первого порядка

Получаем xинформатики= , θ = .

α*

е= x =

x .

∑ i

n i=1

радиоэлектроники

Белорусский

Пустьуниверситетиз генеральной совокупности с плотностью распределения вероят-

государственныйш

2. Метод максимального правдоподобия (МП - метод).

Этот метод предложен в 1912 году английским статистиком Р.Фишероми

мерной случайной величины (X1 , X 2 , ...., X n ). Предположиминформатикидалее, чтоссостав-

ностей

f ( X ,θ)

произведена

выборка

объема

получены

результаты

x ,

реализацию

x , ...., x

д. Будем рассматривать результаты выборки как

радиоэлектроникиn ∏

ваемая функцией правдоподобия, равна

Белорусский

университет

то-

ляющие этой случайной величины независимы. В этом случае вероятностьы

примут значения, равные полученным значениямВ т

назы-

го, что составляющиеа

L = P(x

= x , x

= x ,..., x

= x ) = P(X θ ) P(X θ )...P(X θ )

P(X ,θ ) ―

для дискретной случайной величины.

i=1

L = f (x , x

, ...., x

)= f (x ,θ) f (x

,θ) ... f (фx ,θ) =

f (x ,θ) ―

∏

1 2

для непрерывной с.в.

i=1

В качестве оценки неизвестного параметрамθ

найденной по методу мак-

симального правдоподобия,

выбирается такая функция θ = u(x1 , x2 , ...., xn ),

ко-

государственныйш

торая максимизирует функцию правдоподобия.

Оценка θ =

(θ

, θ

,...θ

)

построенная по выборочным значениям с.в. x

информатики

максимизирующая функцию

L(θ1 , θ2 ,...θk )

называется оценкой максимального

правдоподобия или МП – оценкойе.

Для упрощения вычислений МП – оценок часто бывает удобным рас-

радиоэлектроники

правдоподобия, так точки максимума функций

сматривать логарифм функциис

Белорусский

государственныйш

L и

университет

∂θi

,...θr )

i =1, 2, ...k

∂L(θ1 ,

θ2

ln L

совпадают.

МП – оценки параметров θ1 , θ2 ,...θr

определяются решением системы

уравнений

информатики

ми, кромем

того МП – метод не всегда удается использоватьрадиоэлектроникидаже в простых слу-

∂ln L (θ1 , θ2 ,...θr )

Белорусский

ментовК

. Вместе с тем оценки полученные этим методомуниверситетмогут быть смещенны-

или

∂θi

=1, 2, ...k .

аМП – метод обладает рядом преимуществ по сравнению с методом мо-

чаях.

θ и σ *.

государственныйш

Пример. Пусть X

1 , X

X n

независимые с.в. распределенные по нор-

, ....,

информатики

мальному закону N(θ,σ 2 ) .

Оценить по МП – методу неизвестные параметры

радиоэлектроники2

i=1

2σ

■ В рассматриваемомсслучае функция правдоподобия имеет вид

Белорусский

университет

−

θ )

L(θ,σ )= ∏

2πВσ

exp

−

exp

−

∑

(X i

−

θ )

n / 2

государственныйш

i=1

2σ

(2n)

2σ

i=1

∂ln L(θ,σ )

∑

(X i

−θ )

= 0 .

информатикис

ln L(θ,σ ) = −

ln 2n − n lnσ

−

∑(X i

−θ ) .

Для этойд

функции составляем систему уравнений правдоподобия

радиоэлектроники2

Белорусский

∂θ

σ 2 i=1

университет

∂ln L(θ,σ )

= −

−

θ )

∂θ

∑(X i

i=1

= Sм.

θ =

= x,

σ =

− X )

n i∑=1

Очевидно, что задача имела хотя бы одно решение. Поэтому полученное

решение является искомым. Заметим, что для

нами получена смещенная

оценка.

Оценки могут быть получены и другими методами, например методом

наименьших квадратов, который мы рассмотрим несколько позже.

государственныйш

информатики

радиоэлектроники

Белорусский

государственныйш

университет

информатики

радиоэлектроники

Белорусский

университет

<<< < Предыдущая 1 2 3 4 5 6 7 8 9 10 11 12 1314 / 1814 15 16 17 18 > Следующая >>>

Соседние файлы в предмете Теория вероятностей и математическая статистика

#
11.05.201513.58 Кб5ТВИМС - вопросы к экзамену.docx
#
16.03.2016795.85 Кб30ТВиМС 1 зачтено.docx
#
11.05.201531.23 Кб2ТВиМС.doc
#
11.05.2015848.97 Кб11ТВиМС.pdf
#
11.05.2015460.8 Кб23ТВИМС_задания.doc
#
11.05.2015254.98 Кб37ТМиВС 8вариант.doc