Экзамен 2021 / Панков Пособие по ТВиМС часть 2

Добавил:

degenetard Опубликованный материал нарушает ваши авторские права? Сообщите нам.

Вуз:

Московский технический университет связи и информатики

Предмет:

Анализ Случайных Процессов

Файл:

Тогда случайная величина

имеет распределение Стьюдента с

.pdf

Скачиваний:

Добавлен:

28.01.2022

Размер:

730.29 Кб

Скачать

☆

<<< < Предыдущая 1 23 / 63 4 5 6 > Следующая >>>

Получаем, что t1 - квантиль стандартного нормального распределения

уровня			1	, что обозначается как t		t		, а t		- уровня 1	1	, т. е. уровня
уровня				, что обозначается как t		t	1	, а t	2	- уровня 1		, т. е. уровня
			2		1		1		2	2
			2				2			2
							2
	1	: t2 t1 .
2		: t2 t1 .
2			2
			2
	Эти		квантили для конкретных			значений				находятся по таблицам

математической статистики, обычно находящимся в конце пособий по математической статистике или в отдельных сборниках.

Обозначим 1 , тогда t1 t /2 t /2 и в силу симметричности плотности стандартного нормального распределения t2 t /2 t /2 .

x t /2

P t /2

P x tn/2





		t
		t
			/2	1 .

x
x
		n
		n




	2

Тогда 1; 2 - искомый доверительный интервал.

Заметим, что на практике представляет интерес поиск доверительных интервалов, наименьших по длине 2 1 . В данном случае мы нашли именно

наименьший.

2) Рассмотрим случай выборки из нормального распределения с известным математическим ожиданием и неизвестной дисперсией: N a, .

Рассмотрим статистику

S02

xi a

i 1

Функция

равна сумме квадратов независимых случайных

i 1

величин, имеющих стандартное нормальное распределение.

Следовательно,

функция

nS02

имеет хи-квадрат распределение с n

степенями свободы:

nS2

n2 .

Очевидно, что

nS02

является центральной статистикой.

2 1

nS0

n dt

P t1

Рассмотрим график плотности хи-квадрат распределения:

Пусть площадь закрашенной области на графике																		равна , тогда сумма
площадей		S1 S2 равна							1 .		Удобно		выбрать,					как			и в			предыдущем
примере, что											S2 / 2 .
										S1	S2 / 2 .
Получаем, что t1 - квантиль хи-квадрат распределения с																								n	степенями
свободы уровня / 2,							что обозначается как t						2				, а t		2	-	уровня				1 / 2 , т.
											1			n; /2					2
е. t2 n2;1 /2 .
				2
	2		nS0			2
P	n; /2
P

					n;1 /2

					1					1
					1					1

		P			2					2
					2			nS2		2
					n;1 /2				0
					n;1 /2				0	n; /2



																	2						2
																	2						2
															nS0							nS0
															nS0							nS0			1 .


												P				2							2
																2							2
																n;1 /2
																n;1 /2						n; /2



																1							2

Тогда 1;				2 - искомый доверительный интервал.

Но в данном случае он не является наименьшим по длине.

3) Теперь рассмотрим случай выборки из общей нормальной модели, т.е. из нормального распределения с неизвестным математическим ожиданием и неизвестной дисперсией: N 1, 2 .

Чтобы построить доверительный интервал для дисперсии 2 , будем

действовать аналогично примеру 2, но используя другую центральную статистику.

Согласно теореме Фишера,

nS2 2 .

2 n 1

Проводя аналогичные предыдущему примеру рассуждения, получаем:

t	2		,
1	n 1, /2
t2	2	,
	n 1,1	2
		2




					2			2
				nS	2	nS		2
				nS		nS
									1
			P	2			2		1
				2			2
				n 1;1 /2			n 1; /2
				n 1;1 /2			n 1; /2



				1,2			2,2
				1,2			2,2

Тогда 1,2; 2,2 - -доверительный интервал для параметра 2 .

Для того чтобы построить доверительный интервал для математического ожидания 1 , сформулируем сперва утверждение.

Утверждение (соотношение Стьюдента – без доказательства). Пусть случайные величины и независимы и имеют следующие распределения:

N 0,1 , k2 .

степенями свободы, что обозначается как

stk .

/ k

Из теоремы Фишера следует, что

N 0,1 ,

1 и эти величины

/ n

независимы. Следовательно,

x 1

nS / 2

x 1

n 1

stn 1 .

n 1

/ n

Очевидно, что функция

n 1 x 1

является центральной статистикой. Проводя рассуждения, аналогичные проделанным ранее, получаем, что верно равенство

x 1

P t

n 1

t2
	n / 2						1/2
							n 1
		n 1 / 2					n 1
t1
				2	n/2
		t		2
		t
1						dt 1

		n
		n	1

Рассмотрим график распределения Стьюдента:

Как и в предыдущих пунктах полезно выбрать в качестве t1 и t2 квантили

распределения Стьюдента уровня

соответственно, что обозначается

как

t1 stn 1; /2 , t2

stn 1;1 /2 .

P st

n 1

n 1; /2

n 1;1 /2

n 1; /2

n 1;1 /2

n 1

P x

n 1

n 1; /2

n 1;1

1,1

2,1

- искомый -доверительный интервал для параметра 1 .

Тогда 1,1; 2,1

Использование центральной статистики не является единственным способом построения доверительных интервалов. Рассмотрим в качестве примера еще один из способов.

Пример (построение доверительного интервала для дискретной модели с

помощью неравенства Чебышева).
Рассмотрим		случай	выборки	x1,...,xn из		распределения Бернулли		с
неизвестной вероятностью успеха					0,1 : Bi 1,		.

Пусть	0,1 -		заданная	доверительная		вероятность. Построим		-

доверительный интервал для неизвестного параметра .

Известно, что E		E и D		D	1	.
	x		x

				n	n

Согласно классической форме неравенства Чебышева для любого 0 выполняется P x Ex Dx / 2 .

Подставим в эту формулу найденные выше значения:

Px 1 / 2n ,

1P x 1 1 / 2n ,

P x 1 1 / 2n ,

P x x 1 1 / 2n .

																	4
	Так		как для				любого						0,1		выражение	1	1	, то
	Так		как для				любого						0,1		выражение	1		, то
P					1		1		.
	x			x			1
	x			x			2
						4 n
	Подберем 0 так, чтобы правая часть неравенства была равна :
	1	1	1 , 2					1		,	1			0.
	1	4 2n	1 , 2					4n		,				0.
		4 2n						4n			2	n

Получили, что

P x 21n

x 2 1n .

Следовательно, случайный интервал 1, 2 накрывает неизвестный

параметр с вероятностью не меньшей, чем , и мы можем его рассматривать в качестве искомого -доверительного интервала.

Тема № 14 Проверка статистических гипотез по выборкам фиксированного объема (параметрическая статистика)

Будем предполагать, что точный вид закона распределения случайной величины , из которой произведена выборка x1,...,xn , неизвестен. В то же

время, исходя из некоторых общих предпосылок, можно сделать те или иные предположения относительно этого закона. К примеру, если производятся измерения некоторой величины прибором, то естественно предполагать, что результаты этих измерений можно рассматривать как выборку из нормальной случайной величины с неизвестными, вообще говоря, значениями ее параметров.

Определение. Всякое предположение относительно закона распределения, из которого производится выборка, будем называть статистической гипотезой или просто гипотезой.

Определение. Если гипотеза однозначно определяет закон распределения, будем называть ее простой гипотезой, в противном случае будем называть гипотезу сложной.

Так как любая сложная гипотеза фиксирует некоторое множество распределений, то она может рассматриваться как множество простых гипотез, каждая из которых состоит в том, что выборка получена из определенного распределения, принадлежащего к фиксированному множеству.

Определение. Если закон распределения, из которого производится

выборка, известен с точностью до некоторого параметра	(	может быть и
вектором), значение которого принадлежит множеству	,	то	всякое

предположение о значении будем называть параметрической гипотезой:

F (x).

Очевидно, что всякая параметрическая гипотеза фиксирует некоторое подмножество ' . Если параметрическая гипотеза простая, то ' содержит один единственный элемент ': ' { '}. Иногда говорят, что параметрической гипотезой называется любое подмножество H0 множества : H0 .

Например, предположение о том, что выборка получена из нормальной случайной величины N(a, 2) (значения параметров которой a и 2 при этом не фиксируются), представляет собой сложную гипотезу, а предположение о том, что выборка получена из стандартной нормальной случайной величины N(0,1) – простую гипотезу.

Определение. Критерий для		проверки гипотезы		H0 – это правило,	с
помощью которого по	выборке	x1,...,xn	делается	заключение о том, что
неизвестный параметр	принадлежит		множеству	H0 , либо	не

принадлежит H0 , т. е. \ H0

Такое правило можно однозначно определить с помощью подмножества V множества всевозможных выборок, которое можно рассматривать как

подмножество		n -мерного	векторного пространства	n . Если вектор
x1,...,xn V ,	то	гипотезу H0	отвергают, т. е. считают,	что неизвестный
параметр	принадлежит множеству \ H0 . Если вектор x1,...,xn n \V , то
гипотезу H0 принимают, т. е. считают что H0 .
Определение.		Множество	V называют критическим	множеством	(или
критической	областью) критерия. Множество H1 \ H0 является				также

гипотезой и называется альтернативной гипотезой или альтернативой.

Гипотезу H0 в этом случае называют основной.

Определение. Будем говорить, что произошла ошибка первого рода, если мы отвергаем гипотезу H0 при условии, что она верна. Будем также говорить,

что произошла ошибка второго рода, если мы принимаем гипотезу H0 при условии, что верна альтернативная гипотеза H1 .

Обозначим:

P H1 | H0 – вероятность ошибки первого рода,

P H1 | H0 P x1,...,xn V | H0 ;

P H0 | H1 – вероятность ошибки второго рода,

P H0 | H1 P x1,...,xn \V | H1 .

Иными

словами,

–

вероятность

того,

что выборка

x1,...,xn V ,

если

F (x),

где 0 H

0 ,

–

вероятность того, что выборка

x1,...,xn V

если

F (x),

где 1 H1 .

P x1,...,xn V

Определение.

Назовем

функцией мощности

статистического критерия.

Для параметрических гипотез , ,

, H

1 , H1

Как сравнивают статистические критерии?

Рассмотрим те статистические критерии, у которых 0 при всех .

Число 0 называется уровнем значимости.

Критерий однозначно определяется своими критическими областями. Определение. Пусть V1 и V2 – два критерия (две критические области) с

уровнем значимости 0 . Говорят, что критерий V1 лучше, чем критерий V2 , если

он имеет меньшую ошибку второго рода:

V1 V2

для любого H1 .

Рассмотрим теперь случай, когда H0 является простой гипотезой, т. е.

H0 0 ,			и	альтернативная	гипотеза H1 \ H0			также является	простой
гипотезой,			H1	1 . В этом случае 0, 1 .
	Пример.			Пусть выборка	производится из			распределения	Бернулли
		0
	1	0		с неизвестной вероятностью успеха			p . Пусть основная гипотеза


	p	1 p

H0 состоит в том, что p 0,5, а альтернативная H1							в том, что p 0,4 .
	Рассмотрим статистику отношения правдоподобия
				T x1,...,xn		L1 x1,...,xn		,
				T x1,...,xn		L0 x1,...,xn		,

где Lk x1,...,xn – функция правдоподобия выборки x1,...,xn при условии того,

что верна гипотеза Hk , где k 0,1.

Сформулируем критерий следующим образом: фиксируем некоторую константу C 0;

- если T x1,...,xn C , то выбираем гипотезу H1 ; - если T x1,...,xn C , то выбираем гипотезу H0 .

Константу C выбираем так, чтобы была обеспечена заранее заданная вероятность ошибки первого рода :

P H1 | H0 P T x1,...,xn C | H0

Этот критерий носит название критерия отношения правдоподобия.

Обозначим его критическое множество через W , а его ошибки первого и второго рода обозначим W и W соответственно.

Пусть S - произвольный статистический критерий для проверки простой гипотезы H0 против простой альтернативы H1 с ошибками первого и второго

рода S и S . Будем рассматривать такие критерии S , что S W .

Лемма (Неймана-Пирсона). В сформулированных выше предположениях для критерия S верно, что если S W , то S W .

Доказательство. Проведем его для случая, когда выборка x1,...,xn является выборкой из абсолютно непрерывного закона распределения, т. е. xi имеет

плотность p x , если верна гипотеза H		0 ,	или p		x , если верна H1 . По
0				1
определению статистики отношения правдоподобия:
	L1 x1,...,xn		p	x1 ...p (xn )
T x1,...,xn L0 x1,...,xn p				x1 ...p (xn )
			1		1
			0		0
Критическая область W критерия отношения правдоподобия состоит из тех
	n	p	xi	C	при значении C 0.
значений выборки x1,...,xn , для которых i 1		p	xi	C	при значении C 0.
		1
		0

Для критерия W получаем:

	W	P x1,...,xn W \|H0 ... p 0 y1 ...p 0 yn dy1...dyn ,
			W
	W	P x1,...,xn W \|H1 1 P x1,...,xn W \|H1
		1 ... p 1	y1 ...p 1 yn dy1...dyn ,
		W
где соответствующие интегралы являются n -мерными.
Пусть S	и S - вероятности ошибок первого и второго рода критерия S :
		S ... p 0	y1 ...p 0 yn dy1...dyn ,
		S
		S 1 ... p 1 y1 ...p 1 yn dy1...dyn .
		S
Из условия леммы S W получаем, что
	... p 0 y1 ...p 0 yn dy1...dyn		... p 0 y1 ...p 0 yn dy1...dyn .
	S		W

Вычитая из

	... p 0	y1 ...p 0
	W S
C , получаем:
	...	C p 0

	S\W S

левой	и правой части этого равенства величину
yn dy1...dyn	и умножая полученное неравенство на постоянную

y1 ...p 0 yn dy1...dyn

	...				C p 0			y1 ...p 0 yn dy1...dyn .

		W\W S
Если y1,...,yn S \(W S),		то y1,...,yn W и верно неравенство
	p	y1 ...p					yn C p		y1 ...p yn .
	1					1		0	0
Поэтому
...	p 1 y1 ...p 1 yn dy1...dyn

S\W S
	...				C p 0			y1 ...p 0 yn dy1...dyn .

		S\W S
Если y1,...,yn W \(W S),			то y1,...,yn W и верно неравенство
	C p		y1 ...p yn p						y1 ...p yn .
Следовательно,		0					0	1	1
Следовательно,
...	C p 0 y1 ...p 0 yn dy1...dyn

W\W S
	...						p 1 y1 ...p 1		yn dy1...dyn .
		W		S
		W	\W	S

В итоге получаем, что

x1,...,xn

...	p 1 y1 ...p 1 yn dy1...dyn		.

S\W S
			...		p 1 y1 ...p 1 yn dy1...dyn .
				S
		W\W		S
Прибавляя к левой и правой части полученного неравенства величину
		...	p 1 y1 ...p 1 yn dy1...dyn ,
		W S
получаем неравенство:
	... p1 y1 ...p1	yn dy1...dyn ... p1 y1 ...p1				yn dy1...dyn .
	S				W
Левая	часть неравенства	равна			1 S , а правая	равна 1 W , т. е. мы

получили, что

S W .

Лемма доказана.

Из леммы следует, что для любых H1 и любого критерия S с уровнем значимости W функция мощности критерия W наибольшая:

W 1 W 1 S S .

Поэтому критерий отношения правдоподобия называют наиболее мощным критерием при фиксированном уровне значимости W , а статистику T x1,...,xn

называют статистикой наиболее мощного критерия.

Приведем примеры использования леммы Неймана-Пирсона.

Примеры. 1. Пусть – выборка из нормального распределения с неизвестным математическим ожиданием и известной дисперсией: N a 2 ,

где a - неизвестно, 2 - известно.
Относительно неизвестного параметра a имеются два предположения:			либо
a a0 , либо	a a1 , при этом	a0 a1 . В данном случае гипотезы H0	и H1

являются простыми:

H0 a0 , H1 a1 .

Построим наиболее мощный критерий проверки

гипотезы H0 при

альтернативе H1 .

xj ak 2

Lk x1,...,xn

2 2 ,

k 0,1.

Следовательно,

для статистики

j 1

T x1,...,xn наиболее мощного критерия имеет место равенство

1 1

j 0

x a

L x ,...,x

T x ,...,x

exp

L0 x1,...,xn

j 1

<<< < Предыдущая 1 23 / 63 4 5 6 > Следующая >>>

Соседние файлы в папке Экзамен 2021

#
28.01.202280.71 Кб143tasks_done_v2.docx
#
28.01.2022280.74 Кб254tasks_done_v2.pdf
#
28.01.2022159.38 Кб33Вопросы к экзамену по АСП 2021.pdf
#
28.01.20221.34 Mб200Панков Пособие по АСП.pdf
#
28.01.20221.04 Mб66Панков Пособие по ТВиМС часть 1.pdf
#
28.01.2022730.29 Кб38Панков Пособие по ТВиМС часть 2.pdf
#
28.01.2022668.14 Кб202Панков Практикум по АСП 21.05.pdf