Добавил:

Legion Опубликованный материал нарушает ваши авторские права? Сообщите нам.

Вуз:

Санкт-Петербургский государственный электротехнический университет "ЛЭТИ"

Предмет:

Методы обработки измерительной информации

Файл:

МОИИ конспект

.pdf

Скачиваний:

162

Добавлен:

28.12.2014

Размер:

631.87 Кб

Скачать

☆

<<< < Предыдущая 12 / 72 3 4 5 6 7 > Следующая >>>

Таблица 2.1 – Основные числовые характеристики случайной величины

Характеристика				Определение
	M x x =					= ∫ xf x (x)dx
Математическое ожидание	M x x =				x	= ∫ xf x (x)dx
Момент n -ого порядка	M x x n = ∫ x n f x (x)dx
Центральный момент n -ого	M x (x −			)n = ∫(x −						) n f x (x)dx
Центральный момент n -ого	M x (x −		x	)n = ∫(x −					x	) n f x (x)dx
порядка

	D = ∫(x −							)2 f x (x)dx 2
Дисперсия	D = ∫(x −						x	)2 f x (x)dx 2
										1/ 2
Среднеквадратическое отклонение
(СКО)	σ =	∫(x − x) 2 f x (x)dx

Примечание. В приведенных соотношениях пределы интегрирования считаются бесконечными. В дальнейшем также будем полагать, что в случае, когда пределы не указываются, они предполагаются бесконечными.

Получим выражение для некоторых из перечисленных характеристик применительно к с.в., имеющей равномерную ф.п.р.в. Математическое ожидание, второй момент и дисперсия для такой с.в. определяются как

b + a

M x x =

= ∫ xf x (x)dx =

;

2(b − a)

b 2 + ba + a 2

M x x 2 = ∫ x 2 f x (x)dx =

;

3(b − a)

M x (x −

) 2 =

(a − b) 2

При a = 0 , M x x =

M x x 2 =

b 2

, а M x (x −

)2 = D =

b 2

, σ =

Если интервалы, в которых ф.п.р.в. отлична от нуля заданы как [−a, a] , то математическое ожидание с.в. станет нулевым, а второй момент и дисперсия

совпадут между собой, т.е. M x x 2 = D = a 2 .

Случайная величина, имеющая нулевое математическое ожидание,

называется центрированной случайной величиной.

Учитывая (2.7), (2.10), можно получить следующее полезное соотношение

для дисперсии с.в.

D = Mx 2 −

2 .

(2.12)

Пример 2.2 Гауссовской или нормальной случайной величиной

называется такая, для которой ф.р.в. и ф.п.р.в. имеют вид

(t − x )

F (x) =

∫

exp −

dt ,

(2.18)

(2π)

1/ 2

2σ

−∞

(x − x)

f x (x) =

exp −

1/ 2

(2π)

2σ

Эти функции называют соответственно гауссовским (нормальным)

распределением вероятности и гауссовской (нормальной) функцией плотности распределения вероятностей.

В дальнейшем для гауссовской ф.п.р.в. будем использовать следующее обозначение

(x − x)

, σ 2 ) .

(2.19)

f x (x) =

exp −

= N (x;

(2π)

1/ 2

2σ

Вид функций гауссовских ф.р.в. и ф.п.р.в. и их зависимость от математического ожидания и СКО проиллюстрирована на рис.2.2.

Из графиков следует, что с уменьшением дисперсии, область в которой ф.п.р.в. существенно отлична от нуля, уменьшается. Можно показать, что

(x − x)

) .

lim

exp −

= δ(x −

σ→0 2πσ

2σ 2

Для гауссовской ф.р.в., соответствующей центрированной с.в., справедливо также следующее полезное соотношение

Fx (x) = 1 − Fx (−x) .

Нечетные центральные моменты гауссовской случайной величины равны нулю, т.е.

∫(x − x) f x (x)dx = 0 ,

адля четных моментов справедливо следующее выражение2k −1

2k
∫(x − x) f x (x)dx = 1× 3 × ..(2k − 1)σ 2k , k = 1,2... .	(2.20)

Рисунок 2.2 – Графики ф.р.в. и ф.п.р.в гауссовской случайной величины при различных значениях математического ожидания ( x = 0, x = 1, x = 2 ) и СКО σ = 1, σ = 0.5, σ = 0.25

Из этих соотношений, в частности, вытекает, что входящие в (218), (2.19)

параметры x и σ 2 представляют собой математическое ожидание и дисперсию гауссовской случайной величины и они полностью определяют ее ф.п.р.в.

Пример 2.3. Гауссовскому и равномерному распределению вероятностей соответствуют ф.п.р.в., симметричные относительно математических ожиданий.

В качестве примера распределения, которому соответствует несимметричная ф.п.р.в. можно привести распределение Рэлея, имеющее следующий вид

	x	u			u	2			x	2
	∫	u			u				x
Fx (x) =				exp−				du = 1 − exp −				.	(2.21)
Fx (x) =			2	exp−			2	du = 1 − exp −			2	.	(2.21)
		σ	2		2σ		2		2σ		2
	0	σ			2σ				2σ
	0

Ф.п.р.в., математическое ожидание и дисперсия для этого распределения определяются как

f x (x) =	x	exp−	x 2	,	(2.22)
	σ 2		2σ 2

	M x x = x =			∞ x 2	exp−	x 2	dx = σ		π / 2 ,
				∫ σ 2		2σ 2
				0
		∞	(x − x) 2 x					x 2 dx = 4 − π σ 2 .
M x (x − x )2 =		∫	(x − x) 2 x			exp−		x 2 dx = 4 − π σ 2 .
		∫			σ 2			2σ 2	2
		0
Примеры функции (2.18) при разных σ изображены на рис.2.3
1. 4
1. 2
		s igm a= 0.5
1
0. 8
				s igm a= 1
0. 6
0. 4
					s igm a= 2
0. 2
0
0	1	2		3	4	5	6	7	8	9	10
Рисунок 2.3 – Графики ф.п.р.в. Рэлея при разных значениях σ : σ											= 0.5 , σ	= 1 , σ	= 2

При решении задач обработки информации важной характеристикой

случайной величины и соответствующих ф.р.в. и ф.п.р.в. является квантиль.

Квантилем xP порядка p с.в. x называется такая величина, для которой

выполняется соотношение
Pr{x < xP }= Fx (x p ) = p ,	(2.23)

т.е. xP - величина, при которой обеспечивается заданный уровень вероятности

(рис. 2.4).

F (x)

Pr {x<x }=F (x )=p

p x p

Квантиль xp

x p b

Рисунок 2.4 – К определению квантиля

Квантиль пятидесятипроцентного уровня вероятности (квантиль порядка x1/ 2 ) называется медианой распределения. Иными словами медиана это

величина, при которой Fx (xP ) = 1/ 2 , а следовательно,

x1 / 2	∞	1
∫	f x (x)dx = ∫ f x (x)dx =		,
		2
−∞	x1 / 2

т.е. площади слева и справа от значения медианы, для фигур, образованных ф.п.р.в. и осью абсцисс, равны между собой.

Величина α , связанная с квантилем порядка p для модуля стандартизованной гауссовской с.в. как

p = 1 − α ,

называется доверительной границей.

Введем еще одну характеристику, называемую модой. Модой

распределения (или с.в.) называется такое значение с.в., при котором ф.п.р.в.

имеет локальный максимум.

Если ф.п.р.в. имеет один максимум она называется унимодальной.

Из (2.13) следует, что равномерная ф.п.р.в. не имеет максимумов, а

медиана совпадает с математическим ожиданием.

Для гауссовской ф.п.р.в. медиана, математическое ожидание и мода между собой совпадают. Понятно, что такое распределение является унимодальным.

На рис. 2.5 изображен пример ф.п.р.в, имеющей две моды. Эта функция задается соотношением

	1		1		(x + 2)	2		4		(x − 1)	2
	1		1		(x + 2)			4		(x − 1)
f x (x) =				exp −			+		exp −
f x (x) =	2			exp −	2		+	(2π)1/ 2	exp −	0.5
	2	(2π)1/ 2			2			(2π)1/ 2		0.5

и представляет собой, как нетрудно заметить, среднее арифметическое двух гауссовских плотностей.

0.45	Моды
	Моды
0.4

0.35

0.3

0.25

0.2

0.15

0.1

0.05

0
-5	-4	-3	-2	-1	0	1	2	3	4	5

Рисунок 2.5 – Пример ф.п.р.в., имеющей две моды.

Помимо рассмотренных непрерывных случайных величин, т.е. таких,

для которых область возможных значений представляет собой непрерывные множества на числовой оси, существует также понятие дискретной с.в.

Дискретной случайной величиной называется такая, которая может принимать конечное или счетное число значений.

Для дискретных случайных величин их свойства задаются набором чисел

µ j = Pr{x = x j }, j = 1, M ,

каждое из которых определяет вероятность µ j принятия случайной величиной

значения x j .

Статистические свойства дискретной случайной величины можно адекватно описать с помощью непрерывной случайной величины, ф.п.р.в.

которой имеет вид

M
f x (x) = ∑µ j δ(x − x j ),	(2.24)

j =1

где δ( ) − дельта-функции. С использованием такого представления удается получить ряд соотношений, справедливых для дискретных случайных величин,

в частности, выражения для математического ожидания и дисперсии будут иметь вид

M x x = x = ∫ xf x (x)dx = ∑µ j x j ,

j =1

σ 2 = ∫(x − x) 2 f x (x)dx = ∑µ j (x j )2 − x 2 .

j =1

В дальнейшем при задании свойств случайных величин будем использовать в основном функцию плотности распределения вероятности f x (x) .

Помимо рассмотренных выше существует и другие распределения вероятностей, широко используемые в прикладных задачах. Вид ф.п.р.в.,

выражения для математических ожиданий и дисперсий для основных из них приведен в табл. 2.2.

Таблица 2.2 – Виды функций распределения вероятностей и соответствующие им характеристики

Плотность распределения

Математи-

Наименование

ческое

Дисперсия

f x (x)

ожидание

(1 − x)b−1 I (01) (x)

Бета

(Beta)

B(a, b)

(a + b + 1)(a + b)2

a + b

B(a, b) – бета-функция

Хи – квадрат

x(ν−2) / 2e− x / 2

со степенью

2ν

свободы, равной ν

ν / 2

(ν / 2)

(Chisquare)

Экспоненциальное

−

µ 2

(Exponential)

Гаммма

x a−1e b

ab 2

(Gamma)

b a (a)

Нормальное

(x − x)

σ 2

(Normal)

exp −

(2π)

1/ 2

2σ

Рэлея

f x (x) =

exp−

x 2

4 − π

σ2

π / 2

(Rayleigh)

2σ 2

σ 2

x [a, b]

(a − b)2

Рвномерное

b + a

(Uniform)

[a, b]

− a

Примечание. I (c,d ) (x) = 0

x (c, d ) ,

(•) – гамма-функция.

x (c, d )

2.2. Оценка математического ожидания Математическое ожидание и дисперсия

На практике измерения обычно осуществляются выборочным методом.

Имеется некоторая генеральная совокупность – множество всех возможных элементов (значений) случайной величины. Совокупность реализацией

случайной	величины	x1,K, xN за N наблюдений, называется выборкой
реализации	случайной	величины объемом N . Иначе, конечный набор

элементов случайной величины, полученный в ходе наблюдений, называется выборкой.

Число значений случайной величины – объем выборки. Любая функция от

элементов выборки называется статистикой.

Определение параметров распределения θ по выборке является оценкой этих параметров распределения θˆ . Оценка также является случайной

величиной.

Полностью свойства случайной величины описываются законом ее распределения, под которым понимают связь между возможными значениями случайной величины x1,K, xN и соответствующими им вероятностями

p1,K, pN .

Численные критерии случайной величины

Если распределение известно, то для описания случайной величины достаточно знать числовые характеристики распределения. К ним относятся:

1. Математическое ожидание

Пусть случайная величина Х может принимать только значения x1,K, xn ,

вероятности которых соответственно равны p1,K, pn . Тогда математическое ожидание М(Х) случайной величины Х определяется равенством

M ( X ) = mξ = x1 p1 + x2 p2 + K + xn pn .

При равномерном распределении математическое ожидание равно среднему арифметическому значению случайной величины:

M ( X ) = 1 (x1 + x2 +K + xn ) = X . n

Для дискретной случайной величины выражение их таблицы 2.1 примет

вид:

M ( X ) = ∑xi pi .

i=1

Свойства математического ожидания:

- математическое ожидание постоянной величины равно постоянной

M(C) = C.

-постоянный множитель можно выносить за знак математического ожидания

M (CX ) = CM ( X ).

- математическое ожидание алгебраической суммы конечного числа случайных величин равно алгебраической сумме их математических ожиданий

M ( X ± Y ) = M ( X ) ± M (Y ).

- математическое ожидание произведения конечного числа независимых случайных величин равно произведению их математических ожиданий

M ( XY ) = M ( X )M (Y ).

- математическое ожидание отклонения случайной величины от ее математического ожидания равно нулю

M ( X − M ( X )) = 0.

2. Дисперсия

На практике часто требуется оценить рассеяние возможных значений случайной величины относительно ее среднего значения. Мерой рассеивания случайной величины около ее математического ожидания является дисперсия.

Дисперсия D( X ) случайной величины X называется математическое ожидание квадрата ее отклонения от ее математического ожидания:

D( X ) = Dξ = M [ X − M ( X )]2.

Для дискретной величины выражение из таблицы 2.1 примет вид:

Dξ = ∑ pk [xk − mξ ]2 .

k =1

Свойства дисперсии:

- дисперсия постоянной величины С равна нулю

D(C) = 0.

- постоянный множитель можно выносить за знак дисперсии, возводя его в квадрат

D(CX ) = C 2 D( X ).

- дисперсия суммы двух независимых случайных величин равна сумме дисперсий этих величин

M ( X + Y ) = D( X ) + D(Y ).

- дисперсия разности двух независимых случайных величин равна сумме их дисперсий

M ( X − Y ) = D( X ) + D(Y ).

Для оценки рассеяния возможных значений случайной величины вокруг ее среднего значения кроме дисперсии служат и некоторые другие характеристики. К их числу относится среднеквадратическое отклонение

(СКО). Среднеквадратическим отклонением σ . случайной величины Х называется арифметическое значение корня квадратного из ее дисперсии σ

σ = D( X ) = Dξ .

Среднеквадратическое отклонение характеризует степень отклонения случайной величины от ее математического ожидания и имеет размерность значений случайной величины.

Понятно, что если закон распределения случайной величины неизвестен,

то мы не можем вычислить ни математическое ожидание, ни дисперсию. В этом случае их можно попытаться оценить по выборке из генеральной совокупности.

Но оценки могут быть разными — какая-то лучше, какая-то хуже. Поэтому проводится классификация оценок по полезным свойствам.

Свойства оценок случайных величин

1. Состоятельность

Если оценка ˆ по выборке объема n с вероятностью единица сходится к

θn

оцениваемой величине θ при увеличении объема выборки, то такая оценка

называется состоятельной.

lim θˆ n = θ.

n→∞

<<< < Предыдущая 12 / 72 3 4 5 6 7 > Следующая >>>

Соседние файлы в предмете Методы обработки измерительной информации

#
28.12.2014231.91 Кб34Voprosy_MOII.pdf
#
08.06.2016245.25 Кб44Лабораторная работа №1.doc
#
08.06.20162.07 Mб39Лабораторная работа №2.doc
#
08.06.20165.51 Mб34Лабораторная работа №3.doc
#
08.06.2016546.82 Кб57Лабораторная работа(вейвлет).doc
#
28.12.2014631.87 Кб162МОИИ конспект.pdf
#
08.06.20161.25 Mб30сжатие и фильтрация.doc