- •Введение
- •Глава 1. Cлучайные события
- •§ 1. Предмет теории вероятностей
- •§ 2. Пространство элементарных событий
- •§ 3. Классическое определение вероятности
- •§ 4. Некоторые комбинаторные формулы
- •§ 5. Геометрические вероятности
- •§ 6. Аксиоматическое построение теории вероятностей
- •§ 7. Условные вероятности
- •§ 8. Вероятность суммы и произведения событий
- •§ 9. Зависимые и независимые события
- •§ 10. Формула полной вероятности
- •§ 11. Формула Байеса
- •Глава 2. Случайные величины
- •§ 1. Дискретные случайные величины
- •§ 2. Функция распределения случайной величины
- •§ 3. Числовые характеристики дискретных случайных величин
- •§ 4. Моменты
- •§ 5. Производящая функция
- •§ 6. Биномиальное распределение
- •§ 7. Распределение Пуассона
- •§ 8. Геометрическое распределение
- •§ 9. Непрерывные случайные величины
- •§ 10. Характеристики непрерывных случайных величин
- •§ 11. Примеры непрерывных случайных величин
- •§ 12. Функция распределения нормального закона
- •Глава 3. Cиcтемы случайных величин
- •§ 1. Распределение системы случайных величин
- •§ 3. Нормальное распределение на плоскости
- •§ 4. Зависимость и ковариация
- •§ 5. Kоэффициент корреляции и его свойства
- •Глава 4. Некоторые предельные теоремы
- •§ 1. Центральная предельная теорема
- •§ 2. Закон больших чисел
- •Литература
Утверждение 1. Ковариацию можно рассчитать по формуле cov(X ,Y ) = M (XY )− MX MY .
Доказательство.
cov(X ,Y ) = M ((X − MX )(Y − MY ))=
= M (XY −Y MX − X MY + MX MY )= M (XY )− MX MY.♣
Утверждение 2. Дисперсия суммы случайных величин X и Y равна
D(X +Y ) = DX + DY + 2cov(X ,Y ) .
Доказательство.
D(X +Y ) = M (X +Y )2 −(M (X +Y ))2 = MX 2 + 2MXY + MY 2 −(MX )2 − − 2MX MY − (MY )2 = DX + DY + 2 cov(X ,Y ) . ♣
Коэффициентом корреляции случайных величин X и Y называется
отношение corr( X ,Y ) = cov(X ,Y ) /(σX σY ) , где |
σX , σY - средние |
квадратические отклонения случайных величин X |
и Y. |
Пример 5. Найдем ковариацию и коэффициент корреляции случайных величин Х и Y из примера 1. Введем случайную величину Z = X Y:
|
Z |
|
0 |
|
1 |
|
|
Р |
|
3/4 |
|
1/4 |
|
MX = 1/2, DX = 1/4, MY = 3/4, DY = 3/16, MZ = M(XY) = 1/4; |
||||||
cov(X,Y) = M(XY) – MX MY= –1/8; |
|
|
|
|||
corr(X,Y) = cov (X,Y)/(σxσy) = –1/( 2 |
3 ). ♦ |
|||||
Дисперсия суммы |
случайных |
величин X и Y D(X +Y ) = |
= DX + DY +2cov(X ,Y ) = 1/4 + 3/16 + 2(–1/8) = 3/16.
§ 3. Нормальное распределение на плоскости
Нормальное распределение на плоскости - это нормальное распределение для системы двух случайных величин X и Y.
Нормальное распределение на плоскости задается плотностью
|
|
|
|
|
1 |
|
|
(x−m |
x |
)2 |
|
|
|
2r(x |
−mx )(y−my ) |
|
|
|
(y−my )2 |
|||||||||||||||||||||||||
|
|
|
|
− |
|
|
|
|
|
|
|
|
− |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
+ |
|
|
|
|
|||||
f (x, y) = |
|
1 |
|
e |
|
2(1−r 2 ) |
|
σx 2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
σxσY |
|
|
|
σy 2 |
|
||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
. |
|||
|
2πσxσy |
1− r2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
Распределение зависит от пяти параметров: |
|
mx , my , |
|
|
σx , |
σy , r . |
||||||||||||||||||||||||||||||||||||||
Выясним их смысл. Для этого найдем плотности компонент X и Y: |
|
|
||||||||||||||||||||||||||||||||||||||||||
|
|
|
|
∞ |
|
|
|
|
1 |
|
|
|
|
|
|
− |
(x−mx )2 |
|
|
|
|
|
|
|
||||||||||||||||||||
|
|
f1(x) = ∫ f (x, y)dy = |
|
|
|
|
|
|
|
|
|
2σx 2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||
|
|
σx |
|
2π |
|
e |
|
|
|
|
; |
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||
|
|
|
|
−∞ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
|
|
|
∞ |
|
|
|
|
1 |
|
|
|
|
|
|
|
− |
|
( y−my )2 |
|
|
|
|
|
|
|
||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2σy 2 |
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||
|
|
f2 ( y) = ∫ f (x, y)dx = |
σy |
|
|
2π |
e |
|
|
|
|
. |
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||||||
|
|
|
|
−∞ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
Cлучайные величины X и Y имеют нормальное распределение c |
||||||||||||||||||||||||||||||||||||||||||||
параметрами |
|
mx , |
σx |
|
и |
|
|
|
|
my ,σy |
|
|
|
|
|
|
|
|
|
cоответственно. |
||||||||||||||||||||||||
Cледовательно, MX = mx , DX = σx |
2 ; MY = my , DY = σy |
2 . |
|
|
|
|||||||||||||||||||||||||||||||||||||||
Найдем ковариацию компонент X и Y: |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||
|
|
|
∞ ∞ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
cov(X ,Y ) = ∫ |
∫(x −MX )(y −MY ) f (x, y)dxdy = rσxσy . |
|
|
|
||||||||||||||||||||||||||||||||||||||||
|
|
|
−∞−∞ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Отсюда следует, что параметр r |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
f(x, y) |
|
|
|
|
|
|
|
||||||||||||||||
совпадает |
|
с |
коэффициентом |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
корреляции X и Y: |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
corr(X ,Y ) = cov(X ,Y ) /(σxσy )= r . |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
my |
|
y |
|||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
Геометрически |
|
плотность |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||
|
mx |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
η |
|||||||||||||
двумерного |
нормального |
|
закона |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||
представляет собой "холм", вершина |
x |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||
которого |
находится |
над |
|
точкой |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
ξ |
|
|
||||
( mx , my ) |
(рис.2). |
В |
сечении |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Рис.2. |
|
|
|
|
|
|
|
|||||||||||||||||
поверхности |
|
|
плотности |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||
плоскостями, |
параллельными оси |
f (x, y) , |
|
|
|
|
получаются |
кривые, |
подобные гауссовым. В сечениях плоскостями, параллельными плоскости XOY, получаются эллипсы. Уравнения эллипсов:
(x −m |
x |
)2 |
|
2r(x −mx )(y −my ) |
|
(y −my )2 |
||
|
|
− |
|
|
+ |
|
= c . |
|
σx2 |
|
|
|
|
||||
|
|
σxσy |
|
σy2 |
Эти эллипсы называются эллипсами рассеивания, а их оси (общие для всех эллипсов) - главными осями рассеивания (η и ξ).
Лекция 8
§ 4. Зависимость и ковариация
Cлучайные величины X и Y называются независимыми, если функция распределения cлучайного вектора (X, Y) равна произведению функций распределения компонент X и Y:
F(x, y) = F1(x) F2 ( y), − ∞ < x < ∞, − ∞ < y < ∞ .
Утверждение 3. Непрерывные случайные величины независимы тогда и только тогда, когда плотность случайного вектора (X, Y) равна
произведению плотностей компонент X и Y: f (x, y) = f 1(x) f 2 ( y) . Для доказательства необходимости продифференцируем по x и y
обе части равенства из определения независимых случайных величин. Для доказательства достаточности возьмем интегралы от обеих частей
равенства f (x, y) = f 1(x) f 2 ( y) по области {(–∞, x), (–∞, y)}. ♣ Утверждение 4. Дискретные случайные величины независимы
тогда и только тогда, когда P(X = xi , Y = y j )= P(X = xi ) P(Y = y j ) для любых пар значений xi , y j , i, j N , случайных величин X и Y.
Доказательство.
P(X = xi , Y = y j ) |
= P(X ≤ xi , Y = y j ) − P(X ≤ xi−1, Y = y j ) = |
||||||||||
= P(X ≤ xi , Y ≤ y j ) |
− P(X ≤ xi , Y ≤ y j −1) − P(X ≤ xi−1, Y ≤ y j )+ |
||||||||||
+ P(X ≤ xi−1, Y ≤ y j−1)= P(X ≤ xi ) P(Y ≤ y j )− P(X ≤ xi ) P(Y ≤ y j −1)− |
|||||||||||
− P(X ≤ xi−1) P(Y ≤ y j ) |
+ P(X ≤ xi−1) P(Y ≤ y j−1)= P(X ≤ xi ) P(Y = y j )− |
||||||||||
|
− P(X ≤ xi−1) P(Y = y j ) = P(X = xi ) P(Y = y j ). ♣ |
||||||||||
Пример 6. В примере 2 плотность случайного |
|
вектора (X,Y) |
|||||||||
1 |
|
|
|
|
|
|
|
|
|
|
|
f (x, y) = |
|
|
, |
|
−∞ < x < ∞, |
−∞ < y < ∞ , |
а |
плотности |
|||
π2 (1+ x2 )(1+ y2 ) |
|||||||||||
1 |
|
|
|
|
1 |
|
|
|
|||
компонент f (x) = |
|
, |
−∞ < x < ∞, |
f ( y) = |
|
, |
−∞ < y < ∞ . |
||||
π(1+ x2 ) |
π(1+ y2 ) |
Следовательно, cлучайные величины X и Y независимы. ♦ Утверждение 5. Для независимых случайных величин X и Y
ковариация равна нулю.
Доказательство. Из утверждений 2 и 3 следует, что для независимых случайных величин X и Y M(XY) = M(X) M(Y), если M(X) и M(Y) существуют.
Для непрерывных случайных величин это так, поскольку
∞ |
∞ |
∞ |
∞ |
M (XY )= ∫ |
∫ xyf (x, y)dxdy = ∫ |
∫xyf1(x) f2 ( y)dxdy = |
|
−∞ −∞ |
−∞ −∞ |
∞ ∞
=∫ x f1(x)dx ∫y f2 ( y)dy = MX MY .
−∞ −∞
Для дискретных случайных величин
M(XY) =∑∑xi yj P(X = xi , Y = yj )=∑∑xi yj P(X = xi ) P(Y = yj ) =
i j |
i j |
=∑xi P(X = xi ) ∑yj P(Y = yj )=MX MY, i, j N . |
|
i |
j |
Отсюда сov(X, Y) = M(XY) – M(X)M(Y) = 0. ♣
Замечание. M(XY) = M(X) M(Y), если одна из независимых случайных величин непрерывного, а другая дискретного типа.