22.05

Московский физико-технический институт

Теория вероятностей

1 курс. 2 семестр. 2015 год.

Лектор: Горяйнов Виктор Владимирович

Набрал:

Ломов Артём

Содержание

1.1Законы де Моргана . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2

1.2Основное правило комбинаторики . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2

1.3 Выборки . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3

1.4Размещение k частиц по n ячейкам . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3

1.5Пример геометрических вероятностей. Задача о встрече . . . . . . . . . . . . . . . . . . . . 3

6.1Математическое ожидание . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11

6.2Дисперсия случайной величины . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12

6.3Случай счетного количества . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 12

6.4Основные целочисленные случайные величины и их распределения . . . . . . . . . . . . . 13

7.1Сигма-алгебра . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14

9.2Ковариация и коэффициент корреляции . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 22

9.3Задача линейного оценивания . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23

1

Лекция 1 13.02.2015

1Пространство элементарных событий

А - событие

n - число экспериментов

nA - количество произошедших событий Аa = nnA - частота появления события

P(A) - вероятность события А - проявляется через частоту Элементарный исход ! - неделимое событие. Событие - подмножество элементарных исходов. Совокупность всех элементарных исходов - .

Говорят, что событие А произошло, если ! 2 A. A [ B - произошло A или B

A \ B = AB - произошли и А и B- достоверное событие

? - невозможное событие (не путать с событием вероятности 0!) A = n A - отрицание

A n B = AB

1.1Законы де Моргана

Ai; i 2 I - некоторые события

1.2Основное правило комбинаторики

Дискретная модель - пространство элементарных исходов конечно или счетно.

= f!1; !2; :::g

Каждому элементарному исходу !k соответствует вероятность его выпадения pk.

Классическое определение вероятности: конечно, все элементарные исходы равновероятны. j j = N jAj = K P(A) = KN

Основное правило комбинаторики:

Есть m различных групп уникальных элементов. jij = ki; i = 1; m

Выбираем из каждой группы один элемент. Всего N = k1 k2 ::: km различных комбинаций.

2

1.3Выборки

Есть n элементов, занумерованных от 1 до n. Делаем выборку объёмом k.

Выборки различаются по двум критериям: упорядоченность(если имеет значение порядок элементов)

ис возвращением или нет (элементы могут повторятся или нет).

1.упорядоченная выборка с возвращениями [размещение с повторениями]

n n ::: n = nk

| {z }

k

2. упорядоченная выборка без возвращений [размещение без повторений]

n (n 1) ::: (n k + 1) = n! = Ak

(n k)! n

3. неупорядоченная выборка без возвращений [сочетание без повторений]

4. неупорядоченная выборка с возвращениями [сочетание с повторениями]

Докажем, что количество таких выборок Ck

n+k 1

Q(n,k) - количество таких выборок

Б.и. Q(n,1)=n;

И.ш. Пусть формула верна для 1,...,k. Докажем, что она верна и для k+1 (Q(n,k+1)=Cnk++1k). Разобъём множество всех выборок объёмом k+1 на непересекающиеся подмножества:

1-ое - хотя бы один раз есть элемент 1; 2-ое - нет элемента 1; хотя бы один раз есть элемент 2;

3-ое - нет элементов 1,2; хотя бы один раз есть элемент 3;

...

n-ое - нет элементов 1,...,n-1; хотя бы один раз есть элемент n;

Найдём сумму всех подмножеств:

Q(n; k + 1) = Q(n; k) + Q(n 1; k) + ::: + Q(1; k) = Cnk+k 1 + Cnk+k 2 + ::: + Ckk+1 + Ckk = (Cnk++1k

Cnk++1k 1) + (Cnk++1k 1 Cnk++1k 2) + ::: + (Ckk+2+1 Ckk+1+1) + Ckk = Cnk++1k ч.т.д.

1.4Размещение k частиц по n ячейкам

Частицы могут быть различные или одинаковые. Может существовать ограничение: в каждой ячейке не более одной частицы.

1.различные частицы, размещение без ограничений (статистика Максвелла-Больцмана)

Каждой частице ставится в соответствие номер ячейки. Происходит выборка номеров ячеек. Это эквивалентно упорядоченной выборке с возвращениями. nk

2.различные частицы, размещение с ограничением

Это эквивалентно упорядоченной выборке без возвращений. Akn

3.одинаковые частицы, размещение с ограничением (статистика Ферми-Дирака)

Это эквивалентно неупорядоченной выборке без возвращений. Cnk

4.одинаковые частицы, размещение без ограничений (статистика Бозе-Эйнштейна)

Это эквивалентно неупорядоченной выборке с возвращениями. Ck

n+k 1

1.5Пример геометрических вероятностей. Задача о встрече

Два друга договорились встретится в интервале 1 час. Каждый приходит, ждёт 15 минут и уходит, если не встретил друга. Какова вероятность их встречи (событие А)?

3

Проекция точки на ось x - время прихода первого, на ось y - второго. Заштрихованная область - друзья встречаются. Вероятность их встречи равно отношению площадей закрашенной фигуры ко всему квадрату. Заметим, что дискретная модель уже не работает, т.к пространство элементарных

исходов не счётно.

P(A) = mesA = 7=16

mes 1

Лекция 2 20.02.2015

2Алгебра событий и свойства вероятностей

Какой класс подмножеств следует называть событиями? A [ B AB A - теоретико-множественные операции

Определение: Класс подмножеств - A- будем называть алгеброй, если

1)2 A;

2)Aзамкнуто относительно теоретико-множественных операций.

Предложение 1: A- класс подмножеств , удовлетворяющий следующим условиям

1)2 A

2)Если А 2 A ) A 2 A

3)Если А и B 2 A ) A [ B 2 A Тогда A- алгебра.

n

S

Определение: D = fD1; :::; Dng будем называть разбиением, если DiDj = ? при i 6= j и Di = :

i=1

Di - атомы разбиения.

В случае, когда P(Di) > 0 8i = 1; :::; n; D - называется группой событий, а Di - гипотезы.

A(D) - класс подмножеств, которые состоят из , всевозможных объединений атомов и ?. A(D) - алгебра.

Свойства вероятностей P : A 7!R:

1.неотрицание 8A 2 A P(A) > 0

2.нормированность P( ) = 1

3.аддитивность A; B 2 A; AB = ? ) P(A [ B) = P(A) + P(B)

Следствия:

1.A 2 A P(A) = 1 P(A) (P(?) = 0)

2.A B ) P(B n A) = P(B) P(A)

3.A B ) P(A) 6 P(B)

4.8A 2 A 0 6 P(A) 6 1

5.8A; B 2 A P(A [ B) = P(A) + P(B) P(AB)

4

Доказательство:

1)= A [ A; AA = ?

1 = P( ) = P(A) + P(A)

2)A B B = A [ (B n A) A; (B n A) - не пересекаются

P(B) = P(A) + P(B n A) ) P(B n A) = P(B) P(A)

5)A [ B = (A n AB) [ (B n AB) [ (AB)

P(A [ B) = P(A n AB) + P(B n AB) + P(AB)

По 2 следствию, AB A; B ) P(A) = P(AB) + P(B) P(AB) + P(AB) = P(A) + P(B) P(AB)

Теорема сложения: Пусть A1; :::; An 2 A - события. Тогда

nn

Доказательство:

При n=2 это следствие 5. Допустим это верно вплоть до n-1.

n 1 n

SS

Предложение 2 (полуаддитивность): Если A1:::An 2 A - произвольные событие, то

nn

[X

P( Ai) 6 P(Ai)

i=1 i=1

Доказательство:

B1 = A1; B2 = A2A1; B3 = A3A1A2; ::: ; Bn = AnA1:::An 1

nn

SS

3Условная вероятность и независимость

Допустим мы провели n экспериментов. Есть события A и B. na раз - A, nb раз - B, nab раз - и А и В. na=n - частота A

nab=na = nab=n na=n

Комментарий: У нас всегда есть ( ; A; P):

Определение: Пусть А 2 A : P(A) > 0 ) 8B 2 A. Под условной вероятность события B при условии A будем понимать P(BjA) = P(AB)=P(A) = PA(B)

Комментарий: Можно заменить ( ; A; P) на ( ; A; PA):

P(AB) = P(A) P(BjA)

5

Теорема 1 (умножения): Пусть A1:::An 2 A такие, что P(A1:::An) > 0. Тогда

P(A1:::An) = P(A1) P(A2jA1) ::: P(AnjA1:::An 1)

Доказательсво по индукции:

Для n=2 это следствие определения условной вероятности.

Комментарий: Почему P(A2jA1); :::; P(AnjA1:::An 1) определены? Т.к. A1:::Ak A1:::An и P(A1:::Ak) >

P(A1:::An) > 0.

Пусть это верно до n-1 включительно.

P(A1:::An) = P(A1:::An 1) P(AnjA1:::An 1) =! P(A1:::An 1) = P(A1) P(A2jA1) ::: P(An 1jA1:::An 2)

! = P(A1) P(A2jA1) ::: P(An 1jA1:::An 2) P(AnjA1:::An 1)

Теорема 2 (полной вероятности): Пусть D = fD1:::Dng - полная группа событий. Тогда 8A 2 A

n

X

P(A) = P(Di) P(AjDi)

i=1

Доказательство:

nn

Пример:

Двое подбрасывают монету по очереди. Выигрывает тот, у кого первый появится герб. A - выигрыш первого игрока, B - второго.

P(A) = p1 P(B) = p2 p1 + p2 = 1

H1 (гипотеза): при первом бросании выпал "герб". H2: при первом бросании выпала "решка".

По формуле полной вероятности: P(A) = p1 = P(H1) P(AjH1) + P(H2)

P(AjH2) = 0; 5 1 + 0; 5 p2 2p1 = 1 + p2

Решая систему, получим p1 = 2=3; p2 = 1=3.

Лекция 3 27.02.2015

Теорема 3 (формула Байсса): Пусть D = fH1; :::; Hng - полная группа событий. Для любого P(A)>0

P(HkjA) = nP(Hk) P(AjHk) ; k = 1; ::; n

P

P(Hi) P(AjHi)

i=1

P(Hk) - априорные вероятности

P(HkjA) - апосториорные вероятности

Доказательство:

Пример:

Есть n ячеек. В одной ячейке приз. Участник вскрывает 1 ячейку. Ведущий вскрывает n-2 ячейки.

6

Стоит ли поменять на оставшуюся?

H - в выбранной игроком ячейке есть приз. A - вскрытие n-2 ячейки пустые.

1) Ведущий знал, где приз, и открывал заведомо n-2 пустые ячейки.

P(H) = 1=n; P(H) = 1 1=n

P(AjH) = 1; P(AjH) = 1

P(HjA) =

P(HjA) =

2) Ведущий не знал, где приз.

P(AjH) = 1=(n 1)

P(HjA) = 1=n 1

1=n 1+(n 1)=n 1=(n 1)=1=2

P(HjA) = 1=2)

3.1Независимость

A,B - события

Знание о наступлении события А не изменяет вероятность события В. P(A)>0 ) P(BjA) = P(B)

P(B) = P(AB)

P(A)

P(AB) = P(A)P(B)

Определение: Два события А и В называются независимыми, если выполняется P(AB) = P(A)

P(B).

Определение: A1:::An - называются независимыми (в совокупности), если 8k = 1; :::; n и 81 6 i1 < ::: < ik 6 n выполняется

Пример 1:

= f!1; !2; !3; !4gP(f!kg) = 1=4 A = f!1; !2g

B = f!1; !3g C = f!1; !4g

P(AB) = P(f!1g) = 1=4 P(A) = P(B) = 1=2 P(AB) = P(A) P(B)

P(ABC) = P(f!1g) = 1=4 P(A) P(B) P(C) = 1=8

Следовательно из попарной независимости не следует независимость совокупная.

Пример 2:

Подбрасываются две игральные кости.

A={на первой игральной кости выпало 1, 2 или 5}

B={на первой игральной кости выпало 4, 5 или 6} C={сумма выпавших очков равна 9}

P(A)=1/2

P(B)=1/2

P(C)=1/9 (3,6) (4,5) (5,4) (6,3)

P(ABC) = 1=36 = P(A) P(B) P(C) P(AB) = 1=6 6= P(A) P(B)

Вывод - ?

Определение: F1; :::; Fn - классы событий (F A) называются независимыми, если для любого набора A1 2 F1; :::; An 2 Fn A1; :::; An - независимы.

Замечание: в случае, когда F1; :::; Fn - алгебры, то условие независимости можно записать:

7

Покажем, что из P(HA2:::An) = P(H)P(A2):::P(An) и P(GA2:::An) = P(G)P(A2):::P(An) при условии

HG 6= ? следует, что P((H [ G)A1:::An) = P((H [ G)) P(A2):::P(An): Сложим: P(HA2:::An) = P(H)P(A2):::P(An) и P(GA2:::An) = P(G)P(A2):::P(An) P(HA2:::An) + P(GA2:::An) = P((H [ G)A2:::An)

(P(H) + P(G)) P(A2):::P(An) = P((H [ G))P(A2):::P(An)

Предложение : Если A и B - независимые события, то также независимыми являются: A; B A; B A; B. Доказательство:

P(AB) = P(A) P(B)

P(AB) = P(A n (AB)) = P(A) P(AB) = P(A) P(A) P(B) = P(A) (1 P(B)) = P(A)P(B)

4Независимость испытания. Схема Бернулли

n раз проводится случайный эксперимент, следим за появлением события A (успехом). Пусть p - вероятность успеха в отдельно эксперименте. q=1-p - вероятность не успеха.

Bk - в n независимых экспериментах событие A появилось ровно k раз.

! = (!1; :::; !n)

!k = 1, если в k-ом эксперименте произошло A !k = 0, если в k-ом эксперименте не произошло A

nn

nn

Лекция 4 06.03.2015

4.1Предельные теоремы

Теорема 1 (Пуассона)(Закон редких событий): Пусть в схеме Бернулли при n 7! 1; p 7!0; np 7!

1. (npk!)k 7!kk!

n(n 1):::(n k+1)

2. nk = (1 1=n)(1 2=n)::: 7!1 3. (1 p) k 7!1

8