Лекция 10
§ 2. Закон больших чисел
Закон больших чисел позволяет установить новую точку зрения на вероятность случайных событий и математическое ожидание случайной величины. Cуть закона больших чисел состоит в том, что конкретные особенности каждого отдельного случайного явления почти не сказываются на среднем результате множества таких явлений; случайные отклонения от среднего, неизбежные в каждом отдельном случае, в массе таких случаев почти всегда взаимно погашаются и выравниваются.
Для доказательства закона больших чисел нам потребуется следующая лемма.
Лемма (Неравенство Чебышева). Если существует M(X2), то для произвольного t > 0
P{ X ≥ t}≤ t−2MX 2 .
В частности, если существует M(X), то
P{ X − MX ≥ t}≤ t−2DX .
Доказательство. Пусть X - дискретная случайная величина.
|
|
|
|
|
|
|
|
x2 |
|
||
P{ |
|
X |
|
≥ t}= ∑ P(X = xi )≤ ∑ |
|
i |
P(X = xi )= t −2MX 2 , |
||||
|
|
|
2 |
||||||||
|
|
||||||||||
|
|
|
|
|
xi |
≥t |
xi |
≥t t |
|
|
|
где xi , i N - значения случайной величины X.
Если X - непрерывная случайная величина с плотностью распределения f(x), то
MX 2 ≥ ∫ x2 f (x)dx ≥ t2 ∫ f (x)dx .
x |
|
≥t |
|
x |
|
≥t |
|
|
|
Поделив эти неравенства на t2, получим первое утверждение леммы. Если первое неравенство леммы применить к случайной величине
X – MX, то получим второе неравенство. ♣
Теорема 2 (Закон больших чисел в форме Чебышева). Пусть {X k } -
последовательность взаимно независимых одинаково распределенных случайных величин. Если m = M(Xk) и σ2 = D(X k ) существуют, то для любого ε > 0 при n → ∞
|
|
|
X1 +... + X n |
|
|
|
|
|
|
|
|
||||||
P |
|
|
−m |
|
> ε |
→ 0 . |
||
n |
||||||||
|
|
|
|
|
|
|
||
|
|
|
Иначе говоря, вероятность того, что среднее случайных величин X1, X2,…., Xn будет отличаться от математического ожидания меньше, чем на произвольно заданное ε, cтремится к единице.
|
|
|
|
|
|
|
|
|
X +...+ X |
n |
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|||||||
Доказательство. |
M |
|
|
1 |
|
|
|
= |
|
nm |
= m . Так как X1, X2,…, Xn - |
|||||||||||||||||||
|
|
|
|
n |
|
|
|
n |
||||||||||||||||||||||
взаимно независимы, |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
|
X |
1 |
+... + X |
n |
|
|
1 |
(DX1 +... + DX n )= |
nσ2 |
|
σ2 |
|
|
|||||||||||||||||
|
D |
|
|
|
|
|
|
|
= |
|
|
|
|
|
= |
|
. |
|
||||||||||||
|
|
|
n |
|
|
|
|
|
|
n2 |
|
|
n2 |
n |
||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
Применим неравенство Чебышева к среднему |
X1 +... + X n |
: |
||||||||||||||||||||||||||||
|
||||||||||||||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
+... + X n |
|
|
|
|
|
σ |
|
|
|
|
|
|
|
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||
|
|
|
|
P |
|
|
X1 |
− m |
> ε |
≤ |
|
|
. |
|
|
|
|
|||||||||||||
|
|
|
|
|
|
ε2n |
|
|
|
|
|
|||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||
При |
n → ∞ правая часть стремится к нулю, что и доказывает |
|||||||||||||||||||||||||||||
теорему. |
♣ |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Замечание. C помощью неравенства Чебышева также легко доказать, что если задана бесконечная последовательность случайных
величин |
X1, X2,…, Xn,…(Xi |
и |
Xj независимы |
для |
любых i и j), |
||||||||||||
m = M |
(X |
k |
), σ2 |
= D(X |
k |
), |
σ2 |
< L, |
k =1, 2, ..., n , то для любого ε > 0 |
||||||||
k |
|
|
k |
|
|
k |
|
|
|
|
|
|
|
||||
при n → ∞ |
|
|
X1 +... + X n |
|
m1 +... + mn |
|
|
|
|
(теорема |
|||||||
|
|
|
|
||||||||||||||
P |
|
− |
|
|
> ε |
→ 0 |
|||||||||||
|
|
|
|||||||||||||||
|
|
|
|
|
|
n |
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||
Маркова).
Пример 4 (Петербургская игра). Игрок платит взнос А рублей за участие в одной партии, состоящей из m подбрасываний монеты. Если первый раз герб выпадет при r-м подбрасывании, r = 1, 2,…, m, игрок получает за партию 2r рублей. Если m раз выпадает решка, игрок ничего не получает. При каком взносе А игру можно считать неблагоприятной для игорного заведения?
Пусть Xk - выигрыш в k-й партии, k = 1, 2,… .
|
1 |
r |
|
P(X k = 2r )= |
2 |
|
, r =1,..., m. |
|
|
|
|
Cредний выигрыш в |
k-й |
партии |
M (X k ) = |
m |
2 |
r 1 |
r |
и |
|||||||||
∑ |
|
= m , |
|||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
r =1 |
|
|
|
|
дисперсия выигрыша в k-й партии DX = ∑m (2r − m)2 2−r |
|
конечна. |
|
||||||||||||||
|
|
|
|
|
|
|
|
в n |
|
r =1 |
|
|
|
|
|
||
Выигрыш от |
участия |
партиях |
составит Sn = X1 +... + X n , |
а |
|||||||||||||
взнос за n партий - nm рублей. |
|
|
|
|
|
|
|
|
|
||||||||
Согласно теореме 2, |
|
|
|
|
|
|
|
|
|
|
|||||||
|
|
|
|
|
|
|
т.е. P{ |
|
|
< ε}→1. |
|
|
|||||
|
|
|
|
|
|
|
|||||||||||
P |
|
|
Sn |
|
−m |
|
> ε → 0 , |
Sn −n m |
|
|
|||||||
n |
|
|
|||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
||||||
Иначе говоря, почти всегда прибыль организаторов игры при взносе А = m мало отличается от нуля (в ту и другую сторону), если число сыгранных партий n велико.
Этот результат не зависит от того, постоянно число подбрасываний m в каждой партии или может меняться по желанию игроков. Согласно замечанию к теореме 2, при возрастании n суммарный выигрыш в n партиях стремится по вероятности к суммарному взносу за n партий, если взнос за k-ю партию равен числу подбрасываний монеты.♦
Таким образом, закон больших чисел позволяет в большинстве случаев расценивать математическое ожидание случайной величины как среднее наблюдаемых значений случайной величины при большом числе реализаций.
Практический подход к вероятности случайного события обусловливает следствие из закона больших чисел.
Теорема 3 (Теорема Бернулли). Частота наступления события А в серии из n независимых одинаковых испытаний (k/n) сходится по вероятности к вероятности события А в каждом испытании р при n → ∞
k P
n
Доказательство. Пусть Xi испытании.
1 свероятностью Xi = 0 свероятностью
− p > ε → 0 .
- число наступлений события А в i-м
p, |
MXi = p; DXi = pq . |
|
q =1− p; |
||
|
Тогда число наступлений события А в n опытах
k= X1 + X 2 +... + X n
ичастота наступления события А
|
k |
= |
|
X1 + X 2 +... + X n |
. |
||||||
|
n |
|
|
|
|
|
|
|
n |
|
|
Согласно теореме 2, |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
||||||
|
P |
|
|
k |
− p |
|
> ε |
→ 0 . ♣ |
|||
|
n |
||||||||||
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
||||||
Замечание. Если вероятности наступления события А в серии из n испытаний меняются от опыта к опыту и равняются pi, i = 1, 2,..., n, то при n → ∞ частота события А сходится по вероятности к среднему арифметическому вероятностей pi. Это сразу следует из замечания к теореме 2.
Пример 5. Появление пары (7,7) среди 100 пар случайных цифр должно подчиняться биномиальному распределению с n = 100 и p = 0,01. Еcли рассмотреть 100 групп по 100 пар, то Nk - число групп, в которых комбинация (7,7) встречается ровно k раз. Полученные частоты Nk/100 хорошо согласуются с теоретическими вероятностями, хотя число рассматриваемых групп 100 не является очень большим:
K |
P(X = k) |
|
Nk |
|
0 |
0,366032 |
41 |
|
|
1 |
0,369730 |
34 |
|
|
2 |
0,184865 |
16 |
|
|
3 |
0,060999 |
8 |
|
|
4 |
0,014942 |
0 |
|
♦ |
5 |
0,002898 |
1 |
|
|
|
|
|||
6 |
0,000463 |
0 |
|
|
7 |
0,000063 |
0 |
|
|
8 |
0,000007 |
0 |
|
|
9 |
0,000001 |
0 |
|
|
В заключение следует заметить, что изложение закона больших чисел непосредственно подводит к изучению новой дисциплины - математической статистики. Различные формы закона больших чисел являются одним из основных инструментов, используемых в этой прикладной математической науке.