Что такое закон больших чисел?

Зако́н больши́х чи́сел в теории вероятностей утверждает, что эмпирическое среднее (среднее арифметическое) достаточно большой конечной выборки из фиксированного распределения близко к теоретическому среднему (математическому ожиданию) этого распределения. В зависимости от вида сходимости различают слабый закон больших чисел, когда имеет место сходимость по вероятности, и усиленный закон больших чисел, когда имеет место сходимость почти всюду.

Закон больших чисел позволяет установить новую точку зрения на вероятность случайных событий и математическое ожидание случайной величины.

Суть закона больших чисел состоит в том, что конкретные особенности каждого отдельного случайного явления почти не сказываются на среднем результате множества таких явлений, случайные отклонения от среднего, неизбежные в каждом отдельном случае, в массе таких случаев почти всегда взаимно погашаются и выравниваются.

Для доказательства закона больших чисел нам потребуется Лемма (неравенство Чебышева).

Если существует M (X2), то для произвольного t > 0 В частности, если существует M (X), то Доказательство.

Пусть X - дискретная случайная величина. где - значения случайной величины X.

Если X - непрерывная случайная величина с плотностью распределения f (x), то Поделив эти неравенства на t2, получим первое утверждение леммы.

Если первое неравенство леммы применить к случайной величине X - MX, то получится второе неравенство. 

Теорема 2. Закон больших чисел в форме Чебышева.

Пусть - последовательность взаимно-независимых одинаково распределенных случайных величин.

Если m = M (Xk) и существуют, то для любого  > 0 при Иначе говоря, вероятность того, что среднее случайных величин X1, X2, ..., Xn будет отличаться от математического ожидания меньше, чем на произвольно заданное , стремится к 1. Доказательство. Т. к. X1, X2, ..., Xn - взаимно-независимы, Применим неравенство Чебышева к среднему При правая часть стремится к 0, что и доказывает теорему. 

Замечание. C помощью неравенства Чебышева также легко доказать, что если задана бесконечная последовательность случайных величин X1, X2, ..., Xn, ... (Xi и Xj независимы для любых i и j), то для любого  > 0 при (теорема Маркова). Пример 4. Петербургская игра.

Игрок платит взнос А рублей за участие в одной партии, состоящей из m подбрасываний монеты.

Если первый раз герб выпадет при r-ом подбрасывании, r = 1, 2, ..., m, игрок получает за партию 2r рублей.

Если m раз выпадает решка, игрок ничего не получает. При каком взносе А игру можно считать "неблагоприятной" для игорного заведения? Пусть Xk - выигрыш в k-ой партии, k=1, 2, ... Средний выигрыш в k-ой партии и дисперсия выигрыша в k-ой партии конечна. Выигрыш от участия в n партиях составит, а взнос за n партий - n*m рублей. Согласно теореме 2, т. е. То есть почти всегда прибыль организаторов игры при взносе А=m мало отличается от нуля (в ту и другую сторону), если число сыгранных партий n велико. Этот результат не зависит от того, постоянно число подбрасываний m в каждой партии или может меняться по желанию игроков. Согласно замечанию к теореме 2, при возрастании n суммарный выигрыш в n партиях стремится по вероятности к суммарному взносу за n партий, если взнос за k-ую партию равен числу подбрасываний монеты. Таким образом, закон больших чисел позволяет в большинстве случаев расценивать математическое ожидание случайной величины, как среднее наблюдаемых значений случайной величины при большом числе реализаций. Практический подход к вероятности случайного события обуславливает следствие из закона больших чисел Теорема 3. Теорема Бернулли. Частота наступления события А в серии из n независимых одинаковых испытаний (k/n) сходится по вероятности к вероятности события А в каждом испытании (р) при Доказательство. Пусть Xi - число наступлений события А в i-том испытании. Тогда число наступлений события А в n опытах и частота наступления события А Согласно теореме 2,