Главная

Категории:

ДомЗдоровьеЗоологияИнформатикаИскусствоИскусствоКомпьютерыКулинарияМаркетингМатематикаМедицинаМенеджментОбразованиеПедагогикаПитомцыПрограммированиеПроизводствоПромышленностьПсихологияРазноеРелигияСоциологияСпортСтатистикаТранспортФизикаФилософияФинансыХимияХоббиЭкологияЭкономикаЭлектроника






Закон больших чисел и центральная предельная теорема


Практика изучения случайных явлений показывает, что хотя результаты отдельных наблюдений, даже проведенных в одинаковых условиях, могут сильно отличаться, в то же время средние результаты для достаточно большого числа наблюдений устойчивы и слабо зависят от результатов отдельных наблюдений. Теоретическим обоснованием этого замечательного свойства случайных явлений является закон больших чисел. Названием "закон больших чисел" объединена группа теорем, устанавливающих устойчивость средних результатов большого количества случайных явлений и объясняющих причину этой устойчивости. Более того, оказывается, что при больших nсложно устроенные распределения становятся практически неотличимыми от стандартных, канонических в некотором смысле, распределений.

Часть теорем, которые входят в закон больших чисел, приводится иногда в разделе "Предельные распределения для биномиального закона". Простейшая форма закона больших чисел, и исторически первая теорема этого раздела — теорема Бернулли, утверждает, что если вероятность события одинакова во всех испытаниях, то с увеличением числа испытаний частота события стремится к вероятности события и перестает быть случайной.

Теорема Бернулли. Пусть μn — число успехов в n испытаниях Бернулли и p — вероятность успеха в отдельном испытании. Тогда при любом ε > 0 справедливо .

Теорема Пуассона обобщает утверждение теоремы Бернулли для сери независимых испытаний с различными вероятностями успехов.

Теорема Пуассона. Производятся испытаний Бернулли с вероятностью успеха , , в каждом из них. Число успехов в -м испытаний — μi , . Тогда при любом ε > 0

.

Более общая формулировка утверждения теоремы Пуассона содержится в теореме под названием закон больших чисел.

Закон больших чисел. Если случайные величины ξ1, ξ2, …, ξn, … попарно независимы и ,то для любого ε > 0

.

Центральная предельная теорема объясняет особую роль нормального закона распределения в теории вероятностей. Теорема утверждает, что всегда, когда случайная величина образуется в результате сложения большого числа одинаково распределенных независимых случайных величин с конечными дисперсиями, закон распределения этой случайной величины оказывается практически нормальным законом. Центральная предельная теорема. Если случайные величины ξ1, ξ2, …, ξn, … попарно независимы, одинаково распределены и имеют конечную дисперсию, то при n → ∞ равномерно по x ∈ (-∞,∞)

.

Теорема Ляпунова обобщает центральную предельную теорему на случай, когда случайная величина образуется в результате сложения большого числа независимых случайных величин, имеющих разные распределения, дисперсии которых малы по сравнению с дисперсией суммы. Закон распределения такой случайной величины оказывается практически нормальнымзаконом. А поскольку случайные величины всегда порождаются очень большим количеством причин и, чаще всего, ни одна из них не имеет дисперсии, сравнимой с дисперсией самой случайной величины, то большинство встречающихся в практике случайных величин подчинено нормальному закону распределения.

Теорема Ляпунова. Пусть ξ1, ξ2, …, ξn, …— неограниченная последовательность независимых случайных величин с математическими ожиданиями m1, m2, …, mn, … и дисперсиями σ12, σ22, …, σn2… , причем все σi2 ограничены сверху, .

Обозначим , , , .

Тогда для любых действительных чисел α и β справедливо

. Здесь .

Теорема Ляпунова объясняет широкое распространение нормального закона распределения и поясняет механизм его образования.

В основе утверждений закона больших чисел лежит неравенство Чебышева. Оно определяет верхнюю границу вероятности того, что отклонение значения случайной величины от ее математического ожидания больше некоторого заданного числа. Замечательно, что неравенство Чебышева дает оценку вероятности события для случайной величины, распределение которой неизвестно, известны лишь ее математическое ожидание и дисперсия.

Неравенство Чебышева. Пусть Mξ — математическое ожидание, а Dξ — дисперсия случайной величины ξ. Тогда для любого ε > 0 справедливо неравенство .

Это означает, что большие отклонения от среднего маловероятны.

 

16 Основные теоремы теории вероятностей. Теорема Гаусса-Маркова
Вероятностью события А называется отношение числа исходов m, благоприятствующих его наступлению к числу всех исходов n (несовместных, единственно возможных и равновозможных): P(A) = m/n.

Теорема. Вероятность произведения двух независимых событий A и B равна произведению этих вероятностей: P(AB) = P(A) • P(B).

Вероятность суммы двух несовместных событий A и B равна сумме вероятностей этих событий: P(A+B) = P(A) + P(B).

Теорема. Вероятность произведения двух зависимых событий A и Bравна произведению вероятности одного из них на условную вероятность другого, найденного в предположении, что первое событие уже наступило: P(AB) = P(A) • PA(B).

Теорема. Вероятность суммы двух совместных событий A и B равна сумме вероятностей этих событий минус вероятность их произведения: P(A + B) = P(A) + P(B) – P(AB).

Для многократно повторяемых опытов справедлива формула Бернулли:

P m, n = C nm • pm •q n-m, где m число удачных исходов среди проводимых n опытов, p — вероятность наступления благоприятного исхода в единичном опыте, q = 1 – p.

Условия Гаусса-Маркова:

Свойства оценок МНК определяются предположениями относительно свойств случайного возмущения в модели наблюдений. Эти предположения обычно называются условиями Гаусса – Маркова.

1. – условие, гарантирующее несмещённость оценок МНК.

2. – условие гомоскедастичности, его нарушение приводит к проблеме гетероскедастичности.

3. – условие отсутствия автокорреляции предполагает отсутствие систематической связи между значениями случайного члена в любых двух наблюдениях. Если данное условие не выполняется, то в модели возникает проблема автокорреляции случайных возмущений.

4. для всех условие независимости случайного возмущения и объясняющей переменной. Значение любой независимой переменной в каждом наблюдении должно считаться экзогенным, полностью определяемым внешними причинами, не учитываемыми в уравнении регрессии.

 



Последнее изменение этой страницы: 2016-06-09

headinsider.info. Все права принадлежат авторам данных материалов.