В статье не хватает ссылок на источники (см. рекомендации по поиску). Информация должна быть проверяема, иначе она может быть удалена. Вы можете отредактировать статью, добавив ссылки на авторитетные источники в виде сносок. (15 мая 2011) |
Центра́льные преде́льные теоре́мы (Ц.П.Т.) — класс теорем в теории вероятностей, утверждающих, что сумма достаточно большого количества слабо зависимых случайных величин, имеющих примерно одинаковые масштабы (ни одно из слагаемых не доминирует, не вносит в сумму определяющего вклада), имеет распределение, близкое к нормальному.
Так как многие случайные величины в приложениях формируются под влиянием нескольких слабо зависимых случайных факторов, их распределение считают нормальным. При этом должно соблюдаться условие, что ни один из факторов не является доминирующим. Центральные предельные теоремы в этих случаях обосновывают применение нормального распределения.
Содержание
- 1 Классическая формулировка Ц.П.Т.
- 2 Замечания
- 3 Локальная Ц.П.Т.
- 4 Некоторые обобщения
- 5 См. также
- 6 Ссылки
Классическая формулировка Ц.П.Т.
Пусть X1,…,Xn,…{displaystyle X_{1},ldots ,X_{n},ldots }
есть бесконечная последовательность независимых одинаково распределённых случайных величин, имеющих конечное математическое ожидание и дисперсию. Обозначим последние μ{displaystyle mu } и σ2{displaystyle sigma ^{2}} , соответственно. Пусть Sn=∑i=1nXi{displaystyle S_{n}=sum limits _{i=1}^{n}X_{i}} . Тогда
- Sn−μnσn→N(0,1){displaystyle {frac {S_{n}-mu n}{sigma {sqrt {n}}}}to N(0,1)} по распределению при n→∞{displaystyle nto infty } ,
где N(0,1){displaystyle N(0,1)}
— нормальное распределение с нулевым математическим ожиданием и стандартным отклонением, равным единице.Обозначив символом X¯{displaystyle {bar {X}}} выборочное среднее первых n{displaystyle n} величин, то есть X¯=1n∑i=1nXi{displaystyle {bar {X}}={frac {1}{n}}sum limits _{i=1}^{n}X_{i}} , мы можем переписать результат центральной предельной теоремы в следующем виде:
- nX¯−μσ→N(0,1){displaystyle {sqrt {n}}{frac {{bar {X}}-mu }{sigma }}to N(0,1)} по распределению при n→∞{displaystyle nto infty } .
Скорость сходимости можно оценить с помощью неравенства Берри-Эссеена.
Замечания
- Неформально говоря, классическая центральная предельная теорема утверждает, что сумма n{displaystyle n} независимых одинаково распределённых случайных величин имеет распределение, близкое к N(nμ,nσ2){displaystyle N(nmu ,nsigma ^{2})} . Эквивалентно, X¯{displaystyle {bar {X}}} имеет распределение близкое к N(μ,σ2/n){displaystyle N(mu ,sigma ^{2}/n)} .
- Так как функция распределения стандартного нормального распределения непрерывна, сходимость к этому распределению эквивалентна поточечной сходимости функций распределения к функции распределения стандартного нормального распределения. Положив Zn=Sn−μnσn{displaystyle Z_{n}={frac {S_{n}-mu n}{sigma {sqrt {n}}}}} , получаем FZn(x)→Φ(x),∀x∈R{displaystyle F_{Z_{n}}(x)to Phi (x),;forall xin mathbb {R} } , где Φ(x){displaystyle Phi (x)} — функция распределения стандартного нормального распределения.
- Центральная предельная теорема в классической формулировке доказывается методом характеристических функций (теорема Леви о непрерывности).
- Вообще говоря, из сходимости функций распределения не вытекает сходимость плотностей. Тем не менее в данном классическом случае имеет место.
Локальная Ц.П.Т.
В предположениях классической формулировки, допустим в дополнение, что распределение случайных величин {Xi}i=1∞{displaystyle {X_{i}}_{i=1}^{infty }}
абсолютно непрерывно, то есть оно имеет плотность. Тогда распределение Zn{displaystyle Z_{n}} также абсолютно непрерывно, и более того,
- fZn(x)→12πe−x22{displaystyle f_{Z_{n}}(x)to {frac {1}{sqrt {2pi }}},e^{-{frac {x^{2}}{2}}}} при n→∞{displaystyle nto infty } ,
где fZn(x){displaystyle f_{Z_{n}}(x)}
— плотность случайной величины Zn{displaystyle Z_{n}} , а в правой части стоит плотность стандартного нормального распределения.
Некоторые обобщения
Результат классической центральной предельной теоремы справедлив для ситуаций гораздо более общих, чем полная независимость и одинаковая распределённость.
Ц.П.Т. Линдеберга
Пусть независимые случайные величины X1,…,Xn,…{displaystyle X_{1},ldots ,X_{n},ldots }
определены на одном и том же вероятностном пространстве и имеют конечные математические ожидания и дисперсии: E[Xi]=μi,D[Xi]=σi2{displaystyle mathbb {E} [X_{i}]=mu _{i},;mathrm {D} [X_{i}]=sigma _{i}^{2}} . Как и прежде построим частичные суммы Sn=∑i=1nXi{displaystyle S_{n}=sum limits _{i=1}^{n}X_{i}} . Тогда в частности, E[Sn]=mn=∑i=1nμi,D[Sn]=sn2=∑i=1nσi2{displaystyle mathbb {E} [S_{n}]=m_{n}=sum limits _{i=1}^{n}mu _{i},;mathrm {D} [S_{n}]=s_{n}^{2}=sum limits _{i=1}^{n}sigma _{i}^{2}} . Наконец, пусть выполняется условие Линдеберга:
- ∀ε>0,limn→∞∑i=1nE[(Xi−μi)2sn21{|Xi−μi|>εsn}]=0.{displaystyle forall varepsilon >0,;lim limits _{nto infty }sum limits _{i=1}^{n}mathbb {E} left[{frac {(X_{i}-mu _{i})^{2}}{s_{n}^{2}}},mathbf {1} _{{|X_{i}-mu _{i}|>varepsilon s_{n}}}right]=0.}
Тогда
- Sn−mnsn→N(0,1){displaystyle {frac {S_{n}-m_{n}}{s_{n}}}to N(0,1)} по распределению при n→∞{displaystyle nto infty } .
Ц.П.Т. Ляпунова
Пусть выполнены базовые предположения Ц.П.Т. Линдеберга. Пусть случайные величины {Xi}{displaystyle {X_{i}}}
имеют конечный третий момент. Тогда определена последовательность
- rn3=∑i=1nE[|Xi−μi|3]{displaystyle r_{n}^{3}=sum _{i=1}^{n}mathbb {E} left[|X_{i}-mu _{i}|^{3}right]} . Если предел
- limn→∞rnsn=0{displaystyle lim limits _{nto infty }{frac {r_{n}}{s_{n}}}=0} (условие Ляпунова),
то
- Sn−mnsn→N(0,1){displaystyle {frac {S_{n}-m_{n}}{s_{n}}}to N(0,1)} по распределению при n→∞{displaystyle nto infty } .
Ц.П.Т. для мартингалов
Пусть процесс (Xn)n∈N{displaystyle (X_{n})_{nin mathbb {N} }}
является мартингалом с ограниченными приращениями. В частности, допустим, что
- E[Xn+1−Xn∣X1,…,Xn]=0,n∈N,X0≡0,{displaystyle mathbb {E} left[X_{n+1}-X_{n}mid X_{1},ldots ,X_{n}right]=0,;nin mathbb {N} ,;X_{0}equiv 0,}
и приращения равномерно ограничены, т.е.
- ∃C>0∀n∈N|Xn+1−Xn|≤C{displaystyle exists C>0,forall nin mathbb {N} ;|X_{n+1}-X_{n}|leq C} п.н.
Введём случайные процессы σn2{displaystyle sigma _{n}^{2}}
и τn{displaystyle tau _{n}} следующим образом:
- σn2=E[(Xn+1−Xn)2∣X1,…,Xn]{displaystyle sigma _{n}^{2}=mathbb {E} left[(X_{n+1}-X_{n})^{2}mid X_{1},ldots ,X_{n}right]}
и
- τn=min{k|∑i=1kσi2≥n}{displaystyle tau _{n}=min left{kleftvert ;sum _{i=1}^{k}sigma _{i}^{2}geq nright.right}} .
Тогда
- Xτnn→N(0,1){displaystyle {frac {X_{tau _{n}}}{sqrt {n}}}to N(0,1)} по распределению при n→∞{displaystyle nto infty } .