Центральная предельная теорема

Центра́льные преде́льные теоре́мы (Ц.П.Т.) — класс теорем в теории вероятностей, утверждающих, что сумма достаточно большого количества слабо зависимых случайных величин, имеющих примерно одинаковые масштабы (ни одно из слагаемых не доминирует, не вносит в сумму определяющего вклада), имеет распределение, близкое к нормальному.

Так как многие случайные величины в приложениях формируются под влиянием нескольких слабо зависимых случайных факторов, их распределение считают нормальным. При этом должно соблюдаться условие, что ни один из факторов не является доминирующим. Центральные предельные теоремы в этих случаях обосновывают применение нормального распределения.

Содержание

Классическая формулировка Ц.П.Т.

Пусть X1,…,Xn,…{displaystyle X_{1},ldots ,X_{n},ldots }

  есть бесконечная последовательность независимых одинаково распределённых случайных величин, имеющих конечное математическое ожидание и дисперсию. Обозначим последние μ{displaystyle mu }  и σ2{displaystyle sigma ^{2}} , соответственно. Пусть Sn=∑i=1nXi{displaystyle S_{n}=sum limits _{i=1}^{n}X_{i}} . Тогда

Sn−μnσn→N(0,1){displaystyle {frac {S_{n}-mu n}{sigma {sqrt {n}}}}to N(0,1)}  по распределению при n→∞{displaystyle nto infty } ,

где N(0,1){displaystyle N(0,1)}

  — нормальное распределение с нулевым математическим ожиданием и стандартным отклонением, равным единице.Обозначив символом X¯{displaystyle {bar {X}}}  выборочное среднее первых n{displaystyle n}  величин, то есть X¯=1n∑i=1nXi{displaystyle {bar {X}}={frac {1}{n}}sum limits _{i=1}^{n}X_{i}} , мы можем переписать результат центральной предельной теоремы в следующем виде:

nX¯−μσ→N(0,1){displaystyle {sqrt {n}}{frac {{bar {X}}-mu }{sigma }}to N(0,1)}  по распределению при n→∞{displaystyle nto infty } .

Скорость сходимости можно оценить с помощью неравенства Берри-Эссеена.

Замечания

  • Неформально говоря, классическая центральная предельная теорема утверждает, что сумма n{displaystyle n}  независимых одинаково распределённых случайных величин имеет распределение, близкое к N(nμ,nσ2){displaystyle N(nmu ,nsigma ^{2})} . Эквивалентно, X¯{displaystyle {bar {X}}}  имеет распределение близкое к N(μ,σ2/n){displaystyle N(mu ,sigma ^{2}/n)} .
  • Так как функция распределения стандартного нормального распределения непрерывна, сходимость к этому распределению эквивалентна поточечной сходимости функций распределения к функции распределения стандартного нормального распределения. Положив Zn=Sn−μnσn{displaystyle Z_{n}={frac {S_{n}-mu n}{sigma {sqrt {n}}}}} , получаем FZn(x)→Φ(x),∀x∈R{displaystyle F_{Z_{n}}(x)to Phi (x),;forall xin mathbb {R} } , где Φ(x){displaystyle Phi (x)}  — функция распределения стандартного нормального распределения.
  • Центральная предельная теорема в классической формулировке доказывается методом характеристических функций (теорема Леви о непрерывности).
  • Вообще говоря, из сходимости функций распределения не вытекает сходимость плотностей. Тем не менее в данном классическом случае имеет место.

Локальная Ц.П.Т.

В предположениях классической формулировки, допустим в дополнение, что распределение случайных величин {Xi}i=1∞{displaystyle {X_{i}}_{i=1}^{infty }}

  абсолютно непрерывно, то есть оно имеет плотность. Тогда распределение Zn{displaystyle Z_{n}}  также абсолютно непрерывно, и более того,

fZn(x)→12πe−x22{displaystyle f_{Z_{n}}(x)to {frac {1}{sqrt {2pi }}},e^{-{frac {x^{2}}{2}}}}  при n→∞{displaystyle nto infty } ,

где fZn(x){displaystyle f_{Z_{n}}(x)}

  — плотность случайной величины Zn{displaystyle Z_{n}} , а в правой части стоит плотность стандартного нормального распределения.

Некоторые обобщения

Результат классической центральной предельной теоремы справедлив для ситуаций гораздо более общих, чем полная независимость и одинаковая распределённость.

Ц.П.Т. Линдеберга

Пусть независимые случайные величины X1,…,Xn,…{displaystyle X_{1},ldots ,X_{n},ldots }

  определены на одном и том же вероятностном пространстве и имеют конечные математические ожидания и дисперсии: E[Xi]=μi,D[Xi]=σi2{displaystyle mathbb {E} [X_{i}]=mu _{i},;mathrm {D} [X_{i}]=sigma _{i}^{2}} . Как и прежде построим частичные суммы Sn=∑i=1nXi{displaystyle S_{n}=sum limits _{i=1}^{n}X_{i}} . Тогда в частности, E[Sn]=mn=∑i=1nμi,D[Sn]=sn2=∑i=1nσi2{displaystyle mathbb {E} [S_{n}]=m_{n}=sum limits _{i=1}^{n}mu _{i},;mathrm {D} [S_{n}]=s_{n}^{2}=sum limits _{i=1}^{n}sigma _{i}^{2}} . Наконец, пусть выполняется условие Линдеберга:

∀ε>0,limn→∞∑i=1nE[(Xi−μi)2sn21{|Xi−μi|>εsn}]=0.{displaystyle forall varepsilon >0,;lim limits _{nto infty }sum limits _{i=1}^{n}mathbb {E} left[{frac {(X_{i}-mu _{i})^{2}}{s_{n}^{2}}},mathbf {1} _{{|X_{i}-mu _{i}|>varepsilon s_{n}}}right]=0.} 

Тогда

Sn−mnsn→N(0,1){displaystyle {frac {S_{n}-m_{n}}{s_{n}}}to N(0,1)}  по распределению при n→∞{displaystyle nto infty } .

Ц.П.Т. Ляпунова

Пусть выполнены базовые предположения Ц.П.Т. Линдеберга. Пусть случайные величины {Xi}{displaystyle {X_{i}}}

  имеют конечный третий момент. Тогда определена последовательность

rn3=∑i=1nE[|Xi−μi|3]{displaystyle r_{n}^{3}=sum _{i=1}^{n}mathbb {E} left[|X_{i}-mu _{i}|^{3}right]} . Если предел
limn→∞rnsn=0{displaystyle lim limits _{nto infty }{frac {r_{n}}{s_{n}}}=0}  (условие Ляпунова),

то

Sn−mnsn→N(0,1){displaystyle {frac {S_{n}-m_{n}}{s_{n}}}to N(0,1)}  по распределению при n→∞{displaystyle nto infty } .

Ц.П.Т. для мартингалов

Пусть процесс (Xn)n∈N{displaystyle (X_{n})_{nin mathbb {N} }}

  является мартингалом с ограниченными приращениями. В частности, допустим, что

E[Xn+1−Xn∣X1,…,Xn]=0,n∈N,X0≡0,{displaystyle mathbb {E} left[X_{n+1}-X_{n}mid X_{1},ldots ,X_{n}right]=0,;nin mathbb {N} ,;X_{0}equiv 0,} 

и приращения равномерно ограничены, т.е.

∃C>0∀n∈N|Xn+1−Xn|≤C{displaystyle exists C>0,forall nin mathbb {N} ;|X_{n+1}-X_{n}|leq C}  п.н.

Введём случайные процессы σn2{displaystyle sigma _{n}^{2}}

  и τn{displaystyle tau _{n}}  следующим образом:

σn2=E[(Xn+1−Xn)2∣X1,…,Xn]{displaystyle sigma _{n}^{2}=mathbb {E} left[(X_{n+1}-X_{n})^{2}mid X_{1},ldots ,X_{n}right]} 

и

τn=min{k|∑i=1kσi2≥n}{displaystyle tau _{n}=min left{kleftvert ;sum _{i=1}^{k}sigma _{i}^{2}geq nright.right}} .

Тогда

Xτnn→N(0,1){displaystyle {frac {X_{tau _{n}}}{sqrt {n}}}to N(0,1)}  по распределению при n→∞{displaystyle nto infty } .

См. также

Ссылки