Математическое ожидание

Разделы:

См. также: Условное математическое ожидание

Математи́ческое ожида́ние — одно из важнейших понятий в теории вероятностей, означающее среднее (взвешенное по вероятностям возможных значений) значение случайной величины [1].В случае непрерывной случайной величины подразумевается взвешивание по плотности распределения (более строгие определения см. ниже). Математическое ожидание случайного вектора равно вектору, компоненты которого равны математическим ожиданиям компонент случайного вектора.

В англоязычной литературе обозначается через E[X]{displaystyle mathbb {E} [X]} ${mathbb {E}}[X]$ [2] (например, от англ. Expected value или нем. Erwartungswert),в русскоязычной — M[X]{displaystyle M[X]} $M[X]$ (возможно, от англ. Mean value или нем. Mittelwert, а возможно от «Математическое ожидание»). В статистике часто используют обозначение μ{displaystyle mu } $mu$ .

Для случайной величины, принимающей значения только 0 или 1 математическое ожидание равно p — вероятности «единицы».Математическое ожидание суммы таких случайных величин равно np, где n — количество таких случайных величин.Некоторые случайные величины не имеют математического ожидания, например, случайные величины, имеющие распределение Коши.

На практике математическое ожидание обычно оценивается как среднее арифметическое наблюдаемых значений случайной величины (выборочное среднее, среднее по выборке). Доказано, что при соблюдении определенных слабых условий (в частности, если выборка является случайной, то есть наблюдения являются независимыми) выборочное среднее стремится к истинному значению математического ожидания случайной величины при стремлении объема выборки (количества наблюдений, испытаний, измерений) к бесконечности.

Содержание

1 Определение
2 Математическое ожидание случайного вектора
3 Математическое ожидание преобразования случайной величины
4 Простейшие свойства математического ожидания
5 Дополнительные свойства математического ожидания
6 Примеры
7 См. также
8 Примечания
9 Литература
10 Ссылки

Определение

В разделе не хватает ссылок на источники (см. рекомендации по поиску). Информация должна быть проверяема, иначе она может быть удалена. Вы можете отредактировать статью, добавив ссылки на авторитетные источники в виде сносок. (13 мая 2016)

Общее определение через интеграл Лебега

Пусть задано вероятностное пространство (Ω,A,P){displaystyle (Omega ,{mathfrak {A}},mathbb {P} )}

$(Omega,mathfrak{A},mathbb{P})$ и определённая на нём случайная величина X{displaystyle X} $X$ . То есть, по определению, X:Ω→R{displaystyle Xcolon Omega to mathbb {R} } $Xcolon Omega to mathbb {R}$ — измеримая функция. Если существует интеграл Лебега от X{displaystyle X} $X$ по пространству Ω{displaystyle Omega } $Omega$ , то он называется математическим ожиданием, или средним (ожидаемым) значением и обозначается M[X]{displaystyle M[X]} $M[X]$ или E[X]{displaystyle mathbb {E} [X]} ${mathbb {E}}[X]$ .

M[X]=∫ΩX(ω)P(dω).{displaystyle M[X]=int limits _{Omega }!X(omega ),mathbb {P} (domega ).}

M[X]=int limits _{{Omega }}!X(omega ),{mathbb {P}}(domega ).

Определение через функцию распределения случайной величины

Если FX(x){displaystyle F_{X}(x)} $F_{X}(x)$ — функция распределения случайной величины, то её математическое ожидание задаётся интегралом Лебега — Стилтьеса:

M[X]=∫−∞∞xdFX(x);x∈R{displaystyle M[X]=int limits _{-infty }^{infty }!x,dF_{X}(x);xin mathbb {R} }

M[X]=int limits _{{-infty }}^{{infty }}!x,dF_{X}(x);xin {mathbb R}

Определение для абсолютно непрерывной случайной величины (через плотность распределения)

Математическое ожидание абсолютно непрерывной случайной величины, распределение которой задаётся плотностью fX(x){displaystyle f_{X}(x)}

$f_{X}(x)$ , равно

M[X]=∫−∞∞xfX(x)dx{displaystyle M[X]=int limits _{-infty }^{infty }!xf_{X}(x),dx}

M[X]=int limits _{{-infty }}^{{infty }}!xf_{X}(x),dx

Определение для дискретной случайной величины

Если X{displaystyle X}

$X$ — дискретная случайная величина, имеющая распределение

P(X=xi)=pi,∑i=1∞pi=1{displaystyle mathbb {P} (X=x_{i})=p_{i},;sum limits _{i=1}^{infty }p_{i}=1}

{mathbb {P}}(X=x_{i})=p_{i},;sum limits _{{i=1}}^{{infty }}p_{i}=1

то прямо из определения интеграла Лебега следует, что

M[X]=∑i=1∞xipi{displaystyle M[X]=sum limits _{i=1}^{infty }x_{i},p_{i}}

M[X]=sum limits _{{i=1}}^{{infty }}x_{i},p_{i}

Математическое ожидание целочисленной величины

Если X{displaystyle X} $X$ — положительная целочисленная случайная величина (частный случай дискретной), имеющая распределение вероятностей

P(X=j)=pj,j=0,1,…;∑j=0∞pj=1{displaystyle mathbb {P} (X=j)=p_{j},;j=0,1,…;quad sum limits _{j=0}^{infty }p_{j}=1}

{mathbb {P}}(X=j)=p_{j},;j=0,1,...;quad sum limits _{{j=0}}^{{infty }}p_{j}=1

то её математическое ожидание может быть выражено через производящую функцию последовательности {pi}{displaystyle {p_{i}}}

${p_{i}}$

P(s)=∑k=0∞pksk{displaystyle P(s)=sum _{k=0}^{infty };p_{k}s^{k}}

P(s)=sum _{{k=0}}^{infty };p_{k}s^{k}

как значение первой производной в единице: M[X]=P′(1){displaystyle M[X]=P'(1)}

$M[X]=P'(1)$ . Если математическое ожидание X{displaystyle X} $X$ бесконечно, то lims→1P′(s)=∞{displaystyle lim _{sto 1}P'(s)=infty } $lim _{{sto 1}}P'(s)=infty$ и мы будем писать P′(1)=M[X]=∞{displaystyle P'(1)=M[X]=infty } $P'(1)=M[X]=infty$

Теперь возьмём производящую функцию Q(s){displaystyle Q(s)}

$Q(s)$ последовательности «хвостов» распределения {qk}{displaystyle {q_{k}}} ${q_{k}}$

qk=P(X>k)=∑j=k+1∞pj;Q(s)=∑k=0∞qksk.{displaystyle q_{k}=mathbb {P} (X>k)=sum _{j=k+1}^{infty }{p_{j}};quad Q(s)=sum _{k=0}^{infty };q_{k}s^{k}.}

q_{k}={mathbb {P}}(X>k)=sum _{{j=k+1}}^{infty }{p_{j}};quad Q(s)=sum _{{k=0}}^{infty };q_{k}s^{k}.

Эта производящая функция связана с определённой ранее функцией P(s){displaystyle P(s)}

$P(s)$ свойством: Q(s)=1−P(s)1−s{displaystyle Q(s)={frac {1-P(s)}{1-s}}} $Q(s)={frac {1-P(s)}{1-s}}$ при |s|<1{displaystyle |s|<1} $|s|<1$ .Из этого по теореме о среднем следует, что математическое ожидание равно просто значению этой функции в единице:

M[X]=P′(1)=Q(1){displaystyle M[X]=P'(1)=Q(1)}

M[X]=P'(1)=Q(1)

Математическое ожидание случайного вектора

Пусть X=(X1,…,Xn)⊤:Ω→Rn{displaystyle X=(X_{1},dots ,X_{n})^{top }colon Omega to mathbb {R} ^{n}}

$X=(X_{1},dots ,X_{n})^{{top }}colon Omega to {mathbb {R}}^{n}$ — случайный вектор. Тогда по определению

M[X]=(M[X1],…,M[Xn])⊤{displaystyle M[X]=(M[X_{1}],dots ,M[X_{n}])^{top }}

M[X]=(M[X_{1}],dots ,M[X_{n}])^{{top }}

то есть математическое ожидание вектора определяется покомпонентно.

Математическое ожидание преобразования случайной величины

Пусть g:R→R{displaystyle gcolon mathbb {R} to mathbb {R} }

$gcolon {mathbb {R}}to {mathbb {R}}$ — борелевская функция, такая что случайная величина Y=g(X){displaystyle Y=g(X)} $Y = g(X)$ имеет конечное математическое ожидание. Тогда для него справедлива формула

M[g(X)]=∑i=1∞g(xi)pi,{displaystyle Mleft[g(X)right]=sum limits _{i=1}^{infty }g(x_{i})p_{i},}

{displaystyle Mleft[g(X)right]=sum limits _{i=1}^{infty }g(x_{i})p_{i},}

если X{displaystyle X}

$X$ имеет дискретное распределение;

M[g(X)]=∫−∞∞g(x)fX(x)dx,{displaystyle Mleft[g(X)right]=int limits _{-infty }^{infty }!g(x)f_{X}(x),dx,}

{displaystyle Mleft[g(X)right]=int limits _{-infty }^{infty }!g(x)f_{X}(x),dx,}

если X{displaystyle X}

$X$ имеет абсолютно непрерывное распределение.

Если распределение PX{displaystyle mathbb {P} ^{X}}

$mathbb {P} ^{X}$ случайной величины X{displaystyle X} $X$ общего вида, то

M[g(X)]=∫−∞∞g(x)PX(dx).{displaystyle Mleft[g(X)right]=int limits _{-infty }^{infty }!g(x),mathbb {P} ^{X}(dx).}

{displaystyle Mleft[g(X)right]=int limits _{-infty }^{infty }!g(x),mathbb {P} ^{X}(dx).}

В специальном случае, когда g(X)=Xk{displaystyle g(X)=X^{k}}

${displaystyle g(X)=X^{k}}$ , математическое ожидание M[g(X)]=M[Xk]{displaystyle M[g(X)]=M[X^{k}]} ${displaystyle M[g(X)]=M[X^{k}]}$ называется k{displaystyle k} $k$ -м моментом случайной величины.

Простейшие свойства математического ожидания

Математическое ожидание числа (не случайной, фиксированной величины, константы) есть само число.

M[a]=a{displaystyle M[a]=a}

M[a]=a

a∈R{displaystyle ain mathbb {R} }

ain {mathbb {R}}

— константа;

Математическое ожидание линейно, то есть

M[aX+bY]=aM[X]+bM[Y]{displaystyle M[aX+bY]=aM[X]+bM[Y]}

M[aX+bY]=aM[X]+bM[Y]

где X,Y{displaystyle X,Y}

X,Y

— случайные величины с конечным математическим ожиданием, а a,b∈R{displaystyle a,bin mathbb {R} }

a,bin mathbb{R}

— произвольные константы;

В частности, математическое ожидание суммы (разности) случайных величин равно сумме (соответственно — разности) их математических ожиданий.

Математическое ожидание сохраняет неравенства, то есть если 0⩽X⩽Y{displaystyle 0leqslant Xleqslant Y} $0leqslant Xleqslant Y$ почти наверняка, и Y{displaystyle Y} $Y$ — случайная величина с конечным математическим ожиданием, то математическое ожидание случайной величины X{displaystyle X} $X$ также конечно, и более того

0⩽M[X]⩽M[Y]{displaystyle 0leqslant M[X]leqslant M[Y]}

0leqslant M[X]leqslant M[Y]

;

Математическое ожидание не зависит от поведения случайной величины на событии вероятности нуль, то есть если X=Y{displaystyle X=Y} $X=Y$ почти наверняка, то

M[X]=M[Y]{displaystyle M[X]=M[Y]}

M[X]=M[Y]

Математическое ожидание произведения двух независимых или некоррелированных [3] случайных величин X,Y{displaystyle X,Y} $X,Y$ равно произведению их математических ожиданий

M[XY]=M[X]M[Y]{displaystyle M[XY]=M[X]M[Y]}

M[XY]=M[X]M[Y]

Дополнительные свойства математического ожидания

Неравенство Маркова
Теорема Леви о монотонной сходимости
Теорема Лебега о мажорируемой сходимости
Тождество Вальда
Лемма Фату
Правило Лопиталя
Математическое ожидание случайной величины X{displaystyle X} $X$ может быть выражено через её производящую функцию моментов G(u){displaystyle G(u)} $G(u)$ как значение первой производной в нуле: M[X]=G′(0){displaystyle M[X]=G'(0)} $M[X]=G'(0)$

Примеры

Пусть случайная величина имеет дискретное равномерное распределение, то есть P(X=xi)=1n,i=1,…,n.{displaystyle mathbb {P} (X=x_{i})={frac {1}{n}},;i=1,ldots ,n.} $mathbb {P} (X=x_{i})={frac {1}{n}},;i=1,ldots ,n.$ Тогда её математическое ожидание

M[X]=1n∑i=1nxi{displaystyle M[X]={frac {1}{n}}sum limits _{i=1}^{n}x_{i}}

M[X]={frac {1}{n}}sum limits _{i=1}^{n}x_{i}

равно среднему арифметическому всех принимаемых значений.

Пусть случайная величина имеет непрерывное равномерное распределение на интервале [a,b]{displaystyle [a,b]} $[a,b]$ , где a<b{displaystyle a<b} $a<b$ . Тогда её плотность имеет вид fX(x)=1b−a1[a,b](x){displaystyle f_{X}(x)={frac {1}{b-a}}mathbf {1} _{[a,b]}(x)} $f_{X}(x)={frac {1}{b-a}}mathbf {1} _{[a,b]}(x)$ и математическое ожидание равно

M[X]=∫abxb−adx=a+b2{displaystyle M[X]=int limits _{a}^{b}!{frac {x}{b-a}},dx={frac {a+b}{2}}}

M[X]=int limits _{a}^{b}!{frac {x}{b-a}},dx={frac {a+b}{2}}

Пусть случайная величина X{displaystyle X} $X$ имеет стандартное распределение Коши. Тогда

∫−∞∞xfX(x)dx=∞{displaystyle int limits _{-infty }^{infty }!xf_{X}(x),dx=infty }

int limits _{-infty }^{infty }!xf_{X}(x),dx=infty

то есть математическое ожидание X{displaystyle X}

$X$ не определено.

См. также

Примечания

↑ «Математическая энциклопедия» / Главный редактор И. М. Виноградов. — М.: «Советская энциклопедия», 1979. — 1104 с. — (51[03] М34). — 148 800 экз.
↑ А. Н. Ширяев. 1 // «Вероятность». — М.: МЦНМО, 2007. — 968 с. — ISBN 978-5-94057-036-3, 978-5-94057-106-3, 978-5-94057-105-6.
↑ Теория вероятностей: 10.2. Теоремы о числовых характеристиках (неопр.). sernam.ru. Дата обращения: 10 января 2018.

Литература

Феллер В. Глава XI. Целочисленные величины. Производящие функции // Введение в теорию вероятностей и её приложения = An introduction to probability theory and its applicatons, Volume I second edition / Перевод с англ. Р. Л. Добрушина, А. А. Юшкевича, С. А. Молчанова Под ред. Е. Б. Дынкина с предисловием А. Н. Колмогорова. — 2-е изд. — М.: Мир, 1964. — С. 270—272.

Ссылки

Математическое ожидание и его свойства на http://www.toehelp.ru