Просмотр исходного текста страницы Ковариация случайных величин

{{Определение
|definition=
<b>Ковариация случайных величин</b>: пусть <tex>\eta,\xi</tex> — две случайные величины, определённые на одном и том же вероятностном пространстве. Тогда их ковариация определяется следующим образом:
:  <tex>Cov(\eta,\xi)=E\big((\eta-E\eta)(\xi-E\xi)\big)</tex>.
}}

== Вычисление ==

В силу линейности математического ожидания, ковариация может быть записана как:

:<tex>Cov(\eta, \xi) = E\big((\xi - E\xi)(\eta - E\eta)\big) = E(\xi\eta - \eta E\xi + E\xi E\eta - \xi E\eta) = </tex>
:<tex>= E(\xi\eta) - E\xi E\eta - E\xi E\eta + E\xi E\eta = E(\xi\eta) - E\xi E\eta </tex>

Итого, <tex>Cov(\eta, \xi) = E(\xi\eta) - E\xi E\eta </tex>

== Свойства ковариации ==

* Ковариация симметрична:
: <tex>Cov(\eta,\xi) = Cov(\xi,\eta)</tex>.
* Пусть <tex>\eta_1,\ldots, \eta_n</tex> случайные величины, а <tex>\xi_1 = \sum\limits_{i=1}^n a_i \eta_i,\; \xi_2 = \sum\limits_{j=1}^m b_j \eta_j</tex> их две произвольные линейные комбинации. Тогда
: <tex>Cov(\xi_1,\xi_2) = \sum\limits_{i=1}^n\sum\limits_{j=1}^m a_i b_j Cov(\eta_i,\eta_j)</tex>.
* Ковариация случайной величины с собой равна её дисперсии:
: <tex>Cov(\eta,\eta) = E(\eta^2) - (E(\eta))^2 = D[\eta]</tex>.
* Если <tex>\eta,\xi</tex> независимые случайные величины, то
: <tex>Cov(\eta,\xi) = 0</tex>.
Обратное, вообще говоря, неверно.


== Неравенство Коши — Буняковского ==

{{Теорема
| about = 
неравенство Коши — Буняковского
| statement = 
Если принять в качестве скалярного произведения двух случайных величин ковариацию  <tex>\langle \eta, \xi \rangle = Cov (\eta, \xi)</tex>, то квадрат нормы случайной величины будет равен дисперсии <tex> ||\eta||^2 = D [ \eta ], </tex> и <b>Неравенство Коши-Буняковского</b> запишется в виде:
: <tex>Cov^2(\eta,\xi) \leqslant \mathrm{D}[\eta] \cdot \mathrm{D}[\xi]</tex>.

| proof = 

Запишем неравенство в другом виде:
: <tex>|Cov(\eta, \xi)|\leqslant\sqrt{D[\eta]D[\xi]}</tex>.

Введём в рассмотрение случайную величину <tex>Z_{1}= \sigma_{Y} X- \sigma_{X} Y</tex> (где  <tex> \sigma</tex> — среднеквадратическое отклонение) и найдём её дисперсию <tex> D(Z_{1})= M[ Z-m_{Z1}]^2</tex>. Выполнив выкладки получим:

<tex>
 D(Z_{1})=2 \sigma^2_{X} \sigma^2_{Y}-2 \sigma_{X} \sigma_{Y}Cov(\eta, \xi). 
</tex>

Любая дисперсия неотрицательна, поэтому

<tex>
2 \sigma^2_{X} \sigma^2_{Y}-2 \sigma_{X} \sigma_{Y}Cov(\eta, \xi) \geqslant 0
</tex>

Отсюда

<tex>
Cov(\eta, \xi)\leqslant\mathrm{\sigma}_{X}\mathrm{\sigma}_{Y}.
</tex>

Введя случайную величину <tex> Z_{2}= \sigma_{Y} X+ \sigma_{X} Y</tex>, аналогично

<tex>
Cov(\eta, \xi)\geqslant - \mathrm{\sigma}_{X}\mathrm{\sigma}_{Y}.
</tex>

Объединив полученные неравенства имеем

<tex>
- \mathrm{\sigma}_{X}\mathrm{\sigma}_{Y}\leqslant Cov(\eta, \xi)\leqslant\mathrm{\sigma}_{X}\mathrm{\sigma}_{Y}.
</tex>

Или

<tex>
|Cov(\eta, \xi)|\leqslant\mathrm{\sigma}_{X}\mathrm{\sigma}_{Y}.
</tex>

Итак,

<tex>
|Cov(\eta, \xi)|\leqslant\sqrt{D[\eta]D[\xi]}.
</tex>

А значит, верно и исходное неравенство:

<tex>Cov^2(\eta,\xi) \leqslant \mathrm{D}[\eta] \cdot \mathrm{D}[\xi]</tex>
}}


{{Теорема
|statement= <tex>Cov^2(\eta, \xi) \le \sigma_\eta ^2\sigma_\xi ^2</tex> (где<tex>\sigma</tex>  — среднеквадратическое отклонение)
|proof= Для этого предположим, что <tex>  t </tex> некоторое вещественное число, которое мы выберем позже, и рассмотреть очевидное неравенство 

<tex> E((V+tW)^2) \ge 0 </tex>, где <tex> V = \eta - E\eta </tex> и <tex> W = \xi - E\xi </tex>.

Используя линейность математического ожидание, мы получим эту неравенству

<tex> E(V^2)+2tE(VW)+t^2E(W^2) \ge 0 </tex>

Обратите внимание, что левая часть квадратный трехчлен зависимо на <tex> t </tex>.

Мы имеем <tex> E(V^2)=\sigma_\eta ^2</tex>, <tex> E(W^2)=\sigma_\xi ^2</tex> и <tex> E(VW)=Cov(\eta,\xi); </tex>

И так, наш квадратный трехчлен выглядит так

<tex>\sigma_\xi ^2t^2+2Cov(\eta,\xi)t+\sigma_\eta ^2 \ge 0</tex>

Из этого неравенства мы видим, что единственный способ левой стороне может быть 0
, если многочлен имеет двойной корень (т.е. это касается оси <tex>x</tex> в одном
точкe), которая могла произойти только если дискриминант равен 0. Таким образом, дискриминант
всегда должен быть отрицательным или 0, что означает

<tex> 4Cov^2(\eta,\xi)-4\sigma_\eta ^2\sigma_\xi ^2 \le 0</tex>

<tex>Cov^2(\eta,\xi) \le \sigma_\eta ^2\sigma_\xi ^2</tex>
что и нужно было доказывать. 
}}

== Ссылки == 

*[http://www.nsu.ru/mmf/tvims/chernova/tv/lec/node48.html http://www.nsu.ru/mmf/tvims/chernova/tv/lec/node48.html]
*[http://ru.wikipedia.org/wiki/%D0%9A%D0%BE%D0%B2%D0%B0%D1%80%D0%B8%D0%B0%D1%86%D0%B8%D1%8F Википедия]
*[http://ru.wikipedia.org/wiki/%D0%9A%D0%BE%D1%80%D1%80%D0%B5%D0%BB%D1%8F%D1%86%D0%B8%D1%8F#.D0.9F.D0.B0.D1.80.D0.B0.D0.BC.D0.B5.D1.82.D1.80.D0.B8.D1.87.D0.B5.D1.81.D0.BA.D0.B8.D0.B5_.D0.BF.D0.BE.D0.BA.D0.B0.D0.B7.D0.B0.D1.82.D0.B5.D0.BB.D0.B8_.D0.BA.D0.BE.D1.80.D1.80.D0.B5.D0.BB.D1.8F.D1.86.D0.B8.D0.B8 Википедия (доказательство неравенства Коши — Буняковского)]

[[Категория:Дискретная математика и алгоритмы]]

[[Категория: Теория вероятности ]]