| Определение: |
Ковариация случайных величин: пусть [math]\eta,\xi[/math] — две случайные величины, определённые на одном и том же вероятностном пространстве. Тогда их ковариация определяется следующим образом:
- [math]Cov(\eta,\xi)=E\big((\eta-E\eta)(\xi-E\xi)\big)[/math].
|
Вычисление
В силу линейности математического ожидания, ковариация может быть записана как:
- [math]Cov(\eta, \xi) = E\big((\xi - E\xi)(\eta - E\eta)\big) = E(\xi\eta - \eta E\xi + E\xi E\eta - \xi E\eta) = [/math]
- [math]= E(\xi\eta) - E\xi E\eta - E\xi E\eta + E\xi E\eta = E(\xi\eta) - E\xi E\eta [/math]
Итого, [math]Cov(\eta, \xi) = E(\xi\eta) - E\xi E\eta [/math]
Свойства ковариации
- [math]Cov(\eta,\xi) = Cov(\xi,\eta)[/math].
- Пусть [math]\eta_1,\ldots, \eta_n[/math] случайные величины, а [math]\xi_1 = \sum\limits_{i=1}^n a_i \eta_i,\; \xi_2 = \sum\limits_{j=1}^m b_j \eta_j[/math] их две произвольные линейные комбинации. Тогда
- [math]Cov(\xi_1,\xi_2) = \sum\limits_{i=1}^n\sum\limits_{j=1}^m a_i b_j Cov(\eta_i,\eta_j)[/math].
- Ковариация случайной величины с собой равна её дисперсии:
- [math]Cov(\eta,\eta) = E(\eta^2) - (E(\eta))^2 = D[\eta][/math].
- Если [math]\eta,\xi[/math] независимые случайные величины, то
- [math]Cov(\eta,\xi) = 0[/math].
Обратное, вообще говоря, неверно.
Неравенство Коши — Буняковского
| Теорема (неравенство Коши — Буняковского): |
Если принять в качестве скалярного произведения двух случайных величин ковариацию [math]\langle \eta, \xi \rangle = Cov (\eta, \xi)[/math], то квадрат нормы случайной величины будет равен дисперсии [math] ||\eta||^2 = D [ \eta ], [/math] и Неравенство Коши-Буняковского запишется в виде:
- [math]Cov^2(\eta,\xi) \leqslant \mathrm{D}[\eta] \cdot \mathrm{D}[\xi][/math].
|
| Доказательство: |
| [math]\triangleright[/math] |
|
Запишем неравенство в другом виде:
- [math]|Cov(\eta, \xi)|\leqslant\sqrt{D[\eta]D[\xi]}[/math].
Введём в рассмотрение случайную величину [math]Z_{1}= \sigma_{Y} X- \sigma_{X} Y[/math] (где [math] \sigma[/math] — среднеквадратическое отклонение) и найдём её дисперсию [math] D(Z_{1})= M[ Z-m_{Z1}]^2[/math]. Выполнив выкладки получим:
[math]
D(Z_{1})=2 \sigma^2_{X} \sigma^2_{Y}-2 \sigma_{X} \sigma_{Y}Cov(\eta, \xi).
[/math]
Любая дисперсия неотрицательна, поэтому
[math]
2 \sigma^2_{X} \sigma^2_{Y}-2 \sigma_{X} \sigma_{Y}Cov(\eta, \xi) \geqslant 0
[/math]
Отсюда
[math]
Cov(\eta, \xi)\leqslant\mathrm{\sigma}_{X}\mathrm{\sigma}_{Y}.
[/math]
Введя случайную величину [math] Z_{2}= \sigma_{Y} X+ \sigma_{X} Y[/math], аналогично
[math]
Cov(\eta, \xi)\geqslant - \mathrm{\sigma}_{X}\mathrm{\sigma}_{Y}.
[/math]
Объединив полученные неравенства имеем
[math]
- \mathrm{\sigma}_{X}\mathrm{\sigma}_{Y}\leqslant Cov(\eta, \xi)\leqslant\mathrm{\sigma}_{X}\mathrm{\sigma}_{Y}.
[/math]
Или
[math]
|Cov(\eta, \xi)|\leqslant\mathrm{\sigma}_{X}\mathrm{\sigma}_{Y}.
[/math]
Итак,
[math]
|Cov(\eta, \xi)|\leqslant\sqrt{D[\eta]D[\xi]}.
[/math]
А значит, верно и исходное неравенство:
[math]Cov^2(\eta,\xi) \leqslant \mathrm{D}[\eta] \cdot \mathrm{D}[\xi][/math] |
| [math]\triangleleft[/math] |
| Теорема: |
[math]Cov^2(\eta, \xi) \le \sigma_\eta ^2\sigma_\xi ^2[/math] (где[math]\sigma[/math] — среднеквадратическое отклонение) |
| Доказательство: |
| [math]\triangleright[/math] |
|
Для этого предположим, что [math] t [/math] некоторое вещественное число, которое мы выберем позже, и рассмотреть очевидное неравенство
[math] E((V+tW)^2) \ge 0 [/math], где [math] V = \eta - E\eta [/math] и [math] W = \xi - E\xi [/math].
Используя линейность математического ожидание, мы получим эту неравенству
[math] E(V^2)+2tE(VW)+t^2E(W^2) \ge 0 [/math]
Обратите внимание, что левая часть квадратный трехчлен зависимо на [math] t [/math].
Мы имеем [math] E(V^2)=\sigma_\eta ^2[/math], [math] E(W^2)=\sigma_\xi ^2[/math] и [math] E(VW)=Cov(\eta,\xi); [/math]
И так, наш квадратный трехчлен выглядит так
[math]\sigma_\xi ^2t^2+2Cov(\eta,\xi)t+\sigma_\eta ^2 \ge 0[/math]
Из этого неравенства мы видим, что единственный способ левой стороне может быть 0
, если многочлен имеет двойной корень (т.е. это касается оси [math]x[/math] в одном
точкe), которая могла произойти только если дискриминант равен 0. Таким образом, дискриминант
всегда должен быть отрицательным или 0, что означает
[math] 4Cov^2(\eta,\xi)-4\sigma_\eta ^2\sigma_\xi ^2 \le 0[/math]
[math]Cov^2(\eta,\xi) \le \sigma_\eta ^2\sigma_\xi ^2[/math]
что и нужно было доказывать. |
| [math]\triangleleft[/math] |
Ссылки
