7
правок
Изменения
→Ограниченность энтропии
:<tex dpi="140">H(X) = -\sum\limits_{i=1}^{n} p_i \log_2p_i = -0.2\log_2(0.2)-0.8\log_2(0.8) \approx 0.722 < 1 </tex>
== Ограниченность энтропии Задача о разорении игрока =={{ТеоремаОбсудим блуждание на примере задачи о разорении. Пусть начальный капитал <tex>\xi_0</tex> первого|statement= игрока составляет <tex>k</tex> рублей, а капитал второго игрока – <tex>0 \leqslant H(p_1n − k)</tex> рублей. Первый игрок выигрываетили проигрывает рубль с вероятностями <tex>p</tex> и <tex>q</tex> соответственно. Игра продолжается до тех пор, p_2покакапитал первого игрока не уменьшится до нуля, \dotsлибо не возрастет до <tex>n</tex>. Поглощение точки в правомконце отрезка <tex>[0, p_n) \leqslant \log_2n n]</tex>соответствует выигрышу первого игрока.Рассмотрим конечную цепь Маркова<tex>\xi_t+1 = \xi_t + \eta_t, P{\eta_t = 1|\xi_t 6= 0 ∨ \xi_t 6= n} = p, P{\eta_t = −1|proof \xi_t 6=0 ∨ \xi_t 6= n} = qи P{\eta = 0|\xi_t = 0 ∨ \xi_t = n} = 1) Докажем первую часть неравенства:. </tex>
== Условная и взаимная энтропия ==
{{Определение