Изменения

Перейти к: навигация, поиск

Энтропия случайного источника

21 байт добавлено, 22:43, 4 марта 2018
м
Fix ticket
Рассмотрим [[Вероятностное пространство, элементарный исход, событие|вероятностное пространство]] {{---}} честная монета.
Найдем для нее энтропию:
:<tex dpi="140">H(X) = -\sum\limits_{i=1}^{n} p_i \log_2p_i = -\sum\limits_{i=1}^{2} {(\dqrac{1 / }{2}) \log_2 (\dqrac{1 / }{2})} = -\sum\limits_{i=1}^{2} {(\dqrac{1 / }{2}) \cdot (-1)} = 1</tex>
Это означает что после броска честной монеты мы получим информацию в размере <tex>1</tex> бит, уменьшив степень неопределенности вдвое.
286
правок

Навигация