48
правок
Изменения
→Оценка длины кодового слова
||proof=Размер сообщения <tex> L = \prod\limits_{i=1}^l p_{fi} = \prod\limits_{i=1}^n p_{i}^{f_{i}}</tex> (Если <tex>l</tex> {{---}} длина текста; <tex>n</tex> {{---}} размер алфавита; <tex>f_i</tex> {{---}} частота встречаемости символа; <tex>p_i</tex> {{---}} вероятность вхождения символа), тогда размер сообщения <tex> L = \prod\limits_{i=1}^l p_{fi} = \prod\limits_{i=1}^n p_{i}^{f_{i}}</tex>
Число бит в закодированном тексте: <tex>\log_2 L = \sum\limits_{i=1}^n f_i\cdot \log_2 p_i = l \cdot \sum\limits_{i=1}^n p_i\cdot \log_2 p_i = -l \cdot H(p_1...p_n)</tex>
