166
правок
Изменения
Новая страница: «== Предварительные определения == Пусть заданы два произвольных конечных множества, которы...»
== Предварительные определения ==
Пусть заданы два произвольных конечных множества, которые называются, соответственно, '''кодируемым алфавитом''' и '''кодирующим алфавитом'''. Их элементы называются '''символами''', а строки (последовательности конечной длины) символов — '''словами'''. Длина слова — это число символов, из которого оно состоит.
В качестве кодирующего алфавита часто рассматривается множество <tex>\{0, 1\}</tex> — так называемый двоичный или бинарный алфавит.
Код называется '''разделимым''' (или ''однозначно декодируемым''), если никаким двум словам кодируемого алфавита не может быть сопоставлен один и тот же код.
'''Префиксным кодом''' называется алфавитный код, в котором ни одно из кодовых слов не является префиксом никакого другого кодового слова.
Любой префиксный код является разделимым.
== Введение ==
Зачем нужны коды с разной длиной кодовых символов? Дело в том, что чаще всего разные символы встречаются с разной частотой и иногда выгодно закодировать часто встречающиеся символы как можно меньшим количеством кодовых символов. Но что мешает нам выбирать кодовые слова короткими? Оказывается, для того чтобы код был разделимым, требуется чтобы длины кодовых символов удовлетворяли неравенству Крафта.
== '''Неравенство Крафта''' ==
{{Теорема
|statement=
Для любого префиксного кода <tex>C(X)</tex> отображающего произвольный алфавит <tex>A_x</tex> на двоичный алфавит {0,1} , длины кодовых слов должны удовлетворять неравенству:
<center><tex> \sum\limits_{i = 1}^{I} 2^{-l_i} \le 1 , </tex></center>
где <tex>|A_x| = I</tex> , а <tex>l_i</tex> {{---}} длины кодовых слов.
|proof=
Рассмотрим отрезок <tex>[0;1]</tex> на числовой прямой.
Разделим его пополам, причем левую половину обозначим <tex>M_0</tex>, а правую <tex>M_1</tex>.
Затем поделим <tex>M_0</tex> пополам и обозначим его левую половину <tex>M_{00}</tex>, а правую <tex>M_{01}</tex>, и, проделав то же самое с <tex>M_1</tex>, получим <tex>M_{10}</tex>, а левую <tex>M_{11}</tex>.
Будем выполнять эти действия, пока длина индекса полученного отрезка <tex>M_j</tex> не превосходит <tex>max(l_1, l_2,\ldots,l_I)</tex>.
Теперь можно наблюдать, что:
*любому кодовому слову <tex>C_j</tex> сопоставлен свой отрезок <tex>M_{C_j}</tex> (Например, кодовому слову <tex>1011</tex> соответствует отрезок <tex>M_{1011}</tex>);
*длина отрезка <tex>M_{C_i}</tex> равна <tex>2^{-l_i}</tex> (Например, <tex>M_0</tex> имеет длину <tex>1/2</tex>, а <tex>M_{00}</tex> соответственно <tex>1/4</tex>);
*Если кодовое слово <tex>x</tex> является префиксом кодового слова <tex>y</tex>, то отрезок <tex>M_x</tex> содержит <tex>M_y</tex> (Например, кодовое слово <tex>01</tex> является префиксом <tex>0111</tex>, а отрезок<tex>M_{01}</tex> содержит <tex>M_{0111}</tex>, это его самая правая четверть);
Рассмотрим префиксный код <tex>C(X)</tex>: так как ни одно из кодовых слов не является префиксом никакого другого кодового слова, то никакие два отрезка не пересекаются.
Если на отрезке <tex>[0;1]</tex> выбрать некоторое количество непересекающихся отрезков, то очевидно, что сумма их длин не превзойдет <tex>1</tex>, то есть <tex> \sum\limits_{i = 1}^{I} M_{C_i} \le 1</tex>.
Отсюда следует, что <tex>\sum\limits_{i = 1}^{I} M_{C_i} = \sum\limits_{i = 1}^{I} 2^{-l_i} \le 1</tex>.
}}
== Следствие ==
Можно обобщить неравенство Крафта для случаев, когда кодирующим алфавитом является <tex>r</tex> - ичный. В доказательстве изменятся некоторые пункты:
*отрезок <tex>[0;1]</tex> придется делить не на <tex>2</tex>, а на <tex>r</tex> равных частей;
*соответственно неравенство примет вид: <tex>\sum\limits_{i = 1}^{I} r^{-l_i} \le 1 </tex>.
== Ссылки ==
*[http://ru.wikipedia.org/wiki/Неравенство_Крафта Неравенство Крафта — Википедия]
*ftp://remotesensing.ru/InfoTheory_lec05.pdf
== Литература ==
*А.Шень "ПРОГРАММИРОАНИЕ теоремы и задачи".
[[Категория: Дискретная математика и алгоритмы]]
[[Категория: Алгоритмы сжатия]]
Пусть заданы два произвольных конечных множества, которые называются, соответственно, '''кодируемым алфавитом''' и '''кодирующим алфавитом'''. Их элементы называются '''символами''', а строки (последовательности конечной длины) символов — '''словами'''. Длина слова — это число символов, из которого оно состоит.
В качестве кодирующего алфавита часто рассматривается множество <tex>\{0, 1\}</tex> — так называемый двоичный или бинарный алфавит.
Код называется '''разделимым''' (или ''однозначно декодируемым''), если никаким двум словам кодируемого алфавита не может быть сопоставлен один и тот же код.
'''Префиксным кодом''' называется алфавитный код, в котором ни одно из кодовых слов не является префиксом никакого другого кодового слова.
Любой префиксный код является разделимым.
== Введение ==
Зачем нужны коды с разной длиной кодовых символов? Дело в том, что чаще всего разные символы встречаются с разной частотой и иногда выгодно закодировать часто встречающиеся символы как можно меньшим количеством кодовых символов. Но что мешает нам выбирать кодовые слова короткими? Оказывается, для того чтобы код был разделимым, требуется чтобы длины кодовых символов удовлетворяли неравенству Крафта.
== '''Неравенство Крафта''' ==
{{Теорема
|statement=
Для любого префиксного кода <tex>C(X)</tex> отображающего произвольный алфавит <tex>A_x</tex> на двоичный алфавит {0,1} , длины кодовых слов должны удовлетворять неравенству:
<center><tex> \sum\limits_{i = 1}^{I} 2^{-l_i} \le 1 , </tex></center>
где <tex>|A_x| = I</tex> , а <tex>l_i</tex> {{---}} длины кодовых слов.
|proof=
Рассмотрим отрезок <tex>[0;1]</tex> на числовой прямой.
Разделим его пополам, причем левую половину обозначим <tex>M_0</tex>, а правую <tex>M_1</tex>.
Затем поделим <tex>M_0</tex> пополам и обозначим его левую половину <tex>M_{00}</tex>, а правую <tex>M_{01}</tex>, и, проделав то же самое с <tex>M_1</tex>, получим <tex>M_{10}</tex>, а левую <tex>M_{11}</tex>.
Будем выполнять эти действия, пока длина индекса полученного отрезка <tex>M_j</tex> не превосходит <tex>max(l_1, l_2,\ldots,l_I)</tex>.
Теперь можно наблюдать, что:
*любому кодовому слову <tex>C_j</tex> сопоставлен свой отрезок <tex>M_{C_j}</tex> (Например, кодовому слову <tex>1011</tex> соответствует отрезок <tex>M_{1011}</tex>);
*длина отрезка <tex>M_{C_i}</tex> равна <tex>2^{-l_i}</tex> (Например, <tex>M_0</tex> имеет длину <tex>1/2</tex>, а <tex>M_{00}</tex> соответственно <tex>1/4</tex>);
*Если кодовое слово <tex>x</tex> является префиксом кодового слова <tex>y</tex>, то отрезок <tex>M_x</tex> содержит <tex>M_y</tex> (Например, кодовое слово <tex>01</tex> является префиксом <tex>0111</tex>, а отрезок<tex>M_{01}</tex> содержит <tex>M_{0111}</tex>, это его самая правая четверть);
Рассмотрим префиксный код <tex>C(X)</tex>: так как ни одно из кодовых слов не является префиксом никакого другого кодового слова, то никакие два отрезка не пересекаются.
Если на отрезке <tex>[0;1]</tex> выбрать некоторое количество непересекающихся отрезков, то очевидно, что сумма их длин не превзойдет <tex>1</tex>, то есть <tex> \sum\limits_{i = 1}^{I} M_{C_i} \le 1</tex>.
Отсюда следует, что <tex>\sum\limits_{i = 1}^{I} M_{C_i} = \sum\limits_{i = 1}^{I} 2^{-l_i} \le 1</tex>.
}}
== Следствие ==
Можно обобщить неравенство Крафта для случаев, когда кодирующим алфавитом является <tex>r</tex> - ичный. В доказательстве изменятся некоторые пункты:
*отрезок <tex>[0;1]</tex> придется делить не на <tex>2</tex>, а на <tex>r</tex> равных частей;
*соответственно неравенство примет вид: <tex>\sum\limits_{i = 1}^{I} r^{-l_i} \le 1 </tex>.
== Ссылки ==
*[http://ru.wikipedia.org/wiki/Неравенство_Крафта Неравенство Крафта — Википедия]
*ftp://remotesensing.ru/InfoTheory_lec05.pdf
== Литература ==
*А.Шень "ПРОГРАММИРОАНИЕ теоремы и задачи".
[[Категория: Дискретная математика и алгоритмы]]
[[Категория: Алгоритмы сжатия]]
