LL(k)-грамматики, множества FIRST и FOLLOW

Наибольший интерес в построении синтаксических анализаторов (парсеров) представляют LL(1)-грамматики, так как для них возможно построение нисходящих парсеров без возврата, то есть без корректировки выбранных правил в грамматике. LL(1)-грамматики являются подмножеством КС-грамматик. Однако для достаточно большого количества формальных языков можно построить LL(1)-грамматику, например, для языка арифметических выражений и даже для некоторых языков программирования, в частности можно и для языка Java.

LL(k)-грамматика

Дадим теперь формально определение LL(k)-грамматики.

Определение:

Пусть [math]\Gamma =\langle \Sigma, N, S, P \rangle[/math] — КС-грамматика. Рассмотрим два произвольных левосторонних вывода слова [math] w [/math] в этой грамматике: [math] S \Rightarrow^* p A \beta \Rightarrow p \alpha \beta \Rightarrow^* p y \eta [/math] [math] S \Rightarrow^* p A \beta \Rightarrow p \alpha' \beta \Rightarrow^* p y \xi [/math] где [math] p [/math] и [math] y [/math] — цепочки из терминалов, уже разобранная часть слова [math] w [/math], [math] A [/math] — нетерминал грамматики, в которой есть правила [math] A \to \alpha [/math] и [math] A \to \alpha' [/math], причём [math] \alpha, \alpha', \beta, \eta, \xi [/math] — последовательности из терминалов и нетерминалов. Если из выполнения условий, что [math] |y| = k [/math] или [math] |y| \lt k, \eta = \xi = \varepsilon [/math], следует равенство [math] \alpha = \alpha' [/math], то [math] \Gamma [/math] называется LL(k)-грамматикой.

LL(1)-грамматика является частным случаем. Её определение почти такое же, только вместо строки [math] y [/math] один символ [math] c \in \Sigma \cup \{\varepsilon\} [/math].

Неформально это означает, что, посмотрев на очередной символ после уже выведенной части слова, можно однозначно определить, какое правило из грамматики выбрать.

FIRST и FOLLOW

Ключевую роль в построении парсеров для LL(1)-грамматик играют множества [math] \mathrm{FIRST} [/math] и [math] \mathrm{FOLLOW} [/math].

Пусть [math] c [/math] — символ из алфавита [math] \Sigma [/math], [math] \alpha,\ \beta [/math] — строки из нетерминалов и терминалов (возможно пустые), [math] S,\ A [/math] — нетерминалы грамматики (начальный и произвольный соответственно), [math] \$ [/math] — символ окончания слова. Тогда определим [math] \mathrm{FIRST} [/math] и [math] \mathrm{FOLLOW} [/math] следующим образом:

Определение:

[math] \mathrm{FIRST}(\alpha) = \{c \mid \alpha \Rightarrow^* c \beta \} \cup \{ \varepsilon\ \mathrm{if}\ \alpha \Rightarrow^* \varepsilon \} [/math]

Определение:

[math] \mathrm{FOLLOW}(A) = \{c \mid S \Rightarrow^* \alpha A c \beta \} \cup \{ \$ \ \mathrm{if}\ S \Rightarrow^* \alpha A \} [/math]

Другими словами, [math] \mathrm{FIRST}(\alpha) [/math] — все символы (терминалы), с которых могут начинаться всевозможные выводы из [math] \alpha [/math], а [math] \mathrm{FOLLOW}(A) [/math] — всевозможные символы, которые встречаются после нетерминала [math] A [/math] во всех небесполезных правилах грамматики.

Замечание: более общим случаем множества [math] \mathrm{FIRST} [/math] является множество [math] \mathrm{FIRST}_k [/math], однако в данном конспекте оно не используется.

Определение:

[math] \mathrm{FIRST}_k(\alpha) = \{w \mid \alpha \Rightarrow^* w \beta,\ |w| \leqslant k \} \cup \{ \varepsilon\ \mathrm{if}\ \alpha \Rightarrow^* \varepsilon \} [/math]

Примеры

Множества [math] \mathrm{FIRST} [/math] и [math] \mathrm{FOLLOW} [/math] могут отличаться даже для одной грамматики, если она задана разными правилами. Рассмотрим пример двух различных грамматик для языка правильных скобочных последовательностей.

• [math] A \to (A)A \mid \varepsilon [/math]
• [math] B \to BB \mid (B) \mid \varepsilon [/math]

Правило	FIRST	FOLLOW
[math]A[/math]	[math]\{\ (,\ \varepsilon\ \} [/math]	[math]\{\ ),\ \$\ \} [/math]
[math]B[/math]	[math]\{\ (,\ \varepsilon\ \} [/math]	[math]\{\ (,\ ),\ \$\ \} [/math]

Теорема о связи LL(1)-грамматики с множествами FIRST и FOLLOW

Далее будет показано, как множества [math] \mathrm{FIRST} [/math] и [math] \mathrm{FOLLOW} [/math] связаны с понятием LL(1)-грамматики.

Теорема:

[math]\Gamma =\langle \Sigma, N, S, P \rangle[/math] — LL(1)-грамматика [math] \Leftrightarrow [/math] [math] A \to \alpha,\ A \to \beta, A \in N \ \Rightarrow \ \mathrm{FIRST}(\alpha) \cap \mathrm{FIRST}(\beta) = \varnothing[/math] [math] A \to \alpha,\ A \to \beta, A \in N,\ \varepsilon \in \mathrm{FIRST}(\alpha) \ \Rightarrow \ \mathrm{FOLLOW}(A) \cap \mathrm{FIRST}(\beta) = \varnothing[/math]

Доказательство:

[math]\triangleright[/math]

[math] \Leftarrow [/math] Предположим, что данная грамматика не будет LL(1)-грамматикой. Значит, у какого-то слова [math] w [/math] существует два различных левосторонних вывода. [math] S \Rightarrow^* p A \gamma \Rightarrow p \alpha \gamma \Rightarrow^* p c \alpha' \gamma [/math] [math] S \Rightarrow^* p A \gamma \Rightarrow p \beta \gamma \Rightarrow^* p c \beta' \gamma [/math] Но это противоречит тому, что [math] \mathrm{FIRST}(\alpha) \cap \mathrm{FIRST}(\beta) = \varnothing [/math]. Аналогично проверятся второе условие. Если, например, [math] \alpha \Rightarrow^* \varepsilon [/math], то [math] \varepsilon \in \mathrm{FIRST}(\alpha) [/math], и [math] \mathrm{FOLLOW}(A) \cap \mathrm{FIRST}(\beta) \ne \varnothing [/math] [math] \Rightarrow [/math] Предположим, что есть два различных правила [math] A \to \alpha [/math] и [math] A \to \beta [/math] таких, что [math] c \in \mathrm{FIRST}(\alpha) \cap \mathrm{FIRST}(\beta) [/math]. Тогда: [math] S \Rightarrow^* p A \gamma \Rightarrow p \alpha \gamma \Rightarrow^* p c \alpha' \gamma [/math] [math] S \Rightarrow^* p A \gamma \Rightarrow p \beta \gamma \Rightarrow^* p c \beta' \gamma [/math] Последний переход можно совершить, так как [math] c [/math] лежит в пересечении множеств [math] \mathrm{FIRST} [/math] двух правил вывода. Так как грамматика [math] \Gamma [/math] является LL(1)-грамматикой, то из определения следует, что [math] \alpha = \beta [/math]. Это противоречит предположению, что [math] \alpha [/math] и [math] \beta [/math] — различные правила. Второе условие проверяется аналогичным образом.

[math]\triangleleft[/math]

Следствия

Сформулируем несколько важных cледствий из теоремы.

Левая рекурсия

Утверждение (1):

Грамматика [math] \Gamma [/math] cодержит левую рекурсию [math] \Rightarrow \ \Gamma [/math] не является LL(1)-грамматикой.

[math]\triangleright[/math]

Если грамматика содержит левую рекурсию, значит, в ней существует какой-то нетерминал [math] A [/math] с правилами [math] A \to A \alpha \mid \beta [/math], где [math] \beta [/math] — строка из терминалов и нетерминалов, не начинающаяся с [math] A [/math]. Тогда понятно, что [math] \mathrm{FIRST}(A\alpha) \cap \mathrm{FIRST}(\beta) \ne \varnothing [/math], и это противоречит первому условию теоремы.

[math]\triangleleft[/math]

Чтобы избавиться от левой рекурсии, можно воспользоваться алгоритмом устранения левой рекурсии.

Левая факторизация

Утверждение (2):

Грамматика [math] \Gamma [/math] cодержит правое ветвление [math] \Rightarrow \ \Gamma [/math] не является LL(1)-грамматикой.

[math]\triangleright[/math]

Наличие в грамматике правого ветвления означает, что существует правило [math] A \to \alpha \beta \mid \alpha \gamma, \alpha \ne \varepsilon [/math]. Очевидно, что [math] \mathrm{FIRST}(\alpha \beta) \cap \mathrm{FIRST}(\alpha \gamma) \ne \varnothing [/math]. Поэтому грамматика не будет LL(1)-грамматикой по первому условию теоремы.

[math]\triangleleft[/math]

Алгоритм устранения правого ветвленения

Чтобы избавиться от правого ветвления, нужно воспользоваться алгоритмом левой факторизации. Его суть заключается в следующем: для каждого нетерминала [math] A [/math] ищем самый длинный префикс, общий для двух или более правил вывода из [math] A [/math]. Важно, чтобы как можно больше строк имело общий префикс, и можно было вынести части правил после общего префикса в отдельный нетерминал. Более формально, рассмотрим правила

[math] A \to \alpha \beta_1 \mid \ldots \mid \alpha \beta_n \mid \gamma_1 \mid \ldots \mid \gamma_m [/math]

Причём [math] \alpha \ne \varepsilon [/math], а наибольший общий префикс [math] \alpha [/math] и [math] \gamma_i\ (1 \leqslant i \leqslant m[/math]) равен [math] \varepsilon [/math]. Тогда изменим грамматику следующим образом, введя новый нетерминал [math] A' [/math]:

[math] A \to \alpha A' \mid \gamma_1 \mid \ldots \mid \gamma_m [/math]

[math] A' \to \beta_1 \mid \ldots \mid \beta_n [/math]

Алгоритм завершится, когда в грамматике не будет правого ветвления. Он отработает конечное число шагов, так как каждый раз длина правой части правил уменьшается ходя бы на единицу, а тривиальные префиксы мы не рассматриваем. К тому же, алгоритм не меняет язык грамматики, следовательно, является корректным.

Замечание: отсутствие левой рекурсии и правого ветвления в грамматике не является необходимым условием того, что она будет LL(1)-грамматикой. После их устранения грамматика всё ещё может остаться не LL(1)-грамматикой.

См. также

• Нормальная форма Хомского
• Существенно неоднозначные языки

Источники информации

• Wikipedia — LL grammar
• LL(k)-грамматики и трансляция
• Альфред Ахо, Рави Сети, Джеффри Ульман. Компиляторы. Принципы, технологии, инструменты. Издательство Вильямс, 2003. ISBN 5-8459-0189-8