Регулярная марковская цепь

Регулярная цепь Маркова

Определение:

Марковская цепь называется регулярной (нормальной), если в матрице перехода P [math]\forall i,j \ \ p_{ij} \neq 0[/math].

В регулярной Марковской цепи из любого состояния можно попасть в другое за некоторое число ходов.

Лемма

Лемма:

Пусть [math]P_{[r\times r]}[/math] — матрица перехода регулярной цепи, [math]\varepsilon[/math] — минимальный элемент этой матрицы. Пусть х — произвольный r-мерный вектор-столбец, имеющий максимальный элемент [math]M_0[/math] и минимальный [math]m_0[/math]. Пусть [math]M_1[/math] и [math]m_1[/math] - максимальный и минимальный элементы [math]Px[/math]. Тогда [math]M_1 \leqslant M_0[/math], [math]m_1 \geqslant m_0[/math] и [math]M_1 - m_1 \leqslant (1 - 2\varepsilon)(M_0 - m_0)[/math]

Доказательство:

Пусть х' - вектор, полученный из х заменой всех элементов, кроме [math]m_0[/math] на [math]M_0[/math]. Тогда [math]x \leqslant x'[/math]. Каждый элемент [math]Px'[/math] имеет вид

[math]am_0 + (1 - a)M_0 = M_0 - a(M_0 - m_0)[/math], где а - элемент P, который домножается на [math]m_0[/math], причем [math]a \geqslant \varepsilon[/math]. Поэтому наше выражение не превосходит [math]M_0 - \varepsilon(M_0 - m_0)[/math]. Отсюда и из неравенства [math]x \leqslant x'[/math] получается: [math]M_1 \leqslant M_0 - \varepsilon (M_0 - m_0)[/math].

Применяя те же рассуждения для вектора х, получим: [math]-m_1 \leqslant -m_0 - \varepsilon (-m_0 + M_0)[/math].

Литература

Дж. Кемени, Дж. Снелл "Конечные цепи Маркова", стр 93