Регулярная марковская цепь

Регулярная цепь Маркова

Определение:

Марковская цепь называется регулярной (нормальной), если [math]p_{ij} \gt 0, \forall i,j=1,2, \ldots[/math].

Пример:

Пример регулярной цепи

Рассмотрим эксперимент по бросанию честной монеты. Тогда соответствующая этому эксперименту марковская цепь будет иметь 2 состояния. Рассмотрим матрицу, следующего вида: [math]p_{ij}=0.5, i,j=1,2[/math].

Такая матрица является стохастической, а, значит, корректно определяет марковскую цепь. Такая цепь является регулярной по определению регулярной марковской цепи.

Эргодическая теорема для регулярной марковской цепи

Теорема:

Для регулярной марковской цепи существует такой вектор [math]\omega = \lim\limits _{n \to +\infty} cP^n, \forall c[/math] такой, что [math]\omega = \omega P[/math].

Литература

Дж. Кемени, Дж. Снелл "Конечные цепи Маркова"