Эргодическая марковская цепь

Эргодическая цепь Маркова

Определение:

Марковская цепь называется эргодической, если существует дискретное распределение (называемое эргодическим) [math]\pi = (\pi_1,\pi_2,\ldots )^{\top}[/math], такое что [math]\pi_i \gt 0,\; i \in \mathbb{N}[/math] и [math]\lim\limits_{n \to \infty} p_{ij}^{(n)} = \pi_j, \quad \forall i=1,2, \ldots[/math].

Пример:

Рассмотрим эксперимент по бросанию честной монеты. Тогда соответствующая этому эксперименту марковская цепь будет иметь 2 состояния. Рассмотрим матрицу, следующиего вида: [math]p_{ij}=0.5, i=1,2[/math].

Такая матрица является стохастической, а, значит, корректно определяет марковскую цепь. Такая цепь является регулярной по определению.

См. также

Википедия: эргодическое распределение

Википедия: дискретное распределение

Литература

Дж. Кемени, Дж. Снелл "Конечные цепи Маркова"