Регулярная марковская цепь

Регулярная цепь Маркова

Определение:

Марковская цепь называется регулярной (нормальной), если в ней нет невозвратных состояний и она имеет единственное эргодическое множество с одним циклическим классом.

Определение:

Состояние [math]i[/math] называется возвратным, если [math]p_{ii} = 1[/math].

Эргодическая теорема для регулярной марковской цепи

Утверждение:

Для регулярной марковской цепи существует такой вектор [math]\omega = \lim\limits _{n \to +\infty} cP^n, \forall c[/math] такой, что [math]\omega = \omega P[/math].

См. также

Википедия: возвратное состояние

Литература

Дж. Кемени, Дж. Снелл "Конечные цепи Маркова"