Фундаментальная матрица

Определение:

Фундаментальной матрицей (англ. Fundamental matrix) цепи Маркова называется матрица [math] N = \sum\limits_{i=0}^{\infty} Q^n[/math], где [math]Q[/math] — матрица переходов между непоглощающими состояниями, в которой отсутствуют строки с поглощающими состояниями

Теорема:

[math] N = (I - Q) ^ {-1} [/math]

Доказательство:

[math]\triangleright[/math]

Домножим обе части равенства в определении на [math] (I - Q) [/math]: [math] (I - Q)N = (I - Q)(I + Q + Q^2 + \ldots) = I - Q + Q - Q^2 + Q^3 - Q^3 + \ldots = I[/math] Так как [math] \lim\limits_{n \rightarrow \infty} Q ^ n = 0 [/math], то ряд действительно сходится. Далее, домножив на [math] (I - Q) ^ {-1} [/math], получим требуемое равенство. Осталось лишь доказать, что матрица [math] (I - Q) ^ {-1} [/math] существует, то есть [math](I - Q) [/math] — невырожденная. Рассмотрим систему линейных уравнений вида: [math] (I - Q) x = 0 [/math] [math] Ix = Qx [/math] [math] x = Qx [/math] Домножив слева последнее равенство на матрицу [math] Q [/math] слева, получим: [math] Qx = Q^2x [/math] Но [math] x = Qx [/math], значит, [math] x = Q^2x [/math] Аналогично, [math] x = Q^nx [/math] для сколь угодно большого n. Так как [math] \lim\limits_{n \rightarrow \infty} Q ^ n = 0 [/math], то обязательно [math] x = 0[/math]. Значит, по альтернативе Фредгольма, матрица [math] I Q[/math] — невырожденная.

[math]\triangleleft[/math]

Применение

Фундаментальная матрица задает средние времена, которые марковский процесс проводит в невозвратном состоянии.

Так же фундаментальная матрица используется при расчете вероятности поглощения в состоянии

Литература

• Дж. Кемени, Дж. Снелл "Конечные цепи Маркова"
• Wikipedia - Absorbing Markov Chain, Fundamental matrix