689
правок
Изменения
Нет описания правки
Пусть <tex> b_0 </tex> - вектор вероятностей начальных состояний, то есть <tex> b_0[j] </tex> - вероятность для цепи Маркова начать в состоянии j. Определим <tex> b_r[j]</tex> как вероятность находиться в состоянии <tex> j </tex> после первых <tex> r </tex> шагов.
Пусть <tex> p^r_j </tex> - количество раз, которое цепь Маркова находится в состоянии <tex> j </tex> за первые <tex> r </tex> шагов. Рассмотрим <tex> v_j v[j] </tex> - среднее количество раз, которое мы побываем в состоянии j:
<tex> v[j] = E(p^r_j) = E(p^{r-1}_j) + b_{r}[j] = (\sum\limits_{t = 0}^{r}b_{t})[j] = b_0(\sum\limits_{t = 0}^{r}b_Q^{t})[j] </tex>(<tex> E </tex> - математическое ожидание).
Отсюда <tex> v = b_0 \sum\limits_{t = 0}^{r}b_Q^{t} = b_0 N</tex>, где N - [[фундаментальная матрица|фундаментальная матрица]].
Математическое ожидание можно посчитать как сумму всех элементов вектора v.
