Теорвер
<wikitex>
- 1. Пространство элементарных исходов (ПЭИ), примеры. Событие, действия над событиями. Алгебра и σ-алгебра событий. Условные алгебра и σ-алгебра событий. Примеры.
Пространство элементарных событий $\Omega$, выделенная сигма-алгебра подмножеств $\Sigma$, вероятностная мера $p$.
В случае дискретной модели: $\Sigma = 2^{\Omega}$, в общем случае про $\Sigma$ каким-то образом договариваемся.
Событием называется элемент $\Sigma$ (в дискретном случае это любое подмножесво $\Omega$).
Событие произошло, если исход эксперимента принадложит этому событию.
$\Omega$ является достоверным событием, $\Omega \setminus A$ — противоположным событием, $\emptyset$ является невозможным событием. $A$ и $B$ называются несовместными, если $A \cap B = \emptyset$.
TODO: тут что-то про операции над множествами и их свойства, не знаю нафига.
Определение: набор подмножеств $\mathcal{A}$ — алгебра, если
1. $\Omega \subset \mathcal{A}$ (на самом деле достаточно предположить непустоту) 2. $A \in \mathcal{A} \implies \overline A \in \mathcal{A}$ 3. $A, B \in \mathcal{A} \implies A \cup B \in \mathcal{A}$
Третья аксиома равносильна замкнутости по конечному объединению. Если замкнута по счетному объединению, называется сигма-алгеброй. Пару $(X, \Sigma)$ называют измеримым пространством.
Алгебра замкнута отновительно объединений, пересечений и дополнений в конечном числе. Сигма-алгебра — аналогично в счетно- бесконечном.
Борелевская сигма алгебра — минимальная сигма-алгебра, содержащая все открытые в топологии соответствующего пространства множества.
Примеры:
- $\Omega$ - конечно, тогда алгебра порождена элементарными исходами, сигма-алгебра такая же.
- $\Omega$ - счетно-бесконечно, алгебра порождена конечными множествами и дополнениями к ним (нет таких событий, которые счетные и дополнения к которым счетны), сигма-алгерба содержит все подмножества.
- $\Omega = \mathbb{R}$, алгебра порождена множествами $(-\infty, t)$. Алгебра собержит множества, являющиеся только объединением конечного числа полуинтервалов. Для сигма-алгебры — все полуинтервалы, является Борелевской сигма-алгеброй.
Пусть $\Omega$ — эксперимент, произошло событие $A$. Получаем условную (по отношению к $\Sigma$) сигма-алгебру $\Sigma_A = \{ X_A \mid X \in \Sigma, X_A = X A \}$.
- 2. Дискретная вероятностная схема: вероятностное пространство, счетная аддитивность вероятностной меры в дискретном случае.
Дискретным называется случай, когда $\Omega$ — не более чем счетно. В этом случае $\Sigma = 2^{\Omega}$. Вероятностная мера $p: \Omega \to \mathbb{R}$ в дискретном случае — выполняются свойства:
1. $p(\omega) \ge 0$ 2. $\sum\limits_{\omega \in \Omega} p(\omega) = 1$
По определению, $p(A) = \sum\limits_{\omega \in A} p(\omega)$
Утверждение: дискретная схема — частный случай общей:
1. $p(A) = \sum\limits_{\omega \in A} p(\omega) \ge 0$ 2. $p(\Omega) = \sum\limits_{\omega \in \Omega} p(\omega) = 1$ 3. если $A_1 \dots A_n \dots$ — дизъюнктный набор подмножеств $\Omega$, тогда $\sum\limits_{\omega \in \sum\limits_i A_i} p(\omega) =$ (по абс. сходимости)$=\sum\limits_i \sum\limits_{\omega \in A_i} p(\omega) = \sum\limits_i p(A_i)$
- 3. Примеры дискретных схем.
1. Классическая схема
$|\Omega| = n$, $\omega_1 \dots \omega_n$ — равновозможные, то есть $p(\omega_i) = \frac{1}{n}$, $p(A) = \frac{|A|}{|\Omega|}$. $p(\Omega) = 1$, то есть построили верную схему.
2. Геометрическая
Пареметр схемы — $p \in (0, 1)$. Пусть $A$ — событие, $p = p(A) \in (0, 1)$, и $A$ — результат опыта с двумя исходами. Проводятся независимые испытания до первого появления $A$. $\Omega = \{ \omega_1, \omega_2 \dots \omega_n \dots \}$, где $\omega_k = \overline A \overline A \dots A$, то есть $A$ выпало на $k$-м броске. $p(\omega_k) = (1 - p)^{k-1} p = q^{k-1}p$. $\sum p(w_k) = 1$, как и должно быть.
3. Схема Пуассона
Параметр схемы — $\lambda > 0$. $\Omega = \{ \omega_0, \omega_1 \dots \omega_n \dots \}$. $p(\omega_n) = \frac{\lambda^n}{n!} e^{-\lambda}$. Понятно, что есть положительная определенность, $\sum\limits_{n=0}^{\infty} e^{-\lambda} \frac{\lambda^n}{n!} = e^{-\lambda} \sum\limits_{n=0}^{\infty} \frac{\lambda^n}{n!} = e^{-\lambda} e^{\lambda} = 1$
4. Биномиальная (схема Бернулли повторения опыта)
Параметры схемы — $n \ge 0$, $p \in [0, 1]$. $\Omega = \{ \omega_0, \omega_1 \dots \omega_n \}$, $p(\omega) = p^{k(\omega)} q^{n - k(\omega)}$, где $k(\omega)$ — число успехов в серии из $n$ испытаний. $\omega_m = B_{n, p} (m) = \sum\limits_{k(\omega) m} \omega$ — ровно $m$ успехов. $|B_{n, p}(m)| = \binom{n}{m}$ $p(\omega_m) = \binom{n}{m} p^m (1- p)^{n - m}$. $\sum p(\omega_m) = \sum\limits_{m=0}^n \binom{n}{m} p^m (1 - p)^{n - m} = (p + (1 - p))^n = 1$
5. Гипергеометрическая схема
Имеется $n$ различимых объектов с двумя признаками, у $n_1$ объектов один признак, у $n_2 = n - n_1$ — второй. Случайно, без возвращения извлекается $k \le n$ шаров. $B_{n, n_1, k, k_1}$ — событие, что ровно $k_1$ элементов из $k$ будут с первым признаком, понятно, что таких событий будет $k + 1$ штук. $p(B_{n, n_1, k, k_1}) = \frac{\binom{n_1}{k_1} \binom{n - n_1}{k - k_1}}{\binom{n}{k}}$. PROOF проверить нормировку.
6. Обобщенная гипергеометрическая схема
То же, что в гипергеометрической, но признаков теперь $m$, то есть $n_1 + n_2 + \dots + n_m = n$, $B_{n,n_1 \dots n_m, k, k_1 \dots k_m}$ — вероятность того, что будет $k_1 \dots k_m$ шаров соответствующего признака. $p(B) = \frac{\binom{n_1}{k_1} \dots \binom{n_m}{k_m}}{\binom{n}{k}}$
7. Полиномиальная схема $\Omega_1 = A_1 \dots A_m$, $k$ независимых экспериментов $\Omega_k = \Omega_1 \times \dots \times $ TODO нихера не понятно. Обобщение биномиальной схемы, короче. Характеризуется вероятностями $p_1 \dots p_m$, вероятность того, что $k_i$ испытаний закончатся с $i$-м исходом равна $p_{n, p_1 \dots p_m}(k_1 \dots k_m) = \frac{n!}{k_1! \dots k_m!} p_1^{k_1} \dots p_m^{k_m}$.
- 4. Общая вероятностная схема: аксиомы Колмогорова (дискретная схема как частный случай общей), свойства вероятностной меры.
$(\Omega, \Sigma)$ — измеримое пространство. Введем $p : \Sigma \to \mathbb{R}$ такую, что:
1. $\forall A \in \Sigma: p(A) \ge 0$ 2. $p(\Omega) = 1$ 3. Пусть $A$ — счетный набор попарно дизъюнктных подмножеств, тогда $p(\sum A) = \sum p(A_i)$ (счетная аддитивность)
Это — аксиомы Колмогорова, $p$ является вероятностной мерой, а тройка $(\Omega, \Sigma, p)$ — вероятностным пространством. Дискретная схема — частный случай: $p(A) = \sum\limits_{w \in A} p(w)$, соблюдаются свойства 1-3 (PROOF показать)
Пусть $\mathcal{A}$ — набор множеств, $\sigma(\mathcal{A})$ — сигма-алгебра, порожденная $\mathcal{A}$
Свойства вероятностной меры:
1. $p(\emptyset) = 0$ — очевидно 2. конечная аддитивность — очевидно 3. $p(\overline A) = 1 - p(A)$ — очевидно 4. $A \subset B \implies p(A) \le p(B)$ — представим $B = A + (B \setminus A)$, дальше понятно 5. $0 \le p(A) \le 1$ — очевидно из $\emptyset \subset A \subset \Omega$ 6. $p(A + B) = p(A) + p(B) - p(AB)$ — понятно из $A + B = A + (B \setminus A) = (A + B) \setminus A B$. Следствие — $p(A + B) \le p(A) + p(B)$ 7. $p(\sum\limits_{i=1}^n A_i) = \sum\limits_{i=1}^n p(A_i) - \sum\limits_{i > j} p(A_i A_j) \dots + (-1)^{n-1} p(\prod\limits_{i=1}^n A_i)$. Следствие: $p(\sum\limits_{i=1}^\infty A_i) \le \sum\limits_{i=1}^\infty p(A_i)$ (PROOF не совсем очевидно)
- 5. Счетная аддитивность и аксиомы непрерывности, эквивалентность двух аксиом непрерывности. Связь счетной аддитивности и аксиом непрерывности.
1. Аксиома непрерывности для последовательно невозрастающей системы множеств: $B_1 \supset B_2 \dots B_n \dots$, $B = \lim B_n = \bigcap\limits_{n=1}^\infty B_n$, тогда определяем предел как $p(\lim B_n) = \lim p(B_n)$. 2. Аксиома непрерывности для последовательно неубывающей системы множеств: $A_1 \subset A_2 \dots A_n \dots$, $A = \lim A_n = \bigcup\limits_{n=1}^\infty B_n$, тогда определяем предел как $p(\lim A_n) = \lim p(A_n)$.
Утверждение: две формы аксиомы непрерывности эквивалентны. PROOF: док-во у Вали в конспекте есть
Утверждение: аксиома конечной аддитивности + 1 аксиома непрерывности равносильна аксиоме счетной аддитивности. PROOF док-во у Вали в конспекте
- 6. Независимость событий попарная и в совокупности, пример Бернштейна. Свойства независимых событий. Независимость экспериментов.
Определение: события называют независимыми, если $p(A B) = p(A) p(B)$, везде где говорят о событиях, имеют в виду только измеримые множества.
Свойства:
1. если $p(B) \ne 0$, тогда независимость эквивалентна тому, что $p(A \mid B) = p(A)$ (очевидно) 2. если $A$ и $B$ независимы, $A$ и $\overline B$ независимы (PROOF доказать) 3. если $A$ и $B$ независимы, $A$ и $C$ независимы, $B$ и $C$ не совместны, тогда $A$ и $B + C$ независимы (вроде очевидно). PROOF Упражнение: привести контрпример в случае совместности $B$ и $C$ 4. если события независимы и $p(A) \ne 0$, $p(B) \ne 0$, тогда они совместны. (очевидно)
Определение: события $A_1 \dots A_n$ независимы в совокупности, если для любого подмножества $B \subset A$: $p(\bigcap\limits_{i=1}^k B_i) = \prod\limits_{i=1}^k p(B_i)$
- из независимости в совокупности, очевидно, следует попарная
- обратное неверно, пример с тетраэдром Бернштейна (PROOF)
Независимость экспериментов: пусть $G_1$ и $G_2$ — два произвольных эксперимента. $(\Omega_1, \Sigma_1, p_1)$ и $(\Omega_2, \Sigma_2, p_2)$. Рассмотрим эксперимент $G$, в котором $\Omega = \Omega_1 \times \Omega_2, \Sigma = \Sigma_1 \times \Sigma_2$, $p$ определим как $p(C) = p(A \times B) = p(A \times \Omega_2) p(\Omega_1 \times B)$. Если $p(A \times B) = p(A) p(B)$, то $G_1$ и $G_2$ являются независимыми экспериментами. TODO неясно определение вероятности на $G$
- 7. Условная вероятность. Формула полной вероятности. Формула Байеса. Примеры.
Пусть $(\Omega, \Sigma, p)$ — вероятностное пространство, $B \in \Sigma, p(B) \ne 0$. Рассмотрим новое вероятностное пространство: $\Omega_B = B$, $\Sigma_B = \{ A_B \mid A_B = A B, A \in \Sigma \}$ — условная сигма-алгебра, и условное измеримое пространство $(B, \Sigma_B)$, $p_B(A_B) = \frac{p(A B)}{p(B)}$. PROOF проверить что $p_B$ — действительно вероятностная мера.
Определение: $p_B(A) = \frac{p(A B)}{p(B)} = p(A \mid B)$ на новом $\Omega_B$ является условной вероятностью.
Утверждение: $p_B$ является вероятностной мерой на исходном пространстве $(\Omega, \Sigma)$
1. $p_B \ge 0$ 2. $p_B(\Omega) = \frac{p(B \Omega)}{p(B)} = 1$ 3. $p_B(\sum_i A_i) = \frac{p((\sum_i A_i) B)}{p(B)} = \frac{p(\sum B A_i)}{p(B)} = \sum \frac{p(B A_i)}{p(B)} = \sum_i p(A_i \mid B) = \sum_i p_B(A_i)$
Следствие: для условной меры справедливы свойства 1-7 вероятностной меры
Если $p(A \mid B) = p(A)$, события независимы PROOF (вроде очевидно)
Формула полной вероятности: пусть $H_1 \dots H_n \dots$ — полный набор попарно несовместных событий. Тогда для любого $A \in \Sigma$ справедливо: $p(A) = \sum\limits_{p(H_i) \ne 0} p(H_i) p(A \mid H_i)$.
Док-во: $A = A \Omega = A (\sum H_i) = \sum A H_i$, $A H_i$ и $A H_j$ все еще несовместны, тогда по счетной аддитивности $p(A) = \sum p(A H_i)$. Пусть $p(H_i) = 0$, тогда так как $p(A H_i) \le p(H_i)$, $p(A H_i) = 0$. Тогда $p(A) = \sum\limits_{p(H) \ne 0} p(A H_i) = \sum\limits_{p(H_i) \ne 0} = p(H_i) p(A \mid H_i)$
Замечения: полнота системы $H_i$ — излишнее требование, достаточно $A \subset \sum H_i$
Следствие (формула Байеса): $p(A) \ne 0$, $p(H_i \mid A) = \frac{p(A H_i)}{p(A)} = \frac{p(H_i) p(A \mid H_i)}{\sum\limits_{p(H_i) \ne 0} p(H_i) p(A \mid H_i)}$, является апостериорной вероятностью.
TODO: пример: задача о разорении, в конспекте YAOutline
Можно пример про сломанную машину и бензин.
- 8. Схема Бернулли (построение на базе независимых по совокупности испытаний с двумя исходами). Наивероятнейшее событие в схеме Бернулли.
Пусть $Q_1 \dots Q_n$ — последовательность испытаний с двумя исходами. $A_i$ означает успех, $\overline A_i$ — неудачу. Пусть эта последовательность удовлетворяет условиям:
1. Набор экспериментов независим в совокупности 2. $p(A_i) = p$, то есть для всех экспериментов одинакова
$\Omega = \Omega_1 \times \Omega_2 \dots \Omega_n$ — последовательность из $n$ испытаний, тогда $P(\omega) = p(\omega_1 \omega_2 \dots \omega_n) = p^{k(\omega)} (1 - p)^{n - k(\omega)}$, где $k(\omega)$ — число успехов в $\omega$ и $p(B_n(m)) = \binom{n}{m} p^m q^{n - m}$ (TODO што)
Утверждение: для серии испытаний с двумя исходами справедливо утверждение выше тогда и только тогда когда выполнены 1 и 2. TODO муть
Зафиксируем в схеме Бернулли $n$. $\{ B_n(m) \}, m = 0 \dots n$.$p_{n, m} = p(B_{n, p}(m))$, $m_0$ называется наивероятнейшим числом успехов, если $\forall m: p_{n, m_0} \ge p_{n, m}$.
Утверждение:
1. $np + p \notin \mathbb{N}$, тогда существует единственный $m_0$, $n p - q < m_0 < np + p$ 2. $np + p \in \mathbb{N}$, тогда естт два $m_0$: $m_{01} = np - q, m_{02} = np + p$
TODO формулировка непонятная
Доказательство TODO блаблабла
- 9. Предельные теоремы для схемы Бернулли: связь гипергеометрического и биномиального распределений
Рассмотрим последовательность гипергеометрических распределений $B_{n, n_1}(k, k_1)$, $p_{n, n_1, k, k_1} = p(B_{n, n_1}(k, k_1))$, где $k$ и $k_1$ фиксированные, а $n$ и $n_1$ стремятся к бесконечности. Пусть при этом $\frac{n_1}{n} \to p \in (0, 1)$, тогда $p(B_{n, n_1}(k, k_1)) \to p(B_{k, p}(k_1))$. По сути означает, что если в урне дофига шаров, выбор с возвращением не сильно отличается от выбора с возвращением.
Док-во: надо показать, что $p_{n, n_1}(k, k_1) = \frac{\binom{n_1}{k} \binom{n - n_1}{k - k_1}}{\binom{n}{n_1}} \to \binom{k}{k_1} p^{k_1} q^{k - k_1}$. PROOF
Вывод: гипергеометрическая схема соответствует извлечению с двумя исходами без возвращения. Эти извлечения зависимы, но при $n \to \infty$ и $\frac{n_1}{n} \to p$, зависимость бесконечно мала.
- 10. Предельные теоремы для схемы Бернулли. Теорема Пуассона.
Рассмотрим последовательность биномиальных схем $B_{n, p}$, пусть $n \to \infty$, $p = p(n) \to 0$, причем так, что $n p \to \lambda + o(1)$ (TODO неясно, нафига о малое от единицы в конспекте), тогда для любого $m$: $p_{n, p, m} = p(B_{n, p}(m)) \to p(\Pi_\lambda(m)) = {\lambda^m \over m!} e^{-\lambda}$. PROOF у Вали в конспекте
То есть для схемы Бернулли в соответствующих условиях предельной является схема Пуассона.
- 11. Локальная теорема Муавра-Лапласа.
Функция Гаусса: $\varphi(x) = \frac{1}{\sqrt{2 \pi}} e^{-\frac{x^2}{2}}$ — плотность распределения нормального распределения. Также обозначим $x_m = \frac{m - np}{\sqrt{npq}}$.
Пусть $\Delta = [a, b]$ — конечный промежуток на $\mathbb{R}$, тогда для всех $\Delta$ равномерно по $m$ таким, что $x_m \in \Delta$ при любом выполнено: $p_m = p(B_{n, p}(m)) \sim \frac{1}{\sqrt{npq}} \varphi(x_m)$. PROOF Валин конспект стр 25,
- 12. Интегральная теорема Муавра-Лапласа.
Для схемы Бернулли при $n \to \infty$ для любого $[a, b]$ справедливо: $p(a \le \frac{m - np}{\sqrt{npq}} \le b) \to \int\limits_a^b \varphi(x) dx$
- 13. Понятие случайной величины. Примеры.
Пусть $(\Omega, \Sigma, p)$ — некое вероятностное пространство.
Определение: $x = x(\omega): \Omega \to \mathbb{R}$ — измеримая относительно $(\Sigma_B, \Sigma)$ является случайной величиной.
Функция $f: (X, \Sigma_X) \to (Y, \Sigma_Y)$ называется измеримой, если $\forall B \in \Sigma_Y: f^{-1}(B) \in \Sigma_X$. В дискретном случае все такие функции измеримы (TODO проверить)
$(\mathbb{R}, \Sigma_B)$ можно превратить в вероятностное пространство: $p_x$ — вероятностная мера, порожденная случайной величиной $x$ определяется как $p_x(A) = p(x^{-1}(A))$.
Проверяем аксиомы Колмогорова:
1. $p_x(\mathbb{R}) = p(x^{-1}(\mathbb{R})) = p(\Omega) = 1$ 2. $p_x(A) = p(x^{-1}(A) \in \Sigma) \ge 0$ 3. Рассмотрим дизъюнктные $A_1 \dots A_n \dots$, тогда при $i \ne j: x^{-1}(A_i) \cap x^{-1}(A_j) = \emptyset$. $p_x(\sum A_i) = p(x^{-1}(\sum A_i)) = p(\sum x^{-1}(A_i)) = \sum p(x^{-1}(A_i)) = \sum p_x(A_i)$, ч.т.д
Примеры: TODO
- 14. Функция распределения и ее свойства.
Рассмотрим $F_x(t)$ — функцию распределения вероятностей случайной величины, соответствующей мере $p_x(dx)$.
Определяем $F_x(t) = p(\{x < t\}) = p_x((-\infty, t))$. Замечание: в некоторых источниках неравенство заменяется на нестрогое. Характеристические свойства:
1. $F_x(t)$ не убывает. PROOF док-во у Вали в конспекте и вообще очевидно. Следствие: $p_x([a, b)) = F_x(b) - F_x(a)$ TODO интересно, почему это следствие, это не тупо свойство интеграла? 2. $\lim\limits_{t \to \infty} F_x(t) = 1$, $\lim\limits_{t \to -\infty} F_x(t) = 0$, то есть $0 \le F_x(t) \le 1$. PROOF док-во у Вали в конспекте 3. $F_x(t)$ непрерывна слева. $\lim\limits_{t \to t_0 - 0} = F_x(t_0)$ PROOF док-во у Вали в конспекте. Вообще непрерывность слева связана с тем, что в определении $F_x$ использовали открытые интервалы, был бы закрытый — была бы непрерывность справа.
Утверждение: эти три свойства характеристические, то есть любая функция с такими свойствами является функцией распределения и порождает вероятностную меру. (PROOF док-во позже и вообще отдельный билет вроде)
Еще свойства $F_x(t)$:
0. $p(x \in [a, b)) = F_x(b) - F_x(a)$ 1. $p(x \in [a, b]) = F_x(b) - F_x(a) + p(x = b)$, $p(x \in (a, b)) = F_x(b) - F_x(a) - p(x = a)$ 2. Если $F_x(t)$ постоянна на $[a, b)$, то $p_x([a, b)) = 0$. 3. $F_x(t)$ имеет не более чем счетное число точек разрыва и скачков. Док-во: $\Delta_n = \{t \mid F_x(t + 0) - F_x(t) > \frac{1}{n} \}, |\Delta_n| \le n$ (то есть перенумеруем все качки большого размера, потом — поменьше, и так далее, так как функция распределения неубывает, количество скачков ограничено), тогда множество точек разрыва представимо как $\bigcup\limits_n \Delta_n$, то есть не более чем счетно. 4. $F_x(t)$ дифференциируема почти везде (TODO без доказательства, это очевидно?)
- 15. Выборочное пространство – построение вероятностного пространства и случайной величины по заданной F(x) с тремя свойствами
Пусть для $F(x)$ выполняется:
1. монотонно не убывает 2. $\lim\limits_{x \to -\infty} F(x) = 0$, $\lim\limits_{x \to \infty} F(x) = 1$ 3. $F(x)$ непрерывна слева
Тогда сущестувет выборочное пространство $(\Omega, \Sigma, p)$ и случайная величина $X$ на нем такая, что $F_X(t) = F(t)$. (замечание: при этом в доказательстве строится такое пространство, что $\Omega = \mathbb{R}$, $\Sigma = \Sigma_B$.
TODO: У Вали в конспекте, после примеров функций распределения; Боровков стр 47
- 16. Примеры функций распределения.
1. Вырожденное
$X$ имеет вырожденное распределение ($X \sim I_c$), если $\forall \omega: X(\omega) = c \implies p_X(c) = 1$, $F_x(t) = \begin{cases}0, & t \le c \\ 1, & t > c\end{cases}$
2. Распределение Бернулли
$X$ имеет распределение Бернулли ($X \sim B_p$), если принимает $0$ и $1$ с вероятностями $1 - p$ и $p$ соответственно. $F_x(t) = \begin{cases}0, & t \le 0 \\ 1 - p, & 0 < t \le 1 \\ 1, & t > 1\end{cases}$
3. Распределение Пуассона
$X$ имеет распределение Пуассона с параметром $\lambda > 0$ ($X \sim \Pi_\lambda$), если $X$ принимает значения $0, 1, 2 \dots$ с вероятностями $p(X = k) = \frac{\lambda^k}{k!} e^{-\lambda}$. TODO Функция распределения, возможно, она страшная
4. Биномиальное распределение
$X$ имеет биномиальное распределение с параметрами $n$ и $p > 0$ ($X \sim B_{n, p}$), если $X$ принимает значения $0, 1, 2 \dots$ с вероятностями $p(X = k) = \binom{n}{k} p^k (1 - p)^k$
5. Равномерное распределение
$X \sim U(a, b)$, если $f_x(t) = \begin{cases}1, & t \in [a, b] \\ 0, & t \notin [a, b] \end{cases}$, $F_x(t) = \begin{cases}0, & t \le a \\ \frac{t - a}{b - a}, & a < t \le b\\ 1, & t > b\end{cases}$
5. Показательное распределение
$X \sim E_\lambda$, $\lambda > 0$ если $f_x(t) = \begin{cases}0, & t \le 0 \\ \lambda e^{-\lambda t}, & t > 0 \end{cases}$, $F_x(t) = \begin{cases}0, & t \le 0 \\ 1 - e^{-\lambda t}, & t > 0\end{cases}$
6. Нормальное распределение
$X$ имеет нормальное распределение с параметрами $a$ и $\sigma^2$ ($X \sim N_{a, \sigma^2}$), $a \in \mathbb{R}, \sigma > 0$, если $f_X(t) = \frac{1}{\sigma \sqrt{2 \pi}} e^{-\frac{(x - a)^2}{2 \sigma^2}}$ PROOF тут проверяют, что через плотность действительно задается функция распределения, но вообще она не выражается через элементарные функции, только через интеграл Эйлера-Пуассона.
7. Гипергеометрическое распределение TODO тоже можно написать
TODO у Вали в конспекте есть
- 17. Типы распределений. Дискретные распределения. Свойства вероятностей значений дискретной случайной величины.
Дискретное распределение: множество значений случайной величины (или весовых точек) не более чем счетно.
Функция распределения имеет скачки, равные $p_i$. (с точки зрения теории меры это сингулярное распределение. TODO чоо)
TODO эээ, что-то мало всего, примеры какие-нибудь, наверное, можно впилить.
- 18. Абсолютно непрерывные распределения и непрерывные случайные величины. Плотность распределения, ее свойства, связь с функцией распределения.
Под непрерывными распределениями понимают распределения с непрерывной функцией распределения. Они делятся на абсолютно непрерывные и сингулярные.
Абсолютно непрерывные распределения — такие, что существует $f_x(t)$ такая, что:
1. $f_x(t) \ge 0$ 2. $\forall A \in \Sigma_B: p(x \in A) = p_x(A) = \int\limits_A f_x(t) dt$
$f_x(t)$ называется плотностью распределения случайной величины $x$ или меры $p(dx)$ TODO почему d перед x?
Характеристические свойства плотности:
1. $f_x(t) \ge 0$ 2. интеграл на любом множестве (TODO прямо-таки любом?) измерим по Лебегу 3. нормировка: $1 = p_x(\mathbb{R}) = \int\limits_{\mathbb{R}} f_x(t) dt$
Утверждение: эти свойства действительно характеристические, то есть если есть функция с такими свойствами, то она — плотность распределения вероятности:
1. $F_x(t) = \int\limits_{-\infty}^t f_x(u) du$ TODO что-то про то, что $F_x$ определена и непрерывна, непонятно 2. Функция распределения положительно определена, так как плотность положительно определена 3. $F_x(t) \xrightarrow[t \to \infty]{} = 1$ из нормировки
TODO какая-то муть у Вали в конспекте, что $f_x(t)$ не определена ни в одной точке.
Там, где существует $F'_x$, $F'_x(t) = f_x(t)$.
- 19. Сингулярные распределения, пример построения сингулярного распределения.
$p = p(dx)$ на $(\mathbb{R}, \Sigma_B)$ называется сингулярной вероятностной мерой, если существует $B \in \Sigma_B$ такое, что:
1. $\lambda_1(B) = 0$ 2. $p(B) = 1$ 3. $p(\{x\}) = 0$, то есть вероятность попасть в точку — нулевая
Из определения следует свойство: $F_p(x)$ — функция распределения, соответствующая $p$(TODO что-то неразборчивое и странное дальше)
Пример построения сингулярной меры: кривая Кантора
$F_x(t) = \begin{cases} 0, & x < 0 \\ x, & x \ge 1 \end{cases}$
1. для $t \in [\frac13, \frac23] = A_{1,1}$, положим $F_x(t) = \frac{F_x(0 - 0) + F(1) }{2} = \frac12$ 2. для $t \in [\frac19, \frac29] = A_{1,1}: F_x(t) = \frac{F_x(0 - 0) + F(\frac13)}{2} = \frac14$, для $t \in [\frac79, \frac89] = A_{1,1}: F_x(t) = \frac{F_x(\frac13) + F(1)}{2} = \frac34$ 3. ну и так далее, берем множества $A_{k, i}$, где $i$ итерируется от $1$ до $2^{k-1}$, каждое будет длиной $\frac1{3^k}$. Теперь рассмотрим объединение всех этих отрезков $B_1$ и посчитаем $\lambda_1(B_1) = \sum\limits_{i=1}^\infty \frac{1}{3^i} 2^{i-1} = \frac13 \sum\limits_{i=0}^\infty \left( \frac{2}{3} \right)^i = \frac13 \frac1{1 - \frac23} = 1$. То есть $B_1$ имеет полную меру на $[0, 1]$ TODO дальше немного мутно, рассматривают зачем-то объединение внутренностей множеств $A_{k, i}$, и получают открытое $B_0, \lambda(B_0) = 1$. Так как на каждом интервале $A_{k, i}$ функция распределения постоянна, по счетной аддитивности получаем $p(B_0 = 0$. А теперь оп, возбьмем $B = [0, 1] \setminus B_0, \lambda(B) = 0, p(B) = 1$. Построенная $F_x(t)$ может быть доопределена до непрерывной (TODO зачем?). $\forall \delta: 0 < \delta < \frac1{3^k}: |F(x + \delta) - F(x)| \le \frac{1}{2^k} = \Delta_k$, для любого $\varepsilon$ подберем нужное $k$, тогда $|F(x + \delta_\varepsilon - F(x)| \le \frac{1}{2^{k_\varepsilon}} < \varepsilon$
Тогда $p(\{x\}) = F(x + 0) - F(x) = 0$, то есть мера Лебега точки нулевая.
- 20. Теорема Лебега. Смеси. Пример.
Случайная величина $X$ называется смесью, если найдутся дискретная $X_1$, абсолютно непрерывная $X_2$, сингулярная $X_3$ и числа $p_1, p_2, p_3 \in [0, 1), p_1 + p_2 + p_3 = 1$, что для любого $B \in \Sigma_B$: $p(X \in B) = p_1 p(X_1 \in B) + p_2 p(X_2 \in B) + p_3 p(X_3 \in B)$.
Теорема Лебега: любое вероятностное распределение на $(\mathbb{R}, \Sigma_B)$ может быть единственным образом представлено в виде смеси дискретного, абсолютно непрерывного и сингулярного.
TODO без доказательства, чтоли?
TODO пример надо запилить, в Валином конспекте со временем ожидания метро есть </wikitex>
