Список заданий по ДМ 2016 весна

<wikitex>

1. Чему равна вероятность, что две случайно вытянутые кости домино можно приложить друг к другу по правилам домино?
2. Чему равна вероятность, что на двух брошенных честных игральных костях выпадут числа, одно из которых делит другое?
3. Чему равна вероятность, что если вытянуть из колоды две случайные карты, одной из них можно побить другую (одна из мастей назначена козырем, картой можно побить другую, если они одинаковой масти или если одна из них козырь)?
4. Чему равна вероятность, что на двадцати брошенных честных монетах выпадет поровну нулей и единиц?
5. Петя и Вася три раза бросают по одной честной игровой кости. Вася два раза выкинул строго больше, чем Петя, а один раз строго меньше. При этом Петя в сумме выкинул строго больше, чем Вася. С какой вероятностью такое могло произойти?
6. Петя собирается смотреть серию матчей финала Флатландской хоккейной лиги. В финале две команды играют до 5 побед, ничьих не бывает, таким образом максимум в финале будет не более 9 матчей. Вася рассказал Пете, что всего в финале было 7 матчей. Петя считает матч интересным, если перед его просмотром он не знает, кто выиграет финал. Какова вероятность, что будет хотя бы 5 интересных матчей?
7. Петя собирается смотреть серию матчей финала Флатландской хоккейной лиги. В финале две команды играют до 5 побед, ничьих не бывает, таким образом максимум в финале будет не более 9 матчей. Вася рассказал Пете, что всего в финале было 7 матчей. Петя считает матч зрелищным, если перед его просмотром он не знает, кто его выиграет. Какова вероятность, что будет хотя бы 5 зрелищных матчей?
8. Приведите пример событий, независимых попарно, но зависимых в совокупности
9. Приведите пример трех событий, для которых $P(A \cap B \cap C) = P(A)P(B)P(C)$, но которые не являются независимыми, причем вероятности всех трех событий больше 0
10. Доказать или опровергнуть, что для независимых событий $A$ и $B$ и события $C$, где $P(C) > 0$ выполнено $P(A \cap B|C) = P(A|C)P(B|C)$
11. Доказать или опровергнуть, что для независимых событий $A$ и $B$ и события $C$, где $P(A) > 0$, $P(B) > 0$ выполнено $P(C|A \cap B) = P(C|A)P(C|B)$
12. Рассмотрим множество костей домино (неупорядоченные пары $(i, j)$, где $i$ и $j$ от 0 до 6, всего костей 28). Можно ли вероятностное пространство костей домино естественным образом представить как прямое произведение вероятностных пространств?
13. Доказать или опровергнуть: если $P(A|B) = P(B|A)$, то $P(A) = P(B)$
14. Доказать или опровергнуть: если $P(A|B) = P(B|A)$, то $A$ и $B$ независимы
15. Доказать или опровергнуть: если $P(A|C) = P(B|C)$, то $P(C|A) = P(C|B)$
16. Доказать или опровергнуть: если $A$ и $B$ независимы, то $\Omega \setminus A$ и $\Omega \setminus B$ независимы
17. Перемножим счетное число вероятностных пространств, соответствующих честным монетам. Что получится? Как бы вы ввели на результате вероятностную меру?
18. Найдите математическое ожидание и дисперсию значения на нечестной монете
19. Найдите распределение и математическое ожидание следующей случайной величины: число бросков нечестной монеты до первого выпадения 1.
20. Найдите распределение и математическое ожидание следующей случайной величины: число бросков честной монеты до второго выпадения 1.
21. Докажите, что если $f$ и $g$ независимы, то для любых $a$ и $b$ события $[f = a]$ и $[g = b]$ независимы
22. Случайные величины f, g и h называются независимыми в совокупности, если для любых a, b и c события [f <= a], [g <= b] и [h <= c] независимы. Приведите пример независимых попарно, но не независимых в совокупности случайных величин
23. Случайные величины f, g и h называются независимыми в совокупности, если для любых a, b и c события [f <= a], [g <= b] и [h <= c] независимы. Приведите пример независимых попарно, но не независимых в совокупности случайных величин, запрещается использовать величины, пропорциональные индикаторным случайным величинам событий
24. Найдите математическое ожидание числа инверсий в перестановке чисел от 1 до $n$
25. Найдите математическое ожидание числа подъемов в перестановке чисел от 1 до $n$
26. Найдите математическое ожидание числа троек $i$, $j$, $k$, где $i < j < k$ и $a[i] < a[j] < a[k]$ в перестановке чисел от 1 до $n$
27. Предложите метод генерации случайной перестановки порядка $n$ с равновероятным распределением всех перестановок, если мы умеем генерировать равномерно распределенное целое число от 1 до $k$ для любых небольших $k$ ($k = O(n)$).
28. Дает ли следующий метод равномерную генерацию всех перестановок? "p = [1, 2, ..., n]; for i from 1 to n: swap(p[i], p[random(1..n)] )"
29. Дает ли следующий метод равномерную генерацию всех перестановок? "p = [1, 2, ..., n]; for i from 1 to n: swap(p[random(1..n)], p[random(1..n)] )"
30. Предложите метод генерации случайного сочетания из $n$ по $k$ с равновероятным распределением всех сочетаний, если мы умеем генерировать равномерно распределенное целое число от 1 до $t$ для любых небольших $t$ ($t = O(n)$)
31. Предложите метод генерации случайного сочетания из $n$ по $k$ с равновероятным распределением всех сочетаний, если мы умеем генерировать равномерно распределенное целое число от 1 до $t$ для любых небольших $t$ ($t = O(n)$), использующий $O(k)$ времени и памяти.
32. Найдите математическое ожидание и дисперсию значения на честной игральной кости
33. Верно ли, что если $\xi$ и $\eta$ - независимые случайные величины, то таким будут и $f(\xi)$ и $g(\eta)$ для любых функций $f$ и $g$?
34. Постройте случайную величину, имеющую конечное математическое ожидание и бесконечную дисперсию.
35. Оцените вероятность, что значение на игральной кости отличается от матожидания больше чем на 2 с помощью неравенства Чебышева. Какова погрешность оценки?
36. Докажите, что вероятность того, что значения на двух нечестных игральных костях совпадает, не меньше $1/6$.
37. Найдите дисперсию следующей случайной величины: число бросков честной монеты до первого выпадения 1.
38. Найдите дисперсию следующей случайной величины: число бросков честной монеты до $k$-го выпадения 1.
39. Докажите, что корреляция случайных величин лежит в диапазоне от -1 до 1
40. Докажите или опровергните, что корреляция случайных величин равна 0 тогда и только тогда, когда они независимы
41. Докажите, что корреляция случайных величин равна 1 тогда и только тогда, когда они линейно зависимы $(f = cg)$ и $c > 0$ (если $c < 0$, то корелляция равна -1)
42. Петя и Вася играют в игру. Они бросают честную монету, и выписывают результаты бросков. У каждого из игроков есть критерий победы, выигрывает тот, чей критерий наступит раньше. Петя выигрывает в тот момент, когда результаты последних двух бросков равны 11. Вася выигрывает, когда результаты последних двух бросков равны 00. С какой вероятностью Петя выиграет?
43. Петя и Вася играют в игру. Они бросают честную монету, и выписывают результаты бросков. У каждого из игроков есть критерий победы, выигрывает тот, чей критерий наступит раньше. Петя выигрывает в тот момент, когда результаты последних двух бросков равны 01. Вася выигрывает, когда результаты последних двух бросков равны 00. С какой вероятностью Петя выиграет?
44. Петя и Вася играют в игру. Они бросают честную монету, и выписывают результаты бросков. У каждого из игроков есть критерий победы, выигрывает тот, чей критерий наступит раньше. Петя выигрывает в тот момент, когда результаты последних двух бросков равны 01. Вася выигрывает, когда результаты последних двух бросков равны 00. С какой вероятностью Петя выиграет?
45. Можно ли сделать игру в предыдущем задании честной (чтобы вероятности выигрышей оказались равны $1/2$), используя нечестную монету?
46. По аналогии с доказательством на лекции, докажите оценку на отклонение суммы $n$ честных монет от $n/2$ вниз: $P(\xi \le (1-\delta)n/2) \le \exp(-\delta^2/(4n))$.
47. Используйте метод границы Чернова, чтобы следующее. Пусть нечестную монету с вероятностью выпадения 1 равной p бросили $n$ раз. Обозначим случайную величину "число выпавших единиц" как $\xi$. Тогда $P(\xi \le n/2) \le exp(-\frac{1}{2p}n\left(p-\frac{1}{2}\right)^2)$.
48. Сколько байт в бите?
49. Докажите, что для монеты энтропия максимальна в случае честной монеты
50. Докажите, что для n исходов энтропия максимальна если они все равновероятны
51. Зафиксируйте ваш любимый язык программирования. Колмогоровской сложностью $K(x)$ для слова $x$ называется длина минимальной программы, которая выводит слово $x$. Докажите, что колмогоровская сложность не превышает $n H(x) + O(\log n)$, где $n$ - длина строки $x$, $H(x)$ - энтропия случайного источника с распределением соответствующим частотам встречания символов в $x$, константа в $O$, не зависит от слова $x$ (но может зависеть от выбранного языка программирования)
52. Докажите, что для любого $c > 0$ найдется слово, для которого $K(x) < c n H(x)$
53. Пусть заданы полные системы событий $A = \{a_1, ..., a_n\}$ и $B = \{b_1, ..., b_m\}$. Определим условную энтропию $H(A | B)$ как $-\sum\limits_{i = 1}^m P(b_i) \sum\limits_{j = 1}^n P(a_j | b_i) \log P(a_j | b_i))$. Докажите, что $H(A | B) + H(B) = H(B | A) + H(A)$
54. Что можно сказать про $H(A | B)$ если $a_i$ и $b_j$ независимы для любых $i$ и $j$?
55. Что можно сказать про $H(A | A)$?
56. Петя хочет пойти в кино с вероятностью ровно 1/3, а у него есть только честная монета. Может ли он осуществить свой замысел?
57. Решите предудыщее задание для любой дроби $0 \le p/q \le 1$.
58. Постройте схему получения вероятности 1/3 с помощью честной монеты, имеющую минимальное математическое ожидание числа бросков. Докажите оптимальность вашей схемы.
59. Рассмотрим случайное блуждание точки на прямой, пусть точка начинает в точке $p$ ($p$ - целое) и каждую секунду переходит равновероятно на 1 влево или вправо. Точка поглощается в точках 0 и $n$ ($n$ целое, больше $p$). Найдите вероятность поглощения в точке 0.
60. Рассмотрим случайное блуждание точки на прямой, пусть точка начинает в точке 0 и каждую секунду переходит равновероятно на 1 влево или вправо. Докажите, что математическое ожидание максимума координаты точки за $n$ шагов есть $O(\sqrt{n})$.
61. Дана марковская цепь с двумя состояниями и вероятностью перехода из 1 в 2 равной $a$, вероятностью перехода из 2 в 1 равной $b$. Найдите в явном виде $n$-ю степень матрицы переходов.
62. Петя и Вася играют в игру. Они бросают честную монету, и выписывают результаты бросков. У каждого из игроков есть критерий победы, выигрывает тот, чей критерий наступит раньше. Петя выигрывает в тот момент, когда результаты последних двух бросков равны 0101. Вася выигрывает, когда результаты последних двух бросков равны 000. С какой вероятностью Петя выиграет?
63. Предложите решение предыдущей задачи для произвольных выигрышных строк Васи и Пети (за полином от суммы длин этих строк).
64. Петя и Вася играют в игру. Они бросают честную монету, и выписывают результаты бросков. У каждого из игроков есть критерий победы, выигрывает тот, чей критерий наступит раньше. Петя выигрывает в тот момент, когда результаты последних двух бросков равны 001. Какую строку длины 3 оптмально выбрать Васе, чтобы его вероятность выигрыша была максимальна?
65. Предложите решение предыдущей задачи для произвольной выигрышной строки Пети (за полином от длины этой строки).
66. Пусть последовательно генерируется последовательность из 0 и 1 длины $n$. Каждый элемент последовательности определяется с помощью броска честной монеты. Определите, с какой вероятностью некоторый префикс этой последовательности представляет собой запись двоичного числа, которое делится на 3.
67. Пусть последовательно генерируется последовательность из 0 и 1 длины $n$. Каждый элемент последовательности определяется с помощью броска честной монеты. Предложите алгоритм определния, с какой вероятностью некоторый префикс этой последовательности представляет собой запись двоичного числа, которое делится на $p$ для заданного целого $p$.
68. Для симуляции распределения двумя исходами с вероятностями $p/q$ и $1-p/q$, где $p$ и $q$ целые, с помощью честной монеты можно использовать метод с делением отрезка [0-1], изложенный на лекции, а можно использовать поглощающую марковскую цепь "пьяницы на прямой" с $q+1$ вершиной. Проведите сравнительный анализ этих двух методов.
69. Докажите, что математическое ожидание числа экспериментов при симуляции одного распределения другим асимптотически пропорционально отношению энтропий распределений (считайте, что энтропия симулируемого распределения больше).
70. Постройте регулярную Марковскую цепь с двумя состояниями и эргодическим распределением $[a, 1-a]$ для заданного $a$.
71. Постройте регулярную Марковскую цепь с $n$ состояниями и заданным распределением $[a, 1-a]$.
72. В случае, если НОД длин циклов единственного эргодического класса не равен 1, соотвтствующая Марковская цепь будет периодической и эргодического распреления не будет. Тем не менее, что можно сказать про распределения в моменты с заданным остатком по модулю НОД длин циклов?
73. Завершите доказательство леммы из эргодической теоремы для регулярных цепей. Докажите, что если $P$ - матрица переходов, не содержащая нулей, то для любого вектора $u$ с максимальным элементом $M$ и минимальным элементом $m$ максимальный и минимальный элементы $Pu$ $M'$ и $m'$, соответственно, удовлетворяют условиям $m \le m'$, $M \ge M'$, $M'-m' \le (M - m)(1 - 2\varepsilon)$, где $\varepsilon$ - минимальный элемент $P$.

</wikitex>