Info/2 курс/Теория вероятностей/Условные вероятности. Независимость.md

Содержание

• Условные вероятности
• Формула полной вероятности
• Формула Байеса
• Независимость событий

Условные вероятности

Далее будем использовать такие понятия, как событие, вероятность (P).

Условной вероятностью P(A|B) события A при условии, что произошло событие B, называется величина P(A|B) = \frac{P(AB)}{P(B)} (где A, B - некоторые события, причем P(B) > 0). Для условной вероятности также применяется обозначение P_B(A).

Теоремой умножения называется равенство P(AB) = P(B)P(A|B), которое следует из определения условной вероятности.

Теорема. (Теорема умножения). Пусть события A_1, \dots, A_n таковы, что P(A_1, \dots, A_{n-1}) > 0. Тогда P(A_1 \dots A_n) = P(A_1)P(A_2|A_1)P(A_3|A_1A_2) \dots P(A_n|A_1 \dots A_{n-1}).

Доказательство. Из условия теоремы следует существование всех условных вероятностей в требуемом уравнении. Индукция по n. При n = 2 требуемое равенство вытекает из определения теоремы умножения. Пусть требуемое равенство справедливо для n = k. Докажем его при n = k + 1. Подставляя в определение теоремы умножения B = A_1 \dots A_k и A = A_{k+1}, получим P(A_1 \dots A_k A_{k+1}) = P(A_1 \dots A_k) P(A_{k+1}|A_1 \dots A_k). Из этого равенства и индукционного предположения следует требуемое равенство при n = k+1. \blacksquare

Формула полной вероятности

Далее будем использовать такие понятия, как пространство элементарных событий (\Omega), событие, вероятность (P), условная вероятность, теорема умножения.

Конечное разбиение (пространства \Omega) - система событий B_1, B_2, \dots, B_n таких, что они попарно несовместимы и B_1 + B_2 + \dots + B_n = \Omega.

Теорема. (Формула полной вероятности). Пусть события B_1, \dots, B_n образуют конечное разбиение \Omega и все P(B_k) > 0. Тогда для любого события A справедлива формула P(A) = \sum\limits_{k=1}^{n} P(B_k) P(A|B_k), называемая формулой полной вероятности.

Доказательство. Из определения конечного разбиения следует разложения A на сумму A = A \Omega = AB_1 + AB_2 + \dots + AB_n. События AB_1, AB_2, \dots, AB_n попарно независимы. Из конечной аддитивности P и теоремы умножения получаем P(A) = \sum\limits_{k=1}^{n} P(AB_k) = \sum\limits_{k=1}^{n} P(B_k) P(A|B_k). \blacksquare

Формула Байеса

Далее будем использовать такие понятия, как событие, конечное разбиение, вероятность (P), условная вероятность, теорема умножения, формула полной вероятности.

Теорема. Пусть события B_1, \dots, B_n образуют конечное разбиение \Omega и все P(B_k) > 0. Тогда для любого события A, P(A) > 0, справедливы формулы P(B_k|A) = \frac{P(B_k) P(A|B_k)}{\sum\limits_{i=1}^{n} P(B_i) P(A|B_i)}, k = 1, \dots , n, называемые формулами Байеса.

Доказательство. По теореме умножения P(B_k|A) = P(B_k) P(A|B_k) = P(A) P(B_k|A). Следовательно P(B_k|A) = \frac{P(B_k)P(A|B_k)}{P(A)}. Применяя к знаменателю P(A) формулу полной вероятности, получаем требуемое равенство. \blacksquare

Независимость событий

Далее будем использовать такие понятия, как событие, вероятность (P), условная вероятность.

Независимые события (A, B) - события, для которых верно P(AB) = P(A)P(B).

Зависимые события (A, B) - события, которые не независимые.

Пусть A, B - независимые события.

1. P(B) > 0, \ P(AB) = P(A)P(B), \ P(A|B) = \frac{P(AB)}{P(B)} \implies P(A|B) = P(A).
2. P(\overline{A}B) = P(B - AB) = P(B)(1-P(A)) = P(\overline{A}) P(B) \implies \overline{A}, B - независимые события.
3. B_1B_2 = \varnothing, \ P(A(B_1 + B_2)) = P(AB_1 + AB_2) = P(AB_1) + P(AB_2) = P(A)(P(B_1) + P(B_2)) = P(A)P(B_1 + B_2) \implies A, B_1 + B_2 - независимые события.

Таким образом, получаем 3 свойства независимых событий.

1. P(A|B) = P(A)
2. \overline{A}, B - независимы
3. A, B_1 + B_2 - независимы

Можно обобщить определение независимости для нескольких событий.

Независимые события (A_1, A_2, \dots, A_n) - события, для которых верно \forall \ 1 \leq i_1 < i_2 < \dots < i_m \leq n, \ 2 \leq m \leq n, \ P(A_{i_1} A_{i_2} \dots A_{i_m}) = P(A_{i_1}) P(A_{i_2}) \dots P(A_{i_m}). В противном случае события зависимы. Независимость нескольких событий называется иногда независимостью событий в совокупности.