Вероятностное пространство
Вероя́тностное простра́нство (вероятностная тройка) — понятие, введённое А. Н. Колмогоровым в 30-х годах XX века для формализации понятия вероятности, которое дало начало бурному развитию теории вероятностей как строгой математической дисциплины. Состоит из трёх элементов:[1][2][3] пространства элементарных исходов — множество всех возможных исходов рассматриваемого случайного процесса; пространства событий — множество событий, где событие — это подмножество исходов в пространстве элементарных исходов; вероятностной функции — отображение, которое каждой подмножности из пространства событий сопоставляет вероятность, то есть число от 0 до 1 включительно. Для того чтобы эти элементы действительно моделировали вероятности, они должны удовлетворять аксиомам вероятности.
Введение
Вероятностное пространство — это математическая тройка , представляющая модель определённого класса реальных ситуаций. Как и в других моделях, автор сам определяет, какие элементы будут входить в , и .
- Пространство элементарных исходов — множество всех возможных исходов. Исход — результат одного выполнения модели. Исходами могут быть состояния природы, возможности, экспериментальные результаты и т. п. Каждый запуск эксперимента должен приводить ровно к одному исходу. Если исходы разных запусков различаются по признакам, важным для анализа, они считаются разными исходами. То, какие различия существенны, зависит от целей анализа, что приводит к разным вариантам выбора пространства исходов.
- Сигма-алгебра — совокупность всех рассматриваемых событий. Может включать или не включать каждое элементарное событие. Событие — это множество из нуля или более исходов, то есть подмножество пространства исходов. Событие считается «произошедшим» в эксперименте, если реализованный исход принадлежит этому событию. Поскольку один исход может входить в несколько событий, при одном исходе может произойти несколько событий. Например, при броске двух костей событие «сумма очков равна 7» и событие «выпало нечётное число очков» могут пересекаться. Если выпал исход «двойка на первой кости и пятёрка на второй», то оба события считаются произошедшими.
- Вероятностная мера — функция на множестве событий, возвращающая вероятность события. Вероятность — это вещественное число от 0 (невозможное событие, хотя событие с вероятностью 0 не обязательно невозможно) до 1 (событие происходит почти наверняка, с практически полной уверенностью). Таким образом, — функция . Вероятностная мера должна удовлетворять двум условиям: во-первых, вероятность счётного объединения попарно несовместимых событий равна сумме вероятностей этих событий. Например, вероятность объединения событий «орёл» и «решка» при одном броске монеты равна сумме вероятностей этих событий: . Во-вторых, вероятность пространства исходов равна 1 (что отражает тот факт, что при каждом запуске модели обязательно произойдёт какой-то исход). В приведённом примере вероятность , так как обязательно выпадет либо орёл, либо решка (другие варианты не рассматриваются).
Не каждое подмножество пространства обязательно считается событием: некоторые подмножества не представляют интереса, другие не могут быть измерены. Это неочевидно, например, для броска монеты, но в случае, скажем, метания копья, событиями обычно являются интервалы («от 60 до 65 метров») и их объединения, но не такие множества, как «иррациональные числа между 60 и 65 метрами».
Определение
Кратко, вероятностное пространство — это пространство с мерой, мера которого на всём пространстве равна единице.
Более формально, вероятностное пространство — это тройка , где:
- Пространство элементарных исходов — произвольное непустое множество,
- Сигма-алгебра (также называемая сигма-полем) — множество подмножеств , называемых событиями, такое что:
- содержит всё пространство исходов: ,
- замкнута относительно дополнения: если , то и ,
- замкнута относительно счётных объединений: если для , то
- Следствие из двух предыдущих свойств и закон де Моргана: также замкнута относительно счётных пересечений: если для , то
- Вероятностная мера — функция на , такая что:
- P счётно-аддитивна (или сигма-аддитивна): если — счётное семейство попарно несовместимых множеств, то
- мера всего пространства исходов равна единице: .
Дискретный случай
В дискретной теории вероятностей достаточно рассматривать счётные пространства исходов . Вероятности можно приписывать точкам с помощью функции вероятности так, что . Все подмножества считаются событиями (то есть — булеан). Вероятностная мера принимает вид
|
(⁎) |
Максимальная сигма-алгебра соответствует полной информации. В общем случае сигма-алгебра соответствует конечному или счётному разбиению , а событие имеет вид . См. также примеры ниже.
Случай допускается определением, но редко используется, так как такие можно безопасно исключить из пространства исходов.
Общий случай
Если Ω несчётно, всё же может быть, что P(ω) ≠ 0 для некоторых ω; такие ω называются атомами. Это не более чем счётное (возможно, пустое) множество, сумма вероятностей всех атомов которого равна их общей вероятности. Если эта сумма равна 1, то все остальные точки можно исключить, и задача сводится к дискретному случаю. Если сумма вероятностей всех атомов лежит между 0 и 1, вероятностное пространство раскладывается на дискретную (атомарную) и неатомарную части.
Неатомарный случай
Если P(ω) = 0 для всех ω ∈ Ω (в этом случае Ω обязательно несчётно, иначе P(Ω) = 1 не выполняется), то формула (⁎) не работает: вероятность множества не обязательно равна сумме вероятностей его элементов, так как сумма определена только для счётных множеств. Здесь применяется более сильный аппарат — теория меры. Сначала вероятности приписываются некоторым «генераторам» (см. примеры), затем с помощью предельного перехода определяются вероятности для множеств, являющихся пределами последовательностей генераторов, и так далее. Все такие множества образуют сигма-алгебру . Множества из называются измеримыми. Обычно они гораздо сложнее генераторов, но гораздо лучше, чем неизмеримые.
Полное вероятностное пространство
Вероятностное пространство называется полным, если для любого с и любого выполняется . Часто изучаются только полные вероятностные пространства.
Примеры
Дискретные примеры
Пример 1
Если эксперимент состоит из одного броска симметричной монеты, то исход — либо орёл, либо решка: . Сигма-алгебра содержит события: («орёл»), («решка»), («ни орёл, ни решка») и («или орёл, или решка»); то есть . Вероятность выпадения орла — 0,5, решки — 0,5, так что вероятностная мера: , , , .
Пример 2
Монета подбрасывается три раза. Всего 8 возможных исходов: Ω = {ООО, ООР, ОРО, ОРР, РОО, РОР, РРО, РРР} (например, «ОРО» означает: первый раз — орёл, второй — решка, третий — орёл). Полная информация описывается сигма-алгеброй из 2^8 = 256 событий, каждое из которых — подмножество Ω.
Алиса знает только результат второго броска. Её неполная информация описывается разбиением Ω = A1 ⊔ A2 = {ООО, ООР, РОО, РОР} ⊔ {ОРО, ОРР, РРО, РРР}, где ⊔ — дизъюнктное объединение, и соответствующей сигма-алгеброй . Брайан знает только общее число выпадений решки. Его разбиение состоит из четырёх частей: Ω = B0 ⊔ B1 ⊔ B2 ⊔ B3 = {ООО} ⊔ {ООР, ОРО, РОО} ⊔ {РРО, РОР, ОРР} ⊔ {РРР}; его сигма-алгебра содержит 24 = 16 событий.
Эти две сигма-алгебры несравнимы: ни , ни ; обе являются подалгебрами 2Ω.
Пример 3
Если из всех избирателей Калифорнии случайно выбираются 100 человек и их спрашивают, за кого они будут голосовать на выборах губернатора, то множество всех последовательностей из 100 калифорнийских избирателей будет пространством исходов Ω. Предполагается, что используется выборка без возвращения: допускаются только последовательности из 100 различных избирателей. Для простоты рассматривается упорядоченная выборка, то есть (Алиса, Брайан) отличается от (Брайан, Алиса). Также предполагается, что каждый избиратель заранее знает свой выбор.
Алиса знает только, получил ли Арнольд Шварценеггер не менее 60 голосов. Её неполная информация описывается сигма-алгеброй , содержащей: (1) множество всех последовательностей, где за Шварценеггера проголосовали не менее 60 человек; (2) множество, где менее 60; (3) всё пространство Ω; (4) пустое множество ∅.
Брайан знает точное число голосов за Шварценеггера. Его информация описывается разбиением Ω = B0 ⊔ B1 ⊔ ⋯ ⊔ B100 и сигма-алгеброй из 2101 событий.
В этом случае сигма-алгебра Алисы вложена в сигма-алгебру Брайана: . Сигма-алгебра Брайана, в свою очередь, вложена в гораздо большую «полную» сигма-алгебру 2Ω из 2n(n-1)\cdots(n-99) событий, где n — число всех избирателей Калифорнии.
Неатомарные примеры
Пример 4
Случайно, равномерно выбирается число от 0 до 1. Здесь Ω = [0,1], — сигма-алгебра борелевских множеств на Ω, а P — мера Лебега на [0,1].
В этом случае открытые интервалы вида, где 0 < a < b < 1, можно взять за генераторы. Каждому такому множеству приписывается вероятность P((a,b)) = b - a, что порождает меру Лебега на [0,1] и борелевскую сигма-алгебру на Ω.
Пример 5
Монета подбрасывается бесконечно много раз. Можно взять Ω = {0,1}∞ — множество всех бесконечных последовательностей из 0 и 1. Цилиндрические множества {(x1, x2, ...) ∈ Ω : x1 = a1, ..., xn = an} можно использовать как генераторы. Каждое такое множество описывает событие, при котором первые n бросков дали фиксированную последовательность (a1, ..., an), а остальные значения произвольны. Вероятность такого события равна 2−n.
Эти два неатомарных примера тесно связаны: последовательность (x1, x2, ...) ∈ {0,1}∞ соответствует числу 2^{-1}x_1 + 2^{-2}x_2 + \cdots \in [0,1]. Это не взаимно однозначное соответствие между {0,1}∞ и [0,1], а изоморфизм с точностью до нуля, что позволяет рассматривать эти пространства как две формы одного и того же вероятностного пространства. На самом деле все «непатологические» неатомарные вероятностные пространства эквивалентны в этом смысле и называются стандартными вероятностными пространствами. Базовые приложения вероятностных пространств не зависят от стандартности, однако условные вероятности в недискретных пространствах естественны только для стандартных пространств.
Связанные понятия
Случайные величины
Случайная величина X — это измеримая функция X: Ω → S из пространства исходов Ω в другое измеримое пространство S, называемое пространством состояний.
Если A ⊂ S, то обозначение Pr(X ∈ A) обычно используется как сокращение для .
Определение событий через пространство исходов
Если Ω счётно, почти всегда берут равным булеану Ω, то есть , что тривиально является сигма-алгеброй и максимальной из возможных. Поэтому часто пишут просто (Ω, P), опуская .
Если же Ω несчётно и взять , то возникают трудности с определением вероятностной меры P, так как слишком «велика» — часто найдутся множества, которым невозможно приписать единственную меру. В этом случае используют меньшую сигма-алгебру , например борелевская алгебра Ω — наименьшую сигма-алгебру, делающую все открытые множества измеримыми.
Условная вероятность
Определение вероятностного пространства по Колмогорову естественным образом приводит к понятию условной вероятности. Каждое множество A с положительной вероятностью (то есть P(A) > 0) определяет новую вероятностную меру
Для любого события A с P(A) > 0 функция Q, определённая как \,A) для всех событий B, сама является вероятностной мерой.
Независимость
Два события A и B называются независимыми, если P(A \cap B) = P(A)P(B).
Две случайные величины X и Y называются независимыми, если любое событие, определяемое через X, независимо от любого события, определяемого через Y. Формально, они порождают независимые сигма-алгебры: две сигма-алгебры G и H, подмножества F, называются независимыми, если любое множество из G независимо от любого множества из H.
Несовместность
Два события A и B называются несовместными или дизъюнктными, если наступление одного исключает наступление другого, то есть их пересечение пусто. Это более сильное условие, чем равенство вероятности их пересечения нулю.
Если A и B несовместны, то P(A \cup B) = P(A) + P(B). Это обобщается на (конечную или счётную) последовательность событий. Однако вероятность объединения несчётного семейства событий не равна сумме их вероятностей. Например, если Z — нормально распределённая случайная величина, то P(Z = x) равно 0 для любого x, но P(Z \in \mathbb{R}) = 1.
Событие A \cap B называют «A и B», а событие A \cup B — «A или B».
Примечания
Литература
- Биллингсли, Патрик: Probability and Measure, John Wiley and Sons, New York, Toronto, London, 1979.
- Gut, Allan. Probability: A Graduate Course. — Springer, 2005. — ISBN 0-387-22833-0.
Ссылки
- http://www.math.princeton.edu/~nelson/books.html
- Сазонов, В. В. (2001), Probability space, in Hazewinkel, Michiel, Encyclopedia of Mathematics, Springer, ISBN 978-1-55608-010-4
- Виртуальные лаборатории по вероятности и статистике (автор Кайл Сигрист)
- Вероятностные пространства
- Citizendium
- Полное вероятностное пространство