Раздел 12. Теория вероятностей.

1. Введение

2. Простейшие понятия теории вероятностей

3. Алгебра событий

4. Вероятность случайного события

5. Геометрические вероятности

6. Классические вероятности. Формулы комбинаторики.

7. Условная вероятность. Независимость событий.

8. Формула полной вероятности и формулы Байеса

9. Схема повторных испытаний. Формула Бернулли и её асимптотика

10. Случайные величины (СВ)

11. Ряд распределения ДСВ

12. Интегральная функция распределения

13. Функция распределения НСВ

14. Плотность вероятности НСВ

15. Числовые характеристики случайных величин

16. Примеры важных распределений СВ

16.1. Биномиальное распределение ДСВ.

16.2. Распределение Пуассона

16.3. Равномерное распределение НСВ.

16.4. Нормальное распределение.

17. Предельные теоремы теории вероятностей.

Введение

Теория вероятностей, подобно многим другим математическим дисциплинам, развивалась из потребностей практики. При этом, изучая реальный процесс, приходилось создавать абстрактную математическую модель реального процесса. Обычно учитывают главные, наиболее существенные движущие силы реального процесса, отбрасывая из рассмотрения второстепенные, которые называются случайными. Конечно, что считать главным, а что второстепенным,- отдельная задача. Решение этого вопроса определяет уровень абстракции, простоту или сложность математической модели и уровень адекватности модели реальному процессу. В сущности, любая абстрактная модель является результатом двух противостоящих устремлений: простоты и адекватности реальности.

Например, в теории стрельбы разработаны достаточно простые и удобные формулы для определения траектории полёта снаряда из орудия, расположенного в точке (рис. 1).

В определённых условиях упомянутая теория является достаточной, например, при массированной артподготовке.

Однако ясно, что если из одного орудия при одинаковых условиях произвести несколько выстрелов, то траектории будут хотя и близкими, но все же отличающимися. И если размер цели мал по сравнению с областью рассеивания, то возникают специфические вопросы, связанные именно с влиянием факторов, неучтённых в рамках предлагаемой модели. При этом учёт дополнительных факторов приведёт к слишком сложной модели, пользоваться которой практически невозможно. К тому же, этих случайных факторов бывает много, природа их чаще всего неизвестна.

В приведённом примере такими специфическими вопросами, выходящими за рамки детерминированной модели, являются, например, следующие: сколько надо произвести выстрелов, чтобы с определённой уверенностью (например, на ) гарантировать поражение цели? как надо провести пристрелку, чтобы на поражение цели затратить наименьшее количество снарядов? и т.п.

Как мы увидим в дальнейшем, слова «случайный», «вероятность» станут строгими математическими терминами. Вместе с тем они весьма распространены в обычной разговорной речи. При этом считается, что прилагательное «случайный» является противопоставлением «закономерному». Однако, это не так, ибо природа устроена таким образом, что случайные процессы обнаруживают закономерности, но при определённых условиях.

Основное условие называется массовостью.

Например, если подбросить монету, то нельзя предсказать, что выпадает, герб или цифра,- можно лишь угадать. Однако, если эту монету подбросить большое число раз, что доля выпадений герба будет не сильно отличается от некоторого числа, близкого к 0,5 (в дальнейшем это число мы назовем вероятностью). Причем, с увеличением числа подбрасываний отклонение от этого числа будет уменьшаться. Это свойство называется устойчивостью средних показателей (в данном случае - доли гербов). Надо сказать, что на первых шагах теории вероятностей, когда надо было на практике убедиться в наличии свойства устойчивости, даже большие учёные не считали за труд провести самостоятельно проверку. Так, известен опыт Бюффона, который подбросил монету 4040 раз, и герб выпал 2048 раз, следовательно, доля (или относительная частота) выпадения герба равна 0,508, что близко интуитивно к ожидаемому числу 0,5.

Поэтому обычно даётся определение предмета теории вероятностей как раздела математики, изучающего закономерности массовых случайных процессов.

Надо сказать, что, несмотря на то, что наибольшие достижения теории вероятностей относятся к началу прошлого века, в особенности благодаря аксиоматическому построению теории в работах А.Н. Колмогорова (1903-1987), интерес к изучению случайностей проявился давно.

Сначала интересы были связаны с попытками применить числовой подход к азартным играм. Первые достаточно интересные результаты теории вероятностей принято связывать с работами Л. Пачоли (1494г), Д. Кардано (1526) и Н. Тартальи (1556).

Позже Б. Паскаль (1623-1662), П. Ферма (1601-1665), Х. Гюйгенс (1629-1695) заложили основы классической теории вероятностей. В начале 18 века Я. Бернулли (1654-1705) формирует понятие вероятности случайного события как отношение числа благоприятствующих шансов к числу всех возможных. На использовании понятия меры множества строили свои теории Э. Борель (1871-1956), А. Ломницкий (1881-1941), Р. Мизес (1883-1953).

Теоретико-множественная точка зрения в наиболее законченном виде была изложена в 1933г. А.Н. Колмогоровым в его монографии «Основные понятия теории вероятностей». Именно с этого момента теория вероятностей становится строгой математической наукой.

Большой вклад в развитие теории вероятностей внесли русские математики П.Л. Чебышёв (1821-1894), А.А. Марков (1856-1922), С.Н. Бернштейн (1880-1968) и другие.

Теория вероятностей бурно развивается и в настоящее время.

Простейшие понятия теории вероятностей

Как любая математическая дисциплина, теория вероятностей начинается с введения простейших понятий, которые не определяются, а лишь поясняются.

Одним из основных первичных понятий является опыт. Под опытом понимается некоторый комплекс условий, которые могут воспроизводиться неограниченное число раз. Каждую реализацию этого комплекса и назовем опытом или испытанием. Результаты опыта могут быть различными, в этом и проявляется элемент случайности. Различные результаты или исходы опыта называются событиями (точнее случайными событиями). Таким образом, при осуществлении опыта может произойти то или иное событие. Другими словами, случайное событие – это исход опыта, который при осуществлении опыта может произойти (появиться) или не произойти.

Опыт будем обозначать буквой , а случайные события обозначаются обычно заглавными буквами

Часто в опыте можно заранее выделить его исходы, которые можно назвать простейшими, которые нельзя разложить на более простые. Такие события называются элементарными событиями (или случаями).

Пример 1. Пусть подбрасывается монета. Исходами опыта являются: выпадение герба (обозначим это событие буквой ); выпадение цифры (обозначим ). Тогда можно записать: опыт ={подбрасывание монеты}, исходы: Ясно, что элементарные события в данном опыте. Иначе говоря, перечисление всех элементарных событий опыта полностью его описывает. По этому поводу будем говорить, что опыт есть пространство элементарных событий, и в нашем случае опыт кратко можно записать в виде: ={подбрасывание монеты}={Г;Ц}.

Пример 2 . ={монета подбрасывается дважды}= Здесь приведено словесное описание опыта и перечисление всех элементарных событий: означает, что сначала при первом подбрасывании монеты выпал герб, при втором – тоже герб; означает, что при первом подбрасывании монеты выпал герб, при втором цифра и т.д.

Пример 3. В системе координат в квадрат бросаются точки. В этом примере элементарными событиями являются точки с координатами которые удовлетворяют приведенным неравенствам. Кратко это записывается следующим образом:

Двоеточие в фигурных скобках означает, что состоит из точек но не любых, а только тех, которые удовлетворяют условию (или условиям), указанным после двоеточия (в нашем примере это неравенства).

Пример 4. Монета подбрасывается до первого выпадения герба. Другими словами, подбрасывание монеты продолжается до тех пор, пока не выпадет герб. В этом примере элементарные события перечислить можно, хотя их бесконечное число:

Заметим, что в примерах 3 и 4 пространство элементарных событий насчитывает бесконечное число исходов. В примере 4 их можно перечислить, т.е. пересчитать. Такое множество называется счетным. В примере 3 пространство является несчетным.

Введем в рассмотрение еще два события, которые присутствуют в любом опыте и которые имеют большое теоретические значение.

Назовем событие невозможным, если в результате опыта оно обязательно не произойдет. Будем его обозначать знаком пустого множества . Наоборот, событие, которое в результате опыта обязательно произойдёт называется достоверным. Достоверное событие обозначается так же, как и само пространство элементарных событий – буквой .

Например, при подбрасывании игральной кости событие {выпало меньше 9 очков} - достоверное, а событие {выпало ровно 9 очков} невозможное.

Итак, пространство элементарных событий может задаваться словесным описанием, перечислением всех его элементарных событий, заданием правил или условий, по которым получаются все его элементарные события.

Алгебра событий

До сих пор мы говорили лишь об элементарных событиях как непосредственных результатах опыта. Однако в рамках опыта можно говорить и о других случайных событиях, кроме элементарных.

Пример 5. При подбрасывании игральной кости, кроме элементарных событий выпадений соответственно единицы, двойки,…, шестерки, можно говорить о других событиях: (выпадение четного числа), (выпадение нечетного числа), (выпадение числа, кратного трем), (выпадение числа, меньшего 4) и т.п. В данном примере указанные события, кроме словесного задания, можно задать перечислением элементарных событий:

Образование новых событий из элементарных, а также из других событий осуществляется с помощью операций (или действий) над событиями.

Определение. Произведением двух событий и называется событие, состоящее в том, что в результате опыта произойдет и событие ,и событие , т. е произойдут оба события вместе (одновременно).

Знак произведения (точку) часто не ставят:

Определение. Суммой двух событий называется событие, состоящее в том, что в результате опыта произойдет или событие ,или событие ,или оба вместе (одновременно).

В обоих определениях мы намеренно подчеркнули союзы и и или -сцелью привлечь внимание читателя к своей речи при решении задач. Если мы произносим союз «и», то речь идет о произведении событий; если произносится союз «или», то события надо складывать. При этом заметим что союз «или» в обиходной речи часто используется в смысле исключения одного из двух: «только или только ». В теории вероятностей такое исключение не предполагается: и ,и , и означают появление события

Если задано перечислением элементарных событий, то сложные события с помощью указанных операций получить просто. Для получения надо найти все элементарные события, принадлежащие обоим событиям, если таковых нет, то Сумму событий также составить несложно: надо взять любое из двух событий и добавить к нему те элементарные события из другого события, которые не входят в первое.

В примере 5 получаем, в частности

Введенные операции называются бинарными, т.к. определены для двух событий. Большое значение имеет следующая унарная операция (определенная для одного события): событие называется противоположным событию если оно состоит в том, что в данном опыте событие не произошло. Из определения ясно, что всякое событие и ему противоположное обладают следующими свойствами: Введённая операция называется дополнением события А.

Отсюда следует, что если задано перечислением элементарных событий, то, зная задание события ,легко получить оно состоит из всех элементарных событий пространства которые не принадлежат В частности, для примера 5 событие

Если нет скобок, то устанавливается следующий приоритет в выполнении операций: дополнение, умножение, сложение.

Итак, с помощью введённых операций пространство элементарных событий пополняется другими случайными событиями, которые образуют так называемую алгебру событий.

Пример 6. По мишени стрелок произвёл три выстрела. Рассмотрим события = {стрелок попал в мишень при i-м выстреле}, i = 1,2,3.

Составим из этих событий (не забудем и о противоположных ) некоторые события. Пространных комментариев не приводим; полагаем, что читатель проведёт их самостоятельно.

Событие В = {все три выстрела попали в мишень}. Подробнее: В = {и первый, и второй, и третий выстрелы попали в мишень}. Использовали союз и, следовательно, события перемножаются:

Аналогично:

С = {ни один из выстрелов не попал в цель}

Е = {один выстрел достиг мишени}

Д = {мишень поражена при втором выстреле} = ;

F = {мишень поражена двумя выстрелами}

Н = {в мишени окажется хотя бы одно попадание}

Как известно, в математике большое значение имеет геометрическая интерпретация аналитических объектов, понятий и формул.

В теории вероятностей удобно наглядное представление (геометрическая интерпретация) опыта, случайных событий и операций над ними в виде так называемых диаграмм Эйлера-Венна . Суть состоит в том, что всякий опыт отождествляется (интерпретируется) с бросанием точек в некоторый квадрат. Точки бросаются наугад, так что у всех точек имеются одинаковые шансы попасть в любое место этого квадрата. Квадрат определяет рамки рассматриваемого опыта. Каждое событие в рамках опыта отождествляется с некоторой областью квадрата. Иначе говоря, осуществление события означает попадание случайной точки внутрь области, обозначенной буквой Тогда операции над событиями легко интерпретируются геометрически (рис.2)

А:

А + В: всякая

штриховка

На рис.2 а) для наглядности событие А выделено вертикальной штриховкой, событие В - горизонтальной. Тогда операции умножения соответствует двойная штриховка - событию соответствует та часть квадрата которая покрыта двойной штриховкой. При этом, если то и называются несовместными событиями. Соответственно операции сложения соответствует любая штриховка- событие означает часть квадрата, заштрихованная любой штриховкой – вертикальной, горизонтальной и двойной. На рис.2 б) показано событие ему соответствует заштрихованная часть квадрата - все, что не входит в область Введенные операции обладают следующими основными свойствами, некоторые из которых справедливы для одноименных операций над числами, но есть и специфические.

1 0 . коммутативность умножения;

2 0 . коммутативность сложения;

3 0 . ассоциативность умножения;

4 0 . ассоциативность сложения,

5 0 . дистрибутивность умножения относительно сложения,

6 0 . дистрибутивность сложения относительно умножения;

9 0 . законы двойственности де Моргана,

10 0 .

1 .A .A+ .A· =A, 1 .A+ . 1 .A· = , 1 .A+ =

Пример 7. Иван и Петр договорились встретиться на временном промежутке в Т час, например, (0,Т). При этом они условились, что каждый из них, придя на встречу, ждет другого не более час.

Придадим этому примеру геометрическую интерпретацию. Обозначим: время прихода на встречу Ивана; время прихода на встречу Петра. Согласно договоренности: 0 . Тогда в системе координат получаем: = Нетрудно заметить, что в нашем примере пространство элементарных событий представляет собой квадрат. 1

0 x соответствует та часть квадрата, которая расположена выше этой прямой.Аналогично, второму неравенству y≤x+ и; и не работает, если не работают все элементы, т.е. .Таким образом, второй закон двойственности де Моргана: реализуется при параллельном соединении элементов.

Приведённый пример показывает, почему теория вероятностей находит большое применение в физике, в частности, в расчетах надежности реальных технических устройств.

Некоторые программисты после работы в области разработки обычных коммерческих приложений задумываются о том, чтобы освоить машинное обучение и стать аналитиком данных. Часто они не понимают, почему те или иные методы работают, и большинство методов машинного обучения кажутся магией. На самом деле, машинное обучение базируется на математической статистике, а та, в свою очередь, основана на теории вероятностей. Поэтому в этой статье мы уделим внимание базовым понятиям теории вероятностей: затронем определения вероятности, распределения и разберем несколько простых примеров.

Возможно, вам известно, что теория вероятностей условно делится на 2 части. Дискретная теория вероятностей изучает явления, которые можно описать распределением с конечным (или счетным) количеством возможных вариантов поведения (бросания игральных костей, монеток). Непрерывная теория вероятностей изучает явления, распределенные на каком-то плотном множестве, например на отрезке или в круге.

Можно рассмотреть предмет теории вероятностей на простом примере. Представьте себя разработчиком шутера. Неотъемлемой частью разработки игр этого жанра является механика стрельбы. Ясно, что шутер в котором всё оружие стреляет абсолютно точно, будет малоинтересен игрокам. Поэтому, обязательно нужно добавлять оружию разброс. Но простая рандомизация точек попадания оружия не позволит сделать его тонкую настройку, поэтому, корректировка игрового баланса будет сложна. В то же время, используя случайные величины и их распределения можно проанализировать то, как будет работать оружие с заданным разбросом, и поможет внести необходимые корректировки.

Пространство элементарных исходов

Допустим, из некоторого случайного эксперимента, который мы можем многократно повторять (например, бросание монеты), мы можем извлечь некоторую формализуемую информацию (выпал орел или решка). Эта информация называется элементарным исходом, при этом целесообразно рассматривать множество всех элементарных исходов, часто обозначаемое буквой Ω (Омега).

Структура этого пространства целиком зависит от природы эксперимента. Например, если рассматривать стрельбу по достаточно большой круговой мишени, - пространством элементарных исходов будет круг, для удобства размещенный с центром в нуле, а исходом - точка в этом круге.

Кроме того, рассматривают множества элементарных исходов - события (например, попадание в «десятку» - это концентрический круг маленького радиуса с мишенью). В дискретном случае всё достаточно просто: мы можем получить любое событие, включая или исключая элементарные исходы за конечное время. В непрерывном же случае всё гораздо сложнее: нам понадобится некоторое достаточно хорошее семейство множеств для рассмотрения, называемое алгеброй по аналогии с простыми вещественными числами, которые можно складывать, вычитать, делить и умножать. Множества в алгебре можно пересекать и объединять, при этом результат операции будет находиться в алгебре. Это очень важное свойство для математики, которая лежит за всеми этими понятиями. Минимальное семейство состоит всего из двух множеств - из пустого множества и пространства элементарных исходов.

Мера и вероятность

Вероятность - это способ делать выводы о поведении очень сложных объектов, не вникая в принцип их работы. Таким образом, вероятность определяется как функция от события (из того самого хорошего семейства множеств), которая возвращает число - некоторую характеристику того, насколько часто может происходить такое событие в реальности. Для определённости математики условились, что это число должно лежать между нулем и единицей. Кроме того, к этой функции предъявляются требования: вероятность невозможного события нулевая, вероятность всего множества исходов единичная, и вероятность объединения двух независимых событий (непересекающихся множеств) равна сумме вероятностей. Другое название вероятности - вероятностная мера. Чаще всего используется Лебегова мера , обобщающая понятия длина, площадь, объём на любые размерности (n -мерный объем), и таким образом она применима для широкого класса множеств.

Вместе совокупность множества элементарных исходов, семейства множеств и вероятностной меры называется вероятностным пространством . Рассмотрим, каким образом можно построить вероятностное пространство для примера со стрельбой в мишень.

Рассмотрим стрельбу в большую круглую мишень радиуса R , в которую невозможно промахнуться. Множеством элементарных событий положим круг с центром в начале координат радиуса R . Поскольку мы собираемся использовать площадь (меру Лебега для двумерных множеств) для описания вероятности события, то будем использовать семейство измеримых (для которых эта мера существует) множеств.

Примечание На самом деле, это технический момент и в простых задачах процесс определения меры и семейства множеств не играет особой роли. Но понимать, что эти два объекта существуют, необходимо, ведь во многих книгах по теории вероятности теоремы начинаются со слов: «Пусть (Ω,Σ,P) - вероятностное пространство … ».

Как уже сказано выше, вероятность всего пространства элементарных исходов должна равняться единице. Площадь (двумерная мера Лебега, которую мы обозначим λ 2 (A) , где А – событие) круга по хорошо известной со школы формуле равна π *R 2 . Тогда мы можем ввести вероятность P(A) = λ 2 (A) / (π *R 2) , и эта величина уже будет лежать между 0 и 1 для любого события А.

Если предположить, что попадание в любую точку мишени равновероятно, поиск вероятности попадания стрелком в какую-то то область мишени сводится к поиску площади этого множества (отсюда можно сделать вывод, что вероятность попадания в конкретную точку нулевая, ведь площадь точки равна нулю).

Например, мы хотим узнать, какова вероятность того, что стрелок попадёт в «десятку» (событие A – стрелок попал в нужное множество). В нашей модели, «десятка» представляется кругом с центром в нуле и радиусом r. Тогда вероятность попадания в этот круг P(A) = λ 2 /(A)π *R 2 = π * r 2 /(π R 2)= (r/R) 2 .

Это одна из самых простых разновидностей задач на «геометрическую вероятность», - большинство таких задач требуют поиска площади.

Случайные величины

Случайная величина – функция, переводящая элементарные исходы в вещественные числа. К примеру, в рассмотренной задаче мы можем ввести случайную величину ρ(ω) – расстояние от точки попадания до центра мишени. Простота нашей модели позволяет явно задать пространство элементарных исходов: Ω = {ω = (x,y) такие числа, что x 2 +y 2 ≤ R 2 } . Тогда случайная величина ρ(ω) = ρ(x,y) = x 2 +y 2 .

Средства абстракции от вероятностного пространства. Функция распределения и плотность

Хорошо, когда структура пространства хорошо известна, но на самом деле так бывает далеко не всегда. Даже если структура пространства известна, она может быть сложна. Для описания случайных величин, если их выражение неизвестно, существует понятие функции распределения, которую обозначают F ξ (x) = P(ξ < x) (нижний индекс ξ здесь означает случайную величину). Т.е. это вероятность множества всех таких элементарных исходов, для которых значение случайной величины ξ на этом событии меньше, чем заданный параметр x .

Функция распределения обладает несколькими свойствами:

1. Во-первых, она находится между 0 и 1 .
2. Во-вторых, она не убывает, когда ее аргумент x растёт.
3. В третьих, когда число -x очень велико, функция распределения близка к 0 , а когда само х большое, функция распределения близка к 1 .

Вероятно, смысл этой конструкции при первом чтении не слишком понятен. Одно из полезных свойств – функция распределения позволяет искать вероятность того, что величина принимает значение из интервала. Итак, P (случайная величина ξ принимает значения из интервала ) = F ξ (b)-F ξ (a) . Исходя из этого равенства, можем исследовать, как изменяется эта величина, если границы a и b интервала близки.

Пусть d = b-a , тогда b = a+d . А следовательно, F ξ (b)-F ξ (a) = F ξ (a+d) - F ξ (a) . При малых значениях d , указанная выше разность так же мала (если распределение непрерывное). Имеет смысл рассматривать отношение p ξ (a,d)= (F ξ (a+d) - F ξ (a))/d . Если при достаточно малых значениях d это отношение мало отличается от некоторой константы p ξ (a) , не зависящей от d, то в этой точке случайная величина имеет плотность, равную p ξ (a) .

Примечание Читатели, которые ранее сталкивались понятием производной, могут заметить что p ξ (a) – производная функции F ξ (x) в точке a . Во всяком случае, можно изучить понятие производной в посвященной этой теме статье на сайте Mathprofi.

Теперь смысл функции распределения можно определить так: её производная (плотность p ξ , которую мы определили выше) в точке а описывает, насколько часто случайная величина будет попадать в небольшой интервал с центром в точке а (окрестность точки а) по сравнению с окрестностями других точек. Другими словами, чем быстрее растёт функция распределения, тем более вероятно появление такого значения при случайном эксперименте.

Вернемся к примеру. Мы можем вычислить функцию распределения для случайной величины, ρ(ω) = ρ(x,y) = x 2 +y 2 , которая обозначает расстояние от центра до точки случайного попадания в мишень. По определению F ρ (t) = P(ρ(x,y) < t) . т.е. множество {ρ(x,y) < t)} – состоит из таких точек (x,y) , расстояние от которых до нуля меньше, чем t . Мы уже считали вероятность такого события, когда вычисляли вероятность попадания в «десятку» - она равна t 2 /R 2 . Таким образом, Fρ(t) = P(ρ(x,y) < t) = t 2 /R 2 , для 0

Мы можем найти плотность p ρ этой случайной величины. Сразу заметим, что вне интервала она нулевая, т.к. функция распределения на этом промежутке неизменна. На концах этого интервала плотность не определена. Внутри интервала её можно найти, используя таблицу производных (например из на сайте Mathprofi) и элементарные правила дифференцирования. Производная от t 2 /R 2 равна 2t/R 2 . Значит, плотность мы нашли на всей оси вещественных чисел.

Ещё одно полезное свойство плотности – вероятность того, что функция принимает значение из промежутка, вычисляется при помощи интеграла от плотности по этому промежутку (ознакомиться с тем, что это такое, можно в статьях о собственном , несобственном , неопределенном интегралах на сайте Mathprofi).

При первом чтении, интеграл по промежутку от функции f(x) можно представлять себе как площадь криволинейной трапеции. Ее сторонами являются фрагмент оси Ох, промежуток (горизонтальной оси координат), вертикальные отрезки, соединяющие точки (a,f(a)), (b,f(b)) на кривой с точками (a,0), (b,0) на оси Ох. Последней стороной является фрагмент графика функции f от (a,f(a)) до (b,f(b)) . Можно говорить об интеграле по промежутку (-∞; b] , когда для достаточно больших отрицательных значений, a значение интеграла по промежутку будет меняться пренебрежимо мало по сравнению с изменением числа a. Аналогичным образом определяется и интеграл по промежуткам }