28. Зависимые и независимые случайные величины
Случайные величины называются независимыми, если закон распределения одной из них не зависит от того какое значение принимает другая случайная величина.
Понятие зависимости случайных величин является очень важным в теории вероятностей.
Условные распределения независимых случайных величин равны их безусловным распределениям.
Определим необходимые и достаточные условия независимости случайных величин.
Теорема. Для того, чтобы случайные величины Х и Y Были независимы, необходимо и достаточно, чтобы функция распределения системы (X, Y) была равна произведению функций распределения составляющих.
Аналогичную теорему можно сформулировать и для плотности распределения:
Теорема. Для того, чтобы случайные величины Х и Y Были независимы, необходимо и достаточно, чтобы плотность совместного распределения системы (X, Y) была равна произведению плотностей распределения составляющих.
Определение. Корреляционным моментом MXy Случайных величин Х и Y называется математическое ожидание произведения отклонений этих величин.
Практически используются формулы:
Для дискретных случайных величин: 
Для непрерывных случайных величин: 
Корреляционный момент служит для того, чтобы охарактеризовать связь между случайными величинами. Если случайные величины независимы, то их корреляционный момент равен нулю.
Корреляционный момент имеет размерность, равную произведению размерностей случайных величин Х и Y. Этот факт является недостатком этой числовой характеристики, т. к. при различных единицах измерения получаются различные корреляционные моменты, что затрудняет сравнение корреляционных моментов различных случайных величин.
Для того, чтобы устранить этот недостаток применятся другая характеристика – коэффициент корреляции.
Определение. Коэффициентом корреляции Rxy случайных величин Х и Y называется отношение корреляционного момента к произведению средних квадратических отклонений этих величин.
Коэффициент корреляции является безразмерной величиной. Коэффициент корреляции независимых случайных величин равен нулю.
Свойство: Абсолютная величина корреляционного момента двух случайных величин Х и Y не превышает среднего геометрического их дисперсий.
Свойство: Абсолютная величина коэффициента корреляции не превышает единицы.
Случайные величины называются Коррелированными, если их корреляционный момент отличен от нуля, и Некоррелированными, если их корреляционный момент равен нулю.
Если случайные величины независимы, то они и некоррелированы, но из некоррелированности нельзя сделать вывод о их независимости.
Если две величины зависимы, то они могут быть как коррелированными, так и некоррелированными.
Часто по заданной плотности распределения системы случайных величин можно определить зависимость или независимость этих величин.
Наряду с коэффициентом корреляции степень зависимости случайных величин можно охарактеризовать и другой величиной, которая называется Коэффициентом ковариации. Коэффициент ковариации определяется формулой:
Пример. Задана плотность распределения системы случайных величин Х и Y.
Выяснить являются ли независимыми случайные величины Х и Y.
Для решения этой задачи преобразуем плотность распределения:
Таким образом, плотность распределения удалось представить в виде произведения двух функций, одна из которых зависит только от Х, а другая – только от У. Т. е. случайные величины Х и Y независимы. Разумеется, они также будут и некоррелированы.
Зависимые и независимые случайные величины
В двух предыдущих пунктах было показано, как, зная закон распределения системы двух (дискретных или непрерывных) случайных величин, найти законы распределения отдельных компонент X и Y.
Вопрос: «Можно ли, зная законы распределения отдельных случайных величин X и Y, входящих в систему, найти закон распределения всей системы?»
Прежде, чем ответить на этот вопрос, рассмотрим пример.
Пример 2.2.11. Законы распределений СВДТ X и Y заданы при помощи таблиц:
| X | –1 | Y | –1 | ||
| P | 0,5 | 0,5 | P | 0,5 | 0,5 |
Построим следующие две таблицы:
| Y X | –1 | Y X | –1 | |||
| –1 | 0,5 | 0,5 | –1 | 0,25 | 0,25 | 0,5 |
| 0,5 | 0,5 | 0,25 | 0,25 | 0,5 | ||
| 0,5 | 0,5 | 0,5 | 0,5 |
Распределения соответствующих компонент в одной и другой таблицах одинаковы. Однако очевидно, что эти таблицы описывают абсолютно различные распределения двумерного случайного вектора (все значения в одной таблице отличны от соответствующих значений в другой таблице).
Таким образом, на поставленный выше вопрос можно дать следующий ответ: «Зная законы распределения отдельных случайных величин X и Y, входящих в систему, найти закон распределения всей системы в общем случае нельзя».
Заметим, что это можно сделать только в одном частном случае, когда случайные величины X и Y, образующие систему, независимы.
Определение. Две случайные величины X и Y называются независимыми, если независимы все связанные с ними события.
Например, и ; и и т.д.
Замечание. Так как зависимость и независимость событий всегда взаимны (если событие A не зависит от события B, то и событие B не зависит от события A), поэтому зависимость и независимость случайных величин также всегда взаимны: если случайная величина X не зависит от случайной величины Y, то Y не зависит от X.
В терминах законов распределения независимость случайных величин можно определить так: «Две случайные величины называются независимыми, если закон распределения каждой из них не зависит от того, какое значение приняла другая».
Если компоненты X и Y двумерного вектора независимы, то функция распределения выражается, через функции распределения отдельных компонент:
Верно и обратное утверждение. Это правило является необходимым и достаточным условием независимости для случайных величин любого типа.
Необходимые и достаточные условия независимости компонент X и Y для дискретного и непрерывного случаев:
1. X и Y являются независимыми дискретными случайными величинами тогда и только тогда, когда для всех значений индексов i и j выполняется
2. X и Y являются независимыми непрерывными случайными величинами тогда и только тогда, когда
Отметим, что допускается нарушение последнего равенства на множестве точек , имеющих двумерную площадь, равную нулю.
Пример 2.2.12. Закон распределения двумерного дискретного случайного вектора задан таблицей:
| Y X | |||
| 0,1 | 0,1 | 0,1 | 0,1 |
| 0,05 | 0,05 | 0,05 | 0,05 |
| 0,1 | 0,1 | 0,1 | 0,1 |
Определить, зависимы или независимы компоненты X и Y.
Решение. Составим законы распределения компонент X и Y:
| Y X | ||||
| 0,1 | 0,1 | 0,1 | 0,1 | 0,4 |
| 0,05 | 0,05 | 0,05 | 0,05 | 0,2 |
| 0,1 | 0,1 | 0,1 | 0,1 | 0,4 |
| 0,25 | 0,25 | 0,25 | 0,25 |
Проверим теперь выполнение условия для всех пар индексов , . Очевидно, что это условие выполнено для любых i и j. Значит, компоненты X и Y независимы.
Ответ: компоненты X и Y независимы.
Замечание. В данном случае независимость компонент X и Y можно было установить, внимательно посмотрев на исходную таблицу, задающую закон распределения случайного вектора . Из этой таблицы видно, что закон распределения каждой из компонент не зависит от того, какое значение приняла другая компонента.
Пример 2.2.13. Система двух непрерывных случайных величин имеет плотность распределения
Найти константу С. Определить, зависимы или независимы X и Y. Составить функцию распределения .
Решение. Из условия нормировки для функции плотности имеем:
отсюда . Таким образом,
Найдем функции плотности отдельных компонент:
Очевидно, что равенство выполняется для всех точек координатной плоскости. Значит, компоненты X и Y независимы. Найдем функцию распределения системы . Так как компоненты независимы, значит, . Найдем вначале и :
Перемножая и при «прямоугольнику» и учитывая, что , , получим:
| Y X |
Понравилась статья? Добавь ее в закладку (CTRL+D) и не забудь поделиться с друзьями:
Зависимость и коэффициент ковариации
непрерывных случайных величин
На предыдущем уроке мы рассмотрели функции распределения и плотности непрерывной двумерной случайной величины и в заключительной статье разбёрём: зависимость и независимость этой СВ, условные законы распределения, матожидания, коэффициент ковариации и корреляции. Коротко теория, подробно задачи.
И сразу быстренько вспоминаем: две случайные величины являются независимыми, если закон распределения одной из них не зависит от того, какое значение значения приняла другая случайная величина. Например, случайные погрешности измерений двух независимо работающих измерительных приборов.
Если же СВ зависимы, то закон распределения одной величины зависит от того, какое значение приняла другая величина. Классика жанра: – рост случайно выбранного человека, – его вес. Ну, или наоборот, сначала смотрим на вес, а затем анализируем закон распределения роста.
Условные законы распределения случайных величин обозначаются следующим образом:
– условный закон распределения СВ , при условии, что СВ примет (или уже приняла) какое-либо КОНКРЕТНОЕ значение :
– условный закон распределения , при условии, что примет или уже приняла некоторое КОНКРЕТНОЕ значение .
В случае независимости случайных величин все условные законы будут совпадать с законом распределения случайной величины (ибо «игрековая» величина никак не влияет на «иксовую»), и все условные законы – совпадать с законом .
Но вот с зависимыми величинами всё не так: встретился нам мальчик-с-пальчик , и мы сталкиваемся с – условным законом распределения веса именно этой «ростовой категории». А вот если попался дядя Стёпа, то условный закон распределения веса таких дядей стёп будет совсем другим.
С нахождением условных законов дискретных СВ мы уже разобрались (см. по ссылке), и сейчас научимся их строить для непрерывных случайных величин:
Двумерная непрерывная случайная величина задана своей плотностью распределения в квадрате и принимает значения только из этой области. Найти:
1) – плотности распределения компонент и их матожидания ;
2) Условные плотности и условные математические ожидания
Сделать вывод о зависимости или независимости случайных величин.
Решение: функцию плотности я взял из Примера 8 и первый пункт решения уже частично готов:
1) а именно, найдены функции :
Для удобства я воспользуюсь тригонометрической формулой и перепишу функцию в виде:
Напомню смысл этих функций. Функция задаёт закон распределения случайной величины без учёта возможного влияния на него случайной величины (эта оговорка нужна на тот случай, если зависимы). И «зеркально»: функция определяет закон распределения СВ – без учёта возможного влияния СВ.
По этой причине функции иногда называют безусловными плотностями распределения компонент , и сейчас нам нужно вычислить их безусловные математические ожидания .
Так как плотности компонент совпадают, то работы у нас в два раза меньше:
2) Найдём плотность распределения случайной величины при условии, что случайная величина принимает различные КОНКРЕТНЫЕ значения . Эта функция принципиально отличатся от тем, что учитывает влияние (если оно есть), и поэтому её называют условной плотностью распределения случайной величины .
Данная функция определяется по формуле:
Легко видеть, что закон распределения случайной величины зависит от того, какое значение приняла переменная . Так, например, при получаем:
, если и при иных значениях .
А если, например, , то получается совсем другая плотность:
– на том же промежутке .
Задание: самостоятельно проверьте, что любая из полученных функций обладает общими свойствами функции плотности: и .
Таким образом, здесь можно сразу сделать вывод о том, что двумерная случайная величина состоит из зависимых компонент.
По «зеркальной» формуле получаем:
– условную плотность распределения случайной величины , при условии, что случайная величина принимает различные КОНКРЕТНЫЕ значения из промежутка .
Условные математические ожидания рассчитываются по формулам:
и для разнообразия я вычислю условное «игрековое» матожидание:
Снова интегрируем по частям, и тут главное не запутаться в буквах: «икс» считается константой, а «игрек» – «живая» переменная:
по ходу дальнейших преобразований используем формулы приведения:
Найденное математическое ожидание:
– представляет собой функцию, зависящую от , и называется функцией регрессии на . И это естественно – если «икс» принимает различные значения, то мы получаем разные условные законы распределения с разными матожиданиями. Так, при получается следующий условный закон распределения:
и с помощью найденной функции легко рассчитать соответствующее математическое ожидание:
Желающие могут выполнить проверку непосредственным вычислением интеграла
И особо желающие (такие есть!) могут самостоятельно провести аналогичные вычисления, чтобы получить:
– условное математическое ожидание компоненты , которое называется функцией регрессии на .
Следует заметить, что в отличие от уравнения, которое мы получаем с помощью коэффициента корреляции (также см. ниже), регрессия здесь носит в общем случае нелинейный характер.
Вывод о зависимости случайных величин уже сделан, и решение этой задачи завершено.
Существуют ли другие способы определения зависимости / независимости? Существуют!
Теорема: для того, чтобы случайные величины были независимыми, необходимо и достаточно, чтобы функция распределения системы была равна произведению функций распределения составляющих:
и, как следствие, аналогичное утверждение справедливо для плотностей:
И если случайные величины независимы, то закон распределения любой из них действительно не зависит от того, какое значение приняла другая величина:
Иными словами, любое условное распределение той или иной компоненты равно соответствующему безусловному распределению.
Творческое задание для самостоятельного решения:
Двумерная непрерывная случайная величина задана своей плотностью распределения в области и может принимать значения только из этой полосы.
1) Найти плотности распределения составляющих сделать вывод о зависимости / независимости этих случайных величин.
Эти функции можно найти методом подбора (уроки о равномерном и нормальном распределении в помощь), но надёжнее использовать общие формулы , (см. Пример 6). Справочно: (частный случай интеграла Гаусса – см. урок о нормальном распределении).
Здесь нужно использовать свойства матожидания и дисперсии (см. Пример 2 первого урока о системах случайных величин). И небольшая подсказка: для нахождения удобно использовать формулу вычисления дисперсии , и для – ту же формулу, запишу её в общем виде: .
Краткое решение в конце урока.
Следует отметить, что озвученная выше теорема с простенькими формулами , часто порождает одно практическое заблуждение. Так, в Примере 6 мы отыскали функцию распределения и видим, что в ней можно разделить «икс» и «игрек», т.е. всё вроде бы хорошо и функция представима в виде . Однако этот «критерий» ошибочен! Ведь мы НЕ ЗНАЕМ функций . В общем случае, они могут оказаться какими угодно и совершенно неожиданными – такими, что их произведение вовсе не равно !
Поэтому нужно обязательно найти , выполнить умножение и только после этого делать вывод о справедливости равенства и независимости случайных величин!
Иными словами, если у функций , можно разделить аргументы, то это ЕЩЁ НЕ ЗНАЧИТ, что справедливы равенства ,
Любопытно, что в «неразделимом» случае это рассуждение срабатывает. Так, у функции плотности (Пример 8-9) «икс» с «игреком» разделить нельзя, и из этого следует, что она никак не может получиться в результате перемножения функций , следовательно, компоненты зависимы.
Но такое обоснование всё же не убедительно – а вдруг, если «покрутить-повертеть» , использовать тригонометрические формулы, то переменные таки разделятся? Поэтому надежнее отыскать условные плотности, , их произведение:
и только после этого делать вывод, что
Эта тонкость встретится и в заключительном задании, где мы рассмотрим коэффициенты ковариации и корреляции. Их смысл я уже осветил на уроке о зависимых дискретных СВ, и сейчас мы изучим техническую сторону вопроса для непрерывных СВ:
Задана плотность распределения системы двух случайных величин
Найти значение и вычислить коэффициенты ковариации и корреляции . Построить уравнение линейной регрессии на .
И, во-первых, сразу заметим, что аргументы функции плотности здесь разделяются. Но из этого вовсе не следует справедливость равенства и независимость компонент . Этот момент у нас прояснится только в ходе решения:
1) Константу найдём из свойства функции плотности двумерной СВ:
Так как случайная величина принимает значения лишь из ограниченной области , то свойство упрощается до двойного интеграла по этой области: , в данном случае:
И нам предстоит решить шаблонную задачу. Представим уравнение прямой в «школьном» виде: , изобразим область интегрирования на чертеже: 
и выберем традиционный порядок обхода области:
Таким образом: . С двойным интегралом удобно разделаться поэтапно, у кого возникнут трудности с техникой вычислений, обратитесь по ссылке выше:
1)
2)
И из равенства получаем:
Коэффициенты ковариации и корреляции определяются по тем же формулам:
– с той поправкой, что матожидания и стандартные отклонения рассчитываются с помощью интегралов.
Математическое ожидание произведения СВ вычислим по формуле:
Математические ожидания компонент тоже можно вычислить с помощью двойных интегралов:
, в данном случае это будут двойные интегралы по области , либо с помощью однократных интегралов от безусловных плотностей этих случайных величин:
То же самое касается дисперсий:
, либо:
В исследовательских целях выберем 2-й способ, который, кстати, не легче.
Сначала разделаемся с компонентой . Найдём её безусловную плотность:
и при иных значениях .
Для самоконтроля обязательно проверяем, что , я выполнил эту проверку на черновике.
Вычислим математическое ожидание:
Дисперсию вычислим по формуле:
В данном случае:
и среднее квадратическое отклонение:
Теперь компонента . Чтобы составить её функцию плотности, нужно из уравнения прямой выразить и тогда «икс» у нас будет «заходить» в область через ось ординат и «выходить» через прямую :
, а давайте-ка самостоятельно. Формулы вверху, образец для сверки – внизу, ну а здесь я сразу запишу готовые результаты:
, если – и после нахождения этой функции, становится ясно, что при её умножении на у нас не получается ! Таким образом, , а значит, случайные величины – зависимы.
И долгожданный коэффициент совместной вариации:
– редкий, как солнечное затемнение, случай, когда вычисления было удобнее провести в десятичных дробях.
Впрочем, это ненадолго:)
Коэффициент корреляции отрицателен и по модулю достаточно близок к единице – это означает, что между случайными величинами существует довольно тесная вероятностная линейная зависимость.
Уравнение линейной регрессии на строится по той же формуле, что и в дискретном случае:
, где , .
Давно не встречал такой красоты:
, вот что бывает после затмения 🙂
Полученное уравнение означает, что если случайная величина приняла какое-нибудь значение (из промежутка ), например, , то мы можем быстро оценить наиболее вероятные значения, которые может принять случайная величина – эти значения находятся вблизи точки . И поскольку коэффициент корреляции близок по модулю к единице, то полученное приближение будет достаточно точным.
Как и в случае с дискретными СВ, для рассмотренных коэффициентов справедливы следующие факты:
Если в результате решения мы выяснили, что , то из этого следует, что случайные величины являются зависимыми или коррелированными. Но если получен результат , то СВ могут оказаться как независимыми, так и зависимыми (т.к. зависимость может носить не только линейный характер); однако и в том и другом случае их называют некоррелированными.
Из последнего утверждения существуют исключения, в частности, из некоррелированности компонент двумерной нормальной СВ следует и их независимость.
Теперь вас ничем не испугаешь :), и поэтому я запишу напоследок общую формулу плотности двумерной нормальной случайной величины:
…а это уже какая-то вспышка на Солнце.
В случае некоррелированности компонент получаем:
и после финального преобразования чётко видно, что перед нами произведение нормальных плотностей случайных величин . Таким образом, равенство справедливо и они независимы.
Дополнительную информацию и примеры можно найти в учебном пособии (новые издания) и задачнике В.Е. Гмурмана, ну а мой практикум подошёл к концу, и я надеюсь, что он оказался не только полезным, но ещё и интересным.
Решения и ответы:
Пример 10. Решение:
1) Способ первый: нормальное распределения вероятностей задаётся плотностью . В нашем случае , и поэтому: на интервале . И из функции легко усмотреть, что на отрезке и вне этого отрезка.
И здесь ОБЯЗАТЕЛЬНО нужно проконтролировать, что:
– функция действительно задаёт плотность распределения.
Способ второй. Используем формулы:
, если и при иных значениях .
Вывод: так как , то случайные величины независимы.
2) Вычислим матожидания и дисперсии случайных величин . Функция задаёт равномерное распределение вероятностей и по соответствующим формулам:
Примечание: разумеется, здесь можно использовать и общие формулы матожидания и дисперсии.
Характеристика компоненты известны из самой функции плотности:
По свойствам математического ожидания:
второе слагаемое выразим из формулы
Для независимых случайных величин справедливо свойство , поэтому:
По свойствам дисперсии и формуле :
Пример 11. Решение:
Найдём безусловную плотность распределения случайной величины :
и при иных значениях .
Зависимые и независимые случайные величины.
Условные законы распределения и ковариация дискретных СВ
На первом уроке по теме уже фигурировали задачи с независимыми случайными величинами, и давайте сразу вспомним, что это значит: случайные величины являются независимыми, если закон распределения вероятностей любой из них, не зависит от того, какие значения приняли (или примут) остальные случайные величины.
Например, система двух игральных кубиков – совершенно понятно, что результат броска одного кубика никак не влияет на вероятности выпадения граней другого кубика. Или одинаковые независимо работающие игровые автоматы. И, наверное, у некоторых сложилось впечатление, что независимы вообще любые СВ. Однако это далеко не всегда так.
Рассмотрим одновременное сбрасывание двух кубиков-магнитов, у которых северные полюса находятся на стороне 1-очковой грани и южные – на противоположной грани в 6 очков. Будут ли независимыми аналогичные случайные величины? Да, будут. Просто снизятся вероятности выпадения «1» и «6» и увеличатся шансы других граней, т.к. в результате испытания кубики могут притянуться противоположными полюсами.
Теперь рассмотрим систему , в которой кубики сбрасываются последовательно:
– количество очков, выпавших на первом кубике;
– количество очков, выпавших на втором кубике, при условии, что он всё время сбрасывается по правую (например) сторону от 1-го кубика.
В этом случае закон распределения случайной величины зависит от того, как расположился 1-й кубик. Вторая кость может либо притянуться, либо наоборот – отскочить (если «встретились» одноимённые полюса), либо частично или полностью проигнорировать 1-й кубик.
Второй пример: предположим, что одинаковых игровых автоматов объединены в единую сеть, и – есть система случайных величин — выигрышей на соответствующих автоматах. Не знаю, законна ли эта схема, но владелец игрового зала вполне может настроить сеть следующим образом: при выпадении крупного выигрыша на каком-либо автомате, автоматически меняются законы распределения выигрышей вообще на всех автоматах. В частности, целесообразно на некоторое время обнулить вероятности крупных выигрышей, чтобы заведение не столкнулось с нехваткой средств (в том случае, если вдруг кто-то выиграет по-крупному ещё раз). Таким образом, рассмотренная система будет зависима.
То были примеры с дискретными случайными величинами. Но, разумеется, существуют и дву- и большемерные непрерывные случайные величины. Пример третий, баян:
– рост наугад выбранного человека;
И для наглядности представим две группы людей: ростом 160 и 190 см. Совершенно понятно, что во 2-й группе окажутся преимущественно более тяжелые люди, нежели в 1-й. То есть, распределение случайной величины зависит от того, какое значение приняла случайная величина , и поэтому система зависима. В отличие от жёсткой функциональной зависимости (а-ля ) здесь имеет место вероятностная, или как говорят, стохастическая зависимость. Это проявляется в том, что, выбрав наугад человека невысокого (например) роста, более вероятно столкнуться со «стандартным» весом таких людей, но всё же существует вероятность, что у него окажется очень большой либо очень маленький вес для своей «ростовой категории».
Как составить закон распределения системы зависимых СВ? Для независимых дискретных систем мы использовали теорему умножения вероятностей независимых событий, и Капитан Очевидность подсказывает, что сейчас нужно применить аналогичную теорему для зависимых событий.
В качестве демонстрационного примера рассмотрим колоду из 8 карт, пусть это будут короли и дамы, и простую игру, в которой два игрока последовательно (не важно, в каком порядке) извлекают из колоды по одной карте. Рассмотрим случайную величину , которая символизирует одного игрока и принимает следующие значения: 1, если он извлёк червовую карту, и 0 – если карту другой масти.
Аналогично, пусть случайная величина символизирует другого игрока и тоже принимает значения 0 либо 1, если он извлёк не черву и черву соответственно.
– вероятность того, что оба игрока извлекут черву,
– вероятность того, что оба извлекут не черву, и:
– вероятность того, что один извлечёт черву, а другой – нет; ну или наоборот:
Таким образом, закон распределения вероятностей зависимой системы : 
Контроль: , что и требовалось проверить. …Возможно, у вас возник вопрос, а почему я рассматриваю именно 8, а не 36 карт? Да просто для того, чтобы дроби получились не такими громоздкими.
Теперь немного проанализируем результаты. Если просуммировать вероятности по строкам: , то получится в точности закон распределения случайной величины : 
Легко понять, что это распределение соответствует ситуации, когда «иксовый» игрок тянет карту один, без «игрекового» товарища, и его математическое ожидание:
– равно вероятности извлечения червы из нашей колоды.
Аналогично, если просуммировать вероятности по столбцам, то получим закон распределения одиночной игры второго игрока: 
с тем же матожиданием
В силу «симметрии» правил игры, распределения получились одинаковыми, но, в общем случае, они, конечно, различны.
Помимо этого, полезно рассмотреть условные законы распределения вероятностей. Это ситуация, когда одна из случайных величин уже приняла какое-то конкретное значение, или же мы предполагаем это гипотетически.
Пусть «игрековый» игрок тянет карту первым и извлёкает не черву . Вероятность этого события составляет (суммируем вероятности по первому столбцу таблицы – см. вверху). Тогда, из той же теоремы умножения вероятностей зависимых событий получаем следующие условные вероятности:
– вероятность того, что «иксовый» игрок вытянет не черву при условии, что «игрековый» вытянул не черву;
– вероятность того, что «иксовый» игрок вытянет черву, при условии, что «игрековый» вытянул не черву.
…все помнят, как избавляться от четырёхэтажных дробей? И да, формальное, но очень удобное техническое правило вычисления этих вероятностей: сначала следует просуммировать все вероятности по столбцу, и затем каждую вероятность разделить на полученную сумму.
Таким образом, при условный закон распределения случайной величины запишется так: 
, ОК. Вычислим условное математическое ожидание:
Теперь составим закон распределения случайной величины при условии, что случайная величина приняла значение , т.е. «игрековый» игрок извлёк карту червовой масти. Для этого суммируем вероятности 2-го столбца таблицы (см. вверху): и вычисляем условные вероятности:
– того, что «иксовый» игрок вытянет не черву,
– и черву.
Таким образом, искомый условный закон распределения: 
Контроль: , и условное математическое ожидание:
– разумеется, оно получилось меньше, чем в предыдущем случае, так как «игрековый» игрок убавил количество черв в колоде.
«Зеркальным» способом (работая со строками таблицы ) можно составить – закон распределения случайной величины , при условии, что случайная величина приняла значение , и условное распределение , когда «иксовый» игрок извлёк черву. Легко понять, что в силу «симметрии» игры, получатся те же распределения и те же значения .
Для непрерывных случайных величин вводятся такие же понятия условных распределений и матожиданий, но если в них нет горячей надобности, то лучше продолжить изучение этого урока.
На практике в большинстве случаев вам предложат готовый закон распределения системы случайных величин:
Двумерная случайная величина задана своим законом распределения вероятностей: 
…хотел рассмотреть таблицу побольше, но решил таки не маньячить, ведь главное разобраться в самом принципе решения.
1) Составить законы распределения и вычислить соответствующие математические ожидания. Сделать обоснованный вывод о зависимости или независимости случайных величин .
Это задание для самостоятельного решения! Напоминаю, что в случае независимости СВ законы должны получиться одинаковыми и совпасть с законом распределения случайной величины , и законы – совпасть с . Десятичные дроби, кто не знает или позабыл, удобно делить так: .
Свериться с образцом можно внизу страницы.
2) Вычислить коэффициент ковариации.
Сначала разберёмся в самом термине, и откуда он вообще произошёл: когда случайная величина принимает различные значения, то говорят, что она варьируется, и количественное измерение этой вариации, как вы знаете, выражается дисперсией. Используя формулу вычисления дисперсии, а также свойства матожидания и дисперсии, нетрудно установить, что:
то есть, при сложении двух случайных величин суммируются их дисперсии и добавляется дополнительное слагаемое, характеризующее совместную вариацию или коротко – ковариацию случайных величин.
Ковариация или корреляционный момент – это мера совместной вариации случайных величин.
Обозначение: или
Ковариация дискретных случайных величин определяется, сейчас буду «выражаться»:), как математическое ожидание произведения линейных отклонений этих случайных величин от соответствующих матожиданий:
Если , то случайные величины зависимы. Образно говоря, ненулевое значение говорит нам о закономерных «откликах» одной СВ на изменение другой СВ.
Ковариацию можно вычислить двумя способами, я рассмотрю оба.
«Страшная» формула и совсем не страшные вычисления. Сначала составим законы распределения случайных величин и – для этого суммируем вероятности по строкам («иксовая» величина) и по столбцам («игрековая» величина): 
Взгляните на исходную верхнюю таблицу – всем понятно, как получились распределения? Вычислим матожидания:
и отклонения значений случайных величин от соответствующих математических ожиданий:
Полученные отклонения удобно поместить в двумерную таблицу, внутрь которой затем переписать вероятности из исходной таблицы: 
Теперь нужно вычислить все возможные произведения , в качестве примера я выделил: (красный цвет) и (синий цвет). Вычисления удобно проводить в Экселе, а на чистовике расписать всё подробно. Я привык работать «по строкам» слева направо и поэтому сначала перечислю все возможные произведения с «иксовым» отклонением -1,6, затем – с отклонением 0,4:
Способ второй, более простой и распространённый. По формуле:
Матожидание произведения СВ определяется как и технически всё очень просто: берём исходную таблицу задачи и находим все возможные произведения на соответствующие вероятности ; на рисунке ниже я выделил красным цветом произведение и синим произведение : 
Сначала перечислю все произведения со значением , затем – со значением , но вы, разумеется, можете использовать и другой порядок перебора – кому как удобнее:
Значения уже вычислены (см. 1-й способ), и осталось применить формулу:
Как отмечалось выше, ненулевое значение ковариации говорит нам о зависимости случайных величин, причём, чем оно больше по модулю, тем эта зависимость ближе к функциональной линейной зависимости . Ибо определяется через линейные отклонения.
Таким образом, определение можно сформулировать точнее:
Ковариация – это мера линейной зависимости случайных величин.
С нулевым значением всё занятнее. Если установлено, что , то случайные величины могут оказаться как независимыми, так и зависимыми (т.к. зависимость может носить не только линейный характер). Таким образом, этот факт в общем случае нельзя использовать для обоснования независимости СВ!
Однако, если известно, что независимы, то . В этом легко убедиться аналитически: так как для независимых случайных величин справедливо свойство (см. предыдущий урок), то по формуле вычисления ковариации:
Какие значения может принимать этот коэффициент? Коэффициент ковариации принимает значения, не превосходящие по модулю – и чем больше , тем сильнее выражена линейная зависимость. И всё вроде бы хорошо, но есть существенное неудобство такой меры:
Предположим, мы исследуем двумерную непрерывную случайную величину (готовимся морально :)), компоненты которой измеряются в сантиметрах, и получили значение . Кстати, какая размерность у ковариации? Коль скоро, – сантиметры, и – тоже сантиметры, то их произведение и матожидание этого произведения – выражается в квадратных сантиметрах, т.е. ковариация, как и дисперсия – есть квадратичная величина.
Теперь предположим, что кто-то изучил ту же систему , но использовал не сантиметры, а миллиметры. Так как 1 см = 10 мм, то ковариация увеличится в 100 раз и будет равна !
Поэтому удобно рассмотреть нормированный коэффициент ковариации, который давал бы нам одинаковое и безразмерное значение. Такой коэффициент получил название, продолжаем нашу задачу:
3) Коэффициент корреляции. Или, точнее, коэффициент линейной корреляции:
, где – стандартные отклонения случайных величин.
Коэффициент корреляции безразмерен и принимает значения из промежутка:
(если у вас на практике получилось другое – ищите ошибку).
Чем больше по модулю к единице, тем теснее линейная взаимосвязь между величинами , и чем ближе к нулю – тем такая зависимость выражена меньше. Взаимосвязь считается существенной, начиная примерно с . Крайним значениям соответствует строгая функциональная зависимость , но на практике, конечно, «идеальных» случаев не встретить.
Очень хочется привести много интересных примеров, но корреляция более актуальна в курсе математической статистики, и поэтому я приберегу их на будущее. Ну а сейчас найдём коэффициент корреляции в нашей задаче. Так. Законы распределения уже известны, скопирую сверху: 
Матожидания найдены: , и осталось вычислить стандартные отклонения. Табличкой уж оформлять не буду, быстрее подсчитать строкой:
Ковариация найдена в предыдущем пункте , и осталось рассчитать коэффициент корреляции:
, таким образом, между величинами имеет место линейная зависимость средней тесноты.
Четвёртое задание опять же более характерно для задач математической статистики, но на всякий случай рассмотрим его и здесь:
4) Составить уравнение линейной регрессии на .
Уравнение линейной регрессии – это функция , которая наилучшим образом приближает значения случайной величины . Для наилучшего приближения, как правило, используют метод наименьших квадратов, и тогда коэффициенты регрессии можно вычислить по формулам:
, вот это чудеса, и 2-й коэффициент:
Таким образом, искомое уравнение регрессии:
ну и давайте ради исследовательского интереса я скопирую табличку сверху: 
и вычислю значения функции:
– в результате получился результат, который близок к наиболее вероятному (см. 2-ю снизу строку) значению ;
– тоже неплохо, это приближение попало между наиболее вероятными (см. нижнюю строку) значениями
Вполне и вполне приличные результаты, несмотря на невысокий коэффициент корреляции. И, наверное, вы уже догадались, что чем ближе по модулю к единице, тем точнее функция приближает наиболее вероятные значения случайной величины . Но уравнение линейной регрессии, конечно, больше применимо к двумерной непрерывной случайной величине, поскольку позволяет осуществлять реальное прогнозирование, например, наиболее вероятного веса человека по заданному росту.
Творческое задание для самостоятельного решения:
Вычислить коэффициенты ковариации и корреляции для демонстрационного примера данного урока (с картами червовой масти) и оценить тесноту линейной связи между СВ.
после чего с нетерпением переходим к системам непрерывных случайных величин.
Решения и ответы:
Пример 4, пункт 1. Решение:
1) Составим закон распределения , для этого суммируем все вероятности соответствующего столбца: и делим каждую вероятность на полученную сумму:
Так как вероятности изменились, то мы имеем дело с условными вероятностями, и из этого можно сразу сделать вывод, что случайные величины зависимы.
! Примечание: в случае независимости СВ вероятности остались бы прежними! – желающие могут проверить данный факт на любом примере предыдущего урока.
Таким образом, условное распределение вероятностей: 
и условное математическое ожидание:
2) Составим закон распределения . Суммируем вероятности соответствующего столбца: и делим каждую из них на полученную сумму:
Таким образом: 
И здесь делаем вывод, что распределение случайной величины зависит от того, какое значение приняла случайная величина , что является ещё более убедительным обоснованием зависимости этих СВ.
Условное матожидание: .
3) Аналогично находим закон распределения :
Таким образом, при случайная величина достоверно примет значение 
и, очевидно, .
4) Чтобы составить закон распределения , нужно просуммировать все вероятности соответствующей строки: и разделить каждую из них на полученную сумму: 
5) И, наконец, 
Контроль: , ч.т.п.
Пример 5. Решение: коэффициент ковариации вычислим по формуле:
Коэффициент корреляции вычислим по формуле:
Найдём стандартные отклонения случайных величин:
Закон распределения точно такой же, поэтому .
Таким образом:
Полученное значение достаточно близко к нулю, что говорит о слабой зависимости случайных величин. Тем не менее, знак «минус» показывает, что при увеличении значения одной из случайных величин (от 0 до 1) уменьшаются шансы извлечения червы другим игроком
Примечание: при достаточно малых значениях (ниже 0,3-0,4 по модулю) построение уравнения линейной регрессии теряет смысл, т.к. оно недостоверно приблизит исходные данные.