Двумерные случайные веЛИчины

Двумерной случайной величиной называется пара случайных величин, определённых на вероятностном пространстве (W, Å, P (×)). Результат наблюдения двумерной случайной величины (X, Y) можно изобразить точкой (x, y) на плоскости. Закон распределения вероятностей между возможными значениями двумерной случайной величины даётся совместной функцией распределения:

F (x, y)= P { X < x, Y < y }

y

показывающей, какая вероятностная масса лежит внутри заштрихованного квадранта (рис. 2).

O x y Рис. 2. x

Запятая в записи вероятности P { X < x, Y < y } заменяет знак умножения между событиями { X < x } и { Y < y }.

Выделим два простейших случая: непрерывный и дискретный.

Двумерная случайная величина (X, Y) называется непрерывной, если существует такая функция p (x, y), что

F (x, y)= p (x, y) dxdy.

Очевидно,  p (x, y)= F (x, y).

Функция p (x, y) называется совместной плотностью вероятности; она играет роль поверхностной плотности распределения единичной вероятностной массы на двумерной плоскости. Вероятность того, что (X, Y) попадёт в область A на двумерной плоскости, вычисляется так:

P (A)= p (x, y) dxdy,

и эта вероятность определена для таких событий A, для которых определён интеграл справа.

В дискретном случае возможные значения (X, Y) можно представить как упорядоченные пары чисел (x_i, y_j) и закон распределения давать в виде таблицы:  p_ij = P { X = x_i, Y = y_j }.

Если известен закон распределения двумерной случайной величины (X, Y), то можно найти также законы распределения компонент X и Y.

В общем случае:

F_X (x)= P { X < x }= P { X < x, Y <+¥}= F (x, +¥).

Аналогично:  F_Y (y)= F (+¥, y).

В непрерывном случае:

p_X (x)= F_X (x)= F (x, +¥)= dx p (x, y) dy = p (x, y) dy.

Аналогично:

p_Y (y)= p (x, y) dx.

В дискретном случае:

p_i = P { X = x_i }= P { X = x_i, -¥< Y <+¥}= p_ij.

Аналогично:

q_j = P { Y = y_j }= p_ij.

Обратная задача – восстановить закон распределения двумерной случайной величины по законам распределения компонент – решается для независимых компонент.

Естественно называть случайные величины X и Y независимыми, если события { X < x } и { Y < y } независимы, т. е., если

F (x, y)= P { X < x, Y < y }= P { X < x } P { Y < y }= F_X (x) F_Y (y).

Если F (x, y) дифференцируема, то

p (x, y)= F (x, y)= F_X (x) F_Y (y)= F_X (x) F_Y (y)= p_X (x) p_Y (y).

В дискретном случае:

p_ij = P { X = x_i, Y = y_j }= P { X = x_i } P { Y = y_j }= p_iq_j.

Совершенно аналогично вводятся n-мерные случайные величины.

Например, пусть независимые случайные величины X_i, i =1, 2, ¼, n распределены по стандартному нормальному закону:  X_i ~ N (0, 1), i =1, 2, ¼, n.  Их совместная плотность вероятности равна:

p (x ₁, x ₂, ¼, x_n)= exp(- x_i ²).

Выполним невырожденное линейное преобразование и введём новые случайные величины

Y_k = a_ijX_i, k =1, 2, ¼, n.

Это преобразование можно переписать в матричном виде:  Y = AX, где  X^T =
=(X ₁, X ₂, ¼, X_n), Y^T =(Y ₁, Y ₂, ¼, Y_n), A =|| a_ij ||, Det A ¹0. Так как преобразование невырождено, то оно обратимо, так что  X = A ^-1 Y.  В евклидовом пространстве переменных y ₁, y ₂, ¼, y_n совместная плотность вероятности вектора Y равна

q (y ₁, y ₂, ¼, y_n)= exp(- Y^T S Y),

где S= A^TA – матрица квадратичной формы в показателе экспоненты, а |Det A |= J – якобиан преобразования.

Обратно, если совместная плотность вероятности n -мерного вектора равна

q (y ₁, y ₂, ¼, y_n)= C ×exp(- Y^T S Y),

где S – положительно определённая матрица (что нужно для сходимости интеграла по всему пространству), а C – константа, то существует такая матрица A, что S= A^TA, С =|Det A |=  и преобразование  Y = AX, (X = A ^-1 Y) приводит к независимым компонентам  X_i ~ N (0, 1), i =1, 2, ¼, n.

Можно сделать ещё одно обобщение, введя параметры масштаба и сдвига по всем осям.

n -мерной нормальной плотностью называется

p (x ₁, x ₂, ¼, x_n)= exp(- a_ik (x_i - b_i)(x_k - b_k)),

где a_ik, b_i – параметры n -мерного нормального вектора, A =|| a_ij || – положительно определённая матрица.

 

c²– распределение

Пусть X ₁, X ₂, ¼, X_n – независимые (в совокупности) нормально распределённые случайные величины:  X_i ~ N (0, 1), i =1, 2, ¼, n.

Определим сумму их квадратов:

c _n ²= X_i ²

и найдём закон распределения случайной величины c _n ²:

F _c ⁿ ₂(x)= exp(- x_i ²) dx ₁ dx ₂¼ dx_n, x >0.

Принимая во внимание, что подынтегральная функция принимает постоянное значение на любой n -мерной сфере (x ₁²+ x ₂²+¼+ x_n ²= r ²), проведём интегрирование по сферическим слоям. Обозначим через V_n (r) объём n -мерной сферы радиуса r, а через S_n (r) – площадь её поверхности.

Отметим, что:

S_n (r)= V_n (r),  V_n (r)= S_n (r) dx.

В частности, в двумерном и трёхмерном случаях имеем:

V ₂(r)=p r ², S ₂(r)=2p r, V ₃(r)= p r ³, S ₃(r)=4p r ².

Ясно, что можно считать

V_n (r)= C_nrⁿ, S_n (r)= nC_nr^{n -1},

где C_n – константа, которую мы найдём ниже.

Продолжим теперь преобразование функции распределения c _n ²:

F _c ⁿ ₂(x)= exp(- r ²) nC_nr^{n -1} dr.

Мы превратили n -кратный интеграл в обычный однократный.

Из последнего равенства найдём плотность вероятности:

p _c ⁿ ₂(x)= F _c ⁿ ₂(x)= exp(- )  Û  p _c ⁿ ₂(x)= , x >0.

Если x £0, то ясно, что p _c ⁿ ₂(x)º0.

Прежде, чем перейти к вычислению константы C_n, напомним определение и свойства гамма-функции, которыми нам ещё не раз придётся пользоваться.

––²––

Определение и свойства гамма-функции

Гамма-функция определена на положительной полуоси равенством:

G(x)= e ^{- t}t^{x -1} dt, x >0.

Свойства гамма-функции:

1°. G(x +1)= x G(x). Это свойство легко доказывается интегрированием по частям интеграла, определяющего G(x +1): G(x +1)= e ^{- t}t^xdt.

2°. G(1)=1.

3°. Для любого натурального n: G(n +1)= n! Доказательство этого факта сразу следует из двух первых свойств. Данное свойство показывает, что гамма-функция является естественным обобщением факториала.

4°. G()= .

Для доказательства этого свойства достаточно сделать замену переменной в интеграле, определяющем G():

G()= e ^{- t} dt

и положить  t = y ²:

G()= dy.

Вспоминая рассмотренный нами выше интеграл Пуассона  I = dx = , находим, что G()= .

5°. Для полуцелого положительного n: G(n + )= .

Это равенство доказывается по индукции с использованием свойств 1° и 4°.

6°. Формула Стирлинга:

при  x ®+¥: G(x +1)~ x^xe ^{- x}.

Мы приведём не вполне строгое, но достаточно простое доказательство этой формулы.

При любом фиксированном x (x >0):

G(x +1)= e ^{- t}t^xdt = e^{x ln t - t}dt = e ^{y( t )} dt,

где y(t)= x ln t - t.

Легко убедиться, что функция y(t) имеет максимум при t = x. Разложим y(t) в ряд Тейлора в окрестности точки t = x, ограничиваясь первыми тремя слагаемыми:

y(t)» x ln x - x - = x ln x - x - ()².

Поэтому

G(x +1)» e^{x ln x - x} dt = x^xe ^{- x} dt.

Введём новую переменную:  y = . Имеем:

G(x +1)» x^xe ^{- x} dy.

В последнем интеграле при больших x (x ®+¥) нижний предел интегрирования можно заменить на -¥:  dy» dy = I  – интеграл Пуассона и, как мы знаем, он равен . Поэтому при больших положительных x:

G(x +1)» x^xe ^{- x} ,

что и требовалось доказать.

––²––

Выше мы получили выражение для плотности вероятности p _c ⁿ ₂(x):

p _c ⁿ ₂(x)= при x >0 и p _c ⁿ ₂(x)º0 при x £0

и нам осталось найти величину константы C_n.

Воспользуемся свойством нормированности p _c ⁿ ₂(x):

dx =1.

Подстановка x = приводит интеграл к гамма-функции:

× e ^{- t} dt =1 Û  G()=1 Û  C_n = = .

Итак, мы можем в окончательном виде записать плотность вероятности и функцию распределения случайной величины c _n ²:

p _c ⁿ ₂(x)= , при x >0, и p _c ⁿ ₂(x)º0, при x £0,

F _c ⁿ ₂(x)= dx, при x >0, и F _c ⁿ ₂(x)º0, при x £0.

Этот закон табулирован и нет необходимости вычислять интеграл точно даже для чётных n, при которых он берётся в элементарных функциях.

Попутно мы нашли общие формулы для объёма n -мерного шара и площади поверхности n -мерной сферы:

V_n (r)= rⁿ,  S_n (r)= r^{n -1}.

C– распределение

При y >0:

F _c ⁿ (y)= P {c _n < y }= P {c _n ²< y ²}= dx.

Отсюда:

p _c ⁿ (y)= F _c ⁿ (y)= y^{n -1}, при y >0, и p _c ⁿ (y)º0, при y £0.

и, следовательно,

F _c ⁿ (x)= y^{n -1} dy, при y >0 и F _c ⁿ (x)º0, при y £0.

Распределение Стьюдента

Пусть даны две независимые случайные величины  X ~ N (0, 1), и c _n.

Определим случайную величину  T_n  равенством:  T_n =  и найдём закон её распределения.

Совместная плотность вероятности двумерной случайной величины (X, c _n) равна:

p (x, y)= y^{n -1}, для -¥< x <+¥, 0< y <+¥.

Функция распределения дроби  T_n  равна:

F_Tⁿ (t)= P { T_n < t }= P { < t }= P { X < t c _n }.

Неравенству  X < t c _n  благоприятствуют точки, занимающие область, заштрихованную на Рис. 3:

y Рис. 3. x

Этой области досталась вероятность:

F_Tⁿ (t)= P { T_n < t }= dy p (x, y) dx = dy y^{n -1} dx.

Отсюда находим плотность вероятности:

p_Tⁿ (t)= F_Tⁿ (t)= y^{n -1} ydy.

Отметим, что в интеграле t играет роль параметра и сделаем замену переменной:

u = y ² Þ  y =  Þ  dy = .

Имеем:

p_Tⁿ (t)= × × e ^{- u} du

и, выражая интеграл через гамма-функцию, мы можем записать плотность распределения Стьюдента в следующем – окончательном виде:

p_Tⁿ (t)= × .

Отметим, что при n =1 из этой формулы получается плотность распределения Коши:

p_T ¹(t)= ,

т. е. случайную величину, распределенную по закону Коши, можно считать отношением двух независимых случайных величин,  X = , где X_i ~ N (0, 1), i =1, 2.

Замечание. Часто случайную величину T_n определяют с дополнительным множителем: T_n = × . В этом случае плотность вероятности имеет вид:

p_Tⁿ (t)= ×(1+ ) .

Дополнительные множители появляются и в выражении для функции распределения.

 

Числовые характеристики случайных величин:
математическое ожидание, дисперсия,
коэффициент корреляции

Наиболее полная информация о случайной величине содержится в законе её распределения. Более бедную, но зато и более конкретную информацию о ней дают её числовые характеристики. Простейшей из них является математическое ожидание, которое интерпретируется как среднее значение случайной величины. Если посмотреть на закон распределения как на распределение единичной вероятностной массы между значениями случайной величины, то в качестве среднего значения можно взять координаты центра тяжести этой массы. По известным из анализа и механики формулам получаем формулы для вычисления абсциссы центра тяжести:

xp (x) dx – в непрерывном случае,
x_kp_k – в дискретном случае.

Для того, чтобы дать определение, пригодное и для общего случая, необходимо обобщить понятие риманова интеграла.

Сделаем поэтому небольшое математическое отступление.

––²––

Интеграл Стилтьеса

Интеграл Стилтьеса определяется для двух функций: одна из них j(x) – называется интегрируемой, другая F (x) – интегрирующей. Разобьём всю ось на интервалы D t_k: [ t_k, t_{k +1}), относя для определённости к интервалу левый конец и исключая правый. В каждом интервале выберем произвольно точку x _k и составим интегральную сумму

j(x _k)[ F (t_{k +1})- F (t_k)].

Перейдём к пределу, устремив наибольший из интервалов к нулю. Если предел существует и не зависит ни от способа разбиения оси на интервалы, ни от способа выбора точек x _k на них, то он называется интегралом Стилтьеса от функции j(x) по функции F (x) и обозначается:  j(x) dF (x).

Легко убедиться в том, что обычные свойства интеграла сохраняются: постоянный множитель можно выносить за знак интеграла, интеграл от суммы равен сумме интегралов.

Интеграл Римана является частным случаем интеграла Стилтьеса для F (x)= x.

Рассмотрим два частных случая:

a. F (x) – ступенчатая функция, имеющая в точках x_i скачки величины p_i и постоянная между этими точками. Приращения  F (t_{k +1})- F (t_k) на тех интервалах D t_k, которые не содержат точек разрыва функции F (x), равны нулю; если же точка x_i является единственной точкой разрыва F (x), содержащейся в интервале D t_k, то разность  F (t_{k +1})- F (t_k) равна p_i. Считая, что все точки разрыва изолированные, при переходе к пределу получим:  j(x) dF (x)= j(x_i) p_i.

b. F (x) – дифференцируемая функция: существует производная F ^¢(x)= p (x). В интегральной сумме для интеграла Стилтьеса  j(x _k)[ F (t_{k +1})- F (t_k)] каж­дую из разностей [ F (t_{k +1})- F (t_k)] заменим по формуле Лагранжа: на каждом промежутке D t_k найдётся такая точка h _k, в которой  F (t_{k +1})- F (t_k)= F ^¢(h _k)=
= p (h _k)D t_k; пользуясь произволом в выборе точек x _k из промежутка D t_k, возьмём в каждом слагаемом интегральной суммы x _k =h _k и тогда сумма примет вид:

j(h _k) p (h _k)D t_k,

а это – ни что иное, как риманова интегральная сумма для функции j(x) p (x). Поэтому:

j(x) dF (x)= j(x) p (x) dx.

В теории вероятностей интеграл Стилтьеса оказался удобным средством объединения случаев непрерывного и дискретного распределений в общем случае.

––²––

Вернёмся к изучению числовых характеристик случайных величин.

1°. Выше мы ввели понятие математического ожидания для дискретной и непрерывной случайных величин.

Пусть теперь X – случайная величина с функцией распределения F (x). Возьмём произвольную функцию j(x).

Назовём математическим ожиданием функции j от случайной величины X число M j(X), определяемое равенством:

M j(X)= j(x) dF (x).

В частности, для непрерывной случайной величины с плотностью вероятности p (x) получаем:

M j(X)= j(x) p (x) dx,

а для дискретной случайной величины с распределением  p_k = P { X = x_k }:

M j(X)= j(x_k) p_k.

В случае, когда j(x)= x, последние три формулы принимают вид:

MX = xdF (x) – в общем случае,
MX = xp (x) dx – в непрерывном случае,
MX = x_kp_k – в дискретном случае.

Формулы для непрерывного и дискретного случаев совпали с формулами для абсциссы центра тяжести распределения вероятностной массы, и тем самым оправдывается истолкование математического ожидания случайной величины X как среднего значения.

Для корректности определения математического ожидания следует обсудить вопрос о его существовании и единственности.

Вопрос о единственности M j(X) возникает потому, что j(X) сама является случайной величиной со своей функцией распределения F _j(x) и в соответствии с нашим определением её математическое ожидание равно xdF _j(x).

Для однозначности определения необходимо выполнение равенства

j(x) p (x) dx = xdF _j(x)

и такое равенство действительно можно доказать: оно даёт правило замены переменных в интеграле Стилтьеса. Мы здесь вынуждены принять его без доказательства.

Вопрос о существовании математического ожидания: ясно, что в непрерывном и дискретном случае любая ограниченная случайная величина имеет математическое ожидание. Если же X может принимать сколь угодно большие значения, то в дискретном случае сумма, определяющая MX, становится бесконечным рядом, а в непрерывном – интеграл становится несобственным, причём оба могут расходиться. Очевидно, в непрерывном случае достаточным условием существования среднего значения у случайной величины является

p (x)= O () при x ®±¥ (e>0),

а в дискретном случае:

x_kp_k = O () при k ®¥ (e>0).

Однако оба эти условия не являются необходимыми.

Легко также придумать примеры случайных величин, не имеющих среднего. Для непрерывного случая таким примером может служить распределение Коши. В дискретном подобный пример придумать ещё проще, если учесть, что вероятность p_k можно приписать сколь угодно большим числам x_k.

Если дана двумерная случайная величина (X, Y), то математическое ожидание функции j(X, Y) определяется равенствами

M j(X, Y)= j(x, y) p (x, y) dxdy – в непрерывном случае
(интеграл берётся по всей плоскости),

M j(X, Y)= j(x_i, y_j) p_ij – в дискретном случае
(сумма берётся по всем возможным значениям
двумерной случайной величины).

2°. Второй по важности числовой характеристикой случайной величины X служит её дисперсия DX. Дисперсией называется

DX = M [(X - MX)²]= (x - MX)² dF (x),

т. е. среднее значение квадрата отклонения случайной величины от её среднего. Эта формула в непрерывном случае переходит в

DX = (x - MX)² p (x) dx,

а в дискретном в:

DX = (x_k - MX)² p_k.

Если среднее есть не у всех случайных величин, то дисперсия и подавно. В дальнейшем все теоремы о MX и DX без особых оговорок формулируются лишь для тех X, которые их имеют.

Размерность дисперсии равна квадрату размерности случайной величины X. Поэтому иногда удобно вместо DX рассматривать величину s _X = , называемую средним квадратичным отклонением случайной величины X или просто стандартом.

Дисперсия и стандарт мыслятся как меры разброса значений случайной величины вокруг её среднего.

3°. Докажем несколько простых утверждений:

Математическое ожидание постоянной C равно C:  MC = C.

Постоянный множитель можно выносить за знак математического ожидания:

               M (CX)= CMX.

Дисперсия постоянной равна нулю:  DC =0.

Постоянный множитель выносится за знак дисперсии в квадрате:

               D (CX)= C ² DX.

Постоянную C можно рассматривать как частный случай дискретной случайной величины, принимающей единственное значение C с вероятностью, равной 1. Поэтому MC = C ×1= C.

Свойство  M (CX)= CMX  следует из определения математического ожидания как предела интегральных сумм: постоянный множитель можно выносить за знак суммы и знак интеграла.

О дисперсии:

DC = M [(C - MC)²]= M [(C - C)²]= M 0=0;

D (CX)= M [(CX - M (CX))²]= M [(CX - CM (X))²]=
= M [ C ²(C - MC)²]= C ²× M [(X - MX)²]= C ² DX.

4°. Математическое ожидание суммы случайных величин равно сумме их математических ожиданий:

M (X + Y)= MX + MY.

Докажем эту теорему отдельно для непрерывного и дискретного случая.

a. Непрерывный случай. Пусть p (x, y) – двумерная плотность вероятности.

Согласно определению математического ожидания функции от двумерной случайной величины:

M (X + Y)= (x + y) p (x, y) dxdy.

Представляя двойной интеграл как сумму двух повторных и выбирая соответствующий порядок интегрирования в слагаемых, имеем:

M (X + Y)= xdx p (x, y) dy + ydy p (x, y) dx =
= xp_X (x) dx + yp_Y (y) dy = MX + MY.

b. Дискретный случай.

M (X + Y)= (x_i + y_j) p_ij.

Представляем двойную сумму как две повторные:

M (X + Y)= x_i p_ij + y_i p_ij = x_ip_i + y_jp_j = MX + MY.

Аналогично эту теорему можно доказать для смешанного случая. Общая же формулировка потребовала бы введения двумерного интеграла Стилтьеса.

5°. Предыдущая теорема естественно обобщается на сумму n слагаемых:

M = MX_i.

Как частный случай применения этой формулы отметим следующую задачу: имеются события  A ₁, A ₂, ¼, A_n, их вероятности соответственно равны  p ₁, p ₂, ¼, p_n.  Спрашивается, чему равно ожидаемое число событий   A ₁, A ₂, ¼, A_n, которые произойдут в опыте? Определим вспомогательные случайные величины X_i равенствами:

Xi =

1, если событие A_i произошло,
0, если событие A_i не произошло.

Всего в опыте происходит  X_i  событий, а ожидаемое число равно

M = MX_i = p_i.

6°. Ещё одна формула для дисперсии:  DX = M (X ²)- M ²(X).

Действительно, в силу теорем 3° и 4° имеем:

DX = M [(X - MX)²]= M (X ²)- MX × MX + M [ M (X)²]=
= M (X ²)-2. M ²(X)+ M ²(X)= M (X ²)- M ²(X).

В частности, если  MX =0, то  DX = M (X ²).

7°. Нормированной случайной величиной X ^*назовём:

X ^*= .

Это – безразмерная случайная величина, причём:

a)