1.3.1._Числовые_характеристики_одномерных_вероятностных_распреде. 1 Числовые характеристики одномерных вероятностных
Скачать 366.45 Kb.
|
1 1.3.1. Числовые характеристики одномерных вероятностных распределений Закон распределения в виде интегральной функции или плотности распре- деления хотя и представляет полную вероятностную картину возможных зна- чений случайной величины и качественную оценку некоторых характеристик (например, унимодальность, финитность и т. п.), но, всё же, не даёт количе- ственных значений, по которым распределения могут быть сравнены как между собой, так и по части использования их для решения определённых практиче- ских задач. С другой стороны, в ряде случаев не обязательно знать полностью закон распределения, достаточно иметь ряд параметров, характеризующих случай- ную величину с различных точек зрения. Так, например, при расчёте какой- либо радиотехнической схемы не пользуются законами распределения электри- ческих параметров элементов схемы; в справочниках обычно указываются их “типичные”, номинальные значения и пределы возможных отклонений реаль- ных значений от номинальных. В теории вероятностей и её приложениях числовыми характеристиками случайной величины служат моменты распределения, подразделяющиеся на два класса: начальные моменты и центральные моменты. Для непрерывной случайной величины ξ начальный момент распределения k-го порядка m k определяется выражением [ ] ( ) k k m x w x dx (1.3.1) в предположении, что несобственный интеграл сходится (есть распределения, например, распределение Коши, для которых некоторые или даже все моменты не существуют). Геометрически, что полезно при визуальной качественной оценке графиков распределений, m k можно трактовать как моменты инерции соответствующих порядков плоской фигуры, образованной осью абсцисс и кривой плотности вероятности. Если случайная величина ξ дискретна и принимает, возможно, бесконеч- ный набор значений x 1 , x 2 , … с соответствующими вероятностями p 1 , p 2 , … , то её k-й начальный момент равен 1 [ ] k k i i i m x p (1.3.2) в предположении, что ряд сходится абсолютно. 2 Отметим, что если для какого-то распределения существует момент k-го порядка, то это обеспечивает существование всех моментов порядков n < k. Ес- ли же не существует момент k-го порядка, то не существуют и все моменты по- рядков r > k. Простейшая числовая характеристика случайной величины — начальный момент распределения первого порядка m 1 , определяющий абсциссу центра тя- жести упомянутой плоской фигуры, который называется математическим ожиданием или средним значением случайной величины. Для математического ожидания часто вводят специальное обозначение 1 E[ξ]. В соответствии с (1.3.1) и (1.3.2), [ ] ( ) xw x dx E (1.3.3) для непрерывной случайной величины и 1 [ ] i i i x p E (1.3.4) для дискретной случайной величины. Перечислим основные свойства математического ожидания. Математическое ожидание имеет размерность самой случайной величины. Математическое ожидание детерминированной (неслучайной) величины равно этой величине. Если от исходной случайной величины ξ перейти к случайной величине η = cξ, где c — детерминированная константа, то эта константа может быть вы- несена за знак математического ожидания: [ ] [ ] [ ] c c E E E Математическое ожидание суммы (разности) случайных величин равно сумме (разности) их математических ожиданий: 1 2 1 2 E E E Это свойство обобщается на произвольное число слагаемых. Математическое ожидание произведения независимых случайных вели- чин равно произведению их математических ожиданий: 1 2 1 2 E E E Это свойство обобщается на произвольное число слагаемых. 1 E — начальная буква английского слова expectation — ожидание. 3 Как уже было сказано, математическое ожидание характеризует располо- жение центра графика плотности вероятности w ξ (x). Медианой распределения называется такое значение x med , которое делит пополам площадь под кривой плотности вероятности. Другими словами, медиана есть корень уравнения med 1 2 F x (1.3.5) Математическое ожидание может не существовать, в то время как медиана су- ществует всегда, причём, может быть неоднозначно определённой, например, для дискретных и смешанных распределений. Если существует интервал значе- ний (α; β), на котором F ξ (x) = 1/2, то медианой такого распределения может быть объявлена любая точка из этого интервала. Если медиана характеризует положение центра графика w ξ (x), то поведе- ние других частей графика плотности распределения можно количественно описать с помощью квантилей. Квантиль r-го порядка quan,r x есть корень урав- нения quan,r F x r , 0 1 r (1.3.6) Очевидно, медиана является квантилью порядка 1/2. Медиана дискретного распределения имеет тот же смысл, что и для непре- рывного: это значение случайной величины, для которого функция распределе- ния равна 1/2. Однако может оказаться, что такого значения (из возможного дискретного набора) не существует. В этом случае медиана, строго говоря, не определена, но иногда для практических целей выбирают “квазимедиану” как ближайшее (справа или слева) к “истинной” медиане возможное значение. Третьей характеристикой, описывающей особенности закона распределе- ния случайной величины, является уже упомянутая в разд. 1.2.1 мода x m — точ- ка локального максимума плотности вероятности. При этом, в зависимости от наличия одного или нескольких таких максимумов, распределение оказывается унимодальным или полимодальным. При определении моды дискретного распределения составляется ранжи- рованный ряд, т. е. все возможные значения x k располагают в порядке возраста- ния. Тогда некоторое значение x μ будет модой, если для соответствующих ве- роятностей выполняются условия 1 p p , 1 p p (1.3.7) На рис. 1.13 иллюстрируются соотношения между математическим ожида- нием, медианой и модой распределения непрерывной случайной величины. Для унимодального и симметричного закона распределения все три показателя сов- 4 падают; разница проявляется в случае асимметричных и полимодальных рас- пределений. Рис. 1.13. Соотношения между математическим ожиданием, медианой и модой для непрерывного распределения Плотность вероятности имеет положительную асимметрию, если мода предшествует медиане, при этом большая часть распределения оказывается справа, а более крутой спад — слева. Наоборот, асимметрия отрицательна, если мода располагается за медианой, тогда большая часть распределения оказыва- ется слева, а более крутой спад — справа. Из соотношений (1.3.3) и (1.3.4) видно, что для симметричных распределе- ний математическое ожидание, а также все моменты нечётных порядков равны нулю. Если же это не так, то всегда можно перейти к центрированной случай- ной величине (обозначаемой кружком сверху) o [ ] E , (1.3.8) имеющей, очевидно, нулевое среднее. По аналогии с (1.3.1) и (1.3.2) введём центральные моменты k-го порядка μ k , представляющие собой начальные моменты центрированной случайной ве- личины: [ ] [ ] ( ) k k x w x dx E (1.3.9) для непрерывного и 1 [ ] [ ] k k i i i x p E (1.3.10) для дискретного случаев. 0 5 10 15 20 25 -0.05 0 0.05 0.1 0.15 0.2 0.25 5 10 15 20 0.1 0.2 0 x W (x), W (x) x m , x med, E[ ] W (x) x m , = x med, = E[ ] W (x) 5 Среди центральных моментов наиболее часто используется центральный момент второго порядка μ 2 , называемый дисперсией и обозначаемый как D[ξ]: 2 [ ] [ ] ( ) x w x dx D E (1.3.11) для непрерывной случайной величины и 2 1 [ ] [ ] i i i x p D E (1.3.12) для дискретной случайной величины. Перечислим основные свойства дисперсии. Дисперсия имеет размерность квадрата размерности случайной величины. Дисперсия неотрицательна, причём D[ξ] = 0 тогда и только тогда, когда ξ является неслучайной величиной. Постоянный множитель выносится в квадрате за знак дисперсии: если η = cξ, то 2 [ ] [ ] [ ] c c D D D Постоянное слагаемое не влияет на значение дисперсии: если η = c + ξ, то [ ] [ ] [ ] c D D D Если случайные величины ξ 1 и ξ 2 независимы 2 , то дисперсия суммы или разности этих величин равна сумме дисперсий: 1 2 1 2 D D D Дисперсия характеризует меру разброса (концентрации) значений случай- ной величины относительно её математического ожидания. Поскольку диспер- сия 2 [ ] D имеет размерность квадрата случайной величины, часто исполь- зуют среднеквадратическое отклонение (СКО) σ ξ , имеющее размерность самой случайной величины ξ. Количественно степень концентрации плотности вероятности w ξ (x) в окрестности математического ожидания E[ξ] характеризуется неравенством Чебышева: для любого ε > 0 2 [ ] [ ] P D E , (1.3.13) откуда следует, что 2 В действительности для выполнения свойства аддитивности дисперсии вместо неза- висимости достаточно требование некоррелированности случайных величин (см. далее). 6 2 [ ] [ ] [ ] 1 P D E E Отметим, что хотя неравенство Чебышева часто используется в теоретических рассмотрениях, его практическое применение затруднительно, поскольку оно да- ёт слишком низкую точность. Центральный и начальный моменты второго порядка связаны соотношени- ем, которое непосредственно следует из (1.3.11) или (1.3.12): 2 2 D E E (1.3.14) и которое является “рабочим” при нахождении дисперсии. Выше уже говорилось о том, что при несовпадении моды и медианы рас- пределение имеет асимметричный вид. Для количественной оценки асиммет- ричности и сглаженности (заострённости) распределения вводят коэффициент асимметрии 3 as 3 [ ] k D (1.3.15) и коэффициент эксцесса 4 ex 2 3 [ ] k D (1.3.16) Нулевое значение k as означает, что распределение симметрично; в против- ном случае имеет место асимметрия. Значение коэффициента эксцесса “привязано” к нормальному распределе- нию, для которого k ex = 0. Если k ex > 0 то плотность распределения в окрестно- стях моды имеет более высокую и более острую вершину, чем плотность нор- мального распределения с такими же средним и дисперсией. Значение k ex < 0 указывает на более плоский характер вершины по сравнению с аналогичным нормальным распределением. Найдём числовые характеристики для некоторых непрерывных и дискрет- ных одномерных распределений. Равномерное распределение Непрерывное равномерное распределение описывает ситуацию, при кото- рой равновозможны любые значения из определённого диапазона. Использова- ние такого распределение целесообразно в тех случаях, когда априори ничего не известно о возможных значениях либо сознательно отказываются от априор- ной информации в целях, например, упрощения реализации устройств обработ- ки сигналов. Для случайной величины ξ, распределённой по равномерному закону 7 1 , ; ( ) 0, , , a x b w x b a x a x b (1.3.17) обозначаемому как ( , ) U a b , математическое ожидание [ ] 2 b a x a b dx b a E , (1.3.18) дисперсия 2 2 2 ( ) [ ] 2 12 b a x a b b a dx b a D (1.3.19) Также нетрудно найти начальный момент произвольного порядка: 1 1 [ ] ( 1)( ) b k k k k a x b a m dx b a k b a , k = 1, 2, … . (1.3.20) Медиана равномерного распределения совпадает с математическим ожи- данием, а, поскольку распределение “предельно плоское”, в качестве моды мо- жет быть выбрано любое значение из промежутка [a; b]. Коэффициент асимметрии равен нулю: ( )/2 3 3/2 3/2 3 as 3 4 ( )/2 12 1 12 0 2 ( ) ( ) b a b a b a b a k x dx y dy b a b a b a , а коэффициент эксцесса ( )/2 4 2 2 4 ex 4 5 ( )/2 12 1 12 3 3 2 ( ) ( ) b a b a b a b a k x dx y dy b a b a b a 5 5 2 5 12 1 6 3 5 2 2 5 ( ) b a b a b a Равномерное распределение U(0, 1) называется стандартным равномер- ным распределением, оно, как будет показано далее, во многих случаях являет- ся исходным для получения других распределений и конструирования соответ- ствующих датчиков случайных чисел. Равновероятное (дискретное равномерное) распределение Равновероятное распределение, также обозначаемое ( , ) U a b , является дискретным аналогом непрерывного равномерного распределения и описывает ситуацию, при которой равновозможны, вообще говоря, любые m (m = 2, 3, …) значений случайной величины ξ из указанного диапазона. 8 Рассмотрим частный, но наиболее распространённый на практике случай эквидистантных значений x k : ( 1) k x a k , 1 b a m , 1, 2, , k m , (1.3.21) принимаемых с одинаковой вероятностью 1 k p m , 1, 2, , k m Математическое ожидание 1 ( 1) [ ] 2 m k a k a b m E , дисперсия 2 2 2 1 ( 1) ( ) ( 1) [ ] 2 12( 1) m k a k b a b a m m m D (1.3.22) Медиана распределения совпадает с математическим ожиданием, но мода не существует, поскольку в соотношениях (1.3.7) фигурируют строгие неравен- ства. При нахождении коэффициента асимметрии 3 3 3 as 3 1 1 1 ( ) ( 1) (2 1) 2 8 ( 1) m m k k b a a b b a k a k k m m m a m m (1.3.23) нетрудно видеть, что суммируются одинаковые по величине и противополож- ные по знаку значения, так что as 0 k Вычисление коэффициента эксцесса приводит к следующему значению: 2 ex 2 6( 1) 5( 1) m k m (1.3.24) Заметим, что, как и следовало ожидать, при m → ∞ характеристики равно- вероятного распределения совпадают с аналогичными характеристиками для равномерного распределения. Биномиальное распределение Биномиальное распределение возникает в схеме Бернулли при определении вероятности заданного числа испытаний в последовательной цепочке независи- мых испытаний. В связных задачах биномиальное распределение используется, 9 например, для описания искажений сигналов или логических символов при пе- редаче их по каналу с независимыми ошибками. Вероятность p n (k) того, что в схеме из n последовательных независимых испытаний окажется ровно k (k = 0, 1, …, n) “успехов”, т. е. интересующих наблюдателя исходов, равна ( ) (1 ) k k n k n n p k C p p , (1.3.25) где p — вероятность одиночного исхода, а ! !( )! k n n n C k k n k являются биномиальными коэффициентами. Биномиальное распределение с параметрами n и p обычно обозначают B(n, p). Найдём математическое ожидание: 1 1 ( 1) 0 1 ( 1)! (1 ) [ ] (1 ) ( 1)!( 1 ( 1))! k n k n n k k n k n k k n p p kC p p np k n k E 1 1 1 0 ( 1)! (1 ) !( 1 )! m n m n m n p p np m n m Стоящие в сумме слагаемые представляют собой вероятности того, что в по- следовательности из (n – 1) испытания окажется m (m = 0, 1, …, n – 1) исходов, и, очевидно, сумма всех таких вероятностей равна единице. Таким образом, [ ] np E (1.3.26) При вычислении дисперсии 2 2 2 0 1 ! (1 ) [ ] (1 ) ( ) ( ) ( 1)!( )! k n k n n k k n k n k k kn p p k C p p np np k n k D 1 1 2 1 ( 1)( 1)! (1 ) ( ) !( 1)! k n m n m m n p p np np m n m 1 1 1 2 0 0 ( 1)! (1 ) ( 1)! (1 ) (1 ) ( ) !( 1 )! !( 1 )! k n m k n m n n m m m n p p n p p np np p np m n m m n m учтём, что получившаяся первая сумма представляет собой математическое ожидание np, а вторая — сумму всех вероятностей. Тогда 2 2 [ ] ( ) (1 ) ( ) (1 ) np np p np np p D (1.3.27) Биномиальное распределение при p = 0,5 симметрично, и чем больше p от- лично от 0,5, тем больше асимметрия. В общем случае коэффициент асимметрии as 1 (1 ) k np p , (1.3.28) 10 коэффициент эксцесса ex 1 6(1 ) (1 ) p k np p (1.3.29) Медиана и мода распределения близки к математическому ожиданию, но, во-первых, они должны быть целочисленными значениями (np, вообще говоря, нецелое), а во-вторых, зависят от чётности или нечётности числа n испытаний. Мода равна ( 1) n p , а медиана выбирается одним из значений 1 np , np , 1 np , где квадратные скобки означают округление вверх (в сторону +∞). Укажем также, что центральные моменты биномиального распределения свя- заны следующим рекуррентно-дифференциальным соотношением [7]: 1 1 (1 ) r r r d p p nr dp , r = 2, 3, … . (1.3.30) Пуассоновское распределение Дискретное параметрическое пуассоновское распределение используется в теории массового обслуживания, когда требуется обеспечить эффективный ме- ханизм обслуживания на основе очереди заявок, для моделирования различных потоков редких событий, например, для оценки надёжности радиоэлектронной аппаратуры и в других теоретико-вероятностных приложениях. Кроме того, это распределение является аппроксимирующим в схеме Бернулли при малых зна- чениях вероятности единичного исхода, позволяя обойтись без вычисления би- номиальных коэффициентов больших порядков. Вероятность p k того, что случайная величина ξ примет целое неотрица- тельное значение k определяется выражением ( ) exp( ) ! k k p P k k , k = 0, 1, 2, …, (1.3.31) где λ > 0 — параметр распределения. Имеем: 1 0 1 0 [ ] exp( ) exp( ) exp( ) ! ( 1)! ! k k m k k m k k k m E Возникшая бесконечная сумма представляет собой степенное разложение экс- поненты, поэтому 11 [ ] E (1.3.32) Аналогичным образом вычисляется дисперсия: 1 2 2 2 0 1 [ ] exp( ) exp( ) ! ( 1)! k k k k k k k k D 2 2 2 0 ( 1) exp( ) ! m m m m (1.3.33) Видно, что математическое ожидание и дисперсия для пуассоновского распределения совпадают. Конфигурация распределения существенно зависит от значения параметра λ. Так, при λ = 0,5 распределение монотонно убывает; при λ = 2 возникает плоская вершина; при λ = 3,5 имеет место экстремум. Пуассоновское распределение имеет моду (округление в сторону ми- нус бесконечности); медианы, строго говоря, не существует. Коэффициент асимметрии as 1 / k , (1.3.34) коэффициент эксцесса ex 1 / k (1.3.35) Нормальное (гауссовское) распределение Нормальное (гауссовское) распределение занимает среди других законов особое положение в связи с его фундаментальным значением и в теории, и на практике. Впервые об этом законе упоминается ещё в работах А. Муавра в 1730 г. как аппроксимирующем распределении в схеме Бернулли, когда вероят- ность единичного исхода близка к 1/2. Впоследствии этот закон распределения исследовался в работах П.-С. Лапласа и, особенно, К.-Ф. Гаусса при разработке им теории измерений и ошибок, за что и получил его имя. Особое положение нормального распределения обусловлено тем, что оно является предельным (результирующим) для многих других законов при асимптотическом поведе- нии, и это порождает целые классы теоретико-вероятностных задач: законы больших чисел, предельные теоремы и др. Плотность вероятности (1.2.18) нормального распределения, обозначаемо- го как 2 , N a , является двухпараметрической функцией: 2 2 2 1 ( ) exp 2 2 x a w x 12 Вычисление математического ожидания и дисперсии согласно (1.3.3) и (1.3.10) показывает, что 2 2 2 [ ] exp / 2 2 x x a dx a E (1.3.36) и 2 2 2 2 2 [ ] exp / 2 2 x a x a dx D , (1.3.37) т. е. параметры распределения непосредственно являются математическим ожиданием и дисперсией. Распределение (0, 1) N называется стандартным нормальным распределением. Отметим, что для нормального распределения медиана и мода совпадают с математическим ожиданием, коэффициенты асимметрии и эксцесса, а также все центральные моменты нечётных порядков равны нулю. Центральные мо- менты чётных порядков равны 2 2 (2 )! ! 2 r r r r , r = 1, 2, … . (1.3.38) Распределение Коши Распределение Коши 2 2 0 ( ) b w x b x x , b > 0 (1.3.39) является примером непрерывного распределения, для которого не существуют моменты, поскольку несобственный интеграл вида 2 2 0 k x dx b x x расходится для k = 1, 2, … . Распределение Коши обозначают 0 ( , ) C x b , где x 0 — параметр сдвига, ко- торому равны и медиана, и мода, а b > 0 — параметр масштаба, определяющий “остроту” вершины. Распределение (0, 1) C называется стандартным распре- делением Коши. |