Лекции теория вероятностей 2019. Вероятностное пространство
 Скачать 2.67 Mb.
|
|
, сделав замену 𝑧 = (𝑡 − 𝑖𝜆)𝑥? Дело в том, что при этом прямая (−∞, ∞) перешла бы в прямую 𝑡𝑥 − 𝑖𝜆𝑥, где 𝑥 ∈ R, а интеграл по этой прямой может и не равняться интегралу от той же фукции по вещественной прямой. Например, ∫︀ R 𝑒 𝑖𝑥 /(1 + 𝑥 2 )𝑑𝑥 , конечно же сходится, ведь он абсолютно оценивается интегралом от 1/(1 + 𝑥 2 ) , т.е. 𝜋/2. Но если сделать замену 𝑦 = 𝑖𝑥, то получим 𝑖 ∫︀ R 𝑒 𝑦 /(1 − 𝑦 2 )𝑑𝑦 , который расходится на бесконечности (да еще и в 1 и в −1). Секрет в том, что на самом деле второй интеграл не по R, а по 𝑖R, с которым нужно работать иначе. В связи с этим мы будем осторожно брать интегралы по определению. 13.4 Существование и единственность характеристической функции А как же, зная характеристическую функцию, найти само распределение и единственно ли распределение с такой характеристической функцией? На второй вопрос отвечает теорема единственности: Теорема 13.1. Пусть 𝐹 и 𝐺 — две ф.р., имеющие одинаковые характеристические функции. Тогда 𝐹 (𝑥) = 𝐺(𝑥) при всех 𝑥. Ответить на первый вопрос для величин с плотностью нам поможет формула обращения: 83 Теорема 13.2. 1) Пусть х.ф. периодична с максимальным периодом 2𝜋. Тогда величина 𝑋 целочисленна, причем P(𝑋 = 𝑘) = (2𝜋) −1 ∫︁ 𝜋 −𝜋 𝑒 −𝑖𝑡𝑘 𝜓 𝑋 (𝑡)𝑑𝑡. 2) Пусть х.ф. абсолютно интегрируема на всей прямой. Тогда 𝑋 имеет плотность 𝑓 𝑋 (𝑥) = (2𝜋) −1 ∫︁ R 𝑒 −𝑖𝑡𝑥 𝜓 𝑋 (𝑡)𝑑𝑡. Обе теоремы мы оставим без доказательств. Заметим, что если п.ф. определяется значениями в счетном числе точек, то различные х.ф. могут совпадать на целых отрезках. Так, например, х.ф. являются функции 𝜓 𝑋 (𝑡) = {︂ 1 − |𝑡| |𝑡| ≤ 1, 0 |𝑡| ≤ 1, 𝜓 𝑌 (𝑡) = ⎧ ⎪ ⎪ ⎨ ⎪ ⎪ ⎩ 1 − |𝑡|, −1 ≤ 𝑡 ≤ 1, 1 − |𝑡 − 2| 1 ≤ 𝑡 ≤ 3, совпадающие на целом отрезке, однако, различные. Более того, первая х.ф. соответствует абсолютно-непрерывному, а вторая — дискретному распределению. Рис. 18: Первой (зеленой) х.ф. соответствует распределение с зеленой плотностью, второй (синей) – дискретное распределение с синей функцией масс 13.5 Характеристические функции для некоторых распределений Выпишем некоторые характеристические функции: 1. Бернуллиевская величина — 𝑝𝑒 𝑖𝑡 + 𝑞 2. Геометрическая величина — 𝑝/(1 − (1 − 𝑝)𝑒 𝑖𝑡 ) 3. Пуассоновская величина — 𝑒 𝜆(𝑒 𝑖𝑡 −1) 4. Равномерная на [𝑎, 𝑏] величина — (𝑒 𝑖𝑡𝑏 − 𝑒 𝑖𝑡𝑎 )/(𝑖𝑡(𝑏 − 𝑎)) . В частности при 𝑎 = −𝑏 получим sin(𝑏𝑡)/(𝑏𝑡). 5. Экспоненциальная величина — 𝜆 𝜆−𝑖𝑡 6. Стандартная нормальная случайная величина — 𝑒 −𝑡 2 /2 84 7. Распределение Коши — 𝑒 −|𝑡| 8. Гамма-распределение 𝐺𝑎𝑚𝑚𝑎(𝜆, 𝑚) — (1 − 𝜆𝑖𝑡) −𝑚 13.6 Характеристическая функция случайного вектора Определение 13.3. Характеристической функцией случайного вектора ⃗ 𝑋 ∈ R 𝑛 называют функцию 𝜓 ⃗ 𝑋 (⃗𝑡) = E exp(𝑖⟨ ⃗ 𝑋, ⃗𝑡⟩). Сформулируем базовые свойства характеристической функции. Теорема единственности сохраняется. 1. 𝜓(⃗0) = 1. Более того 𝜓 ⃗ 𝑋 (0, . . . , 0, 𝑡 𝑘 1 , 0, . . . , 0, 𝑡 𝑘 𝑚 , 0 . . . 0) = 𝜓 𝑋 𝑘1 ,...𝑋 𝑘𝑚 (𝑡 𝑘 1 , . . . , 𝑡 𝑘 𝑚 ); 2. 𝜓(⃗𝑡) непрерывная функция, равномерно непрерывная на R 𝑛 3. Если величины 𝑋 𝑘 𝑖 имеют конечное математическое ожидание, то 𝜓(𝑡) 𝑘 раз дифференцируема, причем 𝜕 𝜕𝑡 𝑙 1 𝜕 𝜕𝑡 𝑙 2 · · · 𝜕 𝜕𝑡 𝑙 𝑘 𝜓(⃗𝑡) = E𝑋 𝑙 1 · · · 𝑋 𝑙 𝑘 𝑒 𝑖⟨⃗ 𝑡, ⃗ 𝑋⟩ , где 𝑙 1 , . . . , 𝑙 𝑘 ∈ {1, . . . , 𝑛} могут содержать повторения. Доказательство полностью аналогично одномерному случаю. 4. Для любых матрицы 𝐴 размера 𝑚 × 𝑛 и вектора ⃗𝑏 ∈ R 𝑛 выполнено свойство 𝜓 𝐴 ⃗ 𝑋+⃗𝑏 (⃗𝑡) = exp (𝑖⟨𝑡, 𝑏⟩) 𝜓 ⃗ 𝑋 (𝐴 𝑇 ⃗𝑡). Доказательство. 𝜓 𝐴 ⃗ 𝑋+⃗𝑏 (⃗𝑡) = E exp (︁ 𝑖⃗𝑡 𝑇 𝐴 ⃗ 𝑋 + 𝑖⃗𝑡 𝑇 ⃗𝑏 )︁ = exp (︁ 𝑖⟨⃗𝑡,⃗𝑏⟩ )︁ E exp (︁ 𝑖⟨𝐴 𝑇 ⃗𝑡, ⃗ 𝑋⟩ )︁ = exp (︁ 𝑖⟨⃗𝑡,⃗𝑏⟩ )︁ 𝜓 ⃗ 𝑋 (𝐴 𝑇 ⃗𝑡). 5. 𝜓 − ⃗ 𝑋 (⃗𝑡) = 𝜓 ⃗ 𝑋 (⃗𝑡) 6. Векторы ⃗ 𝑋 1 , . . . , ⃗ 𝑋 𝑛 независимы тогда и только тогда, когда 𝜓 ⃗ 𝑋 1 ,..., ⃗ 𝑋 𝑛 (⃗𝑡 1 , . . . , ⃗𝑡 𝑛 ) = 𝜓 ⃗ 𝑋 1 (⃗𝑡 1 ) · · · 𝜓 ⃗ 𝑋 𝑛 (⃗𝑡 𝑛 ). Иначе говоря, х.ф. вектора, состоящего из нескольких независимых блоков, равна произведению х.ф. блоков. Доказательство. Из независимости вытекает требуемое свойство, поскольку функции независимых ве- личин независимы. В обратную сторону можно получить ответ используя теорему единственности: как мы уже установили, будь блоки независимыми, х.ф. имела бы тот же самый вид. Но раз она однозначно определяет распределение, то у распределения с такой х.ф. блоки независимыми 7. Характеристическая функция суммы независимых векторов есть произведение х.ф. каждого из них. Доказательство. E𝑒 𝑖⟨⃗ 𝑡, ⃗ 𝑋 1 +···+ ⃗ 𝑋 𝑛 ⟩ = E𝑒 𝑖⟨⃗ 𝑡, ⃗ 𝑋 1 ⟩ · · · 𝑒 𝑖⟨⃗ 𝑡, ⃗ 𝑋 𝑛 ⟩ = E𝑒 𝑖⟨𝑡, ⃗ 𝑋 1 ⟩ · · · E𝑒 𝑖⟨𝑡, ⃗ 𝑋 𝑛 ⟩ 85 13.7 Многомерное нормальное распределение Теперь мы готовы дать еще одно определение многомерного нормального распределения Определение 13.4. Вектор ⃗ 𝑋 имеет многомерное нормальное распределение 𝒩 (⃗𝑎, Σ), если ее х.ф. имеет вид 𝜓 ⃗ 𝑋 (⃗𝑡) = exp (︂ 𝑖⟨⃗𝑎, ⃗𝑡⟩ + 1 2 ⃗𝑡 𝑇 Σ⃗𝑡 )︂ Лемма 13.1. Указанное определение равносильно предыдущему: ⃗ 𝑋 ∼ 𝒩 (⃗𝑎, Σ) если ⃗ 𝑋 𝑑 = 𝐴⃗ 𝑌 + ⃗𝑏, где Σ = 𝐴𝐴 𝑇 , ⃗ 𝑌 — вектор с независимыми 𝒩 (0, 1) компонентами. Доказательство. Вектор ⃗𝑌 имеет х.ф. 𝜓 ⃗ 𝑌 (⃗𝑡) = exp(−𝑡 2 1 /2 − 𝑡 2 2 /2 − · · · − 𝑡 2 𝑘 /2) = exp (︂ − 1 2 ⟨⃗𝑡, ⃗𝑡⟩ )︂ поскольку его компоненты независимы. При этом 𝜓 𝐴⃗ 𝑌 +⃗𝑏 (⃗𝑡) = exp (︂ 𝑖⟨⃗𝑡,⃗𝑏⟩ + 1 2 ⃗𝑡 𝑇 𝐴𝐴 𝑇 ⃗𝑡 )︂ = exp (︂ 𝑖⟨⃗𝑡,⃗𝑏⟩ + 1 2 ⃗𝑡 𝑇 Σ⃗𝑡 )︂ Значит, ⃗ 𝑋 = 𝐴⃗ 𝑌 + ⃗𝑏 . И, напротив, любая симметричная неотрицательно определенная матрица Σ представи- ма в виде 𝐴𝐴 𝑡 для некоторой матрицы 𝐴 (поскольку она диагонализируема в собственном базисе, причем с неотрицательными числами на диагонали). Тогда 𝐴⃗𝑌 +⃗𝑏 будет иметь распределение с х.ф. exp (︂ 𝑖⟨⃗𝑡,⃗𝑏⟩ + 1 2 ⃗𝑡 𝑇 Σ⃗𝑡 )︂ Значит вектор с такой х.ф. имеет распределение 𝒩 (⃗𝑏, Σ). 14 Сходимость случайных величин Пусть 𝑋 1 , . . . , 𝑋 𝑛 , . . . — случайные величины, определенные на некотором вероятностном пространстве (Ω, ℱ, P). Зададимся вопрос о том, какую сходимость этих величин можно рассматривать. 14.1 Сходимость почти наверное Первое что приходит в голову — давайте просто рассмотрим поточечную сходимость 𝑋 𝑛 к некоторой величине 𝑋 . Потребуем, чтобы при каждом 𝜔 𝑋 𝑛 (𝜔) как обычная числовая последовательность сходилась к 𝑋(𝜔). Как мы уже обсуждали, если эта величина существует и конечна, то она случайная величина. Слова ”при каждом” здесь более удобно заменить на ’при почти каждом’. Определение 14.1. Величины 𝑋 𝑛 сходятся с вероятностью 1 или почти наверное к 𝑋 (обозначение 𝑋 𝑛 → 𝑋 п.н.), если P(𝜔 : 𝑋 𝑛 (𝜔) → 𝑋(𝜔), 𝑛 → ∞) = 1. Пример 14.1. Пусть Ω = [0, 1], ℱ = ℬ([0, 1]), P — мера Лебега. Тогда последовательность величин 𝑋 𝑛 (𝜔) = 𝜔 𝑛 сходится п.н. к 𝑋(𝜔) = 0. Фактически это обычная сходиомсть числовой последовательности, зависящей от параметра 𝜔. Лемма 14.1. Сходимость 𝑋 𝑛 → 𝑋 п.н. выполнена тогда и только тогда, когда при любом 𝜀 > 0. lim 𝑁 →∞ P( sup 𝑛>𝑁 |𝑋 𝑛 (𝜔) − 𝑋(𝜔)| > 𝜀) = 0. Доказательство. Заметим, что можно рассматривать только 𝜀 = 1/𝑀 для всех целых 𝑀. По определению при каком-либо 𝜔 последовательность 𝑋 𝑛 (𝜔) не сходится к 𝑋(𝜔) тогда и только тогда, когда ∃𝑀 ∈ N ∀𝑁 : ∃𝑛 > 𝑁 |𝑋 𝑛 (𝜔) − 𝑋 𝑚 (𝜔)| > 1/𝑀. 86 Отсюда, сходимость п.н. 𝑋 𝑛 → 𝑋 равносильна P (︂ ∃𝑀 ∀𝑁 sup 𝑛>𝑁 |𝑋 𝑛 (𝜔) − 𝑋(𝜔)| > 1 𝑀 )︂ = 0. В свою очередь, указанные вероятности представимы в виде P (︃ ⋃︁ 𝑀 ∈N ⋂︁ 𝑁 ∈N ⋃︁ 𝑛>𝑁 {︂ 𝜔 : |𝑋 𝑛 (𝜔) − 𝑋(𝜔)| > 1 𝑀 }︂ )︃ , Вероятность объединения равна 0 тогда и только тогда, когда все события имеют нулевую вероятность, то есть P (︃ ⋂︁ 𝑁 ∈N {︂ 𝜔 : sup 𝑛>𝑁 |𝑋 𝑛 (𝜔) − 𝑋(𝜔)| > 1 𝑀 }︂ )︃ = 0. Так как события под знаком пересечения вложены по 𝑁, то P (︃ ⋂︁ 𝑁 ∈N {︂ 𝜔 : sup 𝑛>𝑁 |𝑋 𝑛 (𝜔) − 𝑋(𝜔)| > 1 𝑀 }︂ )︃ = lim 𝑁 →∞ P (︂{︂ 𝜔 : sup 𝑛>𝑁 |𝑋 𝑛 (𝜔) − 𝑋(𝜔)| > 1/𝑀 }︂)︂ Значит, сходимость п.н. равносильна тому, что lim 𝑁 →∞ P (︂{︂ 𝜔 : sup 𝑛>𝑁 |𝑋 𝑛 (𝜔) − 𝑋(𝜔)| > 1 𝑀 }︂)︂ = 0. Аналогичным образом мы можем доказать следующий критерий Коши для сходимости почти наверное: Лемма 14.2. Последовательность 𝑋 𝑛 сходится п.н. тогда и только тогда, когда P ⎛ ⎝ ∑︁ 𝑛,𝑚>𝑁 |𝑋 𝑛 (𝜔) − 𝑋 𝑚 (𝜔)| > 𝜀 ⎞ ⎠ → 0, 𝑁 → ∞. Отметим, что прямо из определения предел п.н. единственен с точностью до множества меры ноль: если 𝑋 𝑛 → 𝑋 п.н. и 𝑋 𝑛 → 𝑌 п.н., то P(𝜔 : 𝑋(𝜔) = 𝑌 (𝜔)) = 1. 14.2 Сходимость по вероятности Ослабим сходимость почти наверное, убрав во втором определении супремум: Определение 14.2. Будем говорить, что если выполнено соотношение lim 𝑛→∞ P(|𝑋 𝑛 (𝜔) − 𝑋(𝜔)| > 𝜀) = 0, то последовательность 𝑋 𝑛 сходится к 𝑋 по вероятности. Обозначать это будем 𝑋 𝑛 𝑃 → 𝑋 Мы видим, что из сходимости п.н. следует сходимость по вероятности. Обратное неверно, что показывает следующий пример: Пример 14.2. Рассмотрим то же пространство, что и в примере 1 и положим 𝑋 𝑛,𝑘 = 𝐼 [𝑘/2 𝑛 ,(𝑘+1)/2 𝑛 ) (𝜔) , где 𝑛 ∈ N, 0 ≤ 𝑘 ≤ 2 𝑛 − 1 Упорядочим полученные величины, положив 𝑌 𝑘 = 𝑋 𝑖,𝑗 , где 𝑘 = 2 𝑖 + 𝑗 , 𝑗 < 2 𝑖 . Иначе говоря, 𝑖 — это число знаков в двоичной записи 𝑘 ([log 2 𝑘] ), а 𝑗 — это 𝑘 − 2 𝑖 Тогда эта последовательность, разумеется, сходится по вероятности к 0, ведь множество тех 𝜔, при которых 𝑋 𝑘 отличается от 0 есть 2 −𝑖 , то есть стремится к 0 с ростом 𝑘. Но п.н. эта последовательность к 0 не стремится, ведь для каждого 𝜔, кроме 1 при каждом 𝑖 найдется 𝑗, такое, что 𝑋 𝑖,𝑗 (𝜔) = 1 87 Рис. 19: Плавающие ступеньки Таким образом, сходимость по вероятности — более грубая, чем сходимость почти наверное. Тем не менее, справедливо следующее утверждение: Лемма 14.3. 1. Пусть 𝑋 𝑛 𝑃 → 𝑋. Тогда существует такая последовательность 𝑛 𝑘 , что 𝑋 𝑛 𝑘 𝑃 → 𝑋, 𝑘 → ∞. 2. Пусть lim 𝑛,𝑚→∞ P(|𝑋 𝑛 − 𝑋 𝑚 | > 𝜀) = 0. Тогда существует такая последовательность 𝑛 𝑘 , что lim 𝑁 →∞ P( sup 𝑘,𝑙>𝑁 |𝑋 𝑛 𝑘 − 𝑋 𝑛 𝑙 | > 𝜀) = 0. Это утверждение мы оставим без доказательства. Также как и для сходимости почти наверное можно сформулировать критерий Коши сходимости по вероят- ности: Лемма 14.4. Последовательность 𝑋 𝑛 сходится по вероятности тогда и только тогда, когда при любом 𝜀 > 0 lim 𝑛,𝑚→∞ P(𝜔 : |𝑋 𝑛 (𝜔) − 𝑋 𝑚 (𝜔)| > 𝜀) = 0. Доказательство. Пусть 𝑋 𝑛 𝑃 → 𝑋 при 𝑛 → ∞. Тогда при любых 𝛿, 𝜀 > 0 найдется такое 𝑁, что P(𝜔 : |𝑋 𝑛 (𝜔) − 𝑋(𝜔)| > 𝜀/2) < 𝛿/2 при всех 𝑛 > 𝑁. Но тогда P(𝜔 : |𝑋 𝑛 (𝜔) − 𝑋(𝜔)| > 𝜀/2) < 𝛿/2, P(𝜔 : |𝑋 𝑚 (𝜔) − 𝑋(𝜔)| > 𝜀/2) < 𝛿/2 при 𝑛, 𝑚 > 𝑁. Значит P(𝜔 : |𝑋 𝑛 (𝜔) − 𝑋 𝑚 (𝜔)| > 𝜀) ≤ P(𝜔 : |𝑋 𝑛 (𝜔) − 𝑋(𝜔)| > 𝜀/2) + P(𝜔 : |𝑋 𝑚 (𝜔) − 𝑋(𝜔)| > 𝜀/2) < 𝛿. В силу произвольности 𝛿 > 0 имеем требуемое. Для доказательства обратной части воспользуемся Леммой 14.3 . В силу нее найдется такая последователь- ность 𝑛 𝑘 , что lim 𝑁 →∞ P( sup 𝑘,𝑙>𝑁 |𝑋 𝑛 𝑘 − 𝑋 𝑛 𝑙 | > 𝜀) = 0. 88 В силу критерия Коши сходимости п.н. 𝑋 𝑛 𝑘 сходится к некой последовательности 𝑋 п.н. Но тогда P(|𝑋 𝑚 − 𝑋| > 𝜀) ≤ P(|𝑋 𝑚 − 𝑋 𝑛 𝑘 | > 𝜀/2) + P(|𝑋 𝑛 𝑘 − 𝑋| > 𝜀/2). C ростом 𝑚 и 𝑘 первое слагаемое правой части стремится к нулю по условию, а второе — в силу сходимости 𝑋 𝑛 𝑘 . Отсюда имеем требуемое. Опять же предел по вероятности п.н. единственен: если 𝑋 𝑛 𝑃 → 𝑋 , 𝑋 𝑛 𝑃 → 𝑌 , то P(𝜔 : 𝑋(𝜔) = 𝑌 (𝜔)) = 1. Действительно, при любых положительных 𝜀, 𝛿 выполнены неравенства P(|𝑋 𝑛 − 𝑋| > 𝜀) < 𝛿, P(|𝑋 𝑛 − 𝑌 | > 𝜀) < 𝛿, откуда P(|𝑋 − 𝑌 | > 2𝜀) ≤ P(|𝑋 𝑛 − 𝑋| > 𝜀) + P(|𝑋 𝑛 − 𝑌 | > 𝜀) < 2𝛿. В силу произвольности 𝜀 и 𝛿 lim 𝜀→0 P(|𝑋 − 𝑌 | > 2𝜀) = 0. Но этот предел есть P(|𝑋 − 𝑌 | > 0) в силу непрерывности вероятностной меры. Значит P(𝑋 ̸= 𝑌 ) = 0. 14.3 Сходимость в среднем порядка 𝑝 Определение 14.3. Пусть 𝑝 ≥ 1, E|𝑋 𝑛 | 𝑝 < ∞ и E|𝑋 𝑛 − 𝑋| 𝑝 → 0 . Тогда говорят, что 𝑋 𝑛 сходится в 𝐿 𝑝 к 𝑋 (𝑋 𝑛 𝐿 𝑝 → 𝑋 ). Такая сходимость называется также сходимостью в среднем порядка 𝑝. В частности, при 𝑝 = 1 ее называют сходимостью в среднем, а при 𝑝 = 2 — в среднеквадратичном. В силу неравенства Ляпунова (E(𝑋 𝑝 )) 1/𝑝 ≤ (E(𝑋 𝑞 )) 1/𝑞 , 𝑝 < 𝑞, сходимость в 𝐿 𝑞 влечет сходимость в 𝐿 𝑝 при 𝑞 > 𝑝. Заметим, что все тот же пример с плавающей ступенькой показывает, что из этой сходимости не следует сходимость почти наверное. Более того, из сходимости почти наверное также не следует сходимость в 𝐿 𝑝 Пример 14.3. На все том же вероятностном пространстве Ω = [0, 1], ℱ = ℬ([0, 1]), P — мера Лебега, последо- вательность 𝑋 𝑛 = 𝑒 𝑛 𝐼 0,1/𝑛 сходится почти наверное к 0, но не сходится к нулю в 𝐿 𝑝 , поскольку E|𝑋 𝑛 − 𝑋| 𝑝 = 𝑒 𝑛 · 1 𝑛 → ∞. Покажем, что из сходимости в 𝐿 𝑝 следует сходимость по вероятности. Нам понадобится следующая лемма. Лемма 14.5. 1. Неравенство Маркова. Для любой неотрицательной величины 𝑋 и любого 𝜀 > 0 выполнено неравенство P(𝑋 ≥ 𝜀) ≤ E𝑋 𝜀 2. Неравенство Чебышева. Для любой величины 𝑋 с конечной дисперсией и любого 𝜀 > 0 выполнено нера- венство P(|𝑋 − E𝑋| > 𝜀) ≤ D𝑋 𝜀 2 3. Для любой величины 𝑋 с конечным E|𝑋| 𝑝 и любого 𝜀 > 0 выполнено неравенство P(|𝑋 − E𝑋| > 𝜀) ≤ E|𝑋| 𝑝 𝜀 𝑝 (8) 89 Доказательство. 1. Заметим, что 𝑋 ≥ 𝑋𝐼 𝑋≥𝜀 в силу неотрицательности величины 𝑋. Значит, E𝑋 ≥ E𝑋𝐼 𝑋≥𝜀 ≥ 𝜀E𝐼 𝑋≥𝜀 = 𝜀P(𝑋 ≥ 𝜀). Имеем требуемое неравенство. 2. Заметим, что если 𝑌 = (𝑋 − E𝑋) 2 , то E𝑌 = D𝑋, откуда искомое неравенство прямо вытекает из нера- венства Маркова. 3. Аналогичным образом при 𝑌 = |𝑋 − E𝑋| 𝑝 получаем неравенство ( 8 ). Из последнего соотношения P(|𝑋 𝑛 − 𝑋| ≥ 𝜀) ≤ E|𝑋 𝑛 − 𝑋| 𝑝 /𝜀 𝑝 , откуда сходимость в 𝐿 𝑝 влечет сходимость по вероятности. Опять же предел в 𝐿 𝑝 единственен п.н. (хотя бы потому, что он и предел по вероятности тоже). Можно получать сходимость в 𝐿 𝑝 из сходимости п.н. при дополнительных условиях, пользуясь теоремами о монотонной или мажорируемой сходимостях: 1. Если 𝑋 𝑛 → 𝑋 п.н., 𝑋 𝑛 п.н. монотонно стремятся к 𝑋, E|𝑋 𝑛 | 𝑝 < ∞ , E|𝑋| 𝑝 < ∞ , то 𝑋 𝑛 𝐿 𝑝 → 𝑋 2. Если 𝑋 𝑛 → 𝑋 п.н., 𝑋 𝑛 п.н. стремятся к 𝑋, |𝑋 𝑛 | ≤ 𝑌 при всех 𝑛 и некотором 𝑌 : E|𝑌 | 𝑝 < ∞ , то 𝑋 𝑛 𝐿 𝑝 → 𝑋 14.4 Сходимость по распределению Определение 14.4. Последовательность величин 𝑋 𝑛 (или последовательность распределений 𝐹 𝑛 ) мы назовем сходящейся по распределению , если P(𝑋 𝑛 ≤ 𝑥) → P(𝑋 ≤ 𝑥) для всех 𝑥, таких, что 𝐹 𝑋 непрерывна в точке 𝑥. Обозначают такую сходимость 𝑋 𝑛 𝑑 → 𝑋 Эта сходимость вообще не связана с конкретным поведением 𝑋 𝑛 на Ω, а связана только с ф.р. 𝑋 𝑛 . Отсюда, например, если 𝑋 𝑛 𝑑 → 𝑋 , а 𝑌 имеет то же распределение, что и 𝑋, то 𝑋 𝑛 𝑑 → 𝑌 . Таким образом, пределом у 𝑋 𝑛 по распределению можно считать любую из величин с таким распределением, тогда как предел по вероятности определяются c точностью до множества меры 0. Пример 14.4. Стоит заметить, что условие в точках непрерывности 𝑋 по существу. Например, на все том же вероятностном пространстве величины 𝑋 𝑛 = 1/𝑛 сходятся к 0 почти наверное. Между тем 𝐹 𝑋 𝑛 (0) = 0 , 𝐹 0 (0) = 1 Лемма 14.6. Из сходимости по вероятности следует сходимость по распределению. Доказательство. Действительно, P(𝑋 𝑛 ≤ 𝑥) = P(|𝑋 𝑛 − 𝑋| ≤ 𝜀, 𝑋 𝑛 ≤ 𝑥) + P(|𝑋 𝑛 − 𝑋| > 𝜀, 𝑋 𝑛 ≤ 𝑥) ≤ P(𝑋 ≤ 𝑥 + 𝜀) + 𝑜(1), откуда lim sup 𝑛→∞ P(𝑋 𝑛 ≤ 𝑥) ≤ P(𝑋 ≤ 𝑥 + 𝜀) = 𝐹 𝑋 (𝑥 + 𝜀). В силу произвольности 𝜀 и непрерывности 𝐹 𝑋 справа имеем оценку lim sup P(𝑋 𝑛 ≤ 𝑥) ≤ P(𝑋 ≤ 𝑥) . Аналогично получаем нижнюю оценку P(𝑋 𝑛 ≤ 𝑥) ≥ P(𝑋 𝑛 ≤ 𝑥, |𝑋 𝑛 − 𝑋| ≤ 𝜀) ≥ P(𝑋 ≤ 𝑥 − 𝜀, |𝑋 𝑛 − 𝑋| ≤ 𝜀) = P(𝑋 ≤ 𝑥 − 𝜀) − P(|𝑋 𝑛 − 𝑋| ≤ 𝜀), откуда lim 𝑛→∞ P(𝑋 𝑛 ≤ 𝑥) = lim 𝜀→0 P(𝑋 ≤ 𝑥 − 𝜀) = P(𝑋 ≤ 𝑥), где мы пользуемся непрерывностью 𝐹 𝑋 в точке 𝑥 слева, поскольку это точка непрерывности. Стоит заметить, что если 𝑋 𝑛 𝑑 → 𝐶 , где 𝐶 — константа, то 𝑋 𝑛 𝑃 → 𝐶 (это одна из домашних задач). 90 Лемма 14.7. Следующие условия эквивалентны: 1. 𝑋 𝑛 𝑑 → 𝑋, 𝑛 → ∞; 2. E𝑓 (𝑋 𝑛 ) → E𝑓 (𝑋), 𝑛 → ∞ для любой непрерывной ограниченной функции 𝑓 ; 3. 𝜓 𝑋 𝑛 (𝑡) → 𝜓 𝑋 (𝑡), 𝑛 → ∞, при всех 𝑡, где 𝜓 — х.ф. Это утверждение достаточно сложно и мы оставим его без доказательства. Соответственно, можно доказывать сходимость по распределению через сходимость характеристических функ- ций. Это бывает удобно, особенно при работе с суммами случайных величин. 14.5 Функции от сходящихся величин Если рассмотреть 𝑔 — непрерывную функцию, а 𝑋 𝑛 𝑑 → 𝑋 , то при всех 𝑓 ∈ 𝐶𝐵 (непрерывных ограниченных функциях) выполнено соотношение E𝑓 (𝑋 𝑛 ) → E𝑓 (𝑋), 𝑛 → ∞, в частности, E𝑓 (𝑔(𝑋 𝑛 )) → E𝑓 (𝑔(𝑋)), 𝑛 → ∞, поскольку непрерывная функция от непрерывной непрерывна и композиция ограниченная функции с любой функцией ограничена. Значит, 𝑔(𝑋 𝑛 ) 𝑑 → 𝑔(𝑋), 𝑛 → ∞. Следовательно, сходимость по распределению сохраняется при действии непрерывных функций. Cходимость в 𝐿 𝑝 не обязательно хотя бы потому, что у 𝑔(𝑋) может оказаться бесконечным 𝑝-й момент. |