ТЕОРИЯ СЛУЧАЙНЫХ. Конспект подготовлен студентами, не проходил проф. Редактуру и может содержать ошибки. Следите за обновлениями на vk. Comteachinmsu
 Скачать 1.05 Mb.
|
МЕХАНИКА • СЛЕПКОВ АЛЕКСАНДР ИВАНОВИЧ КОНСПЕКТ ПОДГОТОВЛЕН СТУДЕНТАМИ, НЕ ПРОХОДИЛ ПРОФ. РЕДАКТУРУ И МОЖЕТ СОДЕРЖАТЬ ОШИБКИ. СЛЕДИТЕ ЗА ОБНОВЛЕНИЯМИ НА VK.COM/TEACHINMSU. ТЕОРИЯ СЛУЧАЙНЫХ ПРОЦЕССОВ СОКОЛОВ ДМИТРИЙ ДМИТРИЕВИЧ МЕХМАТ МГУ КОНСПЕКТ ПОДГОТОВЛЕН СТУДЕНТАМИ, НЕ ПРОХОДИЛ ПРОФ. РЕДАКТУРУ И МОЖЕТ СОДЕРЖАТЬ ОШИБКИ. СЛЕДИТЕ ЗА ОБНОВЛЕНИЯМИ НА VK.COM/TEACHINMSU. ЕСЛИ ВЫ ОБНАРУЖИЛИ ОШИБКИ ИЛИ ОПЕЧАТКИ, ТО СООБЩИТЕ ОБ ЭТОМ, НАПИСАВ СООБЩЕСТВУ VK.COM/TEACHINMSU. МЕХАНИКО- МАТЕМАТИЧЕСКИЙ ФАКУЛЬТЕТ МГУ ИМЕНИ М.В. ЛОМОНОСОВА СЛУЧАЙНЫЕ ПРОЦЕССЫ • СОКОЛОВ ДМИТРИЙ ДМИТРИЕВИЧ КОНСПЕКТ ПОДГОТОВЛЕН СТУДЕНТАМИ, НЕ ПРОХОДИЛ ПРОФ РЕДАКТУРУ И МОЖЕТ СОДЕРЖАТЬ ОШИБКИ СЛЕДИТЕ ЗА ОБНОВЛЕНИЯМИ НА VK.COM/TEACHINMSU Содержание Лекция 1 5 Введение . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5 Определение случайного процесса и случайного поля . . . . . . . . . . . . 5 Уравнение Навье-Стокса. Турбулентный каскад . . . . . . . . . . . . . . . . 6 Гёльдеровская производная . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7 Лекция 2 8 Винеровский процесс . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8 Модель броуновского движения . . . . . . . . . . . . . . . . . . . . . . . . . 8 Винеровский процесс и уравнение теплопроводности . . . . . . . . . . . . . 9 Винеровский процесс в многомерном пространстве . . . . . . . . . . . . . . 10 Плотность распределения вероятности достижения точки . . . . . . . . . . 11 Максимум винеровского процесса на промежутке от 0 до t . . . . . . . . . 12 Лекция 3 13 Теорема Колмогорова о продолжении меры . . . . . . . . . . . . . . . . . . 13 Понятие полукольца. Мера Бореля . . . . . . . . . . . . . . . . . . . . . . . 15 Квазиинтервал. Мера на квазиинтервалах . . . . . . . . . . . . . . . . . . . 16 Лекция 4 18 Введение в теорему Бохнера-Хинчина . . . . . . . . . . . . . . . . . . . . . 18 Преобразование Фурье в теореме Бохнера-Хинчина . . . . . . . . . . . . . . 19 Формулировка теоремы Бохнера-Хинчина . . . . . . . . . . . . . . . . . . . 20 Теорема Бохнера-Хинчина для сред с флуктурирующей температурой . . 20 Лекция 5 22 Идеи Маркова и их реализация . . . . . . . . . . . . . . . . . . . . . . . . . 22 Теорема Маркова . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23 Лекция 6 26 Новая формулировка марковского свойства . . . . . . . . . . . . . . . . . . 26 Прямое и обратное уравнения Колмогорова . . . . . . . . . . . . . . . . . . 27 Лекция 7 31 Марковские цепи с непрерывным набором состояний . . . . . . . . . . . . . 31 Уравнение Колмогорова-Чепмена . . . . . . . . . . . . . . . . . . . . . . . . 32 Дифференцирование корреляционного тензора однородного изотропного поля скорости . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 33 Лекция 8 35 Уравнение Эйнштейна-Фоккера-Планка . . . . . . . . . . . . . . . . . . . . 35 3 МЕХАНИКО-МАТЕМАТИЧЕСКИЙ ФАКУЛЬТЕТ МГУ ИМЕНИ М.В. ЛОМОНОСОВА СЛУЧАЙНЫЕ ПРОЦЕССЫ • СОКОЛОВ ДМИТРИЙ ДМИТРИЕВИЧ КОНСПЕКТ ПОДГОТОВЛЕН СТУДЕНТАМИ, НЕ ПРОХОДИЛ ПРОФ РЕДАКТУРУ И МОЖЕТ СОДЕРЖАТЬ ОШИБКИ СЛЕДИТЕ ЗА ОБНОВЛЕНИЯМИ НА VK.COM/TEACHINMSU Пуассоновский процесс . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 38 Лекция 9 40 Приложение теории случайных процессов . . . . . . . . . . . . . . . . . . . 40 Лекция 10 43 Теорема Дуба . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43 Уравнение теплопроводности . . . . . . . . . . . . . . . . . . . . . . . . . . . 45 Развитие идей марковской теории . . . . . . . . . . . . . . . . . . . . . . . . 45 Лекция 11 48 Формула Каца-Фейнмана . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 48 Лекция 12 51 Формула Каца-Фейнмана . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51 4 МЕХАНИКО-МАТЕМАТИЧЕСКИЙ ФАКУЛЬТЕТ МГУ ИМЕНИ М.В. ЛОМОНОСОВА СЛУЧАЙНЫЕ ПРОЦЕССЫ • СОКОЛОВ ДМИТРИЙ ДМИТРИЕВИЧ КОНСПЕКТ ПОДГОТОВЛЕН СТУДЕНТАМИ, НЕ ПРОХОДИЛ ПРОФ РЕДАКТУРУ И МОЖЕТ СОДЕРЖАТЬ ОШИБКИ СЛЕДИТЕ ЗА ОБНОВЛЕНИЯМИ НА VK.COM/TEACHINMSU Лекция 1 Введение Теория случайных процессов как наука возникла непосредственно перед и во время Второй мировой войны и у неё было два источника: во-первых, теория тур- булентности, теория разнообразных случайных течений и явления переноса в жид- кости и, во-вторых, помехи в радиосвязи, которые удалось преодолеть только после изобретения радара. В рамках первой лекции будут обсуждаться вопросы сути и проблематики теории случайных процессов на примере задачи из теории турбулентности. Теория случайных процессов сформировалась заметно позже, чем подавляющее большинство математических дисциплин, даже заметно позже теории вероятно- стей. Первые убедительные работы, которые показали полезность теории случай- ных процессов, относятся к 30-40 годам прошлого века (в качестве маркирующей работы можно отметить работу А.Н. Колмогорова 1941 года). Определение случайного процесса и случайного поля Обозначим формальное определение того, что называется случайным процессом. Само это понятие отталкивается от того, как в теории вероятностей строится по- нятие случайной величины: есть некоторое вероятностное пространство элементар- ных событий Ω, которое снабжено борелевской алгеброй, на которой задана счётно- аддитивная мера, т.е. можно говорить об измеримых функциях. Если мы возьмём какую-либо точку ω ∈ Ω, принадлежащую вероятностному про- странству, то ей сопоставляется функция ξ(ω), т.е. задается отображение вероят- ностного пространства в действительную ось. Эта функция должна быть измерима: ∀c : {ω : ξ(ω) < c} ∈ σ -алгебре. Далее рассмотрим понятие случайной функции: есть функция двух переменных f (t, ω) , одну из переменных мы будем интерпретировать как время, а другая пере- менная - это случайный параметр - точка в вероятностном пространстве: ξ : Ω 7→ R 1 - отображение вероятностного пространства на действительную прямую. В данном случае будем говорить, что у нас есть функция двух переменных, т.е.: f : Φ × Ω - произведение какого-то функционального пространства и пространства элементарных событий. Это произведение сопоставляется значениям функции f. Если мы зафиксируем параметр ω = ω 0 , то получим f(t, ω) = f(t, ω 0 ) - реализация 5 МЕХАНИКО-МАТЕМАТИЧЕСКИЙ ФАКУЛЬТЕТ МГУ ИМЕНИ М.В. ЛОМОНОСОВА СЛУЧАЙНЫЕ ПРОЦЕССЫ • СОКОЛОВ ДМИТРИЙ ДМИТРИЕВИЧ КОНСПЕКТ ПОДГОТОВЛЕН СТУДЕНТАМИ, НЕ ПРОХОДИЛ ПРОФ РЕДАКТУРУ И МОЖЕТ СОДЕРЖАТЬ ОШИБКИ СЛЕДИТЕ ЗА ОБНОВЛЕНИЯМИ НА VK.COM/TEACHINMSU случайного процесса ξ(ω), а если зафиксируем t = t 0 , то f(t, ω) = f(t 0 , ω) - сечение случайного процесса в точке t = t 0 Вопрос о том, каким именно пространством является Φ, достаточно обширный - мы должны указать, с функциями какого характера мы работаем. Также, как слу- чайную величину можно рассматривать как введение вероятностной меры на дей- ствительной прямой, также случайный процесс можно рассматривать как введение вероятностной меры в функциональном пространстве. Очевидно, что эта конструк- ция легко поддается тиражированию: f (t, x, ω) - функция двух переменных и вероятностного параметра. Мы должны как-либо указать эти переменные t и x и у нас возникает представление о случай- ной среде. Мы можем рассматривать функцию f(t, x, ω) - переменных в ней будет больше - три пространственные переменные, одна временная и вероятностный па- раметр. Также можно рассматривать случайные векторные поля F i (t, x, ω) Уравнение Навье-Стокса. Турбулентный каскад. Колмогоров понял, что необходимо создавать аппарат, с помощью которого ста- нет возможным решение подобных задач. Необходимо было рассмотреть какую- либо предельную задачу, имеющую мало отношения к действительности. Уравнение Навье-Стокса: ∂ V ∂t + (v∇)v = f + ν4v . Для жидкости (для воды в част- ности) коэффициент вязкости ν очень маленький. Мы будем рассматривать достаточно большую систему, в которой размешивает- ся жидкость, т.е. вносится энергия. И возникает вопрос - что происходит с этой энергией. Понятно, что в конце концов она переходит в тепло за счёт ν4v, а при нём очень маленький коэффициент. Очевидно, что с течением времени устанавли- вается некое стационарное состояние, но непонятно, что происходит с постоянно приходящей энергией. Допустим, что имеется большой сосуд диаметра L, в котором есть некое подобие плоской волны. Решение этого уравнения e ikx + iωt . Подставим его во второе слага- емое (v∇)v уравнения Навье-Стокса и получим e 2ikx . Т.е. масштаб течения умень- шится в два раза. Наличие такого члена говорит о том, что в сосуде есть вихрь, который при по- вороте превращается в два, каждый из которых также раздваивается при повороте и т.д. и так до тех пор, пока размеры вихрей не станут настолько малы, чтобы член ν4v начал работать. Это явление называется турбулентным каскадом. 6 МЕХАНИКО-МАТЕМАТИЧЕСКИЙ ФАКУЛЬТЕТ МГУ ИМЕНИ М.В. ЛОМОНОСОВА СЛУЧАЙНЫЕ ПРОЦЕССЫ • СОКОЛОВ ДМИТРИЙ ДМИТРИЕВИЧ КОНСПЕКТ ПОДГОТОВЛЕН СТУДЕНТАМИ, НЕ ПРОХОДИЛ ПРОФ РЕДАКТУРУ И МОЖЕТ СОДЕРЖАТЬ ОШИБКИ СЛЕДИТЕ ЗА ОБНОВЛЕНИЯМИ НА VK.COM/TEACHINMSU Колмогоров догадался, как из подобной картины можно получить вычислимые ве- личины: пусть есть некоторый масштаб l. И если есть некоторые две точки, рас- стояние между которыми равно l, то возникнет разность скоростей в этих точках, которую назовём v l . Предполагаем, что v l ∼ l α - т.к. при повороте вихря масштаб изменяется вдвое и, соответственно, в какое-то количество раз будет изменяться v l . Задачу о нахождении показателя α Колмогоров решил в 1941 году - показатель вычисляется по теории размерностей. Размерность v = [ sm sec ] ; размерность l = [sm]. Также в задаче есть поток энергии с размерностью [ gr∗sm 2 sec 2 ] , т.е. количество энегии в единицу времени. Но в задаче так- же есть масса жидкости, поэтому можно считать, что рассматриваем поток энергии на единичу массы с размерностью [ sm 2 sec 2 ] . У нас возникает величина ε, которая имеет размерность [ sm 2 sec 3 ] . Т.е. получаем соотношение: v l = ε β l α . Для того, чтобы соотно- шение стало тождественно верным, α и β должны принять значение 1 3 : v l = ε 1 3 l 1 3 - соотношение Колмогорова-Обухова - именно так устроен турбулентный каскад. Теперь будем рассматривать математический аспект приведенной теории. Для на- чала необходимо дать определение величине v l , далее мы неявно апеллируем к пред- ставлению о том, что у нас возникает статистическая однородность и изотропия - у нас нет выделенных точек, выделенных направлений и ситуация стационарна во времени. Также необходимо дать определение статистически однородному изотроп- ному векторному полю. Гёльдеровская производная Рассмотрим векторное поле v l . У конструкции v l = ε 1 3 l 1 3 есть 1 3 гёльдеровской производной. По определению производной lim 4x7→0 f (x+4x) 4x . Но если вместо 4x будет l, такого предела не будет существовать. А гёльдеровская производная порядка α есть lim 4x7→0 f (x+4x) 4x α . Класс C 0,α - класс непрерывных функций с гёльдеровской про- изводной порадка α. 7 МЕХАНИКО-МАТЕМАТИЧЕСКИЙ ФАКУЛЬТЕТ МГУ ИМЕНИ М.В. ЛОМОНОСОВА СЛУЧАЙНЫЕ ПРОЦЕССЫ • СОКОЛОВ ДМИТРИЙ ДМИТРИЕВИЧ КОНСПЕКТ ПОДГОТОВЛЕН СТУДЕНТАМИ, НЕ ПРОХОДИЛ ПРОФ РЕДАКТУРУ И МОЖЕТ СОДЕРЖАТЬ ОШИБКИ СЛЕДИТЕ ЗА ОБНОВЛЕНИЯМИ НА VK.COM/TEACHINMSU Лекция 2 Винеровский процесс Винеровский процесс W t , 0 ≤ t < ∞ - случайный процесс: • ∀0 ≤ t 0 ≤ t 1 ≤ ... ≤ t n : η 1 = W t 1 − W t 0 , ..., η n = W t n − W t n−1 - независимы. • Случайная величина W t − W s (где 0 ≤ s < t - любые) ∼ N(0, t − s). • W 0 = 0 Если рассматривать понятие не только с математической, но и с практической точ- ки зрения, то интересно посмотреть, в каких единицах измеряется W t : если диспер- сия этой величины будет иметь размерность [sec], то размерность W t = [ √ sec] Допустим, мы хотим получить в качестве размерности величины W t не √ sec , a sm. В этом случае нам необходимо домножить W t на некоторую величину σ = [ sm √ sec ] - стандартное отклонение, а размерность σ 2 = [ sm 2 sec ] - размерность коэффициента диффузии. В итоге возникает представление о том, что называется стандартным винеровским процессом: ξ t = σW t , из которого получаются процессы с «правиль- ной» размерностью. Принято обозначать приращение винеровского процесса за время 4t как W 4t = W t+4t − W t Есть еще несколько деталей, касающихся математического определения, о кото- рых необходимо сказать. Во-первых, как уже говорилось ранее, случайный процесс - это отображение из одного множества в другое. Из какого объекта идёт отображе- ние - понятно: из прямого произведения времени на вероятностное пространство. Когда речь идёт о случайной величине, то отображение идёт на действительную прямую. А когда речь идёт о случайном процессе, то область значений должна принадлежать какому-либо функциональному пространству, которое должно быть явно описано. Разумная точка зрения состоит в том, что отображение происходит в простран- ство C непрерывных функций, в котором метрика устанавливается в соответствии с понятиями равномерной сходимости. Это будет пространство C на полупрямой. Модель броуновского движения Рассмотрим теперь задачу о броуновском движении - она получается из такой модели: пусть у нас есть прямая и есть броуновская частица, которая испытывает 8 МЕХАНИКО-МАТЕМАТИЧЕСКИЙ ФАКУЛЬТЕТ МГУ ИМЕНИ М.В. ЛОМОНОСОВА СЛУЧАЙНЫЕ ПРОЦЕССЫ • СОКОЛОВ ДМИТРИЙ ДМИТРИЕВИЧ КОНСПЕКТ ПОДГОТОВЛЕН СТУДЕНТАМИ, НЕ ПРОХОДИЛ ПРОФ РЕДАКТУРУ И МОЖЕТ СОДЕРЖАТЬ ОШИБКИ СЛЕДИТЕ ЗА ОБНОВЛЕНИЯМИ НА VK.COM/TEACHINMSU случайные блуждания вдоль этой прямой следующим образом: за время 4t ча- стица может пройти расстояние 4x вдоль этой прямой либо вправо, либо влево. Вероятность любого из этих событий P = 1 2 Понятно, что при каждом столкновении броуновских частиц в любой момент вре- мени 4t возникает случайная величина ξ i , у которой математическое ожидание M (ξ i ) = 0 (в силу симметрии), а дисперсия этой величины D(ξ i ) = (4x) 2 За некоторое большое время t произойдёт n = t 4t столкновений. И, соответственно, смещение за время t есть ξ t = Σ n i=1 ξ i . Возникает задача о сумме величин, которые имеют биномиальное распределение, т.е. возникает теорема Муавра-Лапласа, кото- рая говорит о том, что: при больших N величина ξ t = Σ n i=1 ξ i ∼ N (0; (4x) 2 n) имеет нормальное распределение. Теперь подставим n = t 4t . Тогда: D(ξ t ) = (4x) 2 t 4t , где (4x) 2 4t - коэффициент диффузии. Если мы устремим 4t 7→ 0, то возникнет предельный объект, который и явля- ется винеровским процессом. Винеровский процесс и уравнение теплопроводности Винеровский процесс имеет некоторое отношение к уравнению теплопроводно- сти: ∂u ∂t = σ4u Плотность вероятности P W t = 1 √ 2πt e − x2 2t у стандартного винеровского процесса. А если мы хотим вписать σ для избежания проблем с размерностью, то необходимо это сделать так: P W t = 1 √ 2πtσ 2 e − x2 2tσ2 - получаем фундаментальное решение уравнения теплопроводно- сти. Т.е. если мы хотим рассматривать уравнение теплопроводности в бесконечном пространстве, т.е. u(0, x) = u 0 (x) , то, соответственно, u(t, x) = R +∞ −∞ dy 1 √ 2πt e − x2 2t u 0 (y)dy т.е. винеровский процесс связан с уравнением теплопроводности. В частности, эту формулу также можно написать следующим образом: u(t, x) = M (u 0 (x + √ σW t )) - это соотношение является связью между уравнени- ями параболического типа и теорией случайных процессов и является простейшим 9 МЕХАНИКО-МАТЕМАТИЧЕСКИЙ ФАКУЛЬТЕТ МГУ ИМЕНИ М.В. ЛОМОНОСОВА СЛУЧАЙНЫЕ ПРОЦЕССЫ • СОКОЛОВ ДМИТРИЙ ДМИТРИЕВИЧ КОНСПЕКТ ПОДГОТОВЛЕН СТУДЕНТАМИ, НЕ ПРОХОДИЛ ПРОФ РЕДАКТУРУ И МОЖЕТ СОДЕРЖАТЬ ОШИБКИ СЛЕДИТЕ ЗА ОБНОВЛЕНИЯМИ НА VK.COM/TEACHINMSU вариантом формулы, которая в теории случайных процессов называется формулой Каца-Фейнмана и которая является наиболее заметным аналитическим результа- том, полученным в 20 веке. Достаточно плохо обстоит дело с вопросом о том, что винеровский процесс мо- жет очень быстро уходить от того места, откуда он стартовал. Хуже то, что у этого объекта есть проблемы и с вычислением скорости, т.е. вы- числением производной 4W t 4t . Величина 4W t ∼ √ 4t , соответственно, предела нет, т.е. приходится сказать, что у винеровского процесса бесконечная скорость; а для того, чтобы рассмотреть какой-то объект, который имеет право на существование, необходимо возвести 4t в степень 1 2 и при этом будут возникать объекты, которые называются гёльдеровскими производными. Как мы говорили раньше, возникают объекты, которые называются гёльдеровски- ми производными и требуется проделать определенную работу для того, чтобы по- нятие винеровского процесса погрузить в мир производных по Гёльдеру. Видно, что границей дифференцируемости будет 1 2 Винеровский процесс - это отображение на пространство C, а в пространстве C есть объекты, у которых есть функции, обладающие лишь 1 2 гёльдеровской производной. Здесь мы собираемся рассматривать меру в пространстве C. И для непрерывных случайных величин есть парадокс нулевой вероятности: когда мы оперируем дис- кретными образами, там всё понятно. А когда случайная величина непрерывная, то у каждой точки вероятность равна нулю. И только за счёт того, что мера мо- жет быть счётно-аддитивной, мы получаем, что у всего пространства вероятность единица. И возникает понятие плотности вероятности и мы можем написать, чему равна вероятность того, что случайная величина примет значения между a и b как интеграл от плотности. Это и есть разрешение парадокса нулевой вероятности. Но здесь мы собираемся эти же операции провернуть в пространстве C, а оно устроено гораздо хуже, чем действительная прямая. Поэтому мы должны объяснить, как в пространстве индуцируется мера. Это всё будет обсуждаться в рамках теоремы Колмогорова о продолжении меры. Винеровский процесс в многомерном пространстве Мы знаем, что уравнение теплопроводности бывает не только одномерное, но так- же двумерное и трёхмерное. И, конечно, случайные блуждания бывают не только по действительной прямой, но и на плоскости и в пространстве. Тут возникает мно- 10 МЕХАНИКО-МАТЕМАТИЧЕСКИЙ ФАКУЛЬТЕТ МГУ ИМЕНИ М.В. ЛОМОНОСОВА |