СЛУЧАЙНЫЕ ПРОЦЕССЫ •
СОКОЛОВ ДМИТРИЙ ДМИТРИЕВИЧ
КОНСПЕКТ ПОДГОТОВЛЕН СТУДЕНТАМИ, НЕ ПРОХОДИЛ
ПРОФ РЕДАКТУРУ И МОЖЕТ СОДЕРЖАТЬ ОШИБКИ
СЛЕДИТЕ ЗА ОБНОВЛЕНИЯМИ НА VK.COM/TEACHINMSU
Пуассоновский процесс
Рассмотрим теперь процесс, который называется пуассоновским. Он устроен сле- дующим образом:
Его реализации - это функции, у которых конечное число скачков на конечный отрезках времени. Возьмем 0 ≤ t
1
< t
2
< · · · < t n
:
• 4ξ
i
= ξ(t i
) − ξ
(
t i−1
)
- независимые приращения.
• 4ξ
i распределены по Пуассону с параметром λ(t i
− t i−1
)
• ξ(0) = 0 - стандартный пуассоновский процесс.
На временном отрезке (t i−1
, t i
)
он может совершить много скачков, но их вероят- ность падает с ростом числа скачков и, соответственно, возникают пуассоновские случайные величины. Можно этот процесс характеризовать так:
за малое время P {4ξ(t) = 1} = λt + o(t)
при t 7→ 0 : P {4ξ(t) = 1} = o(t)
С этим процессом также связаны некоторые задачи, одну из которых мы сейчас рассмотрим.
Для пуассоновского процесса можно ввести величину τ - это время до первого со- бытия. Найдем ее функцию распределения:
сначала найдем вероятность P {τ ≥ t}. Сама функция распределения - это вероят- ность того, что P {τ < t}, но нам не совсем понятно, как ее найти. Потому что если до первого события ничего не произошло, то:
P {τ ≥ t} = P {ξ(t) − ξ(t
0
) = 0}
Для проведения этой выкладки мы будем считать, что функции, входящие в пуассо- новский процесс, имеют ступенчатый вид с включенными правыми концами. Тогда:
P {τ ≥ t} = P {ξ(t) − ξ(t
0
) = 0} = e
−λt
Поэтому
F
τ
(t) = P {τ < t} = 1 − P {τ ≥ t} = 1 − e
−λt
Для того, чтобы найти плотность вероятности, мы должны взять производную функции распределения по t:
38
МЕХАНИКО-МАТЕМАТИЧЕСКИЙ
ФАКУЛЬТЕТ
МГУ ИМЕНИ М.В. ЛОМОНОСОВА
СЛУЧАЙНЫЕ ПРОЦЕССЫ •
СОКОЛОВ ДМИТРИЙ ДМИТРИЕВИЧ
КОНСПЕКТ ПОДГОТОВЛЕН СТУДЕНТАМИ, НЕ ПРОХОДИЛ
ПРОФ РЕДАКТУРУ И МОЖЕТ СОДЕРЖАТЬ ОШИБКИ
СЛЕДИТЕ ЗА ОБНОВЛЕНИЯМИ НА VK.COM/TEACHINMSU
p
τ
(t) = λe
−λt
Найдем теперь математическое ожидание:
M τ =
R
+∞
−∞
tp
τ
(t)dt = λ
R
+∞
0
te
−λt dt =
1
λ
R
+∞
0
ye
−y dy =
1
λ
- среднее время вылета.
39
МЕХАНИКО-МАТЕМАТИЧЕСКИЙ
ФАКУЛЬТЕТ
МГУ ИМЕНИ М.В. ЛОМОНОСОВА
СЛУЧАЙНЫЕ ПРОЦЕССЫ •
СОКОЛОВ ДМИТРИЙ ДМИТРИЕВИЧ
КОНСПЕКТ ПОДГОТОВЛЕН СТУДЕНТАМИ, НЕ ПРОХОДИЛ
ПРОФ РЕДАКТУРУ И МОЖЕТ СОДЕРЖАТЬ ОШИБКИ
СЛЕДИТЕ ЗА ОБНОВЛЕНИЯМИ НА VK.COM/TEACHINMSU
Лекция 9
Приложение
теории случайных процессовМы хотели бы, чтобы теория случайных процессов применялась в реальной жиз- ни также, как и теорию вероятностей. Но для теории случайных процессов все обстоит намного сложнее - та часть математики, которая занимается приложением теории вероятностей к жизни называется математической статистикой. Естествен- но часть науки, занимающейся приложением теории случайных процессов, также называть математической статистикой.
В качестве примера мы рассмотрим доклад на тему «Минимум Маундера в сол- нечной динамической теории».
При обработке результатов эксперимента или каких-либо наблюдений необходимо понимать, в какой области происходят исследования и какие данные об экспери- менте представлены. В рамках доклада была представлена диаграмма зависимости числа группы солнечных пятен от времени исследования. По диаграмме видно, что расстояние между пиками солнечной активности составляет, в среднем, период в
11 лет - это и есть 11-летний цикл солнечной активности. Подобные диаграммы впервые были построены Маундером.
Рис. 2. Зависимость числа групп солнечных пятен от времени
40
МЕХАНИКО-МАТЕМАТИЧЕСКИЙ
ФАКУЛЬТЕТ
МГУ ИМЕНИ М.В. ЛОМОНОСОВА
СЛУЧАЙНЫЕ ПРОЦЕССЫ •
СОКОЛОВ ДМИТРИЙ ДМИТРИЕВИЧ
КОНСПЕКТ ПОДГОТОВЛЕН СТУДЕНТАМИ, НЕ ПРОХОДИЛ
ПРОФ РЕДАКТУРУ И МОЖЕТ СОДЕРЖАТЬ ОШИБКИ
СЛЕДИТЕ ЗА ОБНОВЛЕНИЯМИ НА VK.COM/TEACHINMSU
В этом процессе явно есть динамическая составляющая и, в то же время, высоты различных пиков активности могут различаться в разы. А провалы в солнечной активности, видимые из диаграммы, называются минимумами Маундера.
Мы сталкиваемся с тем, что в изучаемом нами процессе перемешаны как динами- ческие, так и случайные свойства. С одной стороны, явно необходимо реализовать некий случайный процесс, у которого представляют интерес как некое подобие ма- тематического ожидания, так и изучение его стохастических свойств.
Погоровим теперь о достоверности предоставленных данных. Очевидно, что по мере увеличения года проведения исследования достоверность исследования увеличива- ется.
В
рамках эксперимента, результаты которого представлены на диаграмме, были проведены исследования, которые подтвердили точность представленных данных.
Рис. 3. Некоторые диаграммы
Верхняя диаграмма - диаграмма-бабочка Маундера. На ней представлена времен- ная ось, совпадающая с солнечным экватором, а от нее отложена широта солнечных пятен. Точками отмечено положение групп солнечных пятен. Цветом отмечено от- ношение порядка полярностей солнечных пятен.
41
МЕХАНИКО-МАТЕМАТИЧЕСКИЙ
ФАКУЛЬТЕТ
МГУ ИМЕНИ М.В. ЛОМОНОСОВА
СЛУЧАЙНЫЕ ПРОЦЕССЫ •
СОКОЛОВ ДМИТРИЙ ДМИТРИЕВИЧ
КОНСПЕКТ ПОДГОТОВЛЕН СТУДЕНТАМИ, НЕ ПРОХОДИЛ
ПРОФ РЕДАКТУРУ И МОЖЕТ СОДЕРЖАТЬ ОШИБКИ
СЛЕДИТЕ ЗА ОБНОВЛЕНИЯМИ НА VK.COM/TEACHINMSU
Теперь перейдем к вопросу обработки результатов.
Перед нами данные, в которых мы хотели бы отделить детерминированную состав- ляющую от так называемого «шума» и выделить периодическую составляющую,
которая отделяется с помощью анализа Фурье: допустим, у нас есть функция f(t)
и мы хотим узнать, какие в ней есть колебания. Для этого необходимо сделать сле- дующее:
1
√
2π
R
+∞
−∞
e iωt f (t)dt
- преобразование Фурье.
1
√
2π
R
+∞
−∞
e iωt f (t)dt = F (ω)
,
где F (ω) - спектральная плотность. Там, где эта функция принимает большие зна- чения, там колебания сильнее. И если мы наблюдаем пик этой функции на какой- нибудь частоте, то в составе этого сигнала есть такое колебание.
Для вычисления этой функции необходимо воспользоваться вейвлет-анализом. Идея его состоит в следующем:
мы берем волновой пакет, вписанный в гауссиану, т.е. функцию ψ(t) = e iωt−bt
2
Теперь возьмем функцию ψ(
t−t
0
T
)
и возьмем такой интеграл:
R
+∞
−∞
ψ(
t−t
0
T
f (t)dt = W (t
0
, T )
То, как функция зависит от T , показывает, на какой частоте вносятся колебания в систему, а t
0
показывает, вблизи какого места это колебание сосредоточено. Далее получаем следующее:
R
+∞
−∞
W (t
0
, T )dt
0
- у нас возникает аналог преобразования Фурье.
Также можно выделить, как зависит от времени
составляющая вейвлетовой функ- ции, которая соответствует пикам активности.
Тема, которую мы обсудили в рамках этой лекции, немного дает представление о приложении теории случайных процессов и ее аппаратов к современным реалиям и как работают в современной науке с подобными данными.
42
МЕХАНИКО-МАТЕМАТИЧЕСКИЙ
ФАКУЛЬТЕТ
МГУ ИМЕНИ М.В. ЛОМОНОСОВА
СЛУЧАЙНЫЕ ПРОЦЕССЫ •
СОКОЛОВ ДМИТРИЙ ДМИТРИЕВИЧ
КОНСПЕКТ ПОДГОТОВЛЕН СТУДЕНТАМИ, НЕ ПРОХОДИЛ
ПРОФ РЕДАКТУРУ И МОЖЕТ СОДЕРЖАТЬ ОШИБКИ
СЛЕДИТЕ ЗА ОБНОВЛЕНИЯМИ НА VK.COM/TEACHINMSU
Лекция 10
Теорема Дуба
Цель сегодняшней лекции - поговорить о том, какие перспективы открывает пе- ред наукой развитие представления о марковских процессах.
Мы выводили уравнения Колмогорова-Чепмена для переходной плотности марков- ского процесса. Понятие переходной плотности q(t
2
, x
2
|t
1
, x
1
)
говорит о том, какая плотность вероятности того, что из точки (t
1
, x
1
)
мы перейдем в точку (t
2
, x
2
)
. Для этой величины получается такое уравнение:
q(t, x|t
0
, x
0
) =
R
+∞
−∞
q(τ, y|t
0
, x
0
)q(t, x|τ, y)dy
Мы это уравнение получили как условие согласования различных плотностей ве- роятности. Если бы у нас был марковский процесс с конечным числом состояний,
то это бы была формула полной вероятности, но а если мы рабоатем с процессом,
который может принимать непрерывный набор состояний, то, ввиду континуально- сти переменной y, сослаться на эту формулу не получится и возникнет уравнение
Колмогорова-Чепмена или уравнением Смолуховского.
Есть случаи, когда уравнение Смолуховского можно решить точно - это решение называется теоремой Дуба. Сформулируем и докажем эту теорему.
Мы будем рассматривать марковский процесс и потребуем, чтобы он был стаци- онарным и гауссовским. Этот процесс будет характеризоваться математическим ожиданием, дисперсией и корреляционной функцией. Математическое ожидание и дисперсия будут постоянными и мы можем, выбрав
соответствующим образом некоторые параметры, обратить математическое ожидание в 1, а дисперсию в 0.
Корреляционную функцию B(u) можно найти в явном виде с помощью уравнения
Смолуховского:
B(u) =< ξ(t + k)ξ(t) >=< ξ(t
1
)ξ(t
2
) >
, где u = t
2
− t
1
Наш процесс является гауссовским, поэтому:
p
1
(t, x) =
1
√
2π
e
−
x2 2
p(t
1
, x
1
; t
2
, x
2
) =
x
2 1
+x
2 2
−2σx
1
x
2 2(1−σ
2
)
, где σ = B(|t
1
− t
2
|)
Дальше можно вычислить переходную плотность:
43
МЕХАНИКО-МАТЕМАТИЧЕСКИЙ
ФАКУЛЬТЕТ
МГУ ИМЕНИ М.В. ЛОМОНОСОВА
СЛУЧАЙНЫЕ ПРОЦЕССЫ •
СОКОЛОВ ДМИТРИЙ ДМИТРИЕВИЧ
КОНСПЕКТ ПОДГОТОВЛЕН СТУДЕНТАМИ, НЕ ПРОХОДИЛ
ПРОФ РЕДАКТУРУ И МОЖЕТ СОДЕРЖАТЬ ОШИБКИ
СЛЕДИТЕ ЗА ОБНОВЛЕНИЯМИ НА VK.COM/TEACHINMSU
q(t
2
, x
2
|t
1
, x
1
) =
1
√
2π(1−σ
2
)
e
−
1 2
(σx1−x2)
2 1−σ2
В итоге мы получим такое соотношение:
B(t
2
− t
1
) = B(t
2
− τ )B(τ )
Как оказалось, наша функция удовлетворяет такому свойству B(x + y) = B(x)B(y)
- такой функцией является экспонента. Для доказательства этого выведем диффе- ренциальное уравнение для функции B:
B(x + dx) = B(x)B(dx)
B(x) + B
0
(x)dx = B(x)[1 + αdx]
B
0
= αB
B = e
αx
B = e
α(t
2
−t
1
)
B = e
−a
2
|u|
, где
1
a
2
- корреляционное время.
Таким образом ищется корреляционная функция, после чего случайный процесс будет полностью определен. Все это называется теоремой Дуба.
Познакомимся теперь с еще одним примером. В огромном большинстве случаев уравнение Смолуховского не решается и поэтому мы ранее обсудили, как ввести в конструкцию марковского процесса с непрерывным числом состояний отношение порядка и сказать, что у нас есть близкие точки и тогда уравнение Смолуховского при некоторых условиях преобразуется в уравнение Эйнштейна-Фоккера-Планка.
Для переходной плотности возникает такое дифференциальное уравнение:
∂q
∂t
=
∂
∂x
(Aq) +
1 2
∂
2
∂x
2
(Bq)
Рассмотрим один часный случай, предположив, что A и B постоянны и мы ин- тересуемся стационарным решением. Тогда у нас возникает такая картина:
пусть у нас есть поток частиц A, падающих в гравитационном поле Земли, но эти частицы от земли отскакивают. Мы ожидаем, что в этом процессе возникнет некое стационарное распределение. Мы рассматриваем на луче такую задачу, в которой вероятность попадания в отрицательную область равна 0 и ищем стационарное ре- шение.
44
МЕХАНИКО-МАТЕМАТИЧЕСКИЙ
ФАКУЛЬТЕТ
МГУ ИМЕНИ М.В. ЛОМОНОСОВА
СЛУЧАЙНЫЕ ПРОЦЕССЫ •
СОКОЛОВ ДМИТРИЙ ДМИТРИЕВИЧ
КОНСПЕКТ ПОДГОТОВЛЕН СТУДЕНТАМИ, НЕ ПРОХОДИЛ
ПРОФ РЕДАКТУРУ И МОЖЕТ СОДЕРЖАТЬ ОШИБКИ
СЛЕДИТЕ ЗА ОБНОВЛЕНИЯМИ НА VK.COM/TEACHINMSU
∂p
∂t
= 0 = −
∂
∂x
(Ap) +
1 2
∂
2
∂x
2
(Bp)
И мы будем искать решение при
стационарности и возникнет распределение, ана- логичное финальному распределению для цепи Маркова.
p(0) = p(+∞) = 0
−Ap +
1 2
(Bp) = 0
Решение этого уравнения p(x) = e
−αx
, где α - константа, выражающаяся через
A
и B.
Это распределение называется распределением Больцмана.
Уравнение теплопроводности
Восстановим еще раз уравнение Эйнштейна-Фоккера-Планка:
∂q
∂t
=
∂
∂x
(Aq) +
1 2
∂
2
∂x
2
(Bq)
Положим A = 0 и B = 2ε и тогда у нас возникнет такое уравнение:
∂u
∂t
= ε4u
На самом деле, уравнение теплопроводности - это простейший пример уравнения
Эйнштейна-Фоккера-Планка. А, соответственно, случайный процесс, для которого это выполнено, - это винеровский процесс.
Теперь у нас есть возможность поговорить о развитии идей марковской теории в этом направлении. Как мы уже осознали, что между уравнениями параболиче- ского типа и марковскими процессами есть связь. Мы можем понимать уравнения параболического типа как уравнения Эйнштейна-Фоккера-Планка для некоторого марковского процесса, а можем изучать уравнения параболического типа с помо- щью марковских процессов и, как оказалось, это весьма востребовано в науке.
Развитие идей марковской теории
То, что мы сейчас будем обсуждать, восходит к работам двух замечательных уче- ных - Фейнмана и Кацы. А обсуждать мы будем формулу Каца-Фейнмана.
Обсудим для начала такую задачу. Запишем уравнение распространения приме-
45
МЕХАНИКО-МАТЕМАТИЧЕСКИЙ
ФАКУЛЬТЕТ
МГУ ИМЕНИ М.В. ЛОМОНОСОВА
СЛУЧАЙНЫЕ ПРОЦЕССЫ •
СОКОЛОВ ДМИТРИЙ ДМИТРИЕВИЧ
КОНСПЕКТ ПОДГОТОВЛЕН СТУДЕНТАМИ, НЕ ПРОХОДИЛ
ПРОФ РЕДАКТУРУ И МОЖЕТ СОДЕРЖАТЬ ОШИБКИ
СЛЕДИТЕ ЗА ОБНОВЛЕНИЯМИ НА VK.COM/TEACHINMSU
сей в воздухе:
∂u
∂t
= ε4u
, где ε - коэффициент диффузии. Фундаментальное решение уравнения теплопроводности имеет вид e
−
x2
εt
, где x
2
εt
≈ 1
, т.е. t ≈
x
2
ε
Теперь рассмотрим уравнение распространения примесей в несжимаемом потоке:
∂u
∂t
+ (v∇)u = ε4u
, где ε
Высказывается преставление о том, что при движении в воздухе роль ε4u состоит в том, что колоссально увеличивается коэффициент диффузии.
Пусть у нас есть прямая, на которой отмечена точка x, которая случайно блуждает.
Есть какое-то характерное время блужданий τ и за это время точка смещается на
4x i
= τ vξ
i
, а ξ
i
∈ N (0; 1)
X =
P
n i=1 4x i
= τ v
P ξ
i
=≈ τ v
√
n
- об этом говорит центральная предельная тео- рема. А n =
t
τ
. Тогда:
X =
P
n i=1 4x i
= τ v
P ξ
i
≈ τ v
√
n = τ v q
t
τ
= v
√
tτ
t =
x
2
v
2
τ
Попробуем теперь предположить, реализуема ли эта гипотеза. Для этого перепи- шем формулу следующим образом:
t =
x
2
vl
. Тогда ε
T
= vl
Изложенная выше теория в физике называется теорией длины перемешивания.
Теперь рассмотрим идею Кацы, которая состоит в следующем:
поле скорости v нужно считать случайным полем и приписать ему определенные свойства. Тогда, естественно, концентрация примесей u становится случайной и нужно вывести уравнение для математического ожидания соответствующего слу- чайного поля.
Реализация программы состоит в следующем: нужно к уравнению приписать опе- ратор усреднения.
∂u
∂t
+ (v∇)u = ε4u
< u >= θ
- средняя температура
46
МЕХАНИКО-МАТЕМАТИЧЕСКИЙ
ФАКУЛЬТЕТ
МГУ ИМЕНИ М.В. ЛОМОНОСОВА
СЛУЧАЙНЫЕ ПРОЦЕССЫ •
СОКОЛОВ ДМИТРИЙ ДМИТРИЕВИЧ
КОНСПЕКТ ПОДГОТОВЛЕН СТУДЕНТАМИ, НЕ ПРОХОДИЛ
ПРОФ РЕДАКТУРУ И МОЖЕТ СОДЕРЖАТЬ ОШИБКИ
СЛЕДИТЕ ЗА ОБНОВЛЕНИЯМИ НА VK.COM/TEACHINMSU
∂θ
∂t
+ < (v∇)u >= ε4u
Нас смущает < (v∇)u > и возникает идея, которая состоит в следующем: решить
задачу о распространении примесей в уравнении∂u
∂t
+ (v∇)u = ε4u и далее будем работать не с уравнением, а с его решением. И, согласно идее Кацы, эта процедура оказывается выполнимой.
Таким образом, нам необходимо решить следующую задачу:
(
∂u
∂t
+ (v∇)u = ε4u u(0,
x) = u
0
(
x)
На первый взгляд это кажется невозможным, но есть два предельных случая, в рамках которых решение задачи понятно:
• v = 0 :
(
∂u
∂t=ε4u u(0, ) = u
0
(
x)
Тогда u(t, x) = R G(t, x, y)u
0
(
y)dy
, где G - функция Грина, которая являет- ся плотностью вероятности винеровского процесса. Поэтому получим:
u(t, x) =
R G(t, x, y)u
0
(
y)dy = M
x
{u
0
(x + εw t
)}
• ε = 0 :
∂u
∂t
+ (v∇)u = 0
∂u
∂t
= 0
И если мы сможем сопрячь эти два решения, то мы сможем решить задачу, кото- рую поставил перед собой Кац. При выполнении всех вышеизложенных операций получается следующее:
u(t, x) = M
x u
0
(ξ
t,x
)
- это и есть формула Каца-Фейнмана для уравнения тепло- проводности.
47
МЕХАНИКО-МАТЕМАТИЧЕСКИЙ
ФАКУЛЬТЕТ
МГУ ИМЕНИ М.В. ЛОМОНОСОВА
СЛУЧАЙНЫЕ ПРОЦЕССЫ •
СОКОЛОВ ДМИТРИЙ ДМИТРИЕВИЧ
КОНСПЕКТ ПОДГОТОВЛЕН СТУДЕНТАМИ, НЕ ПРОХОДИЛ
ПРОФ РЕДАКТУРУ И МОЖЕТ СОДЕРЖАТЬ ОШИБКИ
СЛЕДИТЕ ЗА ОБНОВЛЕНИЯМИ НА VK.COM/TEACHINMSU
Лекция 11
Формула Каца-Фейнмана
Сегодня перед нами стоит задача довести до ума идею Каца-Фейнмана. Исходная мысль состоит в следующем:
(
∂u
∂t
+ (v∇)u = ε4u u(0,
x) = u
0
(
x)
Мы полагаем, что решение этой задачи имеет вид:
u(t, x) = M
x
{u
0
(ξ
t,x
)}
, где ξ
t,x
- точка, из которой исходят траектории, реализующие случайный процесс, для попадания в момент t в точку x. Эти траектории замеча- тельны тем, что частицы движутся по ним в результате диффузионного блуждания броуновского движения.
Наша задача - объяснить, как задаются эти траектории. Введем ξ(s, x) и положим
ξ
t,x
= ξ(s, x)|
s=0
Нам необходимо объяснить, что частица движется по траектории под влиянием двух процессов - адвекции и диффузии.
Мы будем использовать принцип сложения движений.
Скорость адвекции полу- чаем из того, что dx dt
= v
, причем dξ
dt
= −v +
dw ds
, т.к. w - винеровский процесс. Но у него нет производной, т.к. 4w t
≈
√
4t
Тогда мы поступим таким образом:
ξ(s, x) = x −
R
t s
vdσ + aεW
t−s
, коэффициент a мы подберем позже.
Мы выписали, как задаются наши случайные траектории. Формула ξ(s, x) = x −
R
t s
vdσ + aεW
t−s называется интегральным уравнением Ито.
С точки зрения теории интегральных уравнений это уравнение Вольтерра. Для него легко доказывается существование решения. И для него каждая траектория W
t
- непрерывная функция. И для существования решения уравнения Ито этого доста- точно.
Взглянем теперь на этот вопрос с точки зрения теории случайных процессов. У
нас есть формула задания случайного процесса ξ - это случайный процесс, который не может быть сведен к винеровскому, т.к. ξ входит в качестве аргумента в v и в этом ξ есть вклад в w. Поэтому так задается случайный процесс. Эта формула делает из меры Винера, заданной на траекториях броуновского движения, делает
48
МЕХАНИКО-МАТЕМАТИЧЕСКИЙ
ФАКУЛЬТЕТ
МГУ ИМЕНИ М.В. ЛОМОНОСОВА