Стохастический мир
 Скачать 2.82 Mb.
|
|
СТОХАСТИЧЕСКИЙ МИР Сергей С. Степанов Это электронная версия книги. Она находится в процессе со- здания. Последнюю версию документа можно найти по адресу http://synset.com. Все замечания и предложения просьба при- сылать по почте math@synset.com или оставлять на сайте, на страницах обсуждения книги. v. 0.1, 4 сентября 2009 г., (printed: 18 апреля 2012 г.) Оглавление 1 Случайные события 9 1.1 Стохастический мир . . . . . . . . . . . . . . . . . . . . . . 10 1.2 Случайные величины . . . . . . . . . . . . . . . . . . . . . 14 1.3 Совместная и условная вероятности . . . . . . . . . . . . . 18 1.4 Зависимость и независимость . . . . . . . . . . . . . . . . . 22 1.5 Характеристическая функция . . . . . . . . . . . . . . . . . 26 1.6 Многомерное распределение Гаусса ? . . . . . . . . . . . . . 30 1.7 Модель аддитивного блуждания . . . . . . . . . . . . . . . 34 1.8 Случайные процессы . . . . . . . . . . . . . . . . . . . . . . 38 1.9 Мартингалы и бесплатный сыр ? . . . . . . . . . . . . . . . 42 2 Стохастические уравнения 47 2.1 Уравнение Ито . . . . . . . . . . . . . . . . . . . . . . . . . 48 2.2 Остановка перед восхождением . . . . . . . . . . . . . . . . 52 2.3 Лемма Ито . . . . . . . . . . . . . . . . . . . . . . . . . . . 54 2.4 Точные решения . . . . . . . . . . . . . . . . . . . . . . . . 56 2.5 Простые стохастические модели . . . . . . . . . . . . . . . 58 2.6 Представление решений . . . . . . . . . . . . . . . . . . . . 64 2.7 Автокорреляция и спектр . . . . . . . . . . . . . . . . . . . 68 2.8 Порождающий процесс Винера . . . . . . . . . . . . . . . . 72 3 Средние значения 77 3.1 Динамическое уравнение для средних . . . . . . . . . . . . 78 3.2 Процесс Феллера . . . . . . . . . . . . . . . . . . . . . . . . 82 3.3 Логистическое уравнение . . . . . . . . . . . . . . . . . . . 88 3.4 Ряды для средних по степеням t ? . . . . . . . . . . . . . . 92 3.5 Квазидетерминированное приближение ? . . . . . . . . . . 96 3 4 Оглавление 4 Вероятности 101 4.1 Марковские плотности вероятности . . . . . . . . . . . . . 102 4.2 Уравнения для P (x 0 , t 0 ? x, t) . . . . . . . . . . . . . . . . 104 4.3 Решение уравнения Фоккера-Планка . . . . . . . . . . . . . 108 4.4 Граничные условия . . . . . . . . . . . . . . . . . . . . . . . 110 4.5 Вероятность достижения границы ? . . . . . . . . . . . . . 114 4.6 Разложение вероятности по базису ? . . . . . . . . . . . . . 116 4.7 Уравнение для x(t, ?) ? . . . . . . . . . . . . . . . . . . . . . 120 5 Стохастические интегралы 123 5.1 Площадь под траекторией Винера . . . . . . . . . . . . . . 124 5.2 Интегралы Ито . . . . . . . . . . . . . . . . . . . . . . . . . 130 5.3 Квадратичный функционал ? . . . . . . . . . . . . . . . . . 134 5.4 Интегрирование стохастических уравнений . . . . . . . . . 140 5.5 Единственность решений . . . . . . . . . . . . . . . . . . . 142 5.6 Метод последовательных приближений . . . . . . . . . . . 148 6 Системы уравнений 151 6.1 Скоррелированные блуждания . . . . . . . . . . . . . . . . 152 6.2 Системы стохастических уравнений . . . . . . . . . . . . . 156 6.3 Стохастический осциллятор . . . . . . . . . . . . . . . . . . 160 6.4 Линейные многомерные модели . . . . . . . . . . . . . . . . 164 6.5 Многомерие помогает одномерию . . . . . . . . . . . . . . . 168 6.6 Некоторые точные решения ? . . . . . . . . . . . . . . . . . 172 6.7 Как решать стохастические задачи? . . . . . . . . . . . . . 176 7 Стохастическая природа 181 7.1 Теория броуновского движения . . . . . . . . . . . . . . . . 182 7.2 Стохастический осциллятор . . . . . . . . . . . . . . . . . . 186 7.3 Дрожание земной оси . . . . . . . . . . . . . . . . . . . . . 190 7.4 Электронный шум . . . . . . . . . . . . . . . . . . . . . . . 194 7.5 Хищники и их жертвы . . . . . . . . . . . . . . . . . . . . . 198 8 Стохастическое общество 203 8.1 Финансовые рынки . . . . . . . . . . . . . . . . . . . . . . . 204 8.2 Эмпирические закономерности . . . . . . . . . . . . . . . . 208 8.3 Диверсификация . . . . . . . . . . . . . . . . . . . . . . . . 212 8.4 Портфель на всю жизнь . . . . . . . . . . . . . . . . . . . . 216 8.5 Опционы . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 220 8.6 Формула Блэка-Шоулза . . . . . . . . . . . . . . . . . . . . 224 8.7 Кривая доходности . . . . . . . . . . . . . . . . . . . . . . . 228 Оглавление 5 9 Компьютерное моделирование 233 9.1 Основы языка C++ . . . . . . . . . . . . . . . . . . . . . . 234 9.2 Статистики . . . . . . . . . . . . . . . . . . . . . . . . . . . 238 9.3 Случайные числа . . . . . . . . . . . . . . . . . . . . . . . . 244 9.4 Моделирование стохастических процессов . . . . . . . . . . 250 9.5 Ошибки вычислений и ускорение сходимости . . . . . . . . 254 9.6 Вычисление средних . . . . . . . . . . . . . . . . . . . . . . 258 R: Стохастический справочник 261 I Основные соотношения теории . . . . . . . . . . . . . . . . 262 II Процесс Винера . . . . . . . . . . . . . . . . . . . . . . . . . 266 III Уравнения с линейным по x сносом, n = 1 . . . . . . . . . 268 IV Уравнения с нелинейным по x сносом, n = 1 . . . . . . . . 274 V Системы уравнений с одинаковым шумом . . . . . . . . . . 279 VI Системы дифференциальных уравнений . . . . . . . . . . . 280 VII Стохастические интегралы Ито . . . . . . . . . . . . . . . . 282 VIII Скалярные случайные величины . . . . . . . . . . . . . . . 290 IX Некоторые полезные соотношения . . . . . . . . . . . . . . 292 M: Математические приложения 295 I Теория вероятностей . . . . . . . . . . . . . . . . . . . . . . 296 II Векторный анализ . . . . . . . . . . . . . . . . . . . . . . . 300 III Тензорная и матричная алгебра . . . . . . . . . . . . . . . 304 IV Определители и собственные значения . . . . . . . . . . . . 308 V Полезные интегралы . . . . . . . . . . . . . . . . . . . . . . 312 VI Интегралы и ряды Фурье . . . . . . . . . . . . . . . . . . . 314 VII Метод характеристик . . . . . . . . . . . . . . . . . . . . . 316 VIII Экстремум и множители Лагранжа . . . . . . . . . . . . . 318 IX Вариация функционала . . . . . . . . . . . . . . . . . . . . 320 H: Помощь 323 C: Примечания 353 Рекомендуемая литература 369 6 Оглавление Эти материалы представляют собой расширенный конспект курса лек- ций для сотрудников компании Altus Assets Activities, организованного Центром Фундаментальных Исследований. При их подготовке ставилась задача дать быстрое и простое введение в стохастические дифференци- альные уравнения, не теряя при этом убедительности аргументов. Случайные процессы происходят в самых разнообразных финансовых, биологических и физических системах. Соответствующий математиче- ский аппарат, хотя и оперирует нетривиальными конструкциями, на са- мом деле весьма прост. Мы исходим из того, что для практических при- ложений неформальное понимание методов на начальном этапе важнее, чем их строго аксиоматическое изучение. В отличие от общепринятого подхода, мы будем редко использовать стохастическое интегрирование. Это существенно упростит изложение и позволит сразу перейти к прак- тическим приложениям. Рекомендуемое прохождение материала по главам условно можно пред- ставить в виде следующей диаграммы: Базовыми являются первые шесть глав, которые содержат основы стоха- стической математики. Седьмая и восьмая главы посвящены приложени- ям и могут быть прочитаны в любом порядке. Это относится не только к главам, но и к параграфам внутри них. В девятой главе рассматривается численное моделирование случайных процессов на компьютере, и для еј чтения желательно знакомство с любым языком программирования. В тексте разбросаны небольшие задачи, помеченные символом (l H i ), где i номер решения в приложении Помощь. Кроме этого, встреча- ются ссылки (l C i ), которые имеет смысл просматривать только в том случае, если в процессе чтения возникли вопросы. Возможно, ответ будет найден в приложении Примечания под номером i. Звјздочкой отмече- ны те разделы, которые на первом этапе можно пропустить. Кроме приложений Помощь и Примечания в книге присутству- ют Математическое приложение и Стохастический справочник. В первом приведены активно используемые факты теории вероятности, ма- тематического и тензорного анализа. Во втором собраны различные фор- мулы стохастической математики. Оглавление 7 Справочник может оказаться полезным и для Читателя, знакомого со стохастическими дифференциальными уравнениями. Однако, перед его чтением настоятельно рекомендуется прочитать страницу 51 и просмот- реть разделы § 2.6 , стр. 64 , и § 5.1 , стр. 124 Последняя версия лекций на русском и английском языках находится в Интернете по адресу synset.com/. Автор будет признателен за сообще- ния об ошибках, неточностях и неясностях, устранение которых будет сделано в последующих редакциях этой книги. http://synset.com 8 Оглавление Глава 1 Случайные события Абсолютно детерминированных событий и процессов не бывает. Все- ленная разговаривает с нами на языке теории вероятностей. Предполага- ется, что Читатель хорошо знаком с ней, поэтому напоминаются только факты, необходимые для дальнейшего изучения предмета. Первый раздел является вводным, он подводит к необходимости ис- пользования стохастических дифференциальных уравнений при иссле- довании различных систем. Затем обсуждается понятие плотности ве- роятностей, позволяющей вычислять наблюдаемые в среднем величины. Гауссова вероятность лежит в основе шума, воздействующего на детер- минированную динамику. Стохастическая связь между случайными ве- личинами и, наоборот, их независимость важны при обнаружении за- кономерностей между различными объектами и их характеристиками. Ключевым разделом главы является Модель аддитивного блуждания. Именно обобщение этой простой модели приведјт нас в следующей гла- ве к стохастическим дифференциальным уравнениям. Последний раздел Мартингалы и бесплатный сыр содержит ряд формальных определе- ний, которые при желании можно опустить. Перед чтением главы целе- сообразно просмотреть краткое описание основ теории вероятностей в математическом приложении на стр. 296 9 10 Глава 1. 1.1 Стохастический мир • Благодаря трудам Ньютона и Лейбница исследователи получили в свој распоряжение дифференциальные уравнения. Если некоторые вели- чины изменяются во времени, то обычно существует система уравнений, описывающих эту динамику. Простейший пример часто встречающийся закон пропорционально- сти скорости изменения величины ей самой: dx dt = ? x => x(t) = x 0 e ?t (1.1) Функция x(t) > 0 может описывать количество кроликов, скорость раз- множения которых тем больше, чем больше их уже родилось. Более эко- номический пример динамика роста средств производства, увеличение которых тем больше, чем больше их накоплено к данному моменту вре- мени, или рост численности человечества по Мальтусу. Если ? > 0, то это уравнение называют уравнением роста, в противном случае урав- нением распада. В решении присутствует произвольная константа x 0 , для определения которой необходимо задать, например, начальное коли- чество кроликов x 0 = x(0) > 0 в момент времени t 0 = 0 Экспоненциальная функция растјт очень быстро. Если бы кролики размножались всј время только в соответствии с этим уравнением, Земля быстро стала бы белой и пушистой. На практике они не только размножа- ются, но и умирают. Относительное изменение численности популяции dx/x = A dt в общем случае может быть функцией x. Разложим еј в ряд A(x) = ? ? ? x + ... , ограничившись линейной зависимостью. Второе сла- гаемое имеет смысл уменьшения относительного прироста в результате уничтожения природных ресурсов (из-за нехватки травы). Это происхо- дит тем интенсивнее, чем больше численность популяции. В результате более реалистичное уравнение приводит к логистической функции, ко- торая со временем выходит на стационарное значение ?/? (при ? > 0): dx dt = ?x ? ?x 2 => x(t) = ? ? ? (? ? ?/x 0 ) e ??t (1.2) Решение уравнения ( 1.2 ) получается (l H 1 ) после замены x(t) = 1/y(t). Асимптотически (t ? ?) равновесное значение x ? = ?/? легко найти из уравнения, в котором dx/dt = 0 (l C 1 ). Стоит напомнить, что ( 1.2 ) применимо и к приматам, считающим себя разумными и живущим на планете с ограниченными ресурсами, хотя само по себе логистическое уравнение носит оттенок каннибализма (l C 2 ). Случайные события 11 • Дифференциальные уравнения впервые появились в классической механике. Действующая сила F (x) изменяет импульс p = m ?x частицы: ? p = F (x) ?x = p/m, (1.3) где точка сверху означает производную по времени ?x = dx/dt, а m массу частицы. К примеру, если сила линейна F (x) = ?kx, то коорди- ната частицы совершает колебания x(t) = x 0 cos(wt) + (p 0 /?m) sin(wt) с частотой w = pk/m (l H 2 ). Так как уравнений два, возникают две константы. Поэтому необходимо задать два начальных условия для ко- ординаты x 0 = x(0) и импульса p 0 = p(0) Большинство экономических, биологических и физических систем мо- жет быть описано при помощи системы дифференциальных уравнений: dx = a(x, t) dt, (1.4) где x(t) = {x 1 (t), ..., x n (t)} вектор переменных, описывающих состоя- ние системы. Векторная функция a(x, t) определяет еј динамику. Лю- бые дифференциальные уравнения, содержащие производные второго и более высоких порядков, можно свести к системе ( 1.4 ) введением новых динамических переменных. Примером этого служат уравнения механики в форме Гамильтона ( 1.3 ). Мы записали ( 1.4 ) в виде изменения вектора x(t) за бесконечно ма- лый интервал времени dt. Такое представление дајт простой алгоритм численного интегрирования уравнений ( 1.4 ) в ситуации, когда аналити- ческое решение получить не удајтся. Для этого бесконечно малые изме- нения заменяют на малые, но конечные ?x = x k+1 ? x k , ?t = t k+1 ? t k В результате ( 1.4 ) соответствует дискретной итерационной схеме: x k+1 = x k + a(x k , t k ) ?t. (1.5) Задав начальный вектор x 0 , мы получаем его новое значение x 1 через интервал ?t. Затем x 1 подставляем вместо x 0 и находим x 2 . Повторяя эту процедуру, мы приходим к последовательности значений вектора x(t) в дискретные моменты времени t 0 , t 1 = t 0 + ?t , t 2 = t 0 + 2?t , и т.д. Чем меньше интервал времени ?t, тем ближе численные значения схемы ( 1.5 ) будут приближаться к истинному решению уравнения ( 1.4 ). 12 Глава 1. • Успехи естественных наук, использующих дифференциальные урав- нения, за последние 300 лет впечатляют. Однако более аккуратное срав- нение теоретических результатов с экспериментальными данными пока- зывает, что обыкновенные дифференциальные уравнения только часть правды. В большинстве ситуаций изучаемая система подвержена непредсказу- емым внешним воздействиям, которые делают динамику не такой глад- кой. Летящий по параболе камень лишь в первом приближении следует математической кривой. Его неизбежный контакт с воздухом приводит к некоторым флуктуациям возле этой траектории. Ещј большая нерегу- лярность обнаруживается при переходе к небольшим объектам, которые, подобно броуновской пыльце, испытывают нерегулярные удары молекул и имеют совсем изломанную траекторию. Степень изломанности коорди- нат x(t) пыльцы в этом случае настолько велика, что еј производную по времени уже нельзя определить. По мере структурного усложнения природных систем роль стохасти- ческих (случайных) процессов возрастает. Кролики размножаются в со- ответствии с логистическим уравнением только в очень грубом прибли- жении. Флуктуации численности популяции за счјт случайных внутрен- них и внешних факторов, не учитываемых простой моделью ( 1.2 ), на самом деле очень велики. Аналогично и рост экономики имеет экспо- ненциальный характер только в первом приближении. Функция x 0 e ?t в реальности сильно искажается экономическими подъјмами и спадами, имеющими стохастический, сложно предсказуемый характер. Наконец, в финансовом мире случайность является доминантой, которая опреде- ляет саму сущность рынков. Стохастика в этом случае, как и в броунов- ском движении, является не малой поправкой, а главным приближением к реальности. Таким образом, наш мир не является детерминированным. Его истин- ное лицо вероятностное: Обыкновенные дифференциальные уравнения это лишь первое приближение к реальности. Более адекватным инструментом исследования являются стохастические уравнения (l C 3 ). В наших лекциях будет обсуждаться математический аппарат, позволя- ющий совместить в одной упряжке две столь не похожие друг на друга сущности: детерминированную, гладкую динамику и скачкообразные, из- ломанные случайные процессы. Случайные события 13 Говоря о внешнем шуме, нарушающем гладкую динамику, мы подра- зумеваем, что справедливо стохастическое уравнение следующего вида: dx = a(x, t) dt + Noise(x, t, dt). (1.6) Оно описывает детерминированное (первое слагаемое) и случайное (вто- рое) изменение переменных состояния системы x. Так как dx предпола- гается малым, соответственно, определјнным образом при уменьшении интервала времени dt должен уменьшаться и шум. Наши рассуждения будут посвящены корректному введению в дифференциальные уравне- ния шума Noise(x, t, dt), обладающего теми или иными свойствами. Решением стохастического уравнения является случайная функция x(t), которая зачастую существенно отличается от добропорядочной функ- ции математического анализа. Если под увеличением рассмотреть силь- но изгибающуюся обычную функцию, мы увидим, что она гладкая в малых масштабах. Стохастическая, случайная функция при любом уве- личении может оставаться изломанной: |