- •Случайные события
- •Стохастический мир
- •Случайные величины
- •Совместная и условная вероятности
- •Зависимость и независимость
- •Характеристическая функция
- •Модель аддитивного блуждания
- •Случайные процессы
- •Стохастические уравнения
- •Уравнение Ито
- •Остановка перед восхождением
- •Лемма Ито
- •Точные решения
- •Простые стохастические модели
- •Представление решений
- •Автокорреляция и спектр
- •Порождающий процесс Винера
- •Средние значения
- •Динамическое уравнение для средних
- •Процесс Феллера
- •Логистическое уравнение
- •Вероятности
- •Марковские плотности вероятности
- •Граничные условия
- •Стохастические интегралы
- •Площадь под траекторией Винера
- •Интегралы Ито
- •Интегрирование стохастических уравнений
- •Единственность решений
- •Метод последовательных приближений
- •Системы уравнений
- •Скоррелированные блуждания
- •Системы стохастических уравнений
- •Стохастический осциллятор
- •Линейные многомерные модели
- •Многомерие помогает одномерию
- •Как решать стохастические задачи?
- •Стохастическая природа
- •Теория броуновского движения
- •Стохастический осциллятор
- •Дрожание земной оси
- •Электронный шум
- •Хищники и их жертвы
- •Стохастическое общество
- •Финансовые рынки
- •Эмпирические закономерности
- •Диверсификация
- •Портфель на всю жизнь
- •Опционы
- •Кривая доходности
- •Компьютерное моделирование
- •Статистики
- •Случайные числа
- •Моделирование стохастических процессов
- •Ошибки вычислений и ускорение сходимости
- •Вычисление средних
- •R: Стохастический справочник
- •Основные соотношения теории
- •Системы уравнений с одинаковым шумом
- •M: Математические приложения
- •H: Помощь
- •C: Примечания
- •Рекомендуемая литература
Глава 4
Вероятности
Ещ¼ одним способом получения информации о поведении стохасти- ческого процесса является решение уравнений для условной плотности вероятности P (x0; t0 ) x; t), которым посвящена эта глава.
На простых примерах будут продемонстрированы методы решения подобных уравнений. Затем мы рассмотрим вопрос о граничных условиях, которые наиболее естественным образом учитываются при помощи уравнения Фоккера-Планка. Будет вычислено среднее время достижения границы и построен простой метод решения уравнения Фоккера-Планка при наличии граничных условий. Решения уравнений x(t) = f(t; ") мы
часто записываем при помощи гауссовой случайной переменной ". Для функции двух аргументов f(t; ") будет получено нелинейное дифференциальное уравнение в частных производных.
101
102 |
Глава 4. |
4.1Марковские плотности вероятности
Верн¼мся к винеровскому процессу с нулевым сносом = 0 и единичной волатильностью. Так как случайная функция x(t) зависит от гауссовой переменной ":
p |
|
|
p |
|
|
x = x0 + " t t0 |
=> |
" = (x x0)= t t0; |
то, воспользовавшись распределением Гаусса (см. стр. 67), можно записать условную плотность вероятности в виде:
|
|
1 |
|
|
|
1 |
(x x0)2 |
|
|
||||
P (x0; t0 ) x; t) = |
|
|
|
|
exp |
|
|
|
|
|
: |
(4.1) |
|
|
|
|
|
2 |
t t0 |
||||||||
|
2 (t |
|
t0) |
||||||||||
Чем меньше разница |
|
p |
|
|
|
|
|
|
|
|
|
|
|
|
t t0, тем более высоким и узким будет колокол |
||||||||||||
гауссианы, стремясь в пределе t ! t0 ê дельта-функции Дирака: |
|
||||||||||||
P (x0; t0 ) x; t) = (x x0) |
|
t ! t0: |
|
(4.2) |
Она равна бесконечности при x = x0 и нулю в других точках, так, что интеграл по x в окрестности x0 равен единице (см. Приложение М, стр. 315). Функции Дирака равна любая условная плотность вероятности при t = t0. Действительно, в бесконечно близкий к t0 момент времени от- лична от нуля только вероятность в окрестности начального значения
xx0.
Êдельта-функции Дирака при t ! t0 стремится также условная плотность вероятности Коши:
P (x |
; t |
) |
x; t) = |
(t t0)= |
: |
(4.3) |
|
(x x0)2 + (t t0)2 |
|||||||
0 |
0 |
|
|
|
Интеграл от этой функции по x равен единице, среднее значение x0. Îä- нако моменты второго и более высоких порядков равны бесконечности. Соответственно равна бесконечности волатильность. В результате становятся вероятными очень большие выбросы случайных чисел. Подобные процессы называются процессами со скачками. У колокола распределения существует типичная ширина, пропорциональная t t0. Ïî ìåðå удаления от начального момента времени происходит расплывание распределения вероятностей и очень быстрый уход процесса от начального значения x0. Поэтому в теории диффузных процессов мы не рассматриваем распределение Коши, хотя, как мы увидим чуть ниже, оно является марковским.
Вероятности |
103 |
Плотность вероятности марковских процессов должна удовлетво-
рять определ¼нным уравнениям. Рассмотрим три последовательных момента времени t1 < t2 < t3, в которых x(t) принимает значения x1, x2 è x3. Совместная плотность вероятности для x1 è x3 равна:
Z
P (x1; x3) = P (x1; x2; x3)dx2; (4.4)
где для краткости опущены времена ti. Â (4.4) мы суммируем все возмож- ные реализации промежуточного значения x2. В результате из трехто- чечной совместной плотности вероятности получается двуточечная. Подставим в левую часть P (x1; x3) = P (x1) P (x1 ) x3) определение условной вероятности, а в правую, с уч¼том марковости процесса, тр¼хточеч- ную плотность вероятности (см. (1.42), íà ñòð. 37):
P (x1; x2; x3) = P (x1) P (x1 ) x2)P (x2 ) x3):
Восстанавливая времена, получаем:
Z
P (x1; t1 ) x3; t3) = P (x1; t1 ) x2; t2) P (x2; t2 ) x3; t3) dx2: (4.5)
Это интегральное уравнение Чепмена-Колмогорова . В качестве упражне- íèÿ (l H24) имеет смысл проверить, что этому уравнению удовлетворяет гауссова плотность вероятности (4.1). Второе упражнение ( l H25) состо- ит в записи уравнения Чепмена-Колмогорова для характеристических функций, если P (x0; t0 ) x; t) = P (x x0; t t0), и проверке марковости распределения Коши (4.3).
Уравнению Чепмена-Колмогорова должны удовлетворять любые вероятности марковских процессов. Правда в таком виде оно слишком общее, и нам нужны его более конкретные представления. В уравнении (4.5) времена t1; t2 è t3 могут быть удалены друг от друга как угодно далеко. Однако особый интерес представляет ситуация бесконечно близких врем¼н. В результате глобальные свойства P (x0; t0 ) x; t) определяются из решений локальных дифференциальных уравнений. Так как условная плотность вероятности имеет две пары аргументов, то возможны, по крайней мере, два уравнения относительно fx0; t0g è fx; tg. Èç (4.5) в следующем разделе мы получим уравнение относительно fx0; t0g, которое называется первым уравнением Колмогорова. Аналогично выводится уравнение Фоккера-Планка, или второе уравнение Колмогорова относительно fx; tg. Мы найд¼м его при помощи стохастического диффе-
ренциального уравнения. Этот вывод покажет непосредственную связь двух математических аппаратов.
104 |
Глава 4. |
4.2Уравнения для P (x0; t0 ) x; t)
Найд¼м уравнение относительно переменных начального значения
x0, t0. Для этого воспользуемся уравнением Чепмена-Колмогорова. Чтобы возникла производная по времени t0, необходимо рассмотреть t0 è бесконечно близкое к нему время t0 + t. Поэтому для тр¼х последовательных моментов времени в интегральном уравнении возьм¼м два соседних t1 = t0, t2 = t0 + t и одно будущее t3 = t:
1 |
|
|
|
|
|
P (x0; t0 ) x; t) = Z |
P (x0; t0 ) y; t0 + t) P (y; t0 + t ) x; t) dy: |
||||
1 |
| |
|
{z |
|
} |
|
(y x0) |
|
Интервал t мал и, следовательно, величина y, соответствующая мо-
менту времени t0 + t, должна быть близка к x0 в момент времени t0. Поэтому разложим в ряд Тейлора по y x0, в окрестности точки y = x0, второй множитель под интегралом:
P (y; t0 + t ) x; t) = P + |
@P |
(y x0) + |
1 |
@2P |
(y x0)2 + :::; |
||
|
|
|
|
|
|||
@x0 |
2 |
@x2 |
|||||
|
|
|
|
|
|
0 |
|
ãäå P = P (x0; t0 + t ) x; t). Вынесем множители, не зависящие от y, за знак интеграла. Опуская пределы интегрирования, запишем:
P (x0; t0 ) x; t) = |
P (x0; t0 + t ) x; t) Z P (x0; t0 ) y; t0 + t) dy |
||||||
+ @x0 |
Z (y x0) P (x0; t0 ) y; t0 + t) dy |
||||||
|
|
|
@P |
|
|
||
+ |
|
1 @2P |
Z (y x0)2 P (x0; t0 ) y; t0 + t) dy |
||||
|
|
|
|
||||
|
2 @x02 |
||||||
+ |
::: |
|
|
Первое слагаемое соответствует условию нормировки (переход хоть куданибудь ), и интеграл равен единице. В результате получается просто P .
Перенес¼м направо P (x0; t0 ) x; t) и разделим обе части на t. По определению, при t ! 0 мы можем записать:
P (x0; t0 + t ) x; t) P (x0; t0 ) x; t) |
! |
@P (x0; t0 ) x; t) |
; |
t |
@t0 |
что приводит к производной по начальному моменту времени t0.
Вероятности |
105 |
Интегрирование по y во втором и третьем слагаемых да¼т условные средние моментов первого и второго порядков:
@t0 |
@x0 |
|
t |
|
2 @x02 |
|
|
t |
|
||||
@P (x0; t0 ) x; t) |
+ |
@P |
|
h(x x0)i |
+ |
1 |
|
@2P |
|
|
(x x0)2 |
|
= 0: |
|
|
|
|
|
|
|
|
|
Если бы мы продолжили разложение в ряд Тейлора, то в этом уравнении стояли бы также моменты более высоких порядков (x x0)3 , è ò.ä.
Однако для диффузных процессов они по определению в пределе t ! 0 равны нулю (см. стр. 50).
Средние значения, как обычно, вычисляются при помощи условной плотности вероятности ( t ! 0):
1
Z
h (x x0)mi = (x x0)m P (x0; t0 ) x; t0 + t) dx:
1
При вычислении предела t ! 0 сначала необходимо проинтегрировать, вычислив среднее, затем полученную функцию от t разделить на t, и только после этого устремить к нулю t ! 0.
Мы видим, что снос и диффузия естественным образом появляются как в уравнениях для плотности вероятности случайного процесса, так и в стохастических дифференциальных уравнениях при записи их через разности.
В результате, вводя коэффициенты сноса и диффузии, получаем первое уравнение Колмогорова :
|
@P |
@P |
1 |
2 |
|
@2P |
|
|
|
|
||
|
|
+ a(x0; t0) |
|
+ |
|
b |
(x0; t0) |
|
= 0 |
; |
(4.6) |
|
|
|
@x0 |
|
@x02 |
||||||||
|
@t0 |
2 |
|
|
|
|
|
|
ãäå P = P (x0; t0 ) x; t). Заметим, что производные в этом уравнении берутся не по будущим аргументам x и t, а по начальным x0 è t0.
Если значение x0 = x(t0) задано точно, то первое уравнение Колмогорова необходимо решать с начальными условиями в виде дельтафункции Дирака:
P (x0; t0 ) x; t) = (x x0) |
t ! t0: |
(4.7) |
Естественно, кроме этого предполагается наличие тех или иных гранич- ных условий. В простейшем случае требуют достаточно быстрого убывания плотности вероятности при увеличении разности x x0
момент времени t > t0.
106 |
Глава 4. |
Выведем теперь второе дифференциальное уравнение для функции P (x0; t0 ) x; t) по будущим аргументам x; t. Пусть процесс Ито в момент времени t t имеет значение x. Спустя малый интервал времениt он будет иметь значение y:
p
y = x + a t + b " t; (4.8)
где a = a(x; t t), b = b(x; t t). Величина x является случайной с плотностью распределения P (x; t t) = P (x0; t0 ) x; t t). Слу- чайной и независимой от не¼ будет и " c гауссовой плотностью P ("). В результате y в момент t также будет случайной величиной.
Чтобы найти распределение P (y; t) = |
P (x0; t0 |
) y; t), необходимо |
|||||||||||||||||||||
вычислить среднее от произвольной функции (см. стр. 22): |
|
||||||||||||||||||||||
|
|
1 |
|
|
|
|
F (y) |
|
|
|
|
|
|
|
|
P (x;") |
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Z z |
|
|
|
|
|
|
|
|
p |
|
|
{) z |
|
|
|
}| |
|
|
{ |
(4.9) |
|
h |
i |
( |
|
+ |
|
|
}|+ |
|
|
|
|
|
( |
|
|
|
|
|
|||||
x |
a |
b" |
|
|
|
|
x; t |
|
|||||||||||||||
|
F (y) = |
F |
|
t |
|
|
t P |
|
t) P (") dx d" |
|
|||||||||||||
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
и преобразовать его таким образом, чтобы получился однократный интеграл c F (y) в момент времени t. Обратим внимание, что, если в (4.8)
x, y и " это случайные величины, потенциально принимающие любые
значения, то в (4.9) они же выступают в виде обычных вещественных переменных интегрирования.
Так как t малo, разложим F (::) в ряд, оставляя члены порядка не более t:
p |
|
|
@F |
|
p |
|
|
1 @2F |
2 |
2 |
|
||
|
|
|
|
|
|||||||||
F (x + a t + b" |
t) = F (x) + |
|
a t + b " |
t + |
|
|
|
b |
" |
t + ::: |
|||
@x |
2 @x2 |
Все функции справа вычислены в точке x и в момент времени t. Заметим, что в (4.8) функции вычислялись в момент времени t t. На самом
деле их тоже необходимо разложить по t. Однако эти ряды будут умно- p
жаться на t, t и окажутся малыми более высокого порядка. Поэтому
можно взять ведущее приближение разложения и считать в дальнейшем, что a = a(x; t), b = b(x; t).
Аналогично раскладывается плотность вероятности по t:
P (x; t t) = P (x; t) @P (x; t) t + :::
@t
Этим соотношением мы связываем плотности вероятности в два бесконечно близких момента времени, в результате чего в конечном уравнении появится частная производная по времени.
Вероятности |
107 |
Подставим последние два разложения в (4.9), выдерживая порядок малости по t. Интегрирование по " сводится к h"i = 0, "2 = 1, è â
результате:
1 |
1 |
F |
@P |
|
@F |
|
1 |
@2F |
b2P dx: |
||
hF (y)i = Z |
F (x)P (x; t)dx t Z |
|
|
|
aP |
|
|
|
|
||
@t |
@x |
2 |
|
@x2 |
|||||||
1 |
1 |
|
|
|
|
|
|
|
|
|
|
Во втором интеграле F = F (x), P = P (x; t). Первый интеграл представляет определение искомого среднего в момент времени t (переменная интегрирования x может быть переобозначена в y). Поэтому второй ин-
теграл должен быть равен нулю. Интегрируя по частям один раз второе слагаемое в квадратных скобках и два раза третье ( l C23), получим F (x), умноженную на выражение:
@P |
+ |
@ |
a(x; t) P |
1 |
@2 |
b2(x; t) P = 0 |
; |
(4.10) |
||
|
|
|
|
|
|
|||||
|
@t |
@x |
2 |
@x2 |
которое должно быть равно нулю (в силу произвольности F (x)). Это
уравнение Фоккера - Планка, или второе уравнение Колмогорова для плотности условной вероятности P = P (x0; t0 ) x; t).
Решение уравнения Фоккера-Планка позволяет найти плотность вероятности условного перехода. Имея е¼, мы фактически знаем о марковском случайном процессе вс¼. Можем вычислять его среднее, волатильность, автокорреляционную функцию и отвечать на другие вопросы.
Естественно, кроме начального условия (4.7), предполагается наличие граничных условий для плотности вероятности. Так как мы знаем, что в момент времени t0 значение x было равно x0, то спустя конечный ин- тервал времени цена или броуновская частица не могут заблуждать бесконечно далеко. Поэтому мы считаем, что плотность вероятности на бесконечности равна нулю. Это же требование возникает в силу условия нормировки:
1
Z
P (x0; t0 ) x; t) dx = 1; |
(4.11) |
1
имеющего смысл вероятности перехода куда угодно .
Так как дифференциальное уравнение (4.10) линейно относительно функции P , то решение не изменяется при умножении P на произволь-
ную константу. Е¼ значение должно фиксироваться при помощи условия нормировки (4.11).
108 |
Глава 4. |
4.3Решение уравнения Фоккера-Планка
В качестве примера решения уравнения Фоккера-Планка рассмотрим случай винеровского блуждания с a(x; t) = 0 и b(x; t) = :
@P |
= |
2 @2P |
: |
(4.12) |
||
|
|
|
|
|||
@t |
2 @x2 |
Это уравнение теплопроводности с коэффициентом диффузии 2. Èìåí- но оно дало название диффузным процессам. Представим P (x; t) (аргу-
менты начальных условий опускаем) в виде фурье-интеграла (см. Приложение М, стр. 314):
1 |
(k; t) e ikx |
2 : |
(4.13) |
P (x; t) = Z |
|||
|
|
dk |
|
1
Подставляя его в (4.12), получаем для (s; t) следующее уравнение:
@ |
= |
2k2 |
|
||
|
|
|
: |
(4.14) |
|
@t |
2 |
При его решении возникает произвольная константа, для определения которой необходимо воспользоваться начальным условием:
1 |
|
|
|
P (x; t0) = P (x0; t0 ) x; t0) = (x x0) = Z |
e i(x x0)k |
dk |
: |
|
|||
2 |
|||
1 |
|
|
|
Поэтому фурье-образ плотности вероятности при t = t0 должен быть равен (k; t0) = eix0k. В результате решение (4.14) имеет вид:
(k; t) = e 2k2(t t0)=2+ix0k:
Выполняя интегрирование (4.13) при помощи интеграла (14), ñòð. 312, приходим к гауссовой плотности условной вероятности:
1 |
2 |
2 |
|
dk |
|
|
|
1 |
|
|
|
|
|
1 (x x0)2 |
: |
||
P = Z |
e |
k |
(t t0)=2 ik (x x0) |
|
= |
|
|
|
|
|
|
exp |
|
|
|
||
|
2 |
|
|
|
|
|
2 2 |
(t t0) |
|||||||||
|
|
2 (t |
|
t0) |
|||||||||||||
1 |
|
|
|
|
|
|
p |
|
|
|
|
|
|
|
|
|
Видно, ÷òî âîлатильность в гауссиане увеличивается с течением времени, как pt t0. Среднее значение равно начальному x0. Плотность вероят-
ности вокруг x0 симметрична и постепенно расплывается , увеличивая свою ширину. Таким образом, лучшим прогнозом будущего x будет его
начальное значение x0.
Аналогично можно решить уравнение Фоккера-Планка, соответствующее процессу: dx = f(t)dt + s(t) W (l H26), и несколько длиннее, при помощи метода характеристик (стр. 316), - для процесса ОрнштейнаУленбека: dx = (x ) dt + W (l H28).
Вероятности |
109 |
Мы уже обсуждали в конце раздела x2.7, ñòð. 71, что начальные
условия могут быть заданы с некоторой вероятностью. Например, это происходит, когда учитывают неизбежные измерительные ошибки при определении x0 = x(t0). Возможны и более экзотические ситуации на- чальной неопредел¼нности.
С точки зрения решения уравнения Фоккера-Планка это означает, что начальное условие для плотности вероятности равно не дельта - функции Дирака, а некоторой задаваемой функции P0(x0). Для не¼ тоже можно записать фурье - преобразование:
1 |
0(k) e ikx0 |
2 : |
|
P0(x0) = Z |
|||
|
|
dk |
|
1 |
|
|
|
При решении уравнения для винеровского блуждания с уч¼том этого начального условия мы имеем:
(k; t) = 0(k) e 2k2(t t0)=2:
Чтобы получить вероятность будущих значений x, необходимо вычис-
лить интеграл (4.13). Рассмотрим случай, когда начальные условия имеют гауссову форму:
1 |
|
2 |
|
2 |
2 |
2 |
|
||
P0(x0) = |
bp |
|
e (x0 |
a) |
=2b |
|
=> 0(k) = eiak b |
k |
=2; |
2 |
|
|
|
где a - среднее значение, а b - волатильность (ошибка измерения x0). Â этом случае снова получится гауссова плотность P (x; t), зависящая от времени, но волатильность в ней будет заменена следующим образом:
2 (t t0) ! b2 + 2 (t t0):
Другими словами, неопредел¼нность в будущем значении x определяется начальной неопредел¼нностью b и привнес¼нной случайным блужданием 2 (t t0). Этот результат для волатильностей справедлив и в случае произвольного распределения P0(x0). Действительно, полагая t0 = 0, при помощи гауссовой случайной величины " N(0; 1) запишем решение ви-
неровского процесса: p
x = x0 + t ":
Считая x0 случайной величиной, получаем:
x2 = (x x)2 = D x0 x0 pt " 2E = (x0 x0)2 + 2 t;
где мы воспользовались независимостью будущего блуждания и начальных условий hx0"i = hx0i h"i = 0.