Задавальник по СЛУПАМ 5 семестр
.pdfПрограмма и задачи курса “Случайные процессы”
лектор д.ф.-м.н. Д. А. Шабанов
осень 2014
ПРОГРАММА
1.Понятие случайного процесса (случайной функции). Примеры: случайное блуждание, процессы восстановления, эмпирические меры, модель страхования Крамера – Лундберга.
2.Простейшее симметричное случайное блуждание на прямой: распределение первого момента возвращения в нуль для простейшего симметричного случайного блуждания на прямой, теорема о вероятности возвращения в нуль для простейшего случайного блуждания на прямой.
3.Равномерная интегрируемость семейства случайных величин. Критерий равномерной интегрируемости сходящейся по распределению последовательности случайных величин.
4.Теорема об асимптотическом поведении времени, проведенном симметричным случайным блужданием в нуле за время n.
5.Закон повторного логарифма для симметричного простейшего случайного блуждания на прямой.
6.Ветвящиеся процессы Гальтона – Ватсона. Теорема о вероятности вырождения ветвящегося процесса.
7.Пространство траекторий случайного процесса, цилиндрическая сигма-алгебра на нем. Эквивалентное определение случайного процесса, как одного измеримого отображения в пространство траекторий.
8.Конечномерные распределения случайного процесса. Теорема Колмогорова о согласованных распределениях (док-во необходимости). Условия согласованности вероятностных мер на (Rn; B(Rn)) в терминах характеристических функций.
9.Процессы с независимыми приращениями: критерий существования в терминах характеристических функций приращений.
10.Пуассоновский процесс постоянной интенсивности как процесс с независимыми приращениями. Явная конструкция пуассоновского процесса: процесс восстановления для экспоненциальных случайных величин.
1
11.Напоминание: гауссовские случайные векторы (многомерное нормальное распределение). Три эквивалентных определения гауссовского вектора, основные свойства, критерий независимости компонент гауссовского вектора.
12.Ковариационная и корреляционная функции случайного процесса, их неотрицательная определенность.
13.Гауссовские случайные процессы. Доказательство существования гауссовского процесса с заданными функцией среднего и ковариационной функцией.
14.Винеровский процесс (процесс броуновского движения). Теорема о двух эквивалентных определениях винеровского процесса.
15.Модификация случайного процесса. Теорема Колмогорова о существовании непрерывной модификации (б/д), следствие для гауссовских процессов. Непрерывность с вероятностью 1 траекторий винеровского процесса.
16.Дополнительные свойства траекторий винеровского процесса: недифференцируемость с вероятностью 1 (б/д), неограниченность вариации на любом конечном отрезке, закон повторного логарифма (б/д) и его локальное следствие.
17.Понятие фильтрации на вероятностном пространстве, естественная фильтрация случайного процесса. Марковские моменты и моменты остановки.
18.Строго марковское свойство и принцип отражения (б/д) для винеровского процесса. Теорема Башелье.
19.Мартингалы, субмартингалы и супермартингалы. Критерий мартингальности для процессов с независимыми приращениями и для марковских процессов. Разложение Дуба для согласованных процессов с дискретным временем.
20.Мартингалы. Теорема Дуба об остановке и следствие из нее.
21.Общее понятие марковского процесса. Эквивалентные определения марковского процесса. Марковость процессов с независимыми приращениями. Критерий марковости для гауссовских процессов. Переходная функция марковского процесса, переходная плотность.
22.Марковские цепи с дискретным временем. Теорема о независимости “будущего” и “прошлого” при фиксированном “настоящем”. Примеры марковских цепей: простейшее случайное блуждание на прямой и ветвящиеся процессы Гальтона-Ватсона.
23.Фазовое пространство, матрицы переходных вероятностей и начальное распределение для марковской цепи с дискретным временем. Понятие однородной марковской цепи. Уравнения Колмогорова – Чепмена и следствия из них. Стационарное и предельное распределения однородной марковской цепи. Свойства цепи с начальным стационарным распределением.
24.Эргодическая теорема для марковских цепей с дискретным временем. Стационарность и предельность эргодического распределения марковской цепи.
2
25.Марковские цепи с непрерывным временем. Построение марковской цепи по начальному распределению и переходным вероятностям. Пуассоновский процесс как однородная цепь Маркова.
26.Однородные марковские цепи с непрерывным временем. Стохастическая полугруппа матриц переходных вероятностей. Стационарное и предельное распределения марковской цепи. Эргодическая теорема (б/д). Три следствия из эргодической теоремы: свойства эргодического распределения.
27.Инфинитезимальная матрица. Существование инфинитезимальной матрицы для стандартной марковской цепи (б/д). Прямые и обратные дифференциальные уравнения Колмогорова. Стационарное и предельное распределения для цепей Маркова с непрерывным временем.
28.Пространство L2 ( ; F; P) случайных величин, его основные свойства. Лемма о непрерывности скалярного произведения.
29.Стохастическая непрерывность и непрерывность в среднем квадратичном случайного процесса. Критерий непрерывности в среднем квадратичном L2-процесса в терминах корреляционной функции. Критерий стохастической непрерывности в терминах сходимостей двумерных конечномерных распределений.
30.Дифференцирование случайных процессов по вероятности и в среднем квадратичном. Критерий дифференцируемости в среднем квадратичном случайного процесса на отрезке (б/д). Вычисление математического ожидания, корреляционной и ковариационной функций L2-производной от случайного процесса.
31.Интегрирование случайных процессов в среднем квадратичном. Доказательство того, что из непрерывности в среднем квадратичном следует интегрируемость. Вычисление математического ожидания, корреляционной и ковариационной функций L2-интеграла от случайного процесса.
32.Стационарные случайные процессы: стационарность в узком и широком смыслах. Доказательство эквивалентности этих понятий для гауссовских процессов. Стационарность в узком смысле марковской цепи с начальным стационарным распределением.
33.Ортогональные случайные меры на измеримых пространствах. Взаимная однозначность ортогональных случайных мер на полукольце полуинтервалов и L2-процессами с ортогональными приращениями.
34.Стохастический интеграл по ортогональной случайной мере. Продолжение с полукольца ортогональной случайной меры и ее структурной меры. Определение и свойства стохастического интеграла от простых функций. Построение стохастического интеграла для произвольной функции из L2( ; A; ). Теорема об его основных свойствах (б/д).
3
35.Теорема Карунена (б/д). Спектральное представление. Теорема Герглотца (б/д). Теорема о спектральном представлении стационарной в широком смысле последовательности. Спектральная плотность стационарной в широком смысле последовательности, ее вычисление с помощью ряда Фурье.
36.Теорема Бохнера – Хинчина (б/д). Спектральная плотность стационарного в широком смысле процесса, ее вычисление с помощью формулы обращения. Спектральное представление стационарного в широком смысле случайного процесса на прямой.
СПИСОК ЛИТЕРАТУРЫ
1.Ширяев А. Н. Вероятность. В 2-х кн. 3-е изд. М.: МЦНМО, 2004.
2.Булинский А. В., Ширяев А. Н. Теория случайных процессов. М.: Физматлит, 2005.
3.Боровков А. А. Теория вероятностей. 4-е изд. М.: Едиториал УРСС, 2003.
4.Севастьянов Б. А. Курс теории вероятностей и математической статистики. 2-е изд. М.-Ижевск: Институт компьютерных исследований, 2004.
5.Феллер В. Введение в теорию вероятностей и ее приложения. В 2-х т. М.: Мир, 1984.
6.Вентцель А. Д. Курс теории случайных процессов. 2-е изд. М.: Наука.Физматлит, 1996.
4
ЗАДАЧИ ДЛЯ САМОСТОЯТЕЛЬНОГО РЕШЕНИЯ
1.Случайное блуждание на прямой
1.Пусть (Sn; n 2 N) симметричное случайное блуждание на прямой. Используя принцип отражения докажите, что
P |
k6n |
k > |
N; S |
n |
|
= P (S |
n |
> N) : |
|
max S |
|
|
< N |
|
2.Пусть (Sn; n 2 N) симметричное случайное блуждание на прямой. Используя результат задачи 1, найдите распределение случайной величины
Mn = max Sk:
k6n
3.Пусть (Sn; n 2 N) случайное блуждание с вероятностью шага вправо p и шага влево q, p + q = 1. Докажите, что для m 6 N выполнено
P |
k6n |
k > |
|
n |
|
|
n |
|
max S |
|
N; S |
|
= m |
|
= Cupvqn v; |
где v = (n + m)=2, u = v N.
4.Пусть (Sn; n 2 N) симметричное случайное блуждание на прямой. Используя результат задачи 3, докажите равенство
P |
k6n |
k = |
N; S |
n = |
m |
= P ( |
S |
n |
= 2N |
|
m) |
|
P (S |
n |
= 2N |
|
m + 2) : |
|
max S |
|
|
|
|
|
|
|
|
5. Пусть (Sn; n 2 N) симметричное случайное блуждание в Zd. Докажите, что
1
X
P (процесс Sn вернется в 0) = 1 , P (S2n = 0) = +1:
n=1
6.Пусть (Sn; n 2 N) симметричное случайное блуждание в Zd. Докажите, что оно возвращается в нуль с вероятностью единица (“возвратно”) тогда и только когда d 6 2.
2.Ветвящиеся процессы
1.Найдите производящую функцию числа частиц в n-м поколении, если производящая функция числа потомков одной частицы равна
а) pz + 1 p, б) (1 p)=(1 pz), в) 1 p(1 z) , 2 (0; 1).
5
2.Найдите вероятности вырождения для ветвящихся процессов с производящей функцией числа потомков одной частицы
а) (1 p)=(1 pz), б) 1 p(1 z) , 2 (0; 1), в) (1 + z + z2 + z3)=4.
3.Найдите распределение момента вырождения N для ветвящихся процессов с производящей функцией числа потомков одной частицы
а) pz + 1 p, б) 1 p(1 z) , 2 (0; 1).
4.Пусть число потомков частицы в ветвящемся процессе Гальтона-Ватсона (Xn; n 2 Z+). Обозначим E = , D = 2. Найдите EXn и DXn.
5.Пусть (Xn; n 2 Z+) ветвящийся процесс с законом размножения частиц . Обозначим через Yn = Xn + : : : + X0 общее число частиц в процессе за время n, а через 'Yn(s) его производящую функцию. Докажите, что
'Yn(s) = s' ('Yn 1 (s)):
6.Случайная величина имеет геометрическое распределение с параметром p 2 (0; 1), а (Xn; n 2 Z+) ветвящийся процесс с законом размножения частиц . Вычислите производящую функцию общего числа частиц в процессе, а также найдите вероятность того, что всего в процессе было ровно k частиц.
3. Процессы с независимыми приращениями. Пуассоновский процесс
1.Пусть (Xt; t 2 R+) процесс с независимыми приращениями. Докажите, что для любых t > s случайная величина Xt Xs не зависит от (Xu; u 6 s).
Nt
P
2. Задан процесс fYt = j; t > 0g; где ( n; n 2 N) независимые одинаково рас-
j=1
пределенные случайные величины, не зависящие также от пуассоновского процесса N = fNt; t > 0g интенсивности . Докажите, что процесс Yt имеет независимые приращения.
3.Пусть ( n; n 2 N) независимые экспоненциальные случайные величины с параметром , Sn = 1 + : : : + n, а N = fNt; t > 0g процесс восстановления, построенный по ним (пуассоновский процесс интенсивности ). Для каждого t > 0 обозначим Vt = SNt+1 t (“перескок”) и Ut = t SNt (“недоскок”).
а) Вычислите вероятность P(Vt > v; Ut > u) =?
б) Докажите, что Vt и Ut независимы, и что Vt Exp( ). в) Вычислите функцию распределения Ut и EUt.
6
4.Пусть N = fNt; t > 0g пуассоновский процесс интенсивности . Найдите математическое ожидание числа таких его скачков на отрезке [0; T ]; что а) в их правой a-окрестности нет других скачков (эта окрестность может выходить и за пределы отрезка), б) в их левой a-окрестности нет других скачков, в) в их a-окрестности нет других скачков (эта окрестность может выходить и за пределы отрезка).
5.Пусть (Nt; t > 0) пуассоновский процесс интенсивности . Найдите предел п.н.
Nt=t при t ! +1.
4.Гауссовские процессы. Винеровский процесс
1.Пусть (Wt; t > 0) винеровский процесс. Докажите, что следующие процессы тоже винеровские
p
а) Xt = t W1=tIft > 0g, б) Xt = c Wt=c, c > 0, в) Xt = Wt+a Wa, a > 0, г) Xt = Wt Ift < T g + (2WT Wt)Ift > T g.
2. Пусть (Yt; t 2 [0; 1]) гауссовский процесс с нулевой функцией среднего и ковариационной функцией r(s; t) = min(s; t) st. Докажите, что такой процесс существует
и что процесс Xt = (t + 1)Yt=(t+1), t > 0 является винеровским.
3.Пусть Wt1; : : : ; Wtd независимые винеровские процессы. Докажите, что с вероятностью 1 процесс Wt = (Wt1; : : : ; Wtd) (многомерный винеровский процесс) выйдет из шара произвольного фиксированного радиуса r с центром в нуле пространства Rd.
4.Докажите, что существует гауссовский процесс X = (Xt; t 2 Rd+) с нулевой функцией среднего и ковариационной функцией
d
Y
R(s; t) = min(sk; tk);
k=1
где s = (s1; : : : ; sd) 2 Rd+, t = (t1; : : : ; td) 2 Rd+.
5.Пусть (Wt; t > 0) винеровский процесс. Докажите, что с вероятностью 1 его траектория имеет неограниченную вариацию на произвольном отрезке [a; b] R+, т.е.
что
n
X
sup jWti+1 Wtij = +1 п.н.;
Ti=1
где T = fa = t0 < : : : < tn = bg разбиение отрезка [a; b].
5. Марковские моменты. Принцип отражения для винеровского процесса
7
1.Пусть задана фильтрация F = (Fn; n 2 N), а 1; 2; : : : марковские моменты относительно F. Докажите, что случайные величины
mm
XY
k; |
|
k; sup k; inf k |
|
k=1 |
k=1 |
k |
k |
|
|||
|
|
тоже являются марковскими моментами относительно F.
2.Пусть – марковский момент относительно фильтрации (Ft; t > 0). Докажите, что тогда марковским моментом будет и величина
1
|
Xk |
|
n := |
k2 n IAn;k |
; |
|
=1 |
|
где An;1 = f0 6 6 2 ng, An;k = f(k 1)2 n < 6 k2 ng при k > 2.
3.Пусть марковский момент относительно фильтрации F = (Ft; t 2 T ), где T = N или R+. Положим
F = fA 2 F : 8t 2 T A \ f 6 tg 2 Ftg
Докажите, что F является сигма-алгеброй и что является F -измеримой случайной величиной.
4.Пусть марковский момент относительно фильтрации F = (Fn; n 2 N), а случайный процесс (Xn; n 2 N) согласован с F. Докажите, что X является F -измеримыми (считаем, что X = +1, если = +1).
5.Пусть (Wt; t > 0) винеровский процесс. Положим y = minft : Wt = yg для y > 0. С помощью теоремы Башелье найдите плотность случайной величины y, а также
E y.
6.Пусть (Wt; t 0) винеровский процесс. Положим = minft : Wt = yg для некоторого y > 0. Найдите плотность случайной величины Ya = supt2[ ; +a] Wt.
7.Используя задачу 3 найдите
P (Wt не имеет нулей на отрезке [s; u]) ;
где Wt винеровский процесс, а u > s > 0.
6.Мартингалы
1.Пусть (Wt; t > 0) винеровский процесс. Докажите, что процесс Yt = Wt2 t является мартингалом относительно естественной фильтрации процесса Wt.
8
2.Пусть 1; : : : ; n; : : : такая последовательность случайных величин, что для любого n существует плотность fn(x1; : : : ; xn) случайного вектора ( 1; : : : ; n). Пусть1; : : : ; n; : : : другая последовательность случайных величин, причем также для любого n существует плотность gn(x1; : : : ; xn) случайного вектора ( 1; : : : ; n). Докажите, что процесс
Xn = gn( 1; : : : ; n) fn( 1; : : : ; n)
является мартингалом относительно фильтрации (Fn = ( 1; : : : ; n); n 2 N).
3.Пусть (Wt; t > 0) винеровский процесс, а момент остановки относительно его естественной фильтрации. Докажите, что процесс
Xt = Wt^ ; t > 0
является мартингалом относительно естественной фильтрации процесса Wt.
Указание: надо аппроксимировать марковскими моментами с конечным числом значений.
4.Пусть (Wt; t > 0) винеровский процесс, а = minft : jWtj = 1g. Вычислите E .
5.Пусть (Sn; n 2 N) простейшее случайное блуждание с вероятностью шага вправо p. Пусть a < x < b целые числа, а Xn = x + Sn, n > 1. Обозначим = minfn : Sn 2 fa; bgg момент выхода процесса Xn из полосы. Докажите, что E < +1
Указание: надо использовать решение задачи 4.
7.Марковские процессы
1.Пусть (Xt; t 2 T ) действительный марковский процесс, T R+. Пусть для любого t 2 T задана борелевская функция ht. Рассматривается случайный процесс Yt =
(ht(Xt); t 2 T ). Докажите, что если ht биекция для любого t 2 T (считаем, что в этом случае ht 1 тоже борелевская), то Yt тоже марковский процесс. Приведите пример марковского процесса Xt и функций ht, при которых процесс Yt не является марковским.
2.Пусть (Wt; t > 0) винеровский процесс, а x = minft : Wt = xg для x > 0. Докажите, что процесс = ( x; x > 0) является марковским.
3.Пусть (Wt; t > 0) винеровский процесс. Вычислите его переходную плотность.
4.Пусть (Xn; n > 0) независимые случайные величины с равномерным распределением на множестве f 1; 0; 1g. Рассмотрим процесс
Yn = X0X1 + X1X2 + : : : + Xn 1Xn:
Докажите, что Xn является мартингалом относительно фильтрации
F = ( (X1; : : : ; Xn); n 2 Z+);
но не является марковским процессом относительно нее.
Подсказка: надо взять f(x) = x2.
9
8.Марковские цепи
1.Пусть n цепь Маркова с фазовым пространством S = f1; 2; 3g, начальным состоянием 0 = 1 п.н. и матрицей переходных вероятностей
01=11 |
23=11 |
8=111 |
: |
3=7 |
=7 |
1=7 |
|
@1=11 |
4=11 |
6=11A |
|
Положим n = If n = 1g + 2If n 6= 1g. Докажите, что n тоже марковская цепь и найдите ее матрицу переходов.
2.Цепь Маркова ( n; n 2 Z+) имеет начальное состояние 0 = 0 и переходные вероятности P( n+1 = k+1j n = k) = p, P( n+1 = kj n = k) = 1 p, k; n 2 N, p 2 [0; 1]. Найдите распределение n. Докажите, что последовательность 0 = 0, k = minfn : n = kg также является цепью Маркова и найдите ее переходные вероятности.
3.Цепь Маркова ( n; n 2 Z+) имеет начальное состояние 0 = 0 и переходные вероятности P( n+1 = k + 1j n = k) = a k, P( n+1 = kj n = k) = 1 a k, k; n 2 N, a > 1. Найдите Ea n и Da n.
4.Найдите стационарное распределение для однородной марковской цепи, матрица переходных вероятностей которой имеет вид:
02=9 1=3 0 4=91 |
|
04=9 0 2=9 |
1=31 |
|
01=9 2=9 2=3 |
0 1 |
|
|||||
B4=9 1=9 0 4=9C |
; |
B |
0 4=9 |
2=9 |
1=3C |
; |
B1=3 0 |
0 2=3C |
: |
|||
а) B |
C |
|
б) B |
0 2=3 |
|
C |
|
в) B |
|
0 |
C |
|
B2=9 2=9 2=9 1=3C |
|
B |
0 1=3C |
|
B1=3 4=9 2=9 |
C |
|
|||||
B |
C |
|
B |
|
|
C |
|
B |
|
|
C |
|
B |
C |
|
B |
|
|
C |
|
B |
|
|
C |
|
B |
C |
|
B |
|
|
C |
|
B |
|
|
C |
|
B2=9 2=9 4=9 1=9C |
|
B4=9 2=9 |
2=9 |
1=9C |
|
B2=9 2=9 1=3 |
2=9C |
|
||||
B |
C |
|
B |
|
|
C |
|
B |
|
|
C |
|
@ |
A |
|
@ |
|
|
A |
|
@ |
|
|
A |
|
5.Приведите пример такой однородной марковской цепи с дискретным временем, что а) у нее есть стационарное распределение, но нет предельного; б) у нее есть ровно одно стационарное распределение, но нет предельного;
в) у нее нет стационарного распределения, но есть пределы переходных вероятностей при n ! 1.
6.Докажите, что пуассоновский процесс интенсивности является однородной марковской цепью. Найдите его переходные вероятности, инфинитезимальную матрицу и стационарное распределение.
|
|
f |
n |
7. Пусть n n матрица Q = (qij)i;jn |
=1 такова, что qij > 0 |
P |
|
при i 6= j и |
j=1 qij = 0 |
для любого i = 1; : : : ; n. Докажите, что тогда матрицы P (t) = exp tQg образуют стохастическую полугруппу.
10