Churakov_Mat_met_obr_exp_dan_v_ekon

значений представляет собой дискретное множество, а область определения Г непрерывна.

Если у случайного процесса множество значений непрерыв­ но, а область определения представляет собой конечное или счетное дискретное множество Г= {ti, ^2, ..J, то его принято на­ зывать случайной последовательностью.

Наконец, случайный процесс принято называть дискретной случайной последовательностью, если и область определения, и множество значений являются дискретными множествами. На рис. 4.1 представлены примеры реализаций x(t) различных слу­ чайных процессов X(t) в соответствии с данной классификацией.

Возможны более сложные конструкции случайного процесса. Так, случайный процесс X(t) может быть не скалярным, а много­ мерным. Если X(t) — вектор-функция, каждый компонент кото­ рой представляет собой случайный процесс, то такой процесс X(t) принято называть векторным. Аргумент t также может быть векторным: например, совмещать время и пространственные ко­ ординаты какого-либо изменяющегося во времени и распреде­ ленного в пространстве явления, скажем температуры. Такой процесс X(t) принято называть случайным полем.

4.2. Одномерные характеристики случайного процесса

Основное внимание далее уделяется процессам с непрерывным множеством их значений — непрерывным случайным процессам и случайным последовательностям. Этот выбор определяется эконометрической направленностью пособия, так как именно такие процессы наиболее характерны для эконометрических приложений. При этом мы не будем обсуждать такие «деликат­ ные» понятия, как среднеквадратичные непрерывность, дифференцируемость, интегрируемость случайных процессов, стохас­ тические дифференциальные уравнения Ито и Стратоновича и многое другое, отражающее современный математический уро­ вень теории стохастических процессов, а ограничимся тем мини­ мумом сведений, который необходим цдя решения основных прикладных задач. Математическое описание случайных после­ довательностей будем совмещать с аналогичным представлением непрерывных процессов, делая соответствующие комментарии в

160

случае необходимости в них. Непрерывные случайные процессы условимся обозначать прописными символами — Д/), Y(t) и т.п., а их реализации строчными — соответственно x(t), y(t) и т.п. Ана­ логичным образом за случайными последовательностями закре­ пим обозначения Xi, Yi и т.п. (/ = 1, 2,...), а за их реализациями - X/, J//и т.п. При этом если множество значений индекса / конечно, т.е. / = 1, 2, ..., N, то случайную последовательность будем назы­ вать стохастическим временным рядом. Будем полагать, что как последовательность, так и ряд сформированы на основе равно­ мерно поступающих во времени данных, т.е. // = //_i + ^, где ^ = const - так называемый период дискретизации. При рас­ смотрении характеристик, общих для непрерывных процессов и последовательностей, будем использовать единый символ X(t), если это не порождает каких-либо недоразумений.

Характеристики случайных процессов принято разделять на одномерные, относящиеся к одному конкретному сечению, и многомерные, отражающие свойства процесса совместно в не­ скольких сечениях. Так как в сечении случайный процесс являет­ ся случайной величиной, то его одномерные характеристики сов­ падают с аналогичными характеристиками случайных величин, известными из курса теории вероятностей, что позволяет доста­ точно кратко изложить их.

Пусть / = // - фиксированное сечение процесса X(t).

Определение 4.3. Функция Fx{x; //) = P(X{ti) < х) называется одномерной функцией распределения вероятностей случайного процесса ДО в момент времени //.

Функция распределения, таким образом, представляет собой вероятность того, что в сечении // случайный процесс X{t) примет значение, меньшее некоторой величины х. Хотя формально она записана как функция двух переменных, ее аргументом является переменная jc, а присутствие величины // объясняется желанием указать «адрес» сечения, к которому эта функция относится. Ес­ ли не возникает недоразумений, эту величину не указывают. Ха­ рактерные свойства этой функции таковы:

1./М-оо;/.) = 0;

3. F^b- и) - Fx{a\ и) = Р{а < X{ti) < b), где а, be R; 4. F;^b; ti)>Fx(a;td при b> а;

161

5.Функция распределения непрерывна слева, т.е. /л<^о;^/) ~

=lim Fx{x\ и) при X ^ дсо - О и P{X{td < XQ) = Р{х^\ //);

6.P{X{ti) = fl) = О, если функция F(x; t^ в точке а непрерывна,

иP{X(ti) = a)- lim Fx{b\ ti)-Fx(a; t^), если в этой точке имеет-

СЯ разрыв первого рода.

Одномерная функция распределения, таким образом, являет­ ся неубывающей, непрерывной слева с множеством значений [О, 1]; она имеет участки монотонного возрастания, участки по­ стоянства и в некоторых точках может иметь разрывы первого рода.

Определение 4.4. Пусть существует функция/^х; //) такая, что можно представить

—оо

или при дифференцируемой функции Рх{х; //)

fx(x;ti)^-^Fx(x;ti). (4.2)

Тогда функция /у(х; //) называется одномерной плотностью вероятностей случайного процесса X(t) в сечении //.

Смысл плотности вероятностей заключается в том, что с точ­ ностью до бесконечно малых высших порядков выполняется ра­ венство

Мх; ti)dx = Р{х<X(ti) <x + dx),

и функцияfx{x; ti) показывает, как эта вероятность распределяет­ ся вдоль оси X. В справедливости равенства несложно убедиться, если представить

=Fx{x + ux\td-Fx{x\ ti)

и функцию Fx(x + djc; ti) «линеаризовать» в окрестности точки х. Из (4.1) следует равенство

162

—oo

обычно называемое условием нормировки плотности вероятнос­ тей. Поступая аналогичным (4.3) образом, получаем еще один важный результат:

ffxix; ti)dx = Fx(b; ti)-Fx(a; ti) = Р{а<ХЦ^)<Ь). (4.4)

a

Наконец, полезно заметить, что плотность вероятностей fx{x\ //) как производная от неубывающей функции Fx(x; ti) явля­ ется неотрицательной функцией. Если функция Fx(x; //) имеет разрывы, то плотность вероятностей и в этих точках формально может быть определена введением 5-функций с интенсивносгями, равными величинам скачков (разрывов).

Введенные характеристики процесса X(t) полностью отража­ ют в сечении // его вероятностные свойства. Однако во многих случаях можно офаничиться более скромной информацией о процессе, сосредоточенной в его числовых характеристиках. В качестве таковых, как и для случайных величин, используют ма­ тематическое ожидание (среднее значение) m^iti), средний квад­ рат Cx(ti), дисперсию D^iti) и среднеквадратическое отклонение pj^//). По определению имеем:

mx(ti)=^M{X(t,)}=l xf(x',ti)dx',

Cx(ti) = M{xHti)}= J xV(x; //)ck;

^x(^i) = Px(^i)-

Здесь, как и ранее, Л/{...} — символ усреднения, X°(ti) - цент­ рированная случайная величина. В соответствии с определения­ ми все эти характеристики являются неслучайными числовыми величинами, причем математическое ожидание mx(ti) представ-

163

ляет собой ту величину, относительно которой разбросаны от­ дельные реализации процесса X(t) в сечении //, а дисперсия явля­ ется мерой этого разброса. Полезно отметить ряд очевидных свойств:

где CjE R, Xj(t) — случайные процессы;

если g(t) — неслучайная функция, то

M{gm=^g(td. M{Y(td=g(ti)Xm =g(tdmxitil DY(td=g^{ti)DM^

Если процесс X(t) является непрерывным и аргумент // пробе­ гает все возможные значения в соответствии с областью опреде­ ления Т процесса, то его математическое ожидание и дисперсия могут рассматриваться как детерминированные функции време­ ни соответственно mx(t) и Dx(t), Для случайной последовательно­ сти Xi аналогичным образом получим детерминированные ре­ шетчатые функции m^^i] = mx(ti) и D^ii] = D^ti), /=1,2,....

4.3. Многомерные характеристики случайного процесса. Марковские процессы

Как уже отмечалось, одномерные характеристики случайного процесса X{t) отражают его свойства в одном сечении и, следова­ тельно, не содержат никаких данных о поведении процесса во времени, т.е. в динамике. Этой цели служат многомерные распре­ деления — двумерные, трехмерные и т.д. Рассмотрим вначале дву­ мерный случай.

Итак, пусть X(t) — случайный процесс. Выделим какие-либо два сечения Д//) и X(tj) этого процесса, соответствующие момен­ там времени // и tj, и зададимся произвольными числами Xi и Х2, относящимися соответственно к /-му иу-му сечениям.

Определение 2.5. Функция Fx(xi, x-i, ti, tj) = P{{X{t^ < x\)r\{X{tj

< Х2)) называется двумерной функцией распределения вероятнос­ тей случайного процесса X(t) в моменты времени // и tj.

164

Таким образом, двумерная функция /ЗК^ь ^ъ U^ 0 представ­ ляет собой вероятность совместного выполнения двух событий: процесс X(t) в момент времени // принимает значение, меньшее некоторой величины хь а в момент tj — меньшее Х2. Аргументами этой функции являются переменные xi и X2, а величины //, tj ука­ зывают сечения, к которым эта функция относится. Основные ее свойства.

1. Функция Fxixi, Х2; //, tj) неотрицательная, неубывающая и непрерывная слева по каждому из аргументов х\ и Х2.

2. Если хотя бы один из аргументов стремится к —©о, функция распределения вероятностей стремится к 0.

3,F(oo,oo;ti,tj)=l.

4. Fxixu 00; ti, tj) = Fx(xx\t^\ Fx{oo, X2\ tb tj) = Fx{x2,tj).

5.F(xi,X2; //, //) = Fix2, xu tj, //).

6.0 < F(xi, X2\ ti, tj) < 1 при Vxi, X2.

Определение 4.6. Пусть существует функция/^xi, Х2; //, tj), та­ кая, что можно представить

или при дифференцируемой функции F{x\, Х2\ ti, tj)

Тогда функция yV(^b ^i\ ^ь {/) называется двумерной плотнос­ тью вероятностей случайного процесса X(t) в моменты времени

U^tj,

Характерные свойства этой функции.

1-Л(^ь ^ъ th /y)cbcidx2 = Р{хх <X{t^ <xi + (^xxrsx2^X(tj) <Х2 + dx2).

—oo—oo

Ъ.МХх, X-i, ti, (j) =fx(X2, Xu tj, tj). ^•fxiXl, X2; ti, tj) > 0 при VX,, X2.

0 0

^- / fxi^u ^2; ti, tj)dxi =fx(x2; tj);

— 00

0 0

/ fxi^u X2; ti, tj)dx2 =fx(xu til

—00

165

Определение 4.7. Функция

/ж(хь/,|х2.0)= ^^^^^.^.^ . (4.7)

где принимается/^Х2; ^2) '^ 0> называется условной плотностью еероятностей процесса X{t) в момент времени // при условии, что в момент tj процесс принял значение xi. По аналогии вводится ус­ ловная плотность

/х(^2. О^ь ^/) = у^ (^ . ^^ > /^Ui; ^/)^0. (4.8)

Условные плотности/^jci; //|х2; tj),fx(x2\ tj\x\\ /,) не следует пу­ тать с одномерными плотностямиу^к^ь ^d^fxi^b {/)» которые час­ то называют в целях противопоставления безусловными: безуслов­ ная плотность вероятностей в одном из сечений строится незави­ симо от поведения процесса в другом сечении; в то же время ус­ ловная плотность в одном из сечений строится в предположении, что процесс во втором сечении принял некоторое фиксирован­ ное значение. Как плотность вероятностей, условная плотность обладает теми же свойствами, что и безусловная плотность веро­ ятностей.

В соответствии с (4.7), (4.8) двумерная плотность выражается через одномерные

=fxiXbtj)xMXuti\X2;tj).

Если же поведение процесса в одном из сечений не зависит от его поведения во втором, то

и сечения Д//), Д//) называют независимыми. При независимых сечениях двумерная плотность оказывается равной произведению одномерных.

Принцип определения двумерных законов распределения ве­ роятностей и плотностей вероятностей распространяется на про­ извольное число п сечений случайного процесса ДО, что приво-

166

дит к понятию соответствующих л-мерных характеристик. Рас­ смотрим п сечений случайного процесса, относящихся к какимлибо п моментам времени /^ t2, ..., /^, и зададимся п числами хь ^2,..., Хп. Тогда по определению принимается

т.е. я-мерный закон распределения вероятностей представляет собой вероятность совместного выполнения п указанных собы­ тий и является функцией п аргументов хь JC2, ..., х^. Аналогичным образом определяют л-мерные плотности вероятностей

—оо —оо

f^xiP^l^ ^2» --^ Xfil ^Ь ^2> ^2» •••> 0>

ИЛИ же при дифференцируемой функции F;^Xi,X2,..., х„; ^j, /2, •••, ^л)

"^fxi^h ^ъ •••> ^п\ h-> h^ •••> О-

Эти функции обладают свойствами, подобными перечислен­ ным выше в связи с двумерными характеристиками, и мы их опу­ скаем. Особо отметим, что

/К^ь ^ъ - , ^п\ h. h. •', tn) =fx(xu ti)fx(x2l h\xh Н)/х(хз; /з|х1, X2; h, /2)...

где смысловое содержание условных плотностей сохраняется прежним. Если же выбранные сечения независимы, соотноше­ ние (4.11) существенно упрощается и л-мерная плотность выра­ жается через одномерные

167

Выражение (4.12) подкупает своей простотой по сравнению с общим выражением (4.11). К сожалению, его применимость ог­ раничена случаем независимых сечений, что в практических за­ дачах встречается не часто. Вместе с тем есть определенный класс случайных процессов, для которых представление многомерной плотности занимает промежуточное положение между (4.11) и (4.12). Такими процессами являются марковские.

Определение 4.8. Случайный процесс X(t) называется марков­ ским, если при любом выборе последовательности аргументов ^ь ^2» •••» ^« выполняется равенство

т.е. условная плотность процесса в л-м сечении при фиксирован­ ных значениях процесса в предыдущих (п — I) сечениях зависит от значения процесса только в предыдущем (п — 1)-м сечении и не зависит от «предыстории». Это означает, что если марковский процесс в какой-то момент времени т принял значение х, то рас­ пределение вероятностей в любой последующий момент времени / > т определяется его значением х именно в этот момент т и со­ вершенно не зависит от его реализаций до момента т.

Для марковского процесса соотношение (4.11) принимает вид:

/Л^Ь Х2У ••., Хп\ h, tj, ..., tfi) =

Иными словами, дг-мерная плотность марковского процесса выражается через одномерную плотность первого сечения и ус­ ловные одномерные плотности последующих сечений при фик­ сированных значениях только единственного предыдущего сече­ ния. Если воспользоваться определениями (4.7), (4.8), получим

Таким образом, «-мерная плотность вероятностей марков­ ского процесса выражается через двумерные плотности. Это бо-

168

лее сложное представление, чем простейшее (4.12), но значитель­ но проще общего случая (4.11). И если случай независимых сече­ ний является прикладной «экзотикой», то марковская модель широко распространена при описании весьма разнообразных ре­ альных процессов и явлений.

4.4. Ковариационные и взаимные ковариационные функции случайных процессов. Белый шум

Двумерные плотности вероятностей характеризуют свойства слу­ чайного процесса совместно в двух сечениях. Однако поиск этих плотностей не является тривиальной процедурой. Поэтому при решении прикладных задач стремятся использовать более до­ ступные в практическом отношении характеристики случайного процесса, пусть менее точно, но тем не менее отражающие вза­ имные свойства двух сечений процесса. В качестве своеобразной меры статистической связи двух сечений случайного процесса, относящихся к моментам времени // и tj, применяют так называе­ мую ковариационную функцию A'jK^/» {/)• Прежде чем дать соот­ ветствующее определение, условимся центрированным называть процесс Х°(/) = X(t) — mjdt), имеющий нулевое математическое ожидание.

Определение 4.9. Неслучайная функция переменных // и tj

Kx(ti,tj) = M{X^{tdX^{tj) =

(4.15)

называется ковариационной функцией случайного процесса X{t). Таким образом, ковариационная функция представляет со­ бой среднее значение произведения двух центрированных сече­ ний случайного процесса. Хотя в ее формальном определении присутствует двумерная плотность вероятностей, предполагает­ ся, что при практическом вычислении ковариационной функции

удастся обойтись без этой плотности. Функцию

169