Добавил:
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:

книги / Статистический анализ временных рядов

..pdf
Скачиваний:
2
Добавлен:
19.11.2023
Размер:
47.02 Mб
Скачать

5.2.

ПРОЦЕССЫ АВТОРЕГРЕССИИ

193

(9)У/-1 = Щ-1— М *-2 — ... — Ppt//_i^p:

Подстановка (9) в (8 ) дает

(Ю)

Dt ~

Ut

Pi ( Ut —l

filth —2

' •••

fip yt—t—p) fiil/t 2 ' •••

 

 

 

 

 

 

 

. . .

fiptft—p =

 

— Щ

PJ « / - I — (P2 — Pi) ijt—4— • • • +

fiifipift-i-p-

Повторяя

подобную процедуру s

раз,

получим для yt

выражение

( 1 1 )

Ut —

Ut " Т

8 i « l _ i - f -

. . . - f - 6 s u X— s - j -

O s i l / z - s - l

- f - d s ‘jl/t —s—2 + . . .

 

 

 

 

 

 

 

. . .

-f- OCspyt-s—p-

(При каждой подстановке справа остается ровно р последователь­

ных уг ) Подстановка в (11)

i

 

 

 

(12)

yt—s~-1 ^

Щ—s—1 1

 

2 1

1

• • “ fipyt~s-p--l

приводит

к

равенству

 

 

 

 

(13) yt =

щ

+

—1 + . ..

+

 

+ &s\Ut—s~-l

 

+

(^s2

1aslPl) yt-s-2 +

• • •

+

Kp ~ °CiPp-l) Uis-P —’

’—al$pyt—s~p—\'

Входящие сюда коэффициенты определяются рекуррентными соот­ ношениями

 

о*

*

 

 

 

Os_j_i — ОС$1,

 

 

(14)

a s-j-i,/ ^

«*/+1

a siP/> i ~

• • •» Р '

 

а ;+1.р =

- а ; ,Р р .

 

 

Дальнейшее применение указанной процедуры приводит к пред­ ставлению

(15) у, = 2 i=o

в котором 6 J = 1 . Условия, при которых ряд (15) сходится в’сред-

нем, мы выясним ниже. Во всяком случае, соотношения с (11) по (14) справедливы для любого s. А это и показывает, что совместное распределение некоторых р последовательных yt и следующих за

194 ЛИНЕЙНЫЕ МОДЕЛИ С КОНЕЧНЫМ ЧИСЛОМ ПАРАМЕТРОВ Гл. 5.

ними величин и, определяет совместное распределение последую­ щих yt.

Указанную процедуру можно изложить и формальным образом.

Пусть У, — оператор

запаздывания, т. е.

(16)

£ yt = yt- 1.

С использованием этого оператора разностное уравнение (1) может

быть

записано в виде

 

 

 

 

 

 

(17)

 

 

2

№ 'yt =

 

 

 

 

Тогда

формально

Г=*О

 

 

 

 

 

 

 

 

 

 

 

 

(18)

 

 

 

 

 

 

 

 

 

где

 

 

 

 

 

 

 

 

 

(19)

 

 

V= 0

/

=

 

 

 

 

 

 

 

г—О

 

 

 

То есть Ьг являются

коэффициентами при гг в разложении

(2 0 )

 

 

( i Р ^ Г ' = 5 V

 

 

 

 

 

 

' Л" 0

/

Гае

0

 

 

 

и могут быть определены формальным делением.

 

Убедимся

теперь в том,

что 8 * =

Ьп Имеем

 

 

(21)

 

1

 

 

1

Pi* +

• • •

~t~

_

l +

P i * +

• +

 

1

1 + P i 2 +

• • •

+ Р р 2 Р

 

 

 

 

 

 

= 1 - Р . 2 -

(PS- P l) 22 +

 

+ (Pp-PlPp_,)2P- P 1Pp^ + 1

 

 

 

1 + P i 2 + • • •

+ P p ?

 

 

 

 

 

 

 

Следует отметить, что коэффициент при Я в числителе правой

части (2 1 )

совпадает с коэффициентом

при г/х_;-

в

(10), / = 2 , ...

..., р -f 1. Продолжая этот процесс, получаем

 

 

 

(22)

 

 

+ Рр2Р

 

 

 

 

 

 

 

 

 

1 +

P i 2 +

 

 

 

 

 

 

 

 

 

1

Н~ fyz +

+

V s +

а я 2*+1 +

-----Ь

«s/

+p

 

 

 

 

 

 

1

+ P i 2 +

• • • +

Р Р г р

 

= 1

+

-f

• • • +

6 szs

-f a si2s+'

+

 

 

 

 

 

 

( a s 2 — a s l P l ) 2 S + 2 +

• • •

+

( « s p -

« я Р р - l ) ^ + P ~

« S 1 P P 2 S + P + I

 

 

 

 

 

• +

P i 2

+

• • '

+

P o 2 "

 

 

 

5.2.

ПРОЦЕССЫ АВТОРЕГРЕССИИ

 

 

195

Таким

образом, коэффициенты

8 ,

и

ащ удовлетворяют

тем же

рекуррентным соотношениям, что

и

коэффициенты

8 * и а«. Пос­

кольку

совпадают и начальные

условия, отсюда

следует,

что

8 * = бг и а# = аи. Уравнение

 

 

 

 

 

 

(23)

2

 

=

О

 

 

 

 

О

 

 

 

 

 

 

называется алгебраическим уравнением, присоединенным

к

(1)'>.

Оно имеет р корней, которые мы обозначим хи ..., хр. Если \xt\ <

<1, i = 1.......р, то при Рр Ф О корни уравнения

(24)

 

 

 

 

 

2

fir2' — О

 

 

 

 

 

 

 

 

 

 

 

 

г~О

 

 

 

 

 

 

 

 

равны

г{ — Мх1 и

|z*| >

1.

Для

всех

z,

таких,

что |z| <

min

|г,|,

ряд

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

1

 

 

 

 

Р

оо

,

 

оо

 

 

(25)

 

 

 

 

 

 

" П Б

i

’ - s v

 

 

 

 

 

 

 

 

 

 

 

 

 

2

Р^

й (

-

т

)

1 = 1 v=o

 

'

r=0

 

 

 

 

г=0

 

 

 

 

 

 

 

 

 

сходится

(абсолютно). Отсюда

и

из (22) следует,

что

 

 

(26)

 

 

 

 

«цг +

••• + ° У Р

 

 

 

 

 

 

 

 

 

1 +

Pi* +

• • • +

PPzP

 

 

 

 

 

 

 

 

 

 

 

 

 

 

сходится

к

нулю

для

|г| <

min |г,|

частности, для

|z| =

1).

В силу этого ccgi —*■0 при s

 

оо для каждого i. Таким образом, вели­

чина

 

/

 

\ 2

 

 

 

 

 

 

 

 

 

 

(27)

 

S

§ (otsi^—s—i +

 

• • •

+

a spyts-pf

 

%( yt — 2

/

=

 

 

 

 

\

/■=О

 

 

 

 

 

 

 

 

 

 

 

сходится к нулю при s -> оо. А это и означает, что

(28) yt = 2

г=0

в смысле сходимости в среднем.

Теорема 5.2.1. £Ьш все корни характеристического уравнения (23), соответствующего стохастическому разностному уравнению (1), по абсолютной величине меньше 1, то yt представимо бесконеч­ ной линейной комбинацией случайных величин ии Ш—и ... .

г) Мы будем

называть его для краткости характ ерист ическим уравнением

для (1).— П рим ,

перев.

196

ЛИНЕЙНЫЕ МОДЕЛИ С КОНЕЧНЫМ ЧИСЛОМ ПАРАМЕТРОВ

Гл. 5.

Следствие 5.2.1. Если все корни

характеристического уравне­

ния по абсолютной величине меньше

то уt не зависит

от щ+и

Ut+2.........

 

 

 

 

Д оказательство. Случайная

величина yt

является

линейной

комбинацией случайных величин

щ,

ш~\, ...,

а они не зависят от

и<+ь

Ш+2, . . . . и

 

 

 

 

Рассмотрим кратко случай, когда некоторые корни характеристи­

ческого уравнения

по абсолютной величине превосходят 1. Пред­

положим, что |*£| > 1 , t = 1, ..., q, |л;£| < 1, i =

q + 1, ....

p. За­

пишем исследуемое

стохастическое разностное

уравнение

в виде

(29)«< = 2J Рr^ - ryt-P= П (^ — х{) yt—p.

Обращая (29),

получаем

.(30) tjt~р =

П

(^ — xt)^ u t =

=

П ( ^ - * , Г ' П [?> (1 -* ££ ) Г Ч =

 

 

i*=q+ 1

поскольку <£ — fP-1. Каждый член

(1 — лсГ1^ 1)- 1

в

послед­

нем выражении можно разложить по степеням Ф. Члены (1

х $ )~ х

разложим по степеням i£. Если 1 <; q <

р, то весь оператор в пра­

вой части (30) будет степенным рядом по

^ (= 55-1) и

^

(= (£-*),

так что при этом будут включены щ, образующие бесконечный в обе стороны ряд ..., щ~\, ut, ut+i........ Если же q ==р (все корни по абсолютной величине больше 1), то этот оператор будет степенным рядом только по ^ и соответственно будут включены только слу­ чайные величины щ, ut+i, ... . Приведенное рассуждение явля­ ется чисто формальным. Однако его можно обосновать таким же образом, как это было сделано в случае, когда все корни по абсо­ лютной величине предполагались меньшими единицы. Мы увидим

р

в гл. 7 (упр. 2 2 ), что если линейную форму П (^ — х£) yt- p заме­

нить линейной формой (при любых *£)

(31)

r i ( ^ - V )

П ( V - x J y t - p ^ u ) ,

 

f = l

f = r + l

то остатки ut также будут некоррелированными (но уже не обя­ зательно независимыми).

5.2.

 

 

ПРОЦЕССЫ АВТОРЕГРЕССИИ

 

 

 

197

Рассмотрим теперь случай, когда имеется только один корень,

равный

1,

 

 

 

 

 

 

 

 

 

 

(32)

 

 

 

yt =

yt~i +

ut.

 

 

 

 

Предположим,

что =

0, ? =

а2. Тогда

 

 

 

 

(33)

 

 

yt yt——s =

Щ“Ь

+

• • • 4яut—s+i

 

 

и

 

 

 

 

 

 

 

 

 

 

 

(34)

 

S (г/, — yt- s f =

 

 

 

— 2%ytyts

=

so2.

 

 

Если процесс стационарный,

то Ъу] = %y)—s.

Из

(34) при этом

получаем

 

 

 

 

 

 

 

 

 

 

(35)

 

&ytyt-s = Щ -----j-so®,

s = l , 2...........

 

 

Последнее может выполняться для

всех s > 0

только при о2 =

О,

и поэтому

yt = yt-s с вероятностью

1. Интуитивно ясно, что дис­

персия yt должна возрастать с ростом t, если только дисперсия

щ

не равна нулю, а это противоречит стационарности.

 

 

Более общим является случай

 

 

 

 

 

 

(36)

 

 

(3> - 1) П

(9 — xt) yt-p = ut,

 

 

 

 

 

 

 

 

t=s2

 

 

 

 

 

 

 

где |^ | ф \ ,

i — 2, ...

, p.

Если

P

 

 

z t- U

 

1 1 ^ 9 — x t) y t- p =

TO

( ^ — 1) z t - i

=

щ и Zf — zts = 'z с вероятностью

1.

Таким

образом,

(37)

 

 

П

 

 

 

= г

 

 

 

 

 

 

 

i=*2

 

 

 

 

 

 

 

и yt =

оо

V» т- е- yt — У*-* с вероятностью 1 (переменная г здесь

2

 

S = —оо

 

 

 

 

 

 

 

 

 

может быть случайной величиной).

 

 

 

 

 

 

Т еорема 5.2.2. Если стационарный случайный процесс удовле­ творяет стохастическому разностному уравнению, характеристи­ ческое уравнение которого имеет хотя бы один корень, равный единице, то с вероятностью 1 все значения этого процесса совпадают.

Начиная с настоящего момента, мы будем ограничиваться рас­ смотрением случая, когда все корни характеристического урав­ нения (23) по абсолютной величине меньше единицы. При этом

случайная величина yt не будет зависеть от

ь щ+ь ... и ее

оо

 

можно представить в виде 2 дгЩ-г, Обратимся теперь к коэффи-

г=4)

 

ЛИНЕЙНЫЕ МОДЕЛИ С КОНЕЧНЫМ ЧИСЛОМ ПАРАМЕТРОВ

Г л. 5.

циентам бг. Из (25) вытекает, что

 

 

 

(38)

1 = (2 р А ~ ' 2 Ps S= 2 ь' гг 1

 

 

\г=0

/

s=0

r=0

s=0

 

 

= s i

i ^

+ r=

 

 

 

 

Г—0 s=0

 

оо / Р

\

 

 

Р— 1

*

\

 

 

= 2

2 РА-*]2*+ 2 2

РА-Ы

 

 

<=0

s=0

/

<=р \s=0

/

 

Здесь мы заменили г на < — s. Поскольку последнее соотношение является тождеством относительно z (для |z | < 1 сходимость ря­ дов равномерна), то коэффициент при г° в его правой части равен 1, а коэффициенты при положительных степенях равны 0. Запишем это в развернутой форме:

1 = Р А = б0,

о = Р А + Р А — + P i,

(39)

 

о

= Р0бр_1- }-•••

+ рР—А ,

(40)

о =

+ ••• +

РА_р, t — р, Р + 1, . . . .

Уравнение (40) является однородным разностным уравнением, соответствующим неоднородному разностному уравнению (1). Если все корни характеристического уравнения (23) различны, то общее решение однородного разностного уравнения (40) имеет вид

(41)

8, = 2*<*S, ' = °. 1. ••• •

 

(=1

При этом если Х[ действительно, то действителен и коэффициент k{. Если xt и Xt-|-i комплексно сопряжены, то kt и ki+\ также комп­

лексно сопряжены, а сумма ktxr + ki+\/i+\ действительна, г = = 0, 1, ... . В случае наличия кратных корней общее решение можно построить, используя упр. 9 и 10.

Уравнения (39) задают р граничных условий. Решая их последо­

вательно, определим

6 0,

бь ..., бр_ь Совокупность соотношений

(41) для г =

0, 1, ..., р — 1 представляет собой систему р линейно

независимых

линейных

уравнений с р

неизвестными klt ..., kp.

Эта система имеет единственное решение. (См. также упр. 4.)

Если р — 1,

то бг =

(—

является показательной функцией

от г. Если р — 2, а хг и х2 различны,

то kx = х1/(х1 — x2), k2 =

х2/(х1 х2)

и

у-и —у+>

 

 

(42)

б

г =

0 , 1 ,

*1

*2

5.2.

ПРОЦЕССЫ АВТОРЕГРЕССИИ

199

Если хг и х2действительны, то б, будет линейной комбинацией двух показательных функций переменного г. В противном случае запи­ шем хх и х2 в виде лу = ает, х2 = ае~‘в. При этом

(43)

К

в,е

^2 =

е ~ ‘в

е(0 __е-т >

ею_ е- ! 0

и коэффициенты

 

ещг+\) _ е-т+\)

(44)

бг =

+ /г2х2 =

а'

 

ет - е ~ *

sin е + 1)

sine

образуют затухающую функцию синусоидального типа, что анало­ гично (42) для комплексно сопряженных корней.

5.2.2. Моменты второго порядка. Ковариационная функция

Если совместные распределения нормальны, то они полностью характеризуются средними §</,, которые мы из соображений удобства временно будем полагать равными нулю, дисперсиями %tjt и ковариациями ^ytyt+s. В случае когда совместные распре­ деления отличны от нормальных, эти моменты первого и второго порядков тем не менее несут существенную информацию о рассмат­ риваемом процессе. Например, корреляция между у( и у(+$ (т. е.

отношение %y^t- y s l V гД+5) является мерой связи этих двух случайных величин.

Если процесс yt стационарный (в частности, если yt может быть

представлен в виде (28)), то все дисперсии %у] совпадают, а кова­ риации зависят только от разности индексов рассматриваемых

случайных

величин. Эти моменты

(45)

%ytyt+s = о (s), s = . . . , — 1, 0, 1, . . . ,

образуют в совокупности так называемую ковариационную функцию (иногда называемую корреляционной функцией). В этой книге мы будем называть корреляционной функцией нормированную функцию а (s)/o (0 ).

Покажем, что ковариационная функция о (К) удовлетворяет однородному разностному уравнению (40). Умножая (1) на (28) с заменой / на t — s, получаем

(46)

2

Ы-гУ<~* = 2 J

■s—Я*

 

гз£*0

С=*0

 

200

ЛИНЕЙНЫЕ МОДЕЛИ С КОНЕЧНЫМ ЧИСЛОМ ПАРАМЕТРОВ

Гл.

5.

Поскольку

= о (s — г),

Ли? =

a 2,

%utur = 0 ,

t Ф

V,

математическое

ожидание обеих

частей

(46)

удовлетворяет для

s — 0

и s > 0

соответственно соотношениям

 

 

 

(47)2 Р , а ( - г ) = а2, г==0

(48)

 

2 f W

s -

r) =

0’

s =

1 , 2 , . . . .

 

 

r=-О

 

 

 

 

уравнениями Юла Уолкера.

Эти

соотношения

часто

называют

Таким образом,

последовательность

а (1 — р),

в (2 р), ...,

.... а (0 ), ...

удовлетворяет

однородному

разностному уравнению

(48)

и поэтому

 

 

 

 

 

 

 

 

 

(49)

 

о(Л) = 2

cixb

h = l — p,

2 — р,

. . . ,

 

 

 

i=i

 

 

 

 

 

 

 

 

если

корни

xt различны

и

рр Ф 0

(так

что хс0 ). Граничными

условиями будут р 1 соотношений

 

 

 

(50)

 

о (— ft) — о (/t),

Л = 1,

. . . . р 1

и соотношение (47), в котором а (р)

заменяется на а (р) (причем

о (—р) не обязательно имеет вид (49)). Последнее условие служит для определения величины коэффициента пропорциональности.

Если р — 1,

то о (ft) = (—Pi)h(T2/(l р?), ft = 0,

1....... явля­

ется показательной функцией ft. Если р =

2, а хг и х2 различны, то

(51)

o(ft) =

______ О*______

*?+1

4 +1

)

 

 

(*i— *2)(1 — V J)

1 — ^

1 ^2 /

Если хг и х2 действительны, то о (К) будет линейной комбинацией двух показательных функций. Если же они комплексно сопряжены и равны ae±iQ, то (51) принимает вид

(52)

o(ft) =

q2«h[sin 8 (h + 1) a2 sin 8 (h1)]

(1 —a2) sin 0 [1 — 2a2 cos 20 + a4]

 

 

и представляет собой затухающую линейную комбинацию функций от ft синусоидального типа.

Поскольку a (ft) является линейной комбинацией возведенных в степень ft корней характеристического уравнения и все эти корни лежат в единичном круге, то |a (ft) | ограничена сверху показательно убывающей функцией. Именно, для надлежащим образом выбран­ ного К > 0 , |о (Л)| < К (шах | xt [)h. Положительный корень вно­

сит вклад в виде убывающей показательной функции; отрицатель­ ный — в виде знакопеременной показательной функции, убываю­ щей по абсолютной величине, Пара комплексно сопряженных кор­

5.2.

ПРОЦЕССЫ АВТОРЕГРЕССИИ

201

ней дает осциллирующую тригонометрическую функцию, убываю­ щую по абсолютной величине. При этом период ее колебаний зависит от аргумента этих комплексных корней.

5.2.3. Флуктуации временных рядов

Типичный временной ряд, образованный с помощью модели стохастического разностного уравнения, флуктуирует. Наблюдае­ мые при этом колебания значений ряда нерегулярны. Однако они обнаруживают тенденцию к определенной средней продолжитель­ ности, значение которой зависит от параметров порождающего процесс разностного уравнения. Если считать, что последователь­ ные значения ряда образуются согласно (1), то каждое множество из р последовательных yt непосредственно влияет на следующее значение yt. Так, при р — 2 можно записать yt в виде

(53) у, = —р!</,_! — p2yt- 2 + Щ=

= — (Pi + Рг) Pt—1 + Рг (yt—1 — yt—2) + Щ-

Из этого выражения видно, что непосредственное воздействие на значение yt оказывают здесь значение yt- 1 и разность yt- 2 y t-j. Обычно благодаря этому и возникает тенденция к флуктуациям.

На указанный процесс можно взглянуть с иной точки зрения,

 

 

 

оо

 

 

 

 

используя представление yt =

2 б, ut

Каждое

us

вносит

в

последующее

ys+q вклад,

Г— о

 

 

 

6 ^.

определяемый коэффициентом

Поскольку эти коэффициенты осциллируют, то воздействие

на

по­

следовательные уг флуктуирует,

вызывая тенденцию к флуктуации

у наблюдаемого ряда yt.

 

указывает, кроме того,

и

На подобный характер поведения ряда

ковариационная функция.

Поскольку

(обычно)

а (s) Ф 0,

то

между yt и yt+s

имеется определенная статистическая связь, хотя

и имеющая тенденцию к уменьшению при

увеличении s >

0. Эта

связь (измеряемая коэффициентом корреляции) и ведет к возник­ новению флуктуаций. Если характеристическое уравнение имеет пару комплексных корней, то соответствующие тригонометричес­ кие функции осциллируют и указанная связь может на некотором интервале изменения s возрастать вместе с s.

5.2.4. Введение «независимых» переменных

Пусть известно, что на рассматриваемый временной ряд могут оказывать воздействие некоторые внешние переменные Zu, ..., zqt. Их влияние можно учесть, заменяя (1) более сложной моделью

(54)

^ f,ryt-r + 2

= щ.

Гк=0 t—1

202

ЛИНЕЙНЫЕ МОДЕЛИ С КОНЕЧНЫМ ЧИСЛОМ ПАРАМЕТРОВ

Гл. 5.

В частности, подобным образом в модель всегда можно ввести конс­ танту (беря q = 1, zu = 1) и положить при этом %ut = 0 .

Выражение (54) можно записать иначе:

(55)

ut =

П (2*— х,) ytр + 2

ура =

 

 

(=1

 

 

 

i=\

 

 

 

 

Р

 

yt~P +

2

Y, П {^ — х ,Г 1Zit] ■

 

= П (Р — х,)

 

 

/=1

 

 

 

ы

М

J

 

= П (^— X,)

Уг-Р +

2

Vi S

6sZ u -P -S =

 

 

 

 

 

 

(= 1

s = 0

J

 

^

Рл f yt—r +

2

Vi 2

 

s i.

 

 

r=o

L

(= i

 

s=o

 

J

При

</ = 1,

г» =

1 оно принимает вид

 

(56)

 

 

2

рг(г/<_,— р] =

«<,

 

 

 

г=0

 

 

 

 

 

где

р = — Yi2

 

 

 

 

 

 

 

 

$=0

 

 

 

 

 

 

5.2.5. Прогнозирование

Стохастическое разностное уравнение (1) можно переписать в виде

(57)yt = — f>xyt-1 — *• • — РpVt-p + Щ,

где ut не зависит от y t-1, yt-2, ... . Условное математическое ожида­ ние случайной величины yt при заданных значениях yt—ь yt-2, ...

есть

(58)

l \ y t \ yt- и yt-2, •.•} = — Рф - 1 — • • • — РPyt-P.

Это условное математическое ожидание можно использовать в ка­ честве прогноза случайной величины yt. Дисперсия его выража­ ется соотношением

(59)&|— P ^ - i — ••• — Ррг/(_р — yt\2 = Ъи] = а2;

среднеквадратичная

ошибка

любого

другого

прогноза f (yt—ь

г*_2, ...) будет иметь вид

 

 

 

 

 

(60) Л[/ (^ _1, y t- 2,

... ) — */J2 =

 

 

 

 

=

^ [/ (^//—1*Ut—2» . • .) +

I +

• • •

+

$pyt—p— И*]2 =

^

+

S [/ (^ —l,

yt^2, ..

•) +

—i +

• • • +