Эконометрика, лекции

Generated by Foxit PDF Creator © Foxit Software

http://www.foxitsoftware.com For evaluation only.

Стандартная ошибка параметра а определяется по формуле:

Далее рассчитываются t – статистики:

Они служат для проверки нулевых гипотез о том, что истинное значение коэффициента регрессии b или свободного члена a равно нулю: Н0 : 0( 0).

Альтернативная гипотеза имеет вид: Н1 : 0( 0) .

t – статистики имеют t – распределение Стьюдента с (n 2) степенями свободы. По таб-

лицам распределения Стьюдента при определённом уровне значимости α и (n 2) степенях свободы находят критическое значение tкр ( ;п 2).

Если t tкр ( ;п 2) , то нулевая гипотеза должна быть отклонена, коэффициенты счита-

ются статистически значимыми.

Если t tкр ( ;п 2) , то нулевая гипотеза не может быть отклонена. (В случае, если ко-

эффициент b статистически незначим, уравнение должно иметь вид у у , и это означает, что связь между признаками отсутствует. В случае, если коэффициент а статистически незначим, рекомендуется оценить новое уравнение в виде у bx ).

Интервальные оценки коэффициентов линейного уравнения регрессии:

Это означает, что с заданной надёжностью q 1 (где - уровень значимости) истинные значения а, b находятся в указанных интервалах.

Коэффициент регрессии имеет четкую экономическую интерпретацию, поэтому доверительные границы интервала не должны содержать противоречивых результатов, например,

10 b 40. Они не должны включать нуль.

5.2.2.Анализ статистической значимости уравнения в целом. Распределение Фишера в регрессионном анализе

Оценка значимости уравнения регрессии в целом дается с помощью F- критерия Фише-

ра. При этом выдвигается нулевая гипотеза H 0 : о том, что все коэффициенты регрессии, за ис-

ключением свободного члена а, равны нулю и, следовательно, фактор х не оказывает влияния на результат y ( H 0 : (R2 0) или (b 0)).

Величина F – критерия связана с коэффициентом детерминации. В случае множественной регрессии:

F R2 (n m 1) ,

(1 R2 )m

где m – число независимых переменных.

В случае парной регрессии формула F – статистики принимает вид:

При нахождении табличного значения F- критерия задается уровень значимости (обычно 0,05 или 0,01) и две степени свободы: Fкр (m;n m 1) – в случае множественной регрессии,

Fкр (1;n 2) – для парной регрессии.

31

Таким образом, проверка гипотез о значимости коэффициентов регрессии и корреляции равносильна проверке гипотезы о существенности линейного уравнения регрессии.

Распределение Фишера может быть использовано не только для проверки гипотезы об одновременном равенстве нулю всех коэффициентов линейной регрессии, но и гипотезы о равенстве нулю части этих коэффициентов. Это важно при развитии линейной регрессионной модели, так как позволяет оценить обоснованность исключения отдельных переменных или их групп из числа объясняющих переменных, или же, наоборот, включения их в это число.

Пусть, например, вначале была оценена множественная линейная регрессия по п наблюдениям с т объясняющими переменными, и коэффи-

Fкр (k;n m 1) . И если Fнабл. Fкрит. , то нулевая гипотеза отвергается. В таком случае исключать все k переменных из уравнения некорректно.

Аналогичные рассуждения могут быть проведены и по поводу обоснованности включения в уравнение регрессии одной или нескольких k новых объясняющих переменных.

В этом случае рассчитывается F – статистика

имеющая распределение F(k;n m k 1) . И если она превышает критический уровень, то включение новых переменных объясняет существенную часть необъяснённой ранее дисперсии зависимой переменной (т.е. включение новых объясняющих переменных оправдано).

Замечания. 1. Включать новые переменные целесообразно по одной.

2. Для расчёта F – статистики при рассмотрении вопроса о включении объясняющих переменных в уравнение желательно рассматривать коэффициент детерминации с поправкой на число степеней свободы.

F – статистика Фишера используется также для проверки гипотезы о совпадении уравнений регрессии для отдельных групп наблюдений.

Пусть имеются 2 выборки, содержащие, соответственно, наблюдений. Для каждой из этих выборок оценено уравнение регрессии вида y а b1 x1 b2 x2 ... bт xт . Пусть СКО

уi от линии регрессии (т.е. ei2 ) равны для них, соответственно, S1 ,S2 .

32

Generated by Foxit PDF Creator © Foxit Software http://www.foxitsoftware.com For evaluation only.

Проверяется нулевая гипотеза Н0 : о том, что все соответствующие коэффициенты этих уравнений равны друг другу, т.е. уравнение регрессии для этих выборок одно и то же.

Пусть оценено уравнение регрессии того же вида сразу для всех (n1 n2 ) наблюдений, и

СКО ei2 S0 .

Тогда рассчитывается F – статистика по формуле:

F (S0 S1 S2 )(n1 n2 2m 2) (S1 S2 )(m 1)

Она имеет распределение Фишера с (m 1;n1 n2 2m 2) степенями свободы. F – статистика будет близкой к нулю, если уравнение для обеих выборок одинаково, т.к. в этом случае S0 S1 S2 . Т.е. если Fнабл. Fкрит. (m 1;n1 n2 2m 2) , то нулевая гипотеза принимается.

Если же Fнабл. Fкрит. , то нулевая гипотеза отвергается, и единое уравнение регрессии по-

строить нельзя.

5.3. Проверка предпосылок, лежащих в основе МНК

Следующим этапом оценивания качества уравнения является проверка выполнения предпосылок, лежащих в основе метода расчёта параметров МНК.

Предпосылками МНК являются:

1.случайный характер ошибок регрессии;

2.нулевая средняя величина ошибок регрессии, не зависящая от значения объясняющих переменных;

3.независимость распределения ошибок для различных наблюдений; в случае оценки уравнения на временных рядах – отсутствие автокорреляции ошибок;

4.постоянство дисперсии ошибок, её независимость от значений объясняющих переменных – гомоскедастичность (если эта предпосылка не выполняется, то имеет место гетероскедастичность ошибок);

5.нормальность распределения ошибок регрессии.

Для проверки выполнения каждой из предпосылок применения МНК имеются специальные тесты. Реализация многих из этих тестов предполагает значительный объём исходных данных.

Если распределение случайных ошибок i не соответствует некоторым предпосылкам

МНК, то следует корректировать модель.

5.3.1. Проверка первой предпосылки МНК

Прежде всего, проверяется случайный характер остатков i – первая предпосылка МНК.

С этой целью стоится график зависимости остатков i от теоретических значений результатив-

ного признака (рис. 1). Если на графике получена горизонтальная полоса, то остатки i пред-

ставляют собой случайные величины и МНК оправдан, теоретические значения хорошо ап-

yx

проксимируют фактические значения y .

33

Generated by Foxit PDF Creator © Foxit Software

http://www.foxitsoftware.com For evaluation only.

В этих случаях необходимо либо применять другую функцию, либо вводить дополнитель-

ную информацию и заново строить уравнение регрессии до тех пор, пока остатки i не будут случайными величинами.

ных относительно включаемых переменных.

Вместе с тем, несмещенность оценок коэффициентов регрессии, полученных МНК, зависит от независимости случайных остатков и величин x , что также исследуется в рамках соблюдения второй предпосылки МНК. С этой целью наряду с изложенным графиком зависимости

остатков от теоретических значений результативного признака строится график зависи-

i yx

мости случайных остатков i от факторов, включенных в регрессию xj (рис. 3).

34

Generated by Foxit PDF Creator © Foxit Software

http://www.foxitsoftware.com For evaluation only.

Рис. .3. Зависимость величины остатков от величины фактора xj .

Если остатки на графике расположены в виде горизонтальной полосы, то они независимы от значений xj . Если же график показывает наличие зависимости i и xj , то модель неадек-

ватна. Причины неадекватности могут быть разные. Возможно, что нарушена третья предпо-

сылка МНК и дисперсия остатков не постоянна для каждого значения фактора xj . Может быть неправильна спецификация модели и в нее необходимо ввести дополнительные члены от xj ,

например x2j . Скопление точек в определенных участках значений фактора xj говорит о нали-

чии систематической погрешности модели.

Замечание. Предпосылка о нормальном распределении остатков (пятая предпосылка) позволяет проводить проверку параметров регрессии и корреляции с помощью F - и t -критериев. Вместе с тем, оценки регрессии, найденные с применением МНК, обладают хорошими свойствами даже при отсутствии нормального распределения остатков, т.е. при нарушении пятой предпосылки МНК.

Совершенно необходимым для получения по МНК состоятельных оценок параметров регрессии является соблюдение третьей и четвертой предпосылок.

5.3.3. Автокорреляция ошибок. Статистика Дарбина-Уотсона

Важной предпосылкой построения качественной регрессионной модели по МНК является независимость значений случайных отклонений i от значений отклонений во всех других на-

блюдениях. Отсутствие зависимости гарантирует отсутствие коррелированности между любыми отклонениями, т.е. cov i , j i j и, в частности, между соседними отклонениями

cov i 1, i 0 .

Автокорреляция (последовательная корреляция) остатков определяется как корреля-

ция между соседними значениями случайных отклонений во времени (временные ряды) или в пространстве (перекрестные данные). Она обычно встречается во временных рядах и очень ред-

35

Generated by Foxit PDF Creator © Foxit Software

http://www.foxitsoftware.com For evaluation only.

Эти случаи могут свидетельствовать о возможности улучшить уравнение путём оценивания новой нелинейной формулы или включения новой объясняющей переменной.

В экономических задачах значительно чаще встречается положительная автокорреляция, чем отрицательная автокорреляция.

Если же характер отклонений случаен, то можно предположить, что в половине случаев знаки соседних отклонений совпадают, а в половине – различны.

Автокорреляция в остатках может быть вызвана несколькими причинами, имеющими различную природу.

1.Она может быть связана с исходными данными и вызвана наличием ошибок измерения в значениях результативного признака.

2.В ряде случаев автокорреляция может быть следствием неправильной спецификации модели. Модель может не включать фактор, который оказывает существенное воздействие на результат и влияние которого отражается в остатках, вследствие чего последние могут оказаться автокоррелированными. Очень часто этим фактором является фактор времени t .

От истинной автокорреляции остатков следует отличать ситуации, когда причина автокорреляции заключается в неправильной спецификации функциональной формы модели. В этом случае следует изменить форму модели, а не использовать специальные методы расчета параметров уравнения регрессии при наличии автокорреляции в остатках.

Для обнаружения автокорреляции используют либо графический метод. Либо статистические тесты.

Графический метод заключается в построении графика зависимости ошибок от времени (в случае временных рядов) или от объясняющих переменных и визуальном определении наличия или отсутствия автокорреляции.

Наиболее известный критерий обнаружения автокорреляции первого порядка – критерий Дарбина-Уотсона. Статистика DW Дарбина-Уотсона приводится во всех специальных компьютерных программах как одна из важнейших характеристик качества регрессионной модели.

Сначала по построенному эмпирическому уравнению регрессии определяются значения от-

ei2

i 1

Статистика DW изменяется от 0 до 4. DW=0 соответствует положительной автокорреляции, при отрицательной автокорреляции DW=4. Когда автокорреляция отсутствует, коэффициент автокорреляции равен нулю, и статистика DW = 2.

Алгоритм выявления автокорреляции остатков на основе критерия Дарбина-Уотсона следующий.

Выдвигается гипотеза H0 об отсутствии автокорреляции остатков. Альтернативные ги-

потезы Н1 и Н1* состоят, соответственно, в наличии положительной или отрицательной авто-

корреляции в остатках. Далее по специальным таблицам определяются критические значения

36

Generated by Foxit PDF Creator © Foxit Software http://www.foxitsoftware.com For evaluation only.

критерия Дарбина-Уотсона dL (- нижняя граница признания положительной автокорреляции) и dU (-верхняя граница признания отсутствия положительной автокорреляции) для заданного

числа наблюдений n , числа независимых переменных модели m и уровня значимости . По этим значениям числовой промежуток 0; 4 разбивают на пять отрезков. Принятие или откло-

нение каждой из гипотез с вероятностью 1 осуществляется следующим образом:

Если фактическое значение критерия Дарбина-Уотсона попадает в зону неопределенности, то на практике предполагают существование автокорреляции остатков и отклоняют гипотезу H0 .

Можно показать, что статистика DW тесно связана с коэффициентом автокорреляции первого порядка:

Значения r изменяются от –1 (в случае отрицательной автокорреляции) до +1 (в случае положительной автокорреляции). Близость r к нулю свидетельствует об отсутствии автокорреляции.

При отсутствии таблиц критических значений DW можно использовать следующее «грубое» правило: при достаточном числе наблюдений (12-15), при 1-3 объясняющих переменных, если 1,5 DW 2,5 , то отклонения от линии регрессии можно считать взаимно независимыми.

Либо применить к данным уменьшающее автокорреляцию преобразование (например автокорреляционное преобразование или метод скользящих средних).

Существует несколько ограничений на применение критерия Дарбина-Уотсона.

1.Критерий DW применяется лишь для тех моделей, которые содержат свободный член.

2.Предполагается, что случайные отклонения определяются по итерационной схеме

ei ei 1 vi ,

называемой авторегрессионной схемой первого порядка AR(1). Здесь i – случайный член.

3.Статистические данные должны иметь одинаковую периодичность (не должно быть пропусков в наблюдениях).

4.Критерий Дарбина – Уотсона не применим к авторегрессионным моделям, которые содержат в числе факторов также зависимую переменную с временным лагом (запаздыванием) в один период.

Для авторегрессионных моделей предлагается h – статистика Дарбина

37

где ˆ – оценка коэффициента автокорреляции первого порядка, D(c) – выборочная дисперсия коэффициента при лаговой переменной yt-1, n – число наблюдений.

Обычно значение ˆ рассчитывается по формуле ˆ 1 DW / 2, а D(c) равна квадрату стандартной ошибки Sc оценки коэффициента с.

Методы устранения автокорреляции. Авторегрессионное преобразование

В случае наличия автокорреляции остатков полученная формула регрессии обычно считается неудовлетворительной. Автокорреляция ошибок первого порядка говорит о неверной спецификации модели. Поэтому следует попытаться скорректировать саму модель. Посмотрев на график ошибок, можно поискать другую (нелинейную) формулу зависимости, включить неучтённые до этого факторы, уточнить период проведения расчётов или разбить его на части.

Если все эти способы не помогают и автокорреляция вызвана какими–то внутренними свойствами ряда {ei}, можно воспользоваться преобразованием, которое называется авторегресси-

онной схемой первого порядка AR(1). (Авторегрессией это преобазование называется потому, что значение ошибки ei определяется значением той же самой величины, но с запаздыванием. Т.к. макси-

Это преобразование называется авторегрессионным (преобразованием Бокса-Дженкинса).

Поскольку случайные отклонения i удовлетворяют предпосылкам МНК, оценки а* и b будут обладать свойствами наилучших линейных несмещенных оценок. По преобразованным значениям всех переменных с помощью обычного МНК вычисляются оценки параметров а* и b, которые затем можно использовать в регрессии.

Т.о. если остатки по исходному уравнению регрессии автокоррелированы, то для оценки параметров уравнения используют следующие преобразования:

1)Преобразовать исходные переменные у и х к виду (3), (4).

2)Обычным МНК для уравнения (6) определить оценки а* и b.

3) Рассчитать параметр а исходного уравнения из соотношения (4) а а* .

1

4) Записать исходное уравнение (1) с параметрами а и b (где а - из п.3, а b берётся непосредственно из уравнения (6)).

Авторегрессионное преобразование может быть обобщено на произвольное число объясняющих переменных, т.е. использовано для уравнения множественной регрессии.

38

Generated by Foxit PDF Creator © Foxit Software

http://www.foxitsoftware.com For evaluation only.

Для преобразования AR(1) важно оценить коэффициент автокорреляции ρ. Это делается несколькими способами. Самое простое – оценить ρ на основе статистики DW:

ri,i 1 1 DW / 2 ,

где r берется в качестве оценки ρ. Этот метод хорошо работает при большом числе наблюдений.

В случае, когда есть основания считать, что положительная автокорреляция отклонений очень велика ( DW 0,ri,i 1 1), можно использовать метод первых разностей (метод ис-

ключения тенденции), уравнение принимает вид

yi yi 1 b xi xi 1 ei ei 1

Вычисляются средние за 2 периода, а затем по ним рассчитывают а и b. Данная модель называется моделью регрессии по скользящим средним.

5.3.4.Проверка гомоскедастичности дисперсии ошибок

Всоответствии с четвёртой предпосылкой МНК требуется, чтобы дисперсия остатков

была гомоскедастичной. Это значит, что для каждого значения фактора xj остатки еi имеют

одинаковую дисперсию 2 . Если это условие применения МНК не соблюдается, то имеет место

гетероскедастичность.

В качестве примера реальной гетероскедастичности можно привести то, что люди с большим доходом не только тратят в среднем больше, чем люди с меньшим доходом, но и разброс в их потреблении также больше, поскольку они имеют больше простора для распределения дохода.

Наличие гетероскедастичности можно наглядно видеть из поля корреляции (- графический метод обнаружения гетероскедастичности).

39

Generated by Foxit PDF Creator © Foxit Software

http://www.foxitsoftware.com For evaluation only.

Наличие гомоскедастичности или гетероскедастичности можно видеть и по рассмотренному выше графику зависимости остатков еi от теоретических значений результативного при-

знака . yx

ременные. При этом используют обобщённый МНК, который эквивалентен обычному МНК, применённому к преобразованным данным.

Чтобы убедиться в обоснованности использования обобщённого МНК проводят эмпирическое подтверждение наличия гетероскедастичности.

При малом объёме выборки, что наиболее характерно для эмпирических исследований, для оценки гетероскедастичности может использоваться метод Гольдфельда-Квандта (в 1965 г. они рассмотрели модель парной линейной регрессии, в которой дисперсия ошибок пропорциональна квадрату фактора).

Пусть рассматривается модель, в которой дисперсия еi пропорциональна квадрату фак-

автокорреляция остатков.

Параметрический тест (критерий) Гольдфельда – Квандта:

1.Все n наблюдений в выборке упорядочиваются по величине x.

2.Вся упорядоченная выборка разбивается на три подвыборки (объёмом k, С, k.)

Сп 2k k n C .

2

40