4.Дисперсионный анализ для парной регрессии

Дисперсионный анализ проводится для оценки уравнения в целом.

Общая сумма квадратов отклонения (общая дисперсия )=объясненная (факторная)+остаточная сумма квадратов отклонения

Билет 19

1.Косвенный МНК

В системе одновременных уравнений каждое уравнение не может рассматриваться как самостоятельная часть системы, поэтому оценки неизвестных коэффициентов данных уравнений нельзя определить с помощью классического метода наименьших квадратов, т. к. нарушаются три основных условия применения этого метода:

а) между переменными системы уравнений существует одновременная зависимость, т. е. в первом уравнении системы y1 является функцией от y2, а во втором уравнении уже y2 является функцией от y1;

б) наличие проблема мультиколлинеарности, т.е. во втором уравнении системы y2 зависит от x1, а в других уравнениях обе переменные являются факторными;

в) случайные ошибки уравнения коррелируют с результативными переменными.

Следовательно, если неизвестные коэффициенты системы одновременных уравнений оценивать с помощью классического метода наименьших квадратов, то в результате мы получим смещённые и несостоятельные оценки.

Косвенный метод наименьших квадратов используется для получения оценок неизвестных коэффициентов системы одновременных уравнений, удовлетворяющих свойствам эффективности, несмещённости и состоятельности.

Косвенный метод наименьших квадратов применяется только в том случае, если структурная форма системы одновременных уравнений является точно идентифицированной.

Алгоритм метода наименьших квадратов реализуется в три этапа:

1) на основе структурной формы системы одновременных уравнений составляется её приведённая форма, все параметры которой выражены через структурные коэффициенты;

2) приведённые коэффициенты каждого уравнения оцениваются обычным методом наименьших квадратов;

3) на основе оценок приведённых коэффициентов системы одновременных уравнений определяются оценки структурных коэффициентов через приведённые уравнения.

2.Частный критерий Фишера и его отличие от обычного критерия

Значимость уравнения множественной регрессии в целом, так же как и в парной регрессии, оценивается с помощью F-критерия Фишера:

, где Dфакт - факторная сумма квадратов на одну степень свободы;

Dост - остаточная сумма квадратов на одну степень свободы;

R2 - коэффициент (индекс) множественной детерминации;

m – число параметров при переменных х

n – число наблюдений.

Частный F-критерий построен на сравнении прироста факторной дисперсии, обусловленного влиянием дополнительно включенного фактора, с остаточной дисперсией на одну степень свободы по регрессионной модели в целом. Предположим, что оцениваем значимость влияния х1 как дополнительно включенного в модель фактора. Используем следующую формулу:

, где  - коэффициент множественной детерминации для модели с полным набором факторов;

 - тот же показатель, но без включения в модель фактора х1;

n – число наблюдений

m – число параметров в модели (без свободного члена).

Если оцениваем значимость влияния фактора хn после включения в модель факторов x1,x2, …,xn-1, то формула частного  F-критерия определится как

В общем виде для фактора xi частный F-критерий Фишера определится как

Фактическое значение F-критерия Фишера сравнивается с табличным при 5%-ном или 1%-ном уровне значимости и числе степеней свободы: m и n-m-1. Если Fфакт>Fтабл(a,n,n-m-1), то дополнительное включение фактора xi в модель статистически оправданно и коэффициент чистой регрессии bi при факторе xi статистически значим. Если же Fфакт<Fтабл(a,n,n-m-1), то дополнительное включение фактора xi в модель существенно не увеличивает долю объясненной вариации признака y, следовательно, нецелесообразно его включение в модель; коэффициент регрессии при данном факторе в этом случае статистически незначим.

С помощью частного F-критерия Фишера можно проверить значимость всех коэффициентов регрессии в предположении, что каждый соответствующий фактор xi вводился в уравнение множественной регрессии последним. 

Если уравнение содержит больше двух факторов, то соответствующая программа ПК дает таблицу дисперсионного анализа, показывая значимость последовательного добавления к уравнению регрессии соответствующего фактора. Так, если рассматривается уравнение

y=a+b1x1+b2x2+ b3x3+ε,

то определяются последовательно F-критерий для уравнения с одним фактором х1, далее F-критерий для дополнительного включения в модель фактора х2, т.е. для перехода от однофакторного уравнения регрессии к двухфакторному, и, наконец, F-критерий для дополнительного включения в модель фактора х3 после включения в модель фактора х1 и х2. В этом случае F-критерий для дополнительного включения фактора х1 после х2 является последовательным в отличие от F-критерия для дополнительного включения в модель фактора х3, который является частным F-критерием, ибо оценивает значимость фактора в предположении, что он включен в модель последним.

3.Корреляция для нелинейной регрессии.

Если между экономическими явлениями существуют нелинейные соотношения, то они выражаются с помощью соответствующих нелинейных функций.

Различают два класса нелинейных регрессий:

1. Регрессии, нелинейные относительно включенных в анализ объясняющих переменных, но линейные по оцениваемым параметрам, например

– полиномы различных степеней –

– равносторонняя гипербола –

–полулогарифмическая функция – .

2. Регрессии, нелинейные по оцениваемым параметрам, например

– степенная – ;

– показательная – ;

– экспоненциальная – .

- логистическая – ,

- обратная – .

Уравнение нелинейной регрессии, так же, как и в случае линейной зависимости, дополняется показателем тесноты связи. В данном случае это индекс корреляции:

,   где  – общая дисперсия результативного признака y,

 – остаточная дисперсия.

Так как  и , то индекс корреляции можно выразить как

Величина данного показателя находится в пределах: 0£r£1. Чем ближе значение индекса корреляции к единице, тем теснее связь рассматриваемых признаков, тем более надежно уравнение регрессии.

4.Стандарная ошибка коэффициентов регрессии. Доверительный интеграл для коэффициента регрессии.

Билет 20

1.В каких случаях используют двухшаговый МНК ?

Уравнение называется сверхидентифицированным, если по оценкам коэффициентов приведённой формы системы одновременных уравнений можно получить более одного значения для коэффициентов структурной формы системы одновременных уравнений.

Оценки неизвестных параметров сверхидентифицированного уравнения нельзя рассчитать традиционным и косвенным методом наименьших квадратов. В данном случае для определения неизвестных оценок используется двухшаговый метод наименьших квадратов.

Алгоритм двухшагового метода наименьших квадратов реализуетсяв четыре этапа:

1) на основе структурной формы системы одновременных уравнений составляется её приведённая форма;

2) оценки неизвестных коэффициентов приведённой формы системы одновременных уравнений рассчитываются с помощью традиционного метода наименьших квадратов;

3) рассчитываются значения эндогенных переменных, выступающих в качестве факторных в сверхидентифицированном уравнении;

4) все структурные коэффициенты уравнений системы рассчитываются традиционным методом наименьших квадратов через предопределённые переменные, входящие в это уравнение в качестве факторов, и значения эндогенных переменных, полученных на предыдущем шаге.

Как видно из описания данного алгоритма, традиционный метод наименьших квадратов применяется два раза (для определения оценок эндогенных переменных приведённой формы и для определения оценок структурных параметров уравнений системы), поэтому и получил название двухшагового.

Различают две разновидности моделей, чьи структурные формы содержат сверхидентифицированные уравнения:

1) в модель помимо сверхидентифицированного уравнения также входят точно идентифицированные уравнения;

2) все уравнения модели являются сверхидентифицированными.

Для моделей первого типа оценки структурных коэффициентов точно идентифицированного уравнения определяются на основании системы приведённых уравнений.

Для моделей второго типа оценки структурных коэффициентов системы определяются с помощью двухшагового метода наименьших квадратов.

Если все уравнения системы точно идентифицированы, то оценки структурных коэффициентов, полученные косвенным методом наименьших квадратов и оценки, полученные двухшаговым методом наименьших квадратов будут одинаковыми.