- •Алгебра линейной регрессии
- •6.1. Линейная регрессия
- •6.2. Простая регрессия
- •6.3. Ортогональная регрессия
- •6.4. Многообразие оценок регрессии
- •6.5. Упражнения и задачи
- •Глава 7
- •Основная модель линейной регрессии
- •7.1. Различные формы уравнения регрессии
- •7.2. Основные гипотезы, свойства оценок
- •7.3. Независимые факторы: спецификация модели
- •7.4. Прогнозирование
- •7.5. Упражнения и задачи
- •Глава 8
- •Нарушение гипотез основной линейной модели
- •8.3. Автокорреляция ошибок
- •8.4. Ошибки измерения факторов
- •8.5. Метод инструментальных переменных
- •8.6. Упражнения и задачи Упражнение 1
6.5. Упражнения и задачи
Упражнение 1
По наблюдениям из таблицы 6.1:
Таблица 6.1
Вычислите
−
X1
X−1
X2
X3
0.58
1.00
1.00
1.10
2.00
4.00
1.20
3.00
9.00
1.30
4.00
16.00
1.95
5.00
25.00
2.55
6.00
36.00
2.60
7.00
49.00
2.90
8.00
64.00
3.45
9.00
81.00
3.50
10.00
100.00
3.60
11.00
121.00
4.10
12.00
144.00
4.35
13.00
169.00
4.40
14.00
196.00
4.50
15.00
225.00
N Xˆ t 1Xˆ−1 , m−1 =
Xˆ t 1Xˆ1
−
и для регрессии X1 = X−1a−1 +1N b1 +e1 найдите оценки a−1 и b1.
Рассчитайте вектор Xc = X a
+1 b
и век-
1
тор e1 = X1 − Xc
−1 −1 N 1
t
1
cov(X−1, e) = N
1 . Убедитесь, что 1N e1 = 0 и
Xˆ
t
Вычислите объясненную дисперсию различными способами:
1
q1 =
s2
X1 Xˆ1 ;
N
t
−1
m−1;
s2 t −1
−
1 m−1.
Вычислите остаточную дисперсию различными способами:
1
e1 = N e1e1;
s2 2 2
1 ˆ ˆ 2
1
Вычислите коэффициент детерминации различны- ми способами:
s
R2
;
=
s
1
R2
1
2
1 = s s .
1 q1
Оцените параметры и коэффициент детерминации для ортогональной ре- грессии xα = β + ε.
Упражнения и задачи 217
сравните эти оценки с оценками линии регрессии, полученными в 1.1;
рассчитайте расчетные значения переменных.
Оцените матрицу оценок и значений главных компонент ( AQ и Q), а также расчетное значение переменных.
Пусть единицы измерения x1 увеличились в 100 раз. Как в этом случае долж- на выглядеть матрица преобразования D? Как изменятся оценки уравнения прямой и ортогональной регрессий?
Задачи
1. Может ли матрица
9.2 −3.8 −2
а)
5.2 −3.8 −2
−
−2 0.5 2
б)
3.8 2 0.6
−
−2 0.6 2
являться ковариационной матрицей переменных, для которых строится урав- нение регрессии? Ответ обосновать.
1 1
2. Для x = (x1, x2) = 2 2
найдите оценки ковариаций переменных x,
6 3
оценки параметров уравнения прямой (x1 = a12x2 + 1N b1 + e1) и обратной
1
a
21
. Рассчитайте
вектор-столбец остатков по прямой и обратной регрессии. Убедитесь, что
сумма остатков равна нулю, вектора остатков и x2 ортогональны при пря- мой регрессии, вектора остатков и x1 ортогональны при обратной регрес- сии. Найдите объясненную и остаточную дисперсии различными способами, а также коэффициент детерминации.
Предположим, что мы, используя модель регрессии x1 = x−1a−1 + 1N b1 +
1
b1
+ 2a12
+ a13
= 3,
уравнений:
2b1 + 5a12 + a13 = 9, b1 + a12 + 6a13 = −8.
218 Глава 6. Алгебра линейной регрессии
Запишите условия задачи в матрично-векторной форме, решите ее, используя метод, указанный в приложении для обратных матриц, и найдите оценки параметров регрессии.
Оцените регрессию x1 = a12x2 + a13x3 + 1N b1 + e1 и рассчитайте:
оценку остаточной дисперсии,
объясненную дисперсию,
коэффициент детерминации, если
a) матрица наблюдений имеет вид:
5 1 3
X
=
(X1,
X2,
X3
−2
3
5
,
0
4
2
−4 5 4
б) Xt X1 = 96, Xt X2 = 55, Xt X3 = 129, Xt X2 = 72,
1 2 3 1
1X3 = 107, X2X3 = 81, X11N = 20, X21N = 15, X31N = 25,
Xt t
N = 5 .
t t t
Дисперсии двух переменных совпадают, корреляция отсутствует. Изобра- зить на графике — в пространстве переменных — линии прямой, обратной и ортогональной регрессий. Ответ обосновать.
Дисперсии выпуска продукции и количества занятых по предприятиям равны, соответственно, 10 и 20 , их ковариация равна 12 . Чему равен коэффициент детерминации в регрессии выпуска по занятым, коэффициент зависимости выпуска от занятых по прямой, обратной и ортогональной регрессии?
Дисперсии временных рядов индекса денежной массы и сводного индекса цен равны, соответственно, 150 и 200, их ковариация равна 100. Чему равен параметр влияния денежной массы на цены по модели прямой регрессии и доля объясненной дисперсии в дисперсии индекса цен?
14 5
По заданной матрице ковариации двух переменных 3
3 найти оста-
53 23
точную дисперсию уравнения регрессии первой переменной по второй.
6.5. Упражнения и задачи 219
1
В регрессии x1 = a12x2 + 1N b1 + e1, где xt
= (5, 3, 7, 1) коэффициент
детерминации оказался равным 50%. Найдите сумму квадратов остатков.
Оцените модель x1 = a12x2 + 1N b1 + e1, используя следующие данные:
3 3
1 1
(x1, x2) = 8 5 .
3 2
5 5
Вычислите остатки (ei) и покажите, что
5
ei = 0,
i=1
5
x2iei = 0.
i=1
Две парные регрессии построены на одних и тех же данных: x1 = a12x2 +
1
2 1 2
Ответ обосновать.
Возможна ли ситуация, когда угловые коэффициенты в уравнениях прямой и обратной регрессии построены на одних и тех же данных, соответственно равны 0.5 и 3.0. Почему?
Что геометрически означает R2 = 0 и R2 = 1?
Регрессия x1 = α12x2 + β1 + ε1 оценивается по двум наблюдениям. Чему равен коэффициент детерминации?
1 1
Для x = (x1, x2) = 2 2 оцените параметры ортогональной регрессии
6 3
и коэффициент детерминации. Покажите, что линия ортогональной регрес- сии находится между линиями прямой и обратной регрессии.
Какая из двух оценок коэффициента зависимости выпуска продукции от ко- личества занятых в производстве больше: по прямой или по ортогональной регрессии? Ответ обосновать.
Какая из двух оценок коэффициента зависимости спроса от цены больше: по прямой или по ортогональной регрессии? Ответ обосновать.
220 Глава 6. Алгебра линейной регрессии
Какой вид имеет уравнение ортогональной регрессии для переменных x1 и x2 с одинаковыми значениями дисперсий и средних, а также имеющих положительную корреляцию равную ρ?
Покажите, что решение задачи
m11
m12
1 0 1
m12 m22
− λ
0 0
−a12
= 0, λ → min!
эквивалентно решению задачи прямой регрессии x1 = a12x2 + 1N b1 + e1.
Пусть x1 и x2 — центрированные переменные. Уравнение ортогональной регрессии, поcтроенные по множеству наблюдений над величинами x1 и x2, есть x1 − x2 = 0. Запишите вектор первой главной компоненты.
Оценка парной регрессии ведется в стандартизированной шкале. Как связан коэффициент детерминации и коэффициент регрессии (угловой)?
Была оценена регрессия x1 = α12x2 + β1 + ε1, где x1 измеряется в рублях, а x2 — в килограммах. Затем ту же регрессию оценили, изменив единицы измерения на тысячи рублей и тонны. Как при этом поменялись следующие величины: а) оценка коэффициента α12; б) коэффициент детерминации? Как в этом случае должна выглядеть матрица преобразования D?
Пусть в ортогональной регрессии, построенной для переменных x1 и x2, из-за деноминации рубля единица измерения x2 изменилась в 1000 раз. Как в этом случае должна выглядеть матрица преобразования D? Изменятся ли оценки? Ответ обосновать.
Пусть в наблюдениях задачи 2 единица измерения x1 увеличилась в 10 раз. Как в этом случае должна выглядеть матрица преобразования D? Как изме- нятся оценки уравнения прямой и обратной регрессии?
В регрессии в метрике Ω1 матрица Ω равна
9 0
. Как преобразовать
0 4
исходные переменные, чтобы свести эту регрессию к ортогональной?
Рекомендуемая литература
Айвазян С.А. Основы эконометрики. Т.2. — М.: «Юнити», 2001. (Гл. 2).
6.5. Упражнения и задачи 221
Болч Б., Хуань К.Дж. Многомерные статистические методы для экономи- ки. — М.: «Статистика», 1979. (Гл. 7).
Джонстон Дж. Эконометрические методы. — М.: «Статистика», 1980. (Гл. 2, 11).
Дрейпер Н., Смит Г. Прикладной регрессионный анализ: В 2-х кн. Кн.1. — М.: «Финансы и статистика», 1986. (Гл. 1, 2).
Езекиэл М., Фокс К. Методы анализа корреляций и регрессий. — М.: «Ста- тистика», 1966. (Гл. 5, 7).
Кейн Э. Экономическая статистика и эконометрия. Вып. 2. — М.: «Стати- стика», 1977. (Гл. 10, 11).
Лизер С. Эконометрические методы и задачи. — М.: «Статистика», 1971. (Гл. 2).
(*) Маленво Э. Статистические методы эконометрии. Вып. 1. — М.: «Ста- тистика», 1975. (Гл. 1).
Judge G.G., Hill R.C., Griffiths W.E., Luthepohl H., Lee T. Introduction to the Theory and Practice of Econometric. John Wiley & Sons, Inc., 1993. (Ch. 5).
William E., Griffiths R., Carter H., George G. Judge Learning and Practicing econometrics, N 9 John Wiley & Sons, Inc., 1993. (Ch. 3).