matstatistika_1_2_3_RGR

2.2. Тема 5: Модель линейной парной регрессии y = a + bx

20 баллов

Задание расчетно-графической работы № 3.

общая сумма : 25 баллов

1.Определить (!) какой из заданных показателей является зависимой переменной, а какой – независимой.

2.Построить поле корреляции.

3.Найти точечные и интервальные оценки параметров модели y = a + bx

4.Оценить значимость коэффициентов регрессии при γ = 0,95 , используя:

а) t-критерий Стьюдента;

б) доверительные интервалы истинных значений параметров.

5.Верифицировать полученную модель, используя: а) дисперсионный анализ в регрессии; б) элементы теории корреляции.

6.Интерпретировать полученные результаты.

7.В случае пригодной линейной модели построить точечные и интервальные прогнозы зависимой переменной, если ее прогнозное значение увеличится на p % от среднего (при α = 0,05).

х – независимая (объясняющая) переменная или фактор, или регрессор; у – зависимая (объясняемая) переменная.

Исходные данные используются для построения линейной регрессионной модели: y = a + bx .

2. Построение поля корреляции: на координатной плоскости отмечаем точки (x1, y1), (x2 , y2 ) , …, (xn , yn ) . Затем через них проводим прямую (рис.

2.7). По расположению точек вокруг прямой определяем каким будет поле корреляции:

а) однородным – если точки расположены равноудаленно от прямой (гомоскедастичность);

б) неоднородным – если точки разбросаны неравномерно от прямой (гетероскедастичность).

51

Рис. 2.7. Поле корреляции

3. Для нахождения точечных и интервальных оценок параметров модели

y = a + bx ( ~ ~ σ~2 ~ ~ ) используем метод наименьших квадратов. Для a,b , , D(a), D(b)

Для анализа полученной модели рассчитываем теоретические значения объясняемой переменной:

52

Величины ei = yi − ~yi , i =1,2,...,n называются остатками регрессии (разница между фактическими и теоретическими значениями объясняемой перемен-

n

ной). ∑ei ≈ 0.

i=1

Находим остаточную сумму квадратов

4) Оценка значимости коэффициентов регрессии при γ = 0,95

а) доверительные интервалы истинных значений параметров

Находим интервальные оценки или доверительные интервалы для полученных коэффициентов регрессии:

ляется как в теме 2). γ – доверительная вероятность или надежность (дана в за-

дании).

Если доверительный интервал для данного коэффициента регрессии содержит нулевое значение, то этот коэффициент считается статистически незначимым.

Б) t-критерий Стьюдента

t0 – наблюдаемое или экспериментальное значение t -статистики.

53

Гипотеза H0 отвергается (и принимается H1), если t0 >tγ (это означает, что параметр а – значим). В противном случае гипотезу H0 следует принять, т.е. считать, что результаты наблюдений согласуются с гипотезой H0 , не противоречат ей (это означает, что параметр а – незначим).

качество оценивания регрессии может быть проверено двумя равноценными способами: дисперсионным анализом в регрессии и с использованием элементов теории корреляции.

а) Дисперсионный анализ в регрессии

Суть метода заключается в разложении общей суммарной дисперсии выходной величины y на составляющие, обусловленные действием входных пе-

ременных-факторов, и остаточную дисперсию, обусловленную ошибкой или всеми неучтенными в данной модели переменными. Фактор оказывает несущественное влияние на y , если соответствующая ему дисперсия и дисперсия

ошибок статистически незначимы. Для проверки гипотезы о равенстве таких дисперсий используется критерий Фишера (F-критерий). Поскольку для оценок дисперсий используются суммы квадратов SS (от англ. sum of squares) отклонений значений данной переменной от ее средней величины, то можно говорить о разложении общей суммы квадратов SSобщ. на составляющие.

54

В силу определения 0 ≤ R2 ≤1. Если R2 = 0, то это значит, что регрессия ничего не дает, т. е. фактор x не улучшает качество предсказания yi по срав-

~ =

нению с тривиальным предсказанием yi y

.

Другой крайний случай R2 =1 означает точную подгонку: все наблюдаемые значения (xi , yi ) лежат на регрессионной прямой (все остатки ei = 0 ). Чем

ближе к 1 значение R2 , тем лучше качество подгонки или качество регрессии, ~y более точно аппроксимирует y .

Коэффициент R2 *100% показывает на сколько % линейная регрессия y на x объясняет дисперсию y . Остальные (1 – R2 )*100% приходятся на долю

прочих факторов, не учтенных в уравнении регрессии.

Гипотеза об отсутствии линейной функциональной связи между x и y может быть записана как H0 : b = 0 . Критерий, статистика которого распределена по закону Стьюдента, эквивалентен здесь критерию, статистика которого

распределена по закону Фишера со степенями свободы (1,n −2). Здесь через

MSR и MSост. обозначены средние квадраты (от англ. mean of squares), которые дают несмещенные оценки соответствующих теоретических дисперсий.

Вычисления, необходимые для дисперсионного анализа уравнения регрессии, сводят в таблицу

Дисперсионный анализ одномерной регрессии

статистики больше критической точки F0 > Fкр , то гипотеза H0 :b = 0 отвергается, то есть связь между x и y есть, и результаты наблюдений не противоречат предположению о ее линейности. В противном случае H0 :b = 0 принима-

ется и постулируется отсутствие значимой функциональной связи между x и y .

б) Использование элементов теории корреляции

55

Другой способ верификации линейной модели состоит в использовании элементов теории корреляции. Мерой линейной связи двух величин является коэффициент корреляции:

Значения коэффициента корреляции принадлежат промежутку [−1;1]. Чем больше его абсолютное значение к 1, тем теснее связь между признаками. Положительная величина коэффициента корреляции свидетельствует о прямой связи между ними, отрицательная – о наличии обратной связи между призна-

показывает, на сколько процентов изменится у при изменении х на 1 % от сред-

56

Пример 6. Выполнение расчетов в MS Excel. Известны следующие данные по одному из субъектов Российской Федерации:

1 этап. Спецификация модели. Определим, какой из заданных показателей будет зависимой переменной, а какой – независимой. Так как сбережения в банках – это часть дохода, то совокупные доходы физических лиц обозначим в качестве независимой переменной x , а вклады в банках – y .

Занесем исходные данные в MS Excel в виде таблицы, состоящей их двух столбцов, в первом расположены значения независимой переменной x , а во втором – зависимой переменной y (рис. 2.8). Чтобы определить характер зави-

симости – построим поле корреляции. Для этого выделяем оба столбца ((!) данные x должны быть в первом столбце, y – во втором), вызываем мастера диа-

грамм и выбираем точечную диаграмму (рис. 2.9). Затем проходим все шаги построения диаграммы, заполняя графы с ее названием и подписями осей координат. Получаем поле корреляции, не очень удачно расположенное на диаграмме (рис. 2.10).

57

кнопки мыши выбираем «формат оси» и на вкладке «шкала» устанавливаем минимальное значение 14000. Аналогично на оси значений (ось y ) задаем ми-

нимальное значение 35000. Далее, используя художественные способности, облагораживаем внешний вид поля корреляции (рис. 2.12).

Следующим шагом наносим на поле корреляции прямую y = a + bx : выби-

раем в меню «диаграмма» пункт «добавить линию тренда» (предварительно подсветив график) (рис. 2.13). В появившемся окошке выделяем линейную модель, затем выбираем вкладку параметры и отмечаем галочкой «показывать уравнения на диаграмме» и «поместить на диаграмму величину достоверности аппроксимации (R^2)».

Рис. 2.13. Добавление на диаграмму прямой y = a + bx

После проведенной процедуры поле корреляции примет нужный для дальнейшего анализа вид (рис. 2.14).

60