15
|
n |
|
n |
|
|
S 2εi = |
å( yi − yˆi )2 |
|
åei2 |
, |
(2.14) |
i=1 |
= = |
i=1 |
|
|
|
n − m |
n − m |
|
|
||
|
|
|
|
где n – количество наблюдений;
m – количество параметров уравнения регрессии.
2.3.Интервальная оценка функции регрессии и ее параметров
2.3.1.Доверительный интервал для среднего значения у полученного по функции регрессии M
yˆ (x)
Строится с использованием t-статистики (распределения Стьюдента).
Задается надежность (доверительная вероятность) γ = l – α (0,95 – 0,99), с которой значение полученное по уравнению регрессии должно находиться в доверительном интервале.
Уравнение регрессии
yˆ = a +bx ,
|
|
y = y −bx +bx , |
(2.15) |
||
следовательно |
|
ˆ |
|
||
|
y = y +b(x − x) . |
|
|||
|
|
ˆ |
|
||
Остаток в i-м наблюдении |
|
|
|
|
|
ei |
ˆ |
= yi − y −b(x − x) = yi − (a + bxi ) . |
(2.16) |
||
= yi − yi |
|||||
На рисунке 2.1 линия регрессии изображена графически. Для произвольного наблюдения |
|||||
значения yi выделены его |
составляющие: среднее значение - |
|
, |
приращение b(xi − x) , |
|
y |
|||||
образующие расчетное значение yˆi и остаток ei регрессии, tg α=b. |
|
||||
Рисунок 2.1
Вариация (дисперсия), группового среднего значения yˆ равна сумме дисперсий двух слагаемых выражения
y = y +b(x −x) |
(2.17) |
ˆ |
|
var( y) =var( y) +var[ b(x −x)] . |
(2.18) |
16
Запишем выражение (2.18) через стандартное отклонение и вынесем неслучайную величину (x −x) , за знак дисперсии, возведя ее в квадрат:
|
|
|
|
|
|
δ yˆ |
2 = δ y2 |
+ δ b2 (x − xi )2 , |
|
|
|
|
(2.19) |
||||
Следовательно, оценка дисперсии значения |
yˆ , найденного по уравнению регрессии складывается из |
||||||||||||||||
дисперсии среднего значения |
|
и дисперсии b. |
|
|
|
|
|
|
|
||||||||
y |
|
|
|
|
|
|
|
||||||||||
|
|
|
|
|
|
|
|
æ |
|
|
|
|
|
ö |
|
|
|
|
|
|
|
|
|
|
|
ç |
1 |
|
|
(x - x ) |
2 |
÷ |
|
|
|
|
|
|
|
|
|
|
2 |
2 ç |
|
|
|
÷ |
|
|
|||
|
|
|
|
|
|
|
S yˆ = S |
|
|
+ |
|
|
|
|
|
. |
(2.20) |
|
|
|
|
|
|
|
εi ç n |
|
n |
|
2 ÷ |
||||||
|
|
|
|
|
|
|
|
ç |
|
|
å(xi - x ) |
÷ |
|
|
|||
|
|
|
|
|
|
|
|
è |
|
|
|
i=1 |
|
ø |
|
|
|
Доверительный интервал для математического ожидания |
yˆ , найденного по уравнению регрессии |
||||||||||||||||
|
|
|
|
|
|
|
|
|
yˆ -t1−α;k S yˆ £ M yˆ (x) £ yˆ +t1−α;k S yˆ , |
(2.21) |
|||||||
где t = |
yˆ |
−M yˆ |
(x) |
|
|
|
|
|
t распределение Стьюдента с k = |
n-2 степенями |
|||||||
|
|
|
– статистика, имеющая |
||||||||||||||
|
S yˆ |
|
|||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
свободы;
n – объем выборки.
Величина доверительного интервала зависит от объясняющей переменой x (Рис.2.2). При x = x она стремиться к минимуму, по мере удаления x от x увеличивается.
Рисунок 2.2 Таким образом, прогноз значений объясняемой переменной у по уравнению регрессии
оправдан, если значение х объясняющей переменной не выходит за диапазон наблюдаемых значений x0.
2.3.2. Доверительный интервал для индивидуальных значений зависимой переменной
Построенная на рис. 2.2 доверительная область для M yˆ (x) определяет местоположение условного математического ожидания или среднего значения зависимой переменной (модельной
17
линии регрессии), но не отдельных возможных значений зависимой переменной, которые отклоняются от средней.
Поэтому при определении доверительного интервала для индивидуальных значений y0 зависимой переменной учитывают еще один источник вариации – рассеяния вокруг линии регрессии,
то есть в оценку суммарной |
дисперсии |
S y2ˆ |
|
|
включается |
величина |
Sε2i . В результате |
оценка |
||||||||||||||||||||||
дисперсии индивидуальных значений y0 при x = x0 равна |
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
é |
|
|
|
|
|
|
|
|
|
|
|
|
ù |
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
ê |
|
1 |
|
|
(x |
0 |
- x )2 |
|
ú |
|
|
|
|
||||||
|
|
|
|
|
|
|
|
S y2ˆ |
= S 2 ê1+ |
|
+ |
|
|
|
|
|
|
|
ú . |
(2.22) |
||||||||||
|
|
|
|
|
|
|
|
(x |
|
|
|
|
||||||||||||||||||
|
|
|
|
|
|
|
|
|
0 |
|
εi ê |
|
n |
|
|
n |
i |
- x )2 ú |
|
|
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
|
ê |
|
|
|
|
å |
|
|
|
|
|
ú |
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
ë |
|
|
|
|
i=1 |
|
|
|
|
|
|
û |
|
|
|
|
|||
Соответствующий доверительный интервал для прогнозов индивидуальных значений y0 |
||||||||||||||||||||||||||||||
определяется по формуле: |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
yˆ |
0 |
− t |
1−α;n−2 |
S ˆ |
≤ y |
0 |
≤ yˆ |
0 |
+ t |
1−α;n |
−2 |
S |
ˆ |
. |
|
|
|
(2.23) |
|||||||||
|
|
|
|
|
|
y0 |
|
|
|
|
|
|
y0 |
|
|
|
|
|
||||||||||||
|
На рис. 2.2 данный доверительный интервал показан пунктиром. |
|
||||||||||||||||||||||||||||
|
2.3.3. Доверительные интервалы для параметров регрессионной модели |
|
||||||||||||||||||||||||||||
Наряду с интервальными оценками функции регрессии иногда представляет интерес |
||||||||||||||||||||||||||||||
построения доверительных интервалов для параметров регрессионной модели ( yi = α + βxi |
+ εi ) , в |
|||||||||||||||||||||||||||||
частности для α, β и δ 2 |
= var(εi ) |
|
(дисперсии возмущения εi |
или зависимой переменной yi). |
|
|||||||||||||||||||||||||
При построении доверительного интервала параметра |
|
β |
|
исходят из того, что статистика |
||||||||||||||||||||||||||
t = b − β |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
с k = n − 2 степенями свободы. |
|||||||
å(xi − x)2 |
имеет |
|
|
t распределение Стьюдента |
||||||||||||||||||||||||||
S |
i=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Интервальная оценка параметра β на уровне значимости α имеет вид: |
|
|
|
|
||||||||||||||||||||||||||
|
|
|
b − t1−α ;n−2 |
|
|
Sεi |
|
|
|
≤ β ≤ b + t1−α ;n−2 |
|
Sεi |
|
|
|
|
||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||
|
|
|
|
|
å( xi − x)2 |
|
|
|
å(xi |
− x)2 . |
(2.24) |
|||||||||||||||||||
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
n |
|
|
|
|
|
|
|
|
|
|
|
|
i=1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
i=1 |
|
|
|
|
Поскольку знак коэффициента регрессии указывает на рост результативного признака |
y при |
|||||||||||||||||||||||||||||
увеличении признака-фактора |
x (b > 0), уменьшение результативного признака при увеличении |
|||||||||||||||||||||||||||||
признака-фактора (b < 0 ) или его независимость от независимой переменной ( b = 0) (см. рис. 1.3), то границы доверительного интервала для коэффициента регрессии не должны содержать противоречивых результатов, например, −1,5 ≤ b ≤ 0,8. Такого рода запись указывает, что истинное значение коэффициента регрессии одновременно содержит положительные и отрицательные величины и даже ноль, чего не может быть.