3.2.4. Анализ статистической значимости коэффициентов линейной регрессии

Величины y_i, соответствующие данным x_i, при некоторых теоретических значениях ₀ и ₁, являются случайными. Следовательно, случайными являются и рассчитанные по ним значения коэффициентов b₀ и b₁. Их математические ожидания при выполнении предпосылок об отклонениях _i равны, соответственно, ₀ и ₁. При этом оценки тем надежнее, чем меньше их разброс вокруг ₀ и ₁, то есть дисперсия. По определению дисперсии Надежность получаемых оценок а и b зависит, очевидно, от дисперсии случайных отклонений _i, но поскольку по данным выборки эти отклонения (и, соответственно, их дисперсия) оценены быть не могут, они заменяются при анализе надежности оценок коэффициентов регрессии на отклонения переменной у от оцененной линии регрессии .

Можно доказать (доказательство опускаем), что

;

где – мера разброса

зависимой переменной вокруг линии регрессии (необъясненная дисперсия). S_b₀ и S_b₁ - стандартные отклонения случайных величин b₀ и b₁. Полученный результат можно проинтерпретировать следующим образом.

Коэффициент b₁ есть мера наклона линии регрессии. Очевидно, чем больше разброс значений у вокруг линии регрессии, тем больше (в среднем) ошибка в определении наклона линии регрессии. Если такого разброса нет совсем (е_i = 0 и, следовательно, ²=0), то прямая определяется однозначно и ошибки в расчете коэффициентов b₀ и b₁ отсутствуют (а отсюда и значение S¹, "замещающее" ², равно нулю).

В знаменателе величины D(b₁) стоит сумма квадратов отклонений х, от среднего значения . Эта сумма велика в том случае, если регрессия оценена на достаточно широком диапазоне значений переменной х, и в этом случае, при данном уровне разброса S², очевидно, ошибка в оценке величины наклона прямой будет меньше, чем при малом диапазоне изменения переменной х. Если х₁, и х₂, лежат рядом, то даже небольшое изменение одного из у_iсущественно меняет наклон прямой (если х₁ и х₂ далеки друг от друга - ситуация обратная).

Кроме того, чем больше (при прочих равных) число наблюдений n, тем больше и, тем самым, меньше стандартная ошибка оценки. Дисперсия свободного члена уравнения регрессии равна

- она пропорциональна D(b) и, тем самым, соответствует уже сделанным пояснениям о влиянии разброса y_i вокруг регрессионной прямой и разброса х_i на стандартную ошибку. Чем сильнее меняется наклон прямой, тем больше разброс значений свободного члена. Кроме того, дисперсия и стандартная ошибка свободного члена тем больше, чем больше средняя величина х²_i. При больших по модулю значениях х даже небольшое изменение наклона регрессионной прямой может вызвать большое изменение оценки свободного члена, поскольку в этом случае в среднем велико расстояние от точек наблюдений до оси у.

3.3. Нелинейная регрессия

Зависимость многих экономических показателей не линейна. Метод наименьших квадратов не предназначен для оценки параметров нелинейных регрессий, кроме полиномиальной. Однако целый класс нелинейных зависимостей можно привести к зависимостям линейным преобразованием независимой и/или зависимой переменной. Такое преобразование называется линеаризацией.

Задача построения нелинейной модели регрессии состоит в следующем

Задана нелинейная спецификация модели

y = f(x,a,b,),

где y - зависимая, объясняемая переменная; x - независимая, объясняющая переменная; a, b - параметры модели, для которых должны быть получены оценки;  - аддитивный или мультипликативный случайный фактор.

Требуется

1. Преобразовать исходные данные х  х*, у  у* так, чтобы спецификация модифицированной регрессии была линейной:

y* = a* + b*x*

2. Методом наименьших квадратов получить оценки параметров a*, b*.

3. По оценкам a*, b* вычислить искомые оценки параметров a, b исходной регрессии.

Способы преобразования данных и вычисления параметров a, b по оценкам a*, b* приведены в следующей таблице.

Исходная спецификация	Преобра-зование х  х*	Преобра-зование у  у*	Вычисление b по b*	Вычисление a по a*