Вопрос 2: «f-тест на качество оценивания».

Для определения статистической значимости коэффициента детерминации проверяется нулевая гипотеза для F-статистики, рассчитываемой по формуле

Соответственно для парной регрессии

Смысл проверяемой гипотезы заключается в том, что все коэффициенты линейной регрессии, за исключением свободного параметра, равны нулю (случай отсутствия линейной функциональной связи). Если они действительно равны нулю для генеральной совокупности, то уравнение регрессии должно иметь вид , а коэффициент детерминации и F-статистика Фишера также равны нулю. При этом их оценки для случайной выборки, конечно, отличаются от нуля, но чем больше такое отличие, тем менее оно вероятно. Логика проверки нулевой гипотезы заключается в том, что если произошло событие, которое было бы слишком маловероятным в том случае, если данная гипотеза действительно была бы верна, то эта гипотеза отвергается.

Величина F имеет распределение Фишера с (m, n-m-1) степенями свободы, где m – число объясняющих переменных, n – число наблюдений. Распределение Фишера – двухпараметрическое распределение неотрицательной случайной величины, являющейся в частном случае при m=1 квадратом случайной величины, распределенной по Стьюденту. Для распределения Фишера имеются таблицы критических значений, зависящих от числа степеней свободы m и n-m-1 при различных уровнях значимости.

Для проверки гипотезы при заданном уровне значимости по таблицам находится критическое значение F_крит , и нулевая гипотеза отвергается, если F>F_крит. Например, при оценке парной регрессии по 15 наблюдениям R²=0,7. В этом случае F=0,7*13:0,3=30,3. По таблицам для распределения Фишера с (1;13) степенями свободы найдем, что при 5%-ном уровне значимости (доверительная вероятность 95%) критическое значение F равно 4,67, при 1%-ном 9,07. Поскольку F=30,3>F_крит, нулевая гипотеза в обоих случаях отвергается, т.е. отвергается предположение о незначимости связи.

В случае парной регрессии проверка нулевой гипотезы для t-статистики коэффициента регрессии равносильно проверка нулевой гипотезы F-статистики (и соответственно R²). В этом случае F-статистика равна квадрату t-статистики. В случае парной регрессии статистическая значимость величин R² и t-статистики коэффициента регрессии определяется коррелированностью переменных х и у. Самостоятельную важность показатель R² приобретает в случае множественной линейной регрессии.

Распределение Фишера может быть использовать не только для проверки гипотезы об одновременно равенстве нулю всех коэффициентов линейной регрессии, но и гипотезы о равенстве нулю части эти коэффициентов. Это особенно важно при развитии линейной регрессионной модели, так как позволяет оценить обоснованность исключения отдельных переменных или их групп из числа объясняющих переменных или, наоборот, включения их в это число.

При анализе адекватности уравнения регрессии исследуемому процессу возможны следующие варианты:

1. Построенная модель на основе ее проверки F-критерию Фишера в целом адекватна, и все коэффициенты регрессии значимы. Такая модель может быть использована для принятия решений и осуществления прогнозов.

2. Модель по F-критерию адекватна, но часть коэффициентов регрессии незначима. В этом случае модель пригодна для принятия некоторых решений, но не для получения прогнозов.

3. Модель по F-критерию Фишера адекватна, но все коэффициенты регрессии незначимы. В этом случае модель полностью считается неадекватной. На её основе не принимаются решения и не осуществляются прогнозы.