Дронов С.В. Многомерный статистический анализ-1

~

Теорема 11 Åñëè B = covZ обратима и функция регрессии линейна, то оптимальный предиктор задается формулой

ãäå ~a k-мерный вектор с координатами

aj = cov(X; Zj); j = 1; :::; k:

Откажемся теперь от каких бы то ни было предположений о виде функции регрессии и подойдем к задаче с другой стороны. Будем искать наилучший предиктор среди тех, которые имеют линейный характер, т.е. такой , который при некотором наборе параметров имеет вид (6.13) и оптимален в классе всех предикторов такого вида.

Таким образом, исходя из условия оптимальности, надо найти такой набор ~ ~

, что введенная выше функция S( ) на нем достигает своего минимального значения. Но эта задача нами только что была решена, поэтому имеет место

~

Теорема 12 Если матрица covZ обратима, то оптимальный линей-

ный предиктор существует и единственен. При этом он задается формулой (6.13)

Заметим, что, если B не является обратимой, то наилучших линейных

предикторов бесконечно много: в качестве ~

шений уравнения (6.12), а затем определить 0 ïî (6.11). Ïðè ýòîì, åñëè1; 2 два предиктора, определенных таким образом, то

Глава 7

Дисперсионный анализ

7.1Вводные замечания

Рассмотрим задачу выяснения наличия и оценки степени влияния неко-

торого фактора A на случайную величину X. Под фактором A условимся понимать величину, которая является нечисловой категоризованной или числовой, принимающей небольшое число различных значений. Катего-

рии или значения случайной величины A принято называть уровнями фактора.

Чтобы немного прояснить ситуацию, рассмотрим зависимость вели- чины урожая от внесения в почву определенного вещества (удобрения). В простейшем случае имеется два уровня фактора было удобрение внесено или нет. Но возможны и варианты: внесена двойная, тройная, полуторная доза удобрения, В этом случае число уровней фактора повышается.

Пусть нам заранее известна дисперсия величины X в случае, когда фактор A не действовал, обозначим ее через D0X. Теперь "включим в действие"фактор A и вычислим (или хотя бы оценим) дисперсию DX по полному набору данных. Если фактор A не оказывал влияния на измен- чивость X, òî DX не должна сильно отличаться от DOX. Åñëè æå DX

значительно больше, чем D0X, то следует признать вклад фактора в изменчивость наблюдаемой случайной величины значительным. Вообще говоря,

DX = DOX + DAX;

где через DAX обозначана часть дисперсии, объясняемой влиянием фак73

òîðà A. Если же исследуемых факторов несколько, то

DX = DOX + DAX + DBX + DA;BX + :::

Идея оценки степени влияния факторов основана на изучении доли той дисперсии, которая объясняется через изучаемый фактор в полной дисперсии. Она была предложена Р.Фишером в 1920 году.

Дисперсии X, рассчитанные в предположении, что каждый из факторов зафиксирован в каком-то из своих уровней и не меняется, называют частными дисперсиями.

Сформулируем здесь основные предположения, необходимые для применения описываемого далее инструментария:

1.наблюдаемая величина имеет нормальное распределение;

2.изучаемый фактор или факторы оказывают влияние на среднее значение изучаемой величины;

3.все частные дисперсии однородны, т.е. их различия незначимы.

Таким образом, любое исследование с применением дисперсионного анализа, претендующее на достоверность получаемых результатов, должно начинаться с проверки этих трех предположений. И если второе предположение проверяется, в основном, исходя из опыта экспериментатора (например понятно, что внесение удобрений влияет именно на среднюю величину урожая), то для проверки первого и третьего предположений статистик располагает достаточно разработанным аппаратом. Позволим себе напомнить хотя бы по одному способу проверки этих предположений (их, разумеется, гораздо больше).

7.1.1Проверка гипотезы нормальности

Будем применять так называемый критерий Пирсона (критерий хи-квадрат). Сначала выполним группировку выборки в r групп j = (zj 1; zj); j =

1; :::; r. Как это сделать, было объяснено в разделе 3.1. Обозначим nj; j =

падания нормально распределеннойпредставляютслучайной величинысобой вероятностив соответствупо--

ющий интервал, являющийся нашей группой. При этом предполагается, что параметры нормального распределения заменены их оценками

максимального правдоподобия. Таким образом, если через обозначена функция стандартного нормального распределения, то

Известна принадлежащая К.Пирсону и Р.Фишеру

Теорема 13 Если выборка была произведена из нормального распреде- ления, то статистика 2, вычисляемая по формулам (7.1) и (7.2) име-

ет распределение хи-квадрат с r 3 степенями свободы.

Доказательства мы здесь не приводим. Напомним только, что если бы

при вычислениях p

значения среднего иj мыкорняиспользоваликвадратногобыизнедисперсииоценки, анормальноготочно известныерас-

пределения, то число степеней свободы хи-квадрат увеличилось бы до

Сумма последней строки и есть значение 2. После вычисления оно срав-

нивается с критической точкой распределения хи-квадрат с r 3 степенями свободы, и если расчетное значение меньше критического, то гипотезу о нормальности распределения можно принять.

7.1.2Однородность дисперсий

Для проверки несущественности отличия r выборочных дисперсий (рас- считанных при фиксации фактора на определенных уровнях) после принятия предположения нормальности выборки, можно воспользоваться критерием Бартлетта, основанном на статистике

Теорема 14 Если гипотеза о равенстве всех дисперсий верна, выборка нормальна и все ni больше 3, то отношение

имеет приближенно распределение хи-квадрат с r 1 степенью свободы.

Таким образом, для того, чтобы проверить гипотезу об однородности дисперсий, нужно рассчитать выписанное отношение и сравнить его с критической точкой распределения хи-квадрат. Если критическое значе- ние не превзойдено, то отвергать гипотезу однородности нет оснований.

Если все числа n

лее просто вычисляемымi равныкритериеммежду собой,Кокрена:то можновычислимвоспользоватьсяотношение макбо--

симального из s2i к их сумме

s2

G = Prmax 2 i=1 si

и сравним с критическим значением G по специальной таблице. Эти таблицы можно найти в [1, c.156] и [6, c.242].

7.2Однофакторный анализ. Распределение Фишера

Выделяются следующие разновидности дисперсионного анализа: по числу изучаемых факторов влияния (одно-, двух- , многофакторный), по числу уровней фактора (двух-, трехуровневый ...), по наличию и отсутствию параллельных испытаний (т.е. повторных испытаний при условии фиксации уровней всех факторов влияния). Различают также полный (имеются данные при всех наборах значений факторов) и дробный дисперсионный анализ. На самом деле для решения задач выявления степени влияния факторов различия между полным и дробным анализом несущественны важно лишь, чтобы при фиксации одного из факторов на любом своем уровне нашлось хотя бы одно экспериментальное данное во всем массиве данных, в котором выбранный фактор фиксирован именно на этом уровне. Другими словами, забегая немного вперед, надо чтобы в каждом из рядов заполняемой таблицы было хотя бы одно значение.

Рассмотрим подробнее полный однофакторный анализ с параллельными испытаниями. Будем предполагать, что на каждом из m уровней

фактора A поставлено одинаковое число опытов n по наблюдению слу- чайной величины X. Ее значения, наблюденные в i-м опыте при фик-

сации фактора на j-ì уровне обозначены xi;j; i = 1; :::; n; j = 1; :::; m. Данные соберем в таблицу:

Лемма 6 Åñëè F (k; m; ) квантиль распределения Fk;m уровня , то

Доказательство. Пусть имеет распределение Фишера с k; m степенями свободы. Тогда, по определению, 1= имеет распределение Фишера с m; k степенями свободы, и обе случайные величины положительны. Осталось лишь заметить, что для произвольного значения t справедливо

P( < t) = P(1 > 1t ) = 1 P(1 < 1t );

что и завершает доказательство.

Эта лемма позволяет ограничиваться использованием таблицы F только при k;m

жении.

k < m (или наоборот). Такие таблицы содержатся в прило-

Рассмотрим, наконец, следующий пример, приведенный в [2]. Сравнивается три различных метода преподавания. Результаты тестирования трех групп по 15 человек, обученных по разным методикам, приведены в таблице.

Общая вариативность Q = u mnt2 = 351; 2:

Значение критерия F = 7; 49:

По таблице распределения Фишера с 2, 42 степенями свободы находим квантиль уровня 0,99. Она равна 5,18. Поскольку рассчитанное значение критерия больше, то следует признать существенное влияние метода пре-

подавания на данное тестирование. Более того, определяя долю QA â Q, видим, что изменение методики преподавания дает примерно четверть

(QA=Q 0; 254) общей изменчивости.