Лекция 8. Метод наименьших квадратов

Постановка задачи

Определение вида функциональных зависимостей, получаемых в физическом эксперименте, имеет очень важное значение. Так, в результате эксперимен-

тов часто получают совокупность точек (x1 , y1 )...(xN , yN ), абсциссы которых {xk } различны. Одно из назначений численных методов – определение формулы вида y = f (x), которая связывает эти переменные, точнее – выбор класса допустимых формул, коэффициенты в которых должны быть определены.

Если все численные значения {xk }, {yk } известны с несколькими знаками

точности, то интерполяционный полином может быть с успехом использован, иначе это невозможно. В некоторых экспериментах применяется специализированное оборудование, позволяющее получить измеряемые точки, по крайней мере, с пятью знаками точности. Однако большинство экспериментов проводится на оборудовании, которое надежно дает только три или меньше знаков точности. Часто в измерении присутствует экспериментальная ошибка. И хотя

записываются три цифры для значений {xk }, {yk }. Подразумевается, что ис-

где εk – ошибка измерения.

Для определения лучшего приближения функции к полученным точкам, проведем исследование ошибок (также называемых отклонениями или ос-

Существует несколько норм, которые можно использовать с остатками в (8.2), чтобы измерить, насколько далеко от данных лежит кривая y = f (x).

Рассмотрим это на примере.

Пример 1. Сравнить максимальную, среднюю и среднеквадратичную ошибки для линейного приближения функции y = f (x)= 8,6 − 1,6 x по за-

данным точкам (−1;10), (0;9), (1;7 ), (2;5), (3;4), (4;3), (5;0) и (6;−1).

51

Найдем ошибки, используя значения функции f (xk ) и εk , полученные в таблице 8.1.

E∞ ( f )= max{0,2;0,4;0,0;0,4;0,2;0,8;0,6;0,0}= 0,8

E1 ( f )= 81 (2,6 )= 0,325

Ясно, что максимальная ошибка наибольшая и если одна точка плохая, то ее значение определяет E∞ ( f ). Средняя ошибка E1 ( f ) – просто среднее абсолютных величин ошибок разных различных точек. Она часто используется

52

благодаря простоте вычисления. Ошибку E2 ( f ) часто используют при изуче-

нии ошибок статистической природы.

Наилучшая построенная линия определяется путем минимизации одной из величин, заданных выражениями (8.3) – (8.5). Таким образом, можно найти три наилучшим образом построенные линии. Традиционно выбирается третья нор-

ма E2 ( f ) потому, что ее намного легче минимизировать.

Метод наименьших квадратов

Пусть зависимость между переменными x и y представлена таблицей данных, полученных в эксперименте:

Требуется полученные данные описать некоторой функциональной зависимостью вида y = f (x). Такая зависимость должна отразить основную тенденцию изменения переменной y с изменением переменной x и сгладить слу-

чайные погрешности измерений, которые неизбежны в эксперименте.

Задача нахождения эмпирической формулы (формулы, служащей для аналитического представления опытных данных) состоит из двух основных этапов.

На первом этапе необходимо установить вид зависимости y = f (x), т.е.

иной. Для этого экспериментальные точки наносятся на координатную плоскость и по их расположению выдвигают гипотезу о виде эмпирической зависимости.

На втором этапе, когда общий вид эмпирической функции выбран, необходимо определить числовые значения ее параметров a0 , a1 , a2 ,..., an . Критери-

ем выбора значений параметров является метод наименьших квадратов

(МНК).

В методе наименьших квадратов аппроксимирующая функция (полином) строится на основании того, что сумма квадратов невязок по всем точкам должна быть наименьшей. Т.е.:

Заметим, что степень полинома m должна быть меньше числа точек N . (В случае m = N − 1 получим полином Лагранжа).

53