2. Статистическая обработка результатов анализа

При проведении определения какого-либо вещества в однородной по составу пробе измерения производят несколько раз. В результате многократных измерений одной и той же величины получают непрерывный ряд значений, группирующихся около наиболее вероятного значения. Каждое отдельное значение называется вариантой, а их совокупность обозначается термином «выборка». Объем выборки - число переменных, ее составляющих. Разность между наибольшей и наименьшей вариантами, составляющими выборку, называется размахом варьирования R..

Примем, что в результате проведения n параллельных измерений имеются n значений определяемой величины x, расположенных в порядке возрастания:

x₁; x₂; x₃; ...x_i; ... x_n-1; x_n.

Результаты, полученные при статистической обработке этой выборки, будут достоверны лишь в том случае, если выборка однородна, т.е. варианты, входящие в нее не отягощены грубыми ошибками, допущенными в процессе пробоподготовки, измерений или при расчетах. Такие варианты должны быть исключены из выборки перед вычислением ее статистических характеристик.

Для оценки положения центра рассеяния результатов анализа находится среднее значение определяемой величины x, которое называется среднее выборки. В случае равновероятностных вариант (при нормальном распределении) наилучшей линейной оценкой среднего служит среднее арифметическое

x = x_i/n.

Если закон распределения неизвестен, в качестве оценки среднего можно использовать медиану (или среднее геометрическое):

x_g = ⁿ[x₁x₂... x_n.

Для неравноточных измерений рассчитывают среднее взвешенное.

Характеристикой рассеяния результатов измерений относительно среднего служит дисперсия s²:

s² = d_i²/f =(x_i-x)²/n-1,

где d_i =(x_i-x) - случайное отклонение i-го измерения от среднего, а f = (n-1) - число степеней свободы (число независимых вариант).

Общей мерой величины случайной ошибки единичного измерения считают стандартное отклонение s (равнозначный термин - среднее квадратичное отклонение):

s = (x_i-x)²/n-1

или относительное стандартное отклонение s_r, равное отношению стандартного отклонения к среднему значению:

s_r = s/x.

Менее употребительным является коэффициент вариации V:

V = s/x100 (%).

Величины s_r и V различаются только множителем 100, переводящим s_r в проценты. Как правило, для инструментальных методов анализа значения s_r и V практически мало меняются с изменением x, в то же время стандартное отклонение s для этих методов зависит (часто линейно) от среднего. Стандартное отклонение характеризует величину случайной ошибки единичного измерения (погрешность измерений). Мерой случайной ошибки среднего значения, полученного из n измерений, будет

s_x = s/n.

3. Оценка пригодности экспериментальных данных

Значения x, s², s и s_x могут быть признаны достоверными, если ни одна из вариант выборки не содержит грубой ошибки, т.е. выборка однородна.

Для выборки небольшого объема (2 < n < 9) среднее арифметическое существенно зависит от значений крайних членов вариационного ряда, которые могут быть вызваны грубыми промахами. Для выявления аномальных значений не требуется предварительное вычисление статистических характеристик. Проверка малой выборки на однородность проводится на основании размаха варьирования R. С этой целью для крайних вариант x₁ и x_n рассчитывают, исходя из величины размаха варьирования, значения статистического критерия значимости Q:

R = |x₁-x_n|

Q₁ = |x₁-x₂|/R

Q_n = |x_n-x_n-1|/R

Выборка признается неоднородной, если хотя бы одно из вычисленных значений Q_эксп превосходит табличное значение Q(P,n), найденное для избранного значения P. Варианты x₁ и x_n, для которых соответствующее значение Q_эксп > Q(P,n), отбрасываются и для полученной выборки уменьшенного объема выполняется новый цикл вычислений с целью проверки ее однородности. Полученная в конечном счете однородная выборка используется для вычисления статистических характеристик.

При выборках достаточно большего объема (n>8) статистические характеристики могут быть вычислены уже с большей степенью достоверности. Поэтому целесообразно сначала провести предварительную статистическую обработку всей выборки, полагая ее однородной, и уже на основании найденных статистических характеристик делать вывод о справедливости предположения об однородности.

Для больших выборок наиболее распространенным критерием является -критерий, имеющий вид:

=|x*-x| / s(n-1)/n = |x*-x| /s_x(n-1)

Этот критерий основан на сравнении абсолютного значения разности между максимальным или минимальным значением x* (выделяющийся результат) и средним значением x со значением стандартного отклонения. Как и в случае Q- критерия, вычисленное значение -критерия сопоставляют с табличным значением _табл для числа степеней свободы f = n-2. Если экспериментальное значение  больше _табл для данного числа f и принятой доверительной вероятности, результат x* исключается и заново вычисляются по оставшимся n-1 значениям x и s. Процедуру проверки повторяют до тех пор, пока не будут исключены все аномалии. Если число отброшенных результатов превышает 30% от объема выборки, эксперимент бракуют и все измерения проводят заново.