Сравнение данных полученных при ручном обсчете и с помощью компьютерных программ.
параметры |
Sigma Plot |
Excel |
По формулам |
а |
0,0463 |
0,0459 |
0,05±0,02 |
b |
2,2023 |
2,2383 |
2,2 ±0,1 |
уравнение прямой |
y=0,05x+2,2 |
y=0,05x+2,2 |
y=0,05x+2,2 |
R |
0,9914 |
0,9902 |
0,9900 |
Задание №3.Оценка правильности метода.
Пример 3. Оценка была проведена при статистической обработке генеральной совокупности из 28 опытов по определению бенз(а)пирена в растворе ГСО с тзвестной концентрацией 1,00 мкг/мл.
№ измерения |
Концентрация, мкг/мл |
№ измерения |
Концентрация, мкг/мл |
1 |
0,87 |
15 |
0,99 |
2 |
0,89 |
16 |
1,02 |
3 |
0,90 |
17 |
1,03 |
4 |
0,90 |
18 |
1,03 |
5 |
0,92 |
19 |
1,04 |
6 |
0,92 |
20 |
1,05 |
7 |
0,94 |
21 |
1,05 |
8 |
0,95 |
22 |
1,08 |
9 |
0,97 |
23 |
1,08 |
10 |
0,97 |
24 |
1,08 |
11 |
0,98 |
25 |
1,09 |
12 |
0,98 |
26 |
1,10 |
13 |
0,98 |
27 |
1,11 |
14 |
0,99 |
28 |
1,14 |
Выявление промахов.
Проверяем значение 1,14, т.к. оно сильнее отстоит от соседнего значения.
-
размах варьирования
Тестовая статистки рассчитывается по формуле:
Критической величиной является табличное значение Q(P,n)=0,39.
Так как , то промаха нет, данное значение принадлежит выборке.
Рассчитаем среднее значение выборки:
Для проверки значимости различия между средним и константой воспользуемся следующей статистикой:
Рассчитаем стандартное отклонение для выборки:
- отклонение от среднего
концентрация, мкг/мл |
|xi-x| |
|xi-x|2 |
0,87 |
0,131786 |
0,017367 |
0,89 |
0,111786 |
0,012496 |
0,90 |
0,101786 |
0,01036 |
0,90 |
0,101786 |
0,01036 |
0,92 |
0,081786 |
0,006689 |
0,92 |
0,081786 |
0,006689 |
0,94 |
0,061786 |
0,003817 |
0,95 |
0,051786 |
0,002682 |
0,97 |
0,031786 |
0,00101 |
0,97 |
0,031786 |
0,00101 |
0,98 |
0,021786 |
0,000475 |
0,98 |
0,021786 |
0,000475 |
0,98 |
0,021786 |
0,000475 |
0,99 |
0,011786 |
0,000139 |
0,99 |
0,011786 |
0,000139 |
1,02 |
0,01821 |
0,000332 |
1,03 |
0,02821 |
0,000796 |
1,03 |
0,02821 |
0,000796 |
1,04 |
0,03821 |
0,00146 |
1,05 |
0,04821 |
0,002325 |
1,05 |
0,04821 |
0,002325 |
1,08 |
0,07821 |
0,006117 |
1,08 |
0,07821 |
0,006117 |
1,08 |
0,07821 |
0,006117 |
1,09 |
0,08821 |
0,007782 |
1,10 |
0,09821 |
0,009646 |
1,11 |
0,10821 |
0,01171 |
1,14 |
0,13821 |
0,019103 |
Рассчитает тестовую статистику:
Рассчитанную тестовую статистику сравним с критическим значением – коэффициент Стьюдента t(0,95;27)=2,04.
Отличие результата анализа от действительного значения незначимо, методика не содержит систематической погрешности.
Рассчитаем доверительный интервал:
