Министерство образования и науки РФ
Государственное образовательное учреждение
высшего профессионального образования
«Тульский государственный университет»
Кафедра химии
СБОРНИК МЕТОДИЧЕСКИХ УКАЗАНИЙ
к самастоятельной работе студентов
по дисциплине
«Планирование и обработка
результатов эксперимента»
Направление подготовки: 240900 –
«Химическая технология и биотехнология»
Специальность: 240901 –«Биотехнология»
Тула 2010 г.
Методические указания к самостоятельной работе студентов составлены доцентом кафедры химии, к.х.н Роговой Т.В. и обсуждены на объединенном заседании кафедр химии и биотехнологии ЕН факультета,
протокол № ___ от _________ 2010г.
Зав. кафедрой химии _______________ В.А.Алферов
В данном сборнике методических указаний к самостоятельной работе студентов приведены примеры расчетов, позволяющих определить выборочные характеристики одномерной выборочной совокупности (размаха варьирования, среднего значения, медианы, стандартного отклонения, относительного стандартного отклонения, доверительного интервала) и двумерной выборки (параметров линейной регрессии, коэффициента чувствительности). Расчет коэффициента корреляции позволяет сделать вывод о зависимости двух переменных. Расчеты соответствующих тестовых статистик позволяют на основании статистических критериев принять или опровергнуть ту или иную гипотезу (исключение выпадающих данных, выявление систематической погрешности)
Целью данного пособия является обучение учащихся корректно, с учетом интервального оценивания, представлять результаты эксперимента; оценивать случайные погрешности эксперимента и метрологические характеристики (воспроизводимость, чувствительность); пользуясь статистическими критериями проверки гипотез, выявлять грубые и систематические погрешности.
Содержание
Задание №1. Расчет размаха варьирования, среднего значения, медианы, стандартного отклонения, относительного стандартного отклонения, доверительного интервала, выявление грубых погрешностей.
Задание №2. Расчет параметров линейной регрессии градуировочной прямой, определение коэффициента чувствительности, коэффициента корреляции.
Задание №3.Оценка правильности метода с использованием ГСО.
Задание №4. Расчет предела обнаружения.
Задание №5. Расчет нижней границы диапазона определяемых концентраций
Справочные данные
Индивидуальные задания для расчетной работы
Задание №1. Расчет размаха варьирования, среднего значения, медианы, стандартного отклонения, относительного стандартного отклонения, доверительного интервала, выявление грубых погрешностей.
Пример.1. Для биосенсора амперометрического типа на основе дрожжевого штамма Candida maltosa BKM Y-2359 была проведена проверка операционной стабильности. В таблице представлены ответы сенсора (нА/мин) на одинаковую концентрацию ГГС (200мг/дм3) при 15 измерениях.
Номер измерения |
1 |
2 |
3 |
4 |
5 |
6 |
7 |
8 |
Ответ сенсора, нА/мин |
1,3211 |
1,1583 |
1,1224 |
1,2327 |
1,2929 |
1,2575 |
1,1705 |
1,241 |
Номер измерения |
9 |
10 |
11 |
12 |
13 |
14 |
15 |
|
Ответ сенсора, нА/мин |
1,2435 |
1,1373 |
1,1245 |
1,2315 |
1,1931 |
1,223 |
1,2353 |
|
Выявление промахов.
Упорядочим серию данных в порядке возрастания:
1,1224; 1,1245; 1,1373; 1,1583; 1,1705; 1,1931; 1,2230; 1,2315; 1,2327; 1,2353; 1,2410; 1,2435; 1,2575; 1,2929; 1,3211
Проверяем значение 1,3211, т.к. оно сильнее отстоит от соседнего значения.
-
размах варьирования
Тестовая статистки рассчитывается по формуле:
Критической величиной является табличное значение Q(P,n)=0,41.
Так как
,
то промаха нет, данное значение принадлежит
выборке.
Расчет среднего значения и медианы.
нА/мин
M=1,2315 нА/мин
Расчет дисперсии и стандартного отклонения.
Дисперсию выборки (V) вычисляют по формуле:
-
отклонение от среднего
-
|xi-x|
|xi-x|2
0,10879
0,01184
0,05401
0,00292
0,08991
0,00808
0,02039
0,00042
0,08059
0,00650
0,04519
0,00204
0,04181
0,00175
0,02869
0,00082
0,03119
0,00097
0,07501
0,00563
0,08781
0,00771
0,01919
0,00037
0,01921
0,00037
0,01069
0,00011
0,02299
0,00053
Рассчитаем дисперсию:
Стандартное отклонение представляет собой квадратный корень из дисперсии, взятый с положительным знаком, и имеет размерность измеряемой величины.
Расчет относительного стандартного отклонения.
Расчет доверительного интервала.
f=n-1=15-1=14
Коэффициент Стьюдента t(0,95;14)=2,15
Сравнение данных полученных при ручном обсчете и
компьютерной программы Microsoft Excel.
Критерии |
Среднее значение |
Медиана |
Дисперсия |
Стандартное отклонение |
Относительное стандартное отклонение |
Доверительный интервал |
Ручной расчет |
1,21 |
1,2315 |
0,003575 |
0,05979 |
0,04932 |
0,03 |
Расчет с помощью программы Microsoft Excel |
1,21 |
1,2315 |
0,003575 |
0,059791 |
0,049324 |
0,03 |
Задание №2. Расчет параметров линейной регрессии градуировочной прямой, определение коэффициента чувствительности, коэффициента корреляции.
Пример.2. При построении градуировочной прямой для биосенсора
амперометрического типа на основе дрожжевогоштамма
Debaryamyces hansenii VKM Y-2482 получены следующие данные.
Концентрация ГГА, мг/дм3 |
30 |
50 |
70 |
90 |
120 |
150 |
200 |
250 |
300 |
Среднее значение ответа биосенсера, нА/мин |
2,3824 |
4,4943 |
5,9489 |
6,7708 |
7,8877 |
9,5994 |
11,8717 |
13,7131 |
15,2947 |
Зависимость
аналитического сигнала (y),
в данном случае ответ сенсора
в нА/мин, от концентрации (х) в мг/дм3,
можно выразить линейным уравнением:
Коэффициенты a и b можно найти методом наименьших квадратов. Для их вычисления используют следующие формулы:
Расчет сумм:
xi |
xi2 |
yi |
yi2 |
xiyi |
30 |
900 |
2,382433 |
5,675989 |
71,473 |
50 |
2500 |
4,494267 |
20,19843 |
224,7133 |
70 |
4900 |
5,9489 |
35,38941 |
416,423 |
90 |
8100 |
6,770833 |
45,84418 |
609,375 |
120 |
14400 |
7,887667 |
62,21529 |
946,52 |
150 |
22500 |
9,599433 |
92,14912 |
1439,915 |
200 |
40000 |
11,87167 |
140,9365 |
2374,333 |
250 |
62500 |
13,7131 |
188,0491 |
3428,275 |
300 |
90000 |
15,29467 |
233,9268 |
4588,4 |
1260 |
245800 |
77,963 |
824,3848 |
14099,43 |
Σxi=1260
Σxi2=245800
Σyi=77,963
Σyi2=842,3848
Σxiyi=14099,43
n=9
y=0,04589x+2,238 – линейное уравнение калибровочной прямой
Рассчитаем доверительные интервалы для параметров a и b градуировочного графика. Дисперсия, характеризующая рассеяние экспериментальных значений y для n образцов сравнения относительно рассчитанной прямой y=ax+b, определяется выражением:
Дисперсии параметров a и b равны:
Из дисперсии рассчитываем стандартные отклонения.
Рассчитаем доверительные интервалы для a и b:
где Р= 0,95; f=n-2=9-2=7
t(P,f)=2,3
Коэффициент чувствительности:
Рассчитаем коэффициент корреляции:
Расчет и построение грауировочного графика
с помощью программы Microsoft Excel.
ГГС, мг/дм |
ответы нА/мин |
среднее значение |
стандартное отклонение |
доверительный интервал |
||
30 |
2,5162 |
2,2769 |
2,3542 |
2,3824 |
0,1221 |
0,1 |
50 |
4,4928 |
4,6326 |
4,3574 |
4,4943 |
0,1376 |
0,2 |
70 |
5,6981 |
5,6102 |
6,5384 |
5,9489 |
0,5124 |
0,6 |
90 |
6,9745 |
6,5895 |
6,7485 |
6,7708 |
0,1935 |
0,2 |
120 |
7,8691 |
7,8358 |
7,9581 |
7,8877 |
0,0632 |
0,07 |
150 |
9,584 |
9,6109 |
9,6034 |
9,5994 |
0,0139 |
0,02 |
200 |
11,8259 |
11,9431 |
11,846 |
11,8717 |
0,0627 |
0,07 |
250 |
13,7281 |
13,7128 |
13,6984 |
13,7131 |
0,0149 |
0,02 |
300 |
15,3094 |
15,2981 |
15,2765 |
15,2947 |
0,0167 |
0,02 |
График градуировочной зависимости ответа сенсора от концентрации субстрата.
Уравнение прямой: y=0,0459x+2,2383
Коэффициент корреляции: R=0,9902
Расчет и построение грауировочного графика с помощью программы Sigma Plot.
Nonlinear Regression - Dynamic Fitting
Equation: Polynomial; Linear
f=y0+a*x
Results for the Overall Best-Fit Solution:
R Rsqr Adj Rsqr Standard Error of Estimate
0,9914 0,9828 0,9804 0,5821
Coefficient Std. Error t P VIF
y0 2,2023 0,3730 5,9037 0,0006 3,6966
a 0,0463 0,0023 20,0104 <0,0001 3,6966