7.4. Ошибки корреляции

С практической точки зрения случаях полная рандомизация не всегда бывает осуществима или в некоторых крайне нежелательна. Поэтому для последовательных доз в пределах серии разведений часто характерны ошибки корреляции, которые при­водят к чрезмерному сужению доверительных интервалов. Существует несколько ме­тодов, которые позволяют оценить такой эффект «автокорреляции».

8. Таблицы и процедуры генерирования

В данном разделе приведены таблицы, в которых указаны критические значения для наиболее часто встречающихся оценок степеней свободы. Если необходимое зна­чение отсутствует в таблице, следует обратиться к более полным таблицам. Статисти­ческие функции включены во многие компьютерные программы, которые могут быть использованы вместо таблиц. В качестве альтернативы могут использоваться приве­денные после каждой таблицы процедуры генерирования, которые позволяют рассчи­тать вероятность, соответствующую заданной статистике и заданному числу степеней свободы.

8.1. F-РАСПРЕДЕЛЕНИЕ

Если полученное значение превышает табличное, оно рассматривается как зна­чимое (верхняя строка, р=0,05), либо как высоко значимое (нижняя строка, р=0,01). Df1 - число степеней свободы числителя, df2 - число степеней свободы знаменателя.

Если df парное

Если df1 непарное, а df2

Если df^ df2 непарные x=df1/(df1+df2/F)

s = 1

t=1

for i=2 to (df1-2) step 2

t=t*x*(df2+i-2)/i

s=s+t

next i

p=s*(1-x)^A(df2/2)

парное

x=df2/(df2+df1*F)

s=1 t=1

for i=2 to (df2-2) step 2

t=t*x*(df1+i-2)/i

s=s+t

next i

p=1-s*(1-x)^A(df1/2) x=atn(sqr(df1*F/df2)) cs=cos(x): sn=sin(x) x=x/2 s=0: t=sn*cs/2: v=0 w=1 for i=2 to (df2-1) step 2 s=s+t

t=t*i/(i+1)*cs*cs next i

for i=1 to (df1-2) step 2 v=v+w

w=w*(df2+i)/(i+2)*sn*sn next i

p=1+(t*df2*v-x-s)/pi*4

Если полученное значение превышает табличное, оно рассматривается как значимое (р=0,05), либо как высоко значимое (р=0,01).

Процедуры генерирования: для заданного значения t при числе степеней свобо­ды df значение р может быть найдено при помощи процедур, описанных в Разделе 8.1, где F^, df1=1, a df2=df.

Для заданного числа степеней свободы df значение t (при p=0.05) может быть найдено с помощью следующей процедуры (точность в этом случае должна быть до 6

десятичного знака):

t = 1,959964+

2,37228/df+

2,82202/df²+

2,56449/df³+

1,51956/df⁴+

1,02579/df⁵+ 0,44210/df⁷

Если полученное значение превышает табличное, оно рассматривается как зна­чимое (р=0,05), либо как высоко значимое (р=0,01).

Процедура генерирования: Обозначим %² через х2, а df присвоим значение, ука- занное выше. Выполнение следующей процедуры генерирует значение р. s=0: t=exp(-x2/2) x=sqr(x2) : s=0

for i=2 to df step 2

s=s+t

t=t*x2/i

next i t=x*exp(-x2/2)/sqr(pi/2)

for i=3 to df step 2

s=s+t

t=t*x2/i

next i

p=1-s p=1-s-2*phi(x)

В этой процедуре phi является функцией кумулятивного стандартного нормаль­ного распределения Ф (см. Раздел 8.4).

8.4. Ф-РАСПРЕДЕЛЕНИЕ (КУМУЛЯТИВНАЯ СТАНДАРТНАЯ ФУНКЦИЯ НОРМАЛЬ­НОГО РАСПРЕДЕЛЕНИЯ)

x Ф		x Ф		x Ф
0,00	0,500	1,00	0,841	2,00	0,977
0,05	0,520	1,05	0,853	2,05	0,980
0,10	0,540	1,10	0,864	2,10	0,982
0,15	0,560	1,15	0,875	2,15	0,984
0,20	0,579	1,20	0,885	2,20	0,986
0,25	0,599	1,25	0,894	2,25	0,988
0,30	0,618	1,30	0,903	2,30	0,989
0,35	0,637	1,35	0,911	2,35	0,991
0,40	0,655	1,40	0,919	2,40	0,992
0,45	0,674	1,45	0,926	2,45	0,993
0,50	0,691	1,50	0,933	2,50	0,994
0,55	0,709	1,55	0,939	2,55	0,995
0,60	0,726	1,60	0,945	2,60	0,995
0,65	0,742	1,65	0,951	2,65	0,996
0,70	0,758	1,70	0,955	2,70	0,997
0,75	0,773	1,75	0,960	2,75	0,997
0,80	0,788	1,80	0,964	2,80	0,997
0,85	0,802	1,85	0,968	2,85	0,998

0,90 0,816 1,90 0,971 2,90 0,998 0,95 0,829 I 1,95 0,974 | 2,95 0,998

Для отрицательных х Ф-значение находят из таблицы, как 1-Ф(-х). Процедура генерирования: примем значение х равно х. Следующая процедура позво­ляет получить значения Ф при 0 < х < 8,15. Если х больше 8,15, Ф -значение можно принять равным 1. Для отрицательных х может быть использована формула, приве­денная выше. Данная процедура предполагает, что компьютер может представлять около 15 десятичных знаков. Если число десятичных знаков меньше или больше, в процедуру необходимо внести определенные простые преобразования.

s=0 : t=[ : i=1

repeat

s=s+t : i=i+2 : t=t*x*x/i until t<1E-16 phi=0.5+s*exp(- [*x/2)/sqr(2*phi)