5.1. Модель параллельных линий.

5.1.1 ДВУХДОЗОВОЕ МНОГОКРАТНОЕ КОЛИЧЕСТВЕННОЕ ОПРЕДЕЛЕНИЕ С ИС­ПОЛЬЗОВАНИЕМ СХЕМЫ ПОЛНОЙ РАНДОМИЗАЦИИ.

Количественное определение активности кортикотропина путем подкожной инъек­ции у крыс.

Стандартный препарат вводили в дозах от 0,25 до 1,0 ЕД на 100 г массы тела. Предполагалось, что оба испытуемых препарата имели активность 1 ЕД/мг и вводи­лись в тех же количествах, что и стандартный. Значения эффектов и средние значения приведены в Таблице 5.1.1.-1.

Таблица 5.1.1.-1.

Измеряемый эффект y - масса аскорбиновой кислоты (мг) на 100 г надпочечника.

	Стандартный препарат S		Испытуемый препарат t		Испытуемый препарат u
			t		u1
	300	289	310	230	250	236
	310	221	290	210	268	213
	330	267	360	280	273	283
	290	236	341	261	240	269
	364	250	321	241	307	251
	328	231	370	290	270	294
	390	229	303	223	317	223
	360	269	334	254	312	250
	342	233	295	216	320	216
	306	259	315	235	265	265
Среднее	332,0	248,4	323,9	244,0	282,2	250,0

Графическое представление результатов не дает поводов сомневаться в одно­родности дисперсий и нормальности распределения данных, но возникают некоторые сомнения, относительно параллельности результатов для препарата u.

Расчет по формулам, приведенным в Таблицах 3.2.3.-1 и 3.2.3.-2, дал следую­щие результаты:

Ps = 580,4 Рт = 567,9 Pu = 532,2 10

Hp = —=5

2

Ls = -41,8 Lt = -39,95 Lu = -16,1

Hl = ¹²⁰ =20

Далее проводят дисперсионный анализ по формулам, приведенным в Таблицах 3.2.3.­3 и 3.2.3.-4. Результаты приведены в Таблице 5.1.1.-2.

Анализ подтвердил высокую значимость линейной регрессии. Отклонение от па­раллельности для препарата u по сравнению со стандартным препаратом, которое ожидалось на основании анализа графического представления результатов, тем не менее также оказалось значимым (р = 0,0075). По этой причине препарат U исключают и анализ повторяют только для препарата Т и стандартного препарата.

Анализ, проведенный без препарата u, свидетельствует о соответствии услови­ям как линейности регрессии, так и параллельности, что позволяет перейти к расчету активности. Используя формулы, приведенные в Разделе 3.2.5, получаем следующие результаты:

Общий угловой коэффициент:

b = ^20-418 - ³⁹⁹⁵⁾ = -58970

In4 х 10 х 2

Натуральный логарифм отношения активностей:

M_T

567,9 - 580,4

2 х (-58,970)

0,1060

C

66830,6

66830,6 - 738,54 х 2,028²

= 1,0476

V

66830 6

(-58,970)² х 2 х10

0 9609

Натуральный логарифм доверительных интервалов: 1,0476 х 0 11060 ±yj0,0476 х (1,0476 х 0,1060² + 2 х 0,9609) = 0,1110 ± 0,3034

Вычислив антилогарифм, мы найдем отношение активностей, равное 1,11, при 95% доверительном интервале от 0,82 до 1,51.

Умножение на предполагаемую активность препарата Т, дает рассчитанную ак­тивность 1,11 ЕД/мг при 95% доверительном интервале от 0,82 до 1,51 ЕД/мг.

5.1.2 ТРЕХДОЗОВОЕ КОЛИЧЕСТВЕННОЕ ОПРЕДЕЛЕНИЕ С ИСПОЛЬЗОВАНИЕМ СХЕМЫ ЛА ТИНСКИХ КВАДРА ТОВ.

Количественное определение антибиотика методом диффузии в агар, используя прямоугольный планшет.

Стандартный препарат имел установленную активность, равную 4855 МЕ/мг. Предполагаемая активность испытуемого препарата принималась равной 5600 МЕ/мг. Исходные растворы готовились следующим образом: 25,2 мг стандартного препарата растворяли в 24,5 мл растворителя и 21,4 мг испытуемого препарата растворяли в 23,95 мл растворителя. Для анализа исходные растворы сначала разводили в соотно­шении 1/20, а затем, используя степень разведения 1,5.

Латинские квадраты строились при помощи метода, описанного в Разделе 8.6 (см. Таблицу 5.1.2.-I). Результаты, полученные в ходе данного количественного опре­деления, приведены в Таблице 5.1.2.-II (зоны ингибирования роста в мм х10). Средние значения для групп приведены в Таблице 5.1.2.-III. Графическое представление дан­ных (см. Рисунок 5.1.2.-I) не дает поводов сомневаться в нормальности распределения и однородности дисперсий.

Используя формулы, приведенные в Таблицах 3.2.3.-I и 3.2.3.-II, получаем сле­дующие результаты:

Ps = 529,667 Pt = 526,333

Hp = ⁶ = 2

Далее проводят дисперсионный анализ по формулам, приведенным в Таблицах 3.2.3.-3 и 3.2.3.-4. Результаты приведены в Таблице 5.1.2.-4.

Анализ показывает значительные различия между строками. Это означает, что использование схемы Латинских квадратов обеспечивает в данном случае более вы­сокую точность по сравнению со схемой полной рандомизации. Высокая значимость регрессии, а также отсутствие значимого отклонения индивидуальных линий регрессии от параллельности и линейности, подтверждают, что результаты количественного оп­ределения пригодны для расчета активности.

Таблица 5.i.2.-2.

i 2 3 4 5 6

Общий угловой коэффициент:

b = ^{3 х (35,833} + ^39,333) = 46346

In(1,5) х 6 х 2 Натуральный логарифм отношения активностей:

- 526,333 - 529,667

' 3 х 46,346

-0,023974

C = ^84750417 - = 10108

8475,0417 - 20,7667 х 2,086²

0,2192

Натуральный логарифм доверительных интервалов:

1 , 0108 х (-0,0240) ±yJ0,0108 х (-0,0240)² + 2 х 0,2192 = -0,02423 ± 0,06878

Вычислив антилогарифм, мы найдем отношение активностей, равное 0,9763 при 95% доверительном интервале от 0,9112 до 1,0456.

Поскольку разведения, приготовленные исходя из предполагаемой активности, не бы­ли точно равноактивными, следует ввести поправочный коэффициент

^{4855 х 25 ,2/24,5} = 0 99799 5600 х 21,4/23,95

Перемножая данный коэффициент и предполагаемую активность препарата 5600 МЕ/мг, получаем рассчитанную активность 5456 МЕ/мг при 95% доверительном интервале от 5092 до 5843 МЕ/мг.

5.1.3 ЧЕТЫРЕХДОЗОВАЯ СХЕМА РАНДОМИЗИРОВАННЫХ БЛОКОВ Количественное определение антибиотика турбидиметрическим методом

Данное количественное определение проводят с целью установления активно­сти антибиотика в международных единицах на флакон. Стандартный препарат имел установленную активность 670 МЕ/мг. Предполагаемая активность испытуемого пре­парата принималась равной 20 000 ЕД/флакон. Исходя из этих данных исходные рас­творы готовились следующим образом: 16,7 мг стандартного препарата растворяли в 25 мл растворителя, а содержимое одного флакона испытуемого препарата растворя­ли в 40 мл растворителя. Для анализа исходные растворы сначала разводили в соот­ношении i/40, а затем, используя степень разведения i,5. Пробирки размещали в во­дяной бане в соответствии со схемой рандомизированного блока (см. Раздел 8.5). По­лученные результаты приведены в Таблице 5.1.3.-1.

Анализ Рисунка 5.1.3.-1 не дает оснований сомневаться в справедливости пред­положения о нормальности распределения данных и однородности дисперсий. Стан­дартное отклонение S₃ несколько велико, но не является причиной для беспокойства. Используя формулы, приведенные в Таблицах 3.2.3.-1 и 3.2.3.-2, получаем следующие результаты:

Ps = 719,4 Pt = 687,6

Hp = ⁵ = 1,25 4

Ls = -229,1 Lt = -222

H_L = ⁶⁰ = 1

Далее проводим дисперсионный анализ по формулам, приведенным в Таблицах 3.2.3.-3 и 3.2.3.-4. Полученные результаты приведены в Таблице 5.1.3.-2.

275-

250-

х225-

<и

&200-о>

|l75-о

о 150-

(D Q

П 125-<и

100-

О

75 -

S1

S2

S3

U1

U2

из

50

Рисунок 5.1.3.-1.

Следует отметить значительное различие между блоками. Это означает, что применение схемы рандомизированных блоков позволяет добиться более высокой точности оценки. Высокая значимость регрессии, а также отсутствие значимого откло­нения от параллельности и линейности подтверждают, что результаты количественно­го определения пригодны для расчета активности.

Используя формулы, приведенные в Разделе 3.2.5, получаем следующие ре­зультаты:

Общий угловой коэффициент:

_и 1 х (-2291 - 222) „„„_0<г<г

_{b = —- = -111,255}

In(1,5) х 5 х 2

Натуральный логарифм отношения активностей:

„. 687,6 - 719,4

M_t = — = 0,071457

4 х ( -111,255 ) 101745 ,6

C = _w = 1,00223

101745,6 - 53,916 х 2,048²

101745 6

_{V = ^ = 0,4110}

(-111,255)² х 4 х 5

Натуральный логарифм доверительных интервалов: 1,00223 х 0,0715 ± V0,00223 х 0,0715² + 2 х 0,4110 = 0,07162 ± 0,04293

Вычислив антилогарифм, мы найдем отношение активностей, равное 1,0741 при 95% доверительном интервале от 1,0291 до 1,1214.

Поскольку разведения, приготовленные исходя из предполагаемой активности, не были точно равноактивными, следует ввести поправочный коэффициент

^{670 х167 / 25} = 089512 20000 х1/40

Перемножая данный коэффициент и предполагаемую активность препарата 20000 МЕ/флакон, получаем рассчитанную активность 19228 МЕ/флакон при 95% до­верительном интервале от 18423 до 20075 МЕ/флакон.

5.1.4 ПЯТИДОЗОВОЕ МНОГОКРА ТНОЕ КОЛИЧЕСТВЕННОЕ ОПРЕДЕЛЕНИЕ С ИС­ПОЛЬЗОВАНИЕМ СХЕМЫ ПОЛНОЙ РАНДОМИЗАЦИИ

Количественное определение in vitro активности трех вакцин против Гепатита В по сравнению со стандартным препаратом

Для каждой из вакцин подготавливали по три независимые серии разведений, каждая из которых состоит из пяти двукратных разведений. После определенных под­готовительных операций, предусмотренных процедурой количественного определения, измеряли оптические плотности растворов. Результаты приведены в Таблице 5.1.4.-1.

Испытуемый препарат T

0,097 0,157

0,355 0,665

1,386

0,094 0,178

0,345 0,576

1,051

Разведение	Испытуемый препарат U			Испытуемый препарат V
1:16 000 1:8000 1:4000 1:2000 1:1000	0,086 0,127 0,277 0,586 0,957	0,071 0,146 0,268 0,489 0,866	0,073 0,133 0,269 0,546 1,045	0,082 0,145 0,318 0,552 1,037	0,082 0,144 0,306 0,551 1,039	0,086 0,173 0,316 0,624 1,068

Как известно, натуральные логарифмы оптических плотностей раствора имеют линейную зависимость от логарифмов доз растворенного вещества. Средние резуль­таты логарифмического преобразования оптических плотностей приведены в Таблице 5.1.4.-2. Графическое представление результатов не выявило каких-либо необычных закономерностей расположения данных.

0.5

0.0-

U V Рисунок 5.1.4.-1.

Используя формулы, приведенные в Таблицах 3.2.3.-1 и 3.2.3.-2, получаем сле­дующие результаты:

Ps = -9,108 Ls = 6,109

Pt = -5,586 Lt = 6,264

Pu = -6,544 Lu = 6,431

Pv = -6,027 Lv = 6,384

Hp

= 3 =

5

0,6

36 120 0,3

Далее проводим дисперсионный анализ по формулам, приведенным в Таблицах 3.2.3.-3 и 3.2.3.-4. Полученные результаты приведены в Таблице 5.1.4.-3.

Высокая значимость регрессии, а также отсутствие значимого отклонения от па­раллельности и линейности подтверждают, что результаты данного количественного определения пригодны для расчета активности.

Используя формулы, приведенные в Разделе 3.2.5, получаем следующие ре­зультаты:

Общий угловой коэффициент:

_b = ^{0,3 х (6109} + ^6,264 + ^6,431 + ^6,384) = _{0 90848} In2 х 3 х 4 ' Натуральный логарифм отношения активностей:

M = ^{- 5,586 - (-9108)} = 07752

' 5 х 0,90848

C = ⁴⁷⁵⁸ = 1,00057

47,58 - 0,0067 х 2,021²

V = ⁴⁷⁵⁸ = 3,8436

0,9085² х 5 х 3 Натуральный логарифм доверительных интервалов:

1,00057 х 0,7752 ±yj0,00057 х (1,00057 х 0,7752² + 2 х 3,8436) = 0,756 ± 0,0689

Вычислив антилогарифм, мы найдем отношение активностей вакцин, равное 2,171 при 95% доверительном интервале от 2,027 до 2,327.

Все образцы имеют установленную активность 20 мкг протеина/мл и, следовательно, найденная активность испытуемого препарата Т равна 43,4 мкг протеина/мл при 95% доверительном интервале от 40,5 до 46,5 мкг протеина/мл.

Аналогичным образом вычисляют активность и доверительные интервалы для других испытуемых препаратов. Полученные результаты приведены в Таблице 5.1.4.-4.

Количественное определение активности инсулина путем подкожной инъекции у кроликов

Стандартный препарат вводился в дозах 1 и 2 ЕД/мл. Эквивалентные дозы ис­пытуемого препарата назначались исходя из предполагаемой активности 40 ЕД/мл. Кроликам подкожно вводили 0,5 мл соответствующих растворов в соответствии со схемой, приведенной в Таблице 5.1.5.-1. полученные результаты приведены в таблице 5.1.5.-2. Высокое значение дисперсии свидетельствует о наличии статистически зна­чимых различий между кроликами и необходимости использовать перекрестную схему исследования.

Планирование исследования
Группа кроликов
1	2 3	4
День 1 S1

День 2 T2Ti S2Si

160­140­120­5 100-о

^80 -

и:

1б0 -40 -20 -

0

S1

S2

Т1 Т2 Рисунок 5.1.5.-1.

Для рассматриваемой схемы количественного определения применение диспер­сионного анализа является более сложным, чем рассмотренных ранее схем, потому что компонента вариации, обусловленная параллельностью, не является независимой от компонента, обусловленного различием между кроликами. Поэтому проверка па-

раллельности линий регрессий дополнительно требует второй поправочный коэффи­циент для ошибки среднего квадрата отклонений (дисперсии), который вычисляется путем вычитания компонента параллельности и пар «взаимодействующих» компонен­тов из компонента, связанного с различием между кроликами.

За счет повторений в каждой из групп, в дисперсионном анализе присутствуют три па­ры «взаимодействующих» компонентов:

Дни х препарат; дни х регрессия; дни х параллельность.

Эти коэффициенты характеризуют тенденцию компонентов (препараты, регрес­сия и параллельность) изменяться в серии «изо дня в день». Таким образом, соответ­ствующие F-отношения обеспечивают проверку этих компонентов оценки достоверно­сти количественного определения. Если статистическая значимость полученных оце­нок F-отношений является высокой, следует с большой осторожностью интерпретиро­вать результаты количественного определения и, если это возможно, следует повто­рить количественное определение активности инсулина.

Дисперсионный анализ проводится с использованием формул, приведенных в Таблицах 3.2.3.-1. - 3.2.3.-3., отдельно как для каждого дня, так и для объединенного набора данных. Используя формулы, приведенные в Таблицах 3.2.3.-1. и 3.2.3.-2, по­лучаем следующие результаты:

День 1:

День 2:

Объединенные данные:

Ps Pt

165,25 162,25

Ps Pt

H_P = ⁸ = 4 ^P 2

173,38

4

176,00

Hp ⁸

Ps = Pt =

Hp

2

196,31 169,13 16

8

2

Ls ^: Lt =

Hl

-13 -8,75

96

Ls Lt

6

-20,06 -5,25

h_l = ⁹⁶

Ls Lt

^L 6

-16,53 -7,00

^L 6

16

16

32

Используя формулы, приведенные в Таблице 3.2.3.-3, получаем следующие ре­зультаты:

День 1 День 2 Объединенные данные

SSprep = 18,000 SSprep = 13,781 SSprep = 0,141

SSreg = 3784,5 SSreg = 5125,8 SSreg = 8859,5

SSpar = 144,5 SSpar = 1755,3 SSpar = 1453,5

Коэффициенты Объединенные данные».

^SSdaysxprep ^{— 31,64 SS}daysxreg ^{— 50,77 SS}daysxpar ^{— 446,27}

взаимодействия

рассчитывают

как: «День1+День2-

Дополнительно, рассчитывают сумму квадратов отклонений вследствие вариа­ции в серии «изо-дня-в-день»:

1

SS_days = 2^N(°1 + ^D₂) - K = 478,52

и сумму квадратов отклонений вследствие вариаций в блоках (различие между кроли­ками):

SS_bi_0Ck = 2У B² - K = 397947

где Bj - среднее значение в пересчете на одного кролика.

Далее проводят дисперсионный анализ, результаты которого приведены в Таб­лице 5.1.5.-3.

Дисперсионный анализ подтверждает, что полученные данные удовлетворяют необходимым условиям обоснованности оценки активности инсулина: высокая стати­стическая значимость линейной регрессии, отсутствие статистически значимых откло­нений от параллельности и незначимые все три коэффициента взаимодействия.

Используя формулы, приведенные в Разделе 3.2.5, получаем следующие ре­зультаты:

Общий угловой коэффициент: b = ^{32 х (-}16,5^{3 - 7)} = -зз9₅

In2 х 16 х 2

Натуральный логарифм отношения активностей:

Ы_т = ^{16913 -169,31} = 000276

' 2 х (-33,95)

C = ⁸⁸⁵⁹⁵ - = 10695

8859,5 -137,3х 2,048²

V = ⁸⁸⁵⁹⁵ = 0,2402

(-33,95)² х 2 х16

Натуральный логарифм доверительного интервала:

1,0695 х 0,00276 + 70,0695 х (1,0695 х 0,00276² + 2 х 0,2402) = 0,00295 ± 0,18279

Вычислив антилогарифм, мы найдем отношение активностей, равное 1,003 при 95% доверительном интервале от 0,835 до 1,204.

Умножив на A_T = 40, получим активность 40,1 единиц на миллилитр при 95% до­верительном интервале от 33,4 до 48,2 единиц на миллилитр.