Статистический анализ в физиологии

21

м ож н ы толькодва исх ода (н априм ер, заболел–н езаболелит. д.), н еобх о- дим ы й объем исследован ий определяетсяпоформ уле:

гдеn –н еобх одим ы й объем вы борки; р–показательчастоты явлен ия(доля),%; q = (100 – p),%; t – норм ирован н ое отклон ен ие; D – предельн ая ош ибка вы борки, %.

П р им ер . За период проведен ияисследован ий 936 человек зарегистрирован о 115 человек с н аруш ен иям и фун кции сердечн о-сосудистой систем ы . К акоеколичество кардиограм м (n) при D=3% н еобх одим о проан ализировать для х арактеристики состоян ия сердечн ой деятельности у обследован н огокон тин ген та лю дей?

П оприлож ен ию 1 приn>30 иР<0,05 t=2,0. Следовательн о:

С Р Е Д Н И Е В Е Л И Ч И Н Ы

Н аряду споказателям ичастоты явлен ий количествен н аясторон а по-

следн их х арактеризуется сре дними ве личина ми: сре дне й а риф ме т иче ской

них взаим н опогаш аю тсяин дивидуальн ы еразличияпризн ака у отдельн ы х единиц изучаем ой совокупн ости, врезультате чего представляется воз- м ож н ость ох арактеризовать общ ие свойства изучаем ы х явлен ий, закон о- м ерн остиих развития.

Сре дня я а риф ме т иче ска я получается при делен ии сум м ы одн ородны х величин , х арактеризую щ их значен иеопределен н огопризн ака, н а числовариан т. О дн акопреж дечем приступитьк еевы числен ию , необх одим о убедиться вотсутствии ввариацион н ом ряду так н азы ваем ы х « вы скакиваю щ их » вариан т, которы евзн ачительн ой степен им огутискаж атькон ечны ерезультаты .

« В ы скакиваю щ ие» вариан ты зн ачительн о отличаю тся по величин е отдругих ин етипичн ы длядан н огоряда. К ак правило, он иявляю тсяследствием ош ибочн ы х записей или погреш н остей вэксперим ен тальны х исследован иях . Е сли устан овить достоверн о причин у появлен ия « вы скакиваю щ ей» варианты невозм ож н о, ееисклю чаю тиз вариацион н огоряда путем расчетов. М етодовопределен ия« вы скакиваю щ их » вариан тн есколько.

22

Рассм отрим н аиболеепростой из н их .

П р им ер . В ш ести пробах сы воротки крови у кры с бы ла определен а активн остьаланин ам ин отрансферазы (А лА Т ) 8, 12, 16, 32, 140 и32 Е /л.

разм ер средн ей арифм етической ( х=40 с учетом вариан ты 140 и х=20 – без нее). Е стьосн ован ияпроверитьвариан ту 140 н а соответствиееедан -

Ц ифровы едан н ы еподставляю тсявформ улу:

т. е. вчислителе–разн остьм еж ду м аксим альн ой (140) ипредш ествую щ ей ей повеличин е(32) вариантам и (порядковы ен ом ера 6 и 5), взн ам ен ателе –разн остьм еж ду величин ам и м аксим альн ой (140) и м ин им альн ой (8) вариан т(порядковы ен ом ера 6 и1). П олучен н оезн ачен ие0,818 оцен ивается по прилож ению 2. Д лячисла н аблю ден ий 6 иР<0,05 критический уровен ь составляет0,560. П оскольку получен наявеличин а 0,818 превы ш ает0,560, вариан та 140 достоверн о отличаетсяотдругих и долж н а бы тьисклю чен а из вариационн огоряда.

П рактически н еприх одитсяприбегатьк исклю чен ию м ин им альн ы х зн ачен ий вариан т, так как даж ерезкоеотличиеих отдругих сущ ествен н о н евлияетн а значен иесредн их величин . О дн акоприн еобх одим оститакие расчеты вы полн яю тсяпоформ уле:

П олучен наявданн ом случаевеличин а 0,030 значительн он иж екритическогоуровн я0,560, следовательн о, вариантаисклю чен ию н еподлеж ит.

Сре дня я ге оме т риче ска я прим еняетсявтех случаях , когда изм енения вариан тввариацион н ом ряду происх одятвгеом етрической прогрессии, т. е. каж ды й последую щ ий уровен ьряда, х арактеризую щ ий развитиеявления, прим ерн оравен преды дущ ем у, ум н ож енн ом у н а н екотороепостоян ноедля дан ной прогрессиичисло, н азы ваем оезн ам енателем прогрессии. И зм енение явлен ий вгеом етрической прогрессииим еетм естовм икробиологической и им м ун ологической практике (разм н ож ен ие м икроорган изм ов, нарастание титра антители т. д.). Средн яягеом етрическая определяетсяпо форм уле:

23

ряд н а две части, одн а из которы х им еет зн ачен ия вариан т м ен ьш е Me, другая–больш е. П рим ен ен ием едиан ы особен н опоказан опри несим м етричн ом распределении вариан твряду, а такж епри небольш ом числен а- блю дений, когда крайн иевариан ты отличаю тся отостальн ы х и взн ачительн ой степен им огутопределятьуровен ьсредней арифм етической.

П ри н ебольш ой вы борке определить м едиан у довольн о легко. Н а- прим ер, ввариацион н ом ран ж ирован н ом ряду (7, 9, 16, 24, 30, 32, 44), где числовариан тнечетн ое, м едиан ой являетсясрединн аяварианта 24. В ряду 9, 13, 18, 24, 26, 29, 31, 36, т. е. причетном числевариан т, за м едиан у приним аю т средн ю ю арифм етическую из двух цен тральны х вариан т, т. е. (24+26):2=25.

П рираспределен иивы боркиввариацион н ы й рядм едиан а определяетсяпоформ уле:

n − ps = xMe +Mei2pMe ,

гдехMе–ниж н яягран ица ин тервала, вкотором н ах одитсяMe (приан ализе ин тервальн ого ряда), или полусум м а соседних классовы х вариан тпром е- ж утка, вкотором н ах одитсяMe (приан ализедискретн огоряда); ps –число накоплен н ы х (кум улирован н ы х ) частот, стоящ еепередм едиан н ы м интервалом (классом ); рMе–частота м едиан н огоин тервала (класса); 1 –классо- вы й пром еж уток (ин тервал); n –объем вы борки.

Расчетм едиан ы вдискретн ом и ин тервальн ом рядах рассм отрим н а прим ерах (табл.4 и5).

П р им ер . Н айти м едиан у ряда распределен ия 146 ш там м овзолотистогостафилококка поспектру устойчивостик 9 ан тибиотикам .

Т аблица 4 И сх одн ы едан н ы еипарам етры расчета Me длядискретн огоряда

1. Н ах одитсям едиан н ы й ин тервал(класс), длячего объем вы борки делитсян а 2 (146:2=73).

24

2. Д ляопределен иям естополож ен ияMe кум улирую тсячастоты ряда pi (графа 3) дочисла н акоплен н ы х частот, стоящ их перед м едиан н ы м ин - тервалом (ps). ps=111. Т ак как число73 н ах одитсям еж ду ps=58 и ps=111, то величин а н иж н ей гран ицы ин тервала, вкотором н ах одится Me, будет м еж ду 4 и5 ан тибиотикам и:

xMe = 4 + 2 = 4,5 . 5

3. Ч астота м едиан н огокласса (рМ е) будетравн а числу ш там м ов, н а-

ходящ их сявм едиан н ом классе. рМ е=53

4.В еличин а классовогоинтервала (i) составляет1, так как ан тибиотикограм м а изучаласьсин тервалом водин препарат.

5.П олучен н ы езначен ияподставляю тсявформ улу:

Н езн ачительн о отличается и определение Me ин тервальн ого вариацион н огоряда.

П р им ер . О пределить н аиболее подверж ен н ую заболеваем ости ост-

1. М едиан н ы й ин тервалсоставит: 275:2=137,5 (138).

2. Н акоплен н ы ечастоты , м еж ду которы м ин ах одитсям едианн ы й ин - тервал, равн ы : ps=89 и ps=147. П ри ps=147 гран ицам и ин тервала, вкотором н ах одится М е, является возрастн ая группа 6–9 лет (н иж н яя гран ица

хМ е=6) причастотерМ е=58.

3.В еличин а классовогоин тервала (i) составляет3 года.

28

Результ ат ы . Н а экран епоявятсязн ачен ияосн овн ы х описательн ы х статистик и запроссистем ы « В ы датьдополн ительн ую статистику» . В ответн а запрос м ож н о н аж ать « Y» , и тогда програм м а вы ведетостальн ы е описательн ы естатистики(рис.4).

Рис.4. Результатобработкисиспользован ием описательн ой статистики

В овстроен н ом справочн икепрограм м ы им ею тсяопределен ияисведен ияон азн ачен иях всех этих описательн ы х статистик. Д лявы вода дан - ной ин форм ациин а экран (рис.5) следуетн аж атьклавиш у « F1» .

РУБ РИ КАТО Р Стр .1

П е ре ме сти те ра мк у н а тре бу е му ю ру бри к у и з н и же сле ду ю щ е го сп и ск а с п омощ ь ю к ла ви ш со стре лк а ми и н а жми те к ла ви ш у <Enter>. Для выхода и з сп ра вк и н а жми те

Рис.5. Главн оеокн осправочн ой систем ы пакета STADIA

Ком м ен т ар ии. 1.Ч астьописательн ы х статистик, вы числяем ы х этой процедурой, отн осятсятолькок вы боркам из н орм альн огораспределен ия. Э то касаетсяразм ера доверительн ого ин тервала длясредн его и зн ачен ий кон цовдоверительн огоинтервала длядисперсии.

2. Е сливблок редактора данн ы х загруж ен он есколькоперем ен н ы х и н а запрос систем ы « У каж итен ом ер ан ализируем ой перем ен н ой (Е ntег=

29

все)» В ы н аж али « Enter» , то будут вы числен ы описательн ы е статистики длявсех этих перем ен н ы х .

Возм ож н ост и гр афическ ого ан ализадан н ы хв пак ет е STADIA

П р им ер . Сгруппируем дан н ы епреды дущ егоприм ера вдиапазон еот 7,50 м км до7,60 м км сш агом группировки 0,01 м км и вы числим частоты попадан ия в получен н ы е ин тервалы группировки. П одготовка данн ы х осущ ествляетсятак ж е, как впреды дущ ем прим ере.

Вы бор пр оцедур ы . В блокестатистических м етодовследуетн аж ать клавиш у « 2» , чтобы вы братьпроцедуру « 2=Гистограм м а ин орм альн ость» .

Заполн ен ие полей вводадан н ы х. Н а запроссистем ы « У каж итечис-

лоин тервалови диапазон гистограм м ы (Enter=вы числ.)» н адоввести требуем ы евприм ерезн ачен ия: 7,5, 7,6, 0,01, изатем н аж ать« Enter» .

Результ ат ы . Н а экран епоявитсярезультаты расчетов, вклю чаю щ ие таблицу табуляции частот, зн ачен иястатистик К олм огорова и х и-квадрат (χ2), а такж езаклю чениесистем ы « Гипотеза 0: Распределен иен еотличаетсяотн орм альн ого» (рис.6).

щ им образом : из каж дого элем ен та первого столбца вы читается средн ее зн ачен иевы боркииполучен н аяразн остьделитсян а стан дартн оеотклон е- ние вы борки. Следую щ иечеты рестолбца содерж атчастоту, отн оситель- н ую частоту, н акоплен н ую частоту иотн осительн ую н акоплен н ую частоту соответствен н о.

П осле н аж атия « Enter» появится запрос систем ы запрос систем ы « В ы вестиграфик» . П риответе« Y» програм м а вы водитгистограм м у иподобранн ую повы боркекривую плотн остин орм альн огораспределен ия. Н а экран вы водится запрос вида оформ лен ия графика и вы бора устройства

30

вы вода (рис.7).

Рис.7. Гистограм м а сн алож ен н ы м графиком н орм альн ой кривой

П р очие возм ож н ост и. И з других графических м етодовописательн ой статистики впакетеSTADIA представлен такж ем атричны й график, вкотором значениякаж дой перем енн ой, нах одящ ейсявтекущ ий м ом ен твблоке редактора дан ны х , сгруппирован ы вотдельн ом столбцеграфика суказанием полож ен иясреднегозначенияиин терваластандартногоотклонения.

Ср авн ен ие дан н ы хдвухвы бор ок с использован ием пак ет аSTADIA

« 4 = Т есты Стью ден та иФ иш ера» , далееследуетн аж атьклавиш у « Enter» . Результ ат ы . Результаты анализа представлен ы н арисунке8.

П риводим ы едан н ы есвидетельствую тоб отсутствии различий м еж - ду вы боркам и как поих дисперсиям , так иподан н ы м t-критериядляпар- ны х дан ны х .