Статистический анализ в физиологии

П Р А КТИ Ч Е С КО Е Р У КО В О Д С ТВ О

П О С ТА ТИ С ТИ Ч Е С КО М У А Н А Л И ЗУ В Ф И ЗИ О Л О Г И И

Д лястудентовдн евн огоотделен ия 3 курса биолого-почвен н огофакультета поспециальн ости 011600 « Биология»

ВО РО Н Е Ж

2003

2

У тверж ден о научн о-м етодическим советом биолого-почвен н ого факультета 24 сен тября2002 г. (П ротокол№ 11).

Составители: Рецкий .И ., Ч ерн овВ .И ., Сем ен овС.Н ., Сереж енко

Н .П .

П рактическоеруководствоподготовлен он а кафедрефизиологиичеловека и ж ивотн ы х биолого-почвен н ого факультета В орон еж ского государствен н огоун иверситета

Реком ен дуетсядля студен тов3 курса дн евн ого отделен иябиологопочвен н ого факультета, обучаю щ их ся по специальн ости 011600 « Биология» .

3

П Р Е Д И С Л О В И Е

М етодическоепособиепостатистическом у ан ализу исследований в физиологии предн азначен о длястуден товстарш их курсов, чтобы пом очь начин аю щ им исследователям освоить осн овн ы е пон ятия м атем атической статистики и болееполн о представить диапазон прим ен ен ия статистических м етодов.

В пособии рассм атриваю тся осн овны естатистическиепонятия, даны краткиеописан иям етодовобработки и анализа эм пирических данны х : построен иестатистических оцен ок, парам етрическиеинепарам етрическием е- тоды проверки статистических гипотез, дисперсионны й, корреляцион ны й и регрессионны й анализ, некоторы евопросы планирован ияэксперим ента.

П особиен ачин аетсясобзора элем ен тарн ы х (осн овны х ) пон ятий м а- тем атической статистики, а затем болееподробн он а кон кретн ы х прим ерах из различн ы х областей физиологии, биологии им едицин ы , вклю чаялабораторн ы еи другиевиды исследован ий, показаны отдельн ы евозм ож н ости иобластииспользован ияпрограм м н огопакета статистической диалоговой систем ы « STADIA» .

П редставленны й м атериалиллю стрирован 17 таблицам ии22 рисунка- м и. В прилож енииприведены таблицы осн овн ы х статистических критериев.

Н астоящ ее м етодическое пособие подготовлен о преподавателям и кафедры физиологиичеловека и ж ивотн ы х биолого-почвен н огофакультета В орон еж скогогосударствен н огоун иверситета (М .И . Рецкий) икафедры ин форм ацион н ы х систем общ ествен н ого здоровьяи здравоох ран ен ияВ о- рон еж ской государственн ой м едицин ской академ ии им . Н .Н . Бурден ко

О бработка данных выборочного исследования методами описательной статистикив слу чаенормального распределенияданныхс

6

О Б Щ И Е С В Е Д Е Н И Я О С ТА ТИ С ТИ Ч Е С КО М Н А Б Л Ю Д Е Н И И

М ассовы еявлен ия, изучаем ы естатистикой, состоятиз одн ородны х в определен н ом отн ош ен ии е диниц на б люде ния . Совокупн ость таких отн о- сительн о одн ородны х , н о ин дивидуальн о различн ы х един иц, объедин ен - ны х вотн ош ен иинекоторы х общ их условий длягрупповогоизучен ия, н а- зы ваетсяст а т ист иче ской совокупност ью, а числоедин иц совокупн ости−

об ъе мом совокупност и.

Ст а т ист иче ское на б люде ние предусм атриваетсборсведен ий позаран ееразработан н ом у план у. Ф актический м атериал, содерж ащ ийсявпервичны х докум ен тах учета (история болезн и, карта эпидем иологического

цию . Э тотпроцессн азы ваетсягруппировкой. Группировка предусм атриваетрасчлен ен иесовокупн ости н а группы , одн ородны епо каком у-либо одном у признаку (простаягруппировка) илипон ескольким призн акам (ком - бин ацион н ая группировка). П роцесс группировки н е просто тех н ический прием , а глубоко осм ы слен н оедействие, направлен н оен а получениеобъективн ой иполн оцен н ой ин форм ациисучетом поставлен н ой задачи. Н аиболее прием лем ой форм ой группировки являю тся статистические таблицы , статистическиеряды ит. д., когда числовы езн ачен ияпризн ака располож ен ы вопределен н ом порядке.

Ч т о т ак ое пер ем ен н ы е? П ерем ен ны е− этото, чтом ож н оизм ерять, кон тролировать или что м ож н о изм ен ять висследован иях . П ерем ен н ы е отличаю тсям н огим иаспектам и, особен н отой ролью , которую он ииграю т висследован иях , ш калой изм ерен ияит.д.

И С С Л Е Д О В А Н И Е ЗА В И С И М О С ТЕ Й В С Р А В Н Е Н И И С Э КС П Е Р И М Е Н ТА Л ЬН Ы М И И С С Л Е Д О В А Н И Я М И

Больш ин ство эм пирических исследован ий дан ны х м ож но отнести к одном у из назван ны х типов. В исследован ии корреляций (зависим остей, связей) вы н евлияете(или, покрайн ей м ере, пы таетесьневлиять) н а пере- м ен н ы е, а только изм еряетеих и х отитенайти зависим ости (корреляции) м еж ду некоторы м и изм еренны м и перем ен н ы м и, н априм ер, м еж ду кровяны м давлением иуровнем х олестерина. В эксперим ентальны х исследован и- ях , напротив, вы варьируетенекоторы еперем енны еи изм еряетевоздействияэтих изм ен ен ий на другиеперем ен ны е. Н априм ер, исследовательм ож ет искусствен но увеличивать кровян ое давлен ие, а затем на определенн ы х уровн ях давленияизм еритьуровеньх олестерина. А н ализ дан н ы х вэксперим ентальном исследован ии такж еприх одитк вы числению « корреляций» (зависим остей) м еж ду перем ен ны м и, а им ен н ом еж ду перем ен н ы м и, н а которы е воздействую т, и перем ен н ы м и, на которы е влияетэто воздействие. Т ем н ем енее, эксперим ентальны едан ны епотен циальн осн абж аю тнас более качествен н ой информ ацией. Т олько эксперим ентально м ож н о убеди-

7

тельн одоказатьпричин н ую связьм еж ду перем ен ны м и. Н априм ер, еслиобнаруж ен о, чтовсякий раз, когда изм ен яетсяперем енн аяA, изм ен яетсяиперем енн аяB, том ож н осделатьвы вод— « перем ен наяA оказы ваетвлиян ие н а перем енн ую B» , т.е. м еж ду перем ен ны м иА иВ им еетсяпричин н аязависим ость. Результаты корреляцион н огоисследован иям огутбы тьпроинтерпретирован ы вкаузальн ы х (причин ны х ) терм ин ах н а осн овен екоторой теории, н осам ипосебен ем огутотчетливодоказатьпричин н ость.

Зависим ы е и н езависим ы е пер ем ен н ы е. Н езависим ы м и перем ен н ы -

м и н азы ваю тсяперем ен ны е, которы еварьирую тсяисследователем , тогда как зависим ы еперем ен ны е− этоперем ен н ы е, которы еизм еряю тсяилирегистрирую тся. М ож етпоказаться, что проведен иеэтого различиясоздает путан ицу втерм ин ологии, поскольку как говорят, что« всеперем ен н ы еза- висятотчего-н ибудь» . Т ем н ем ен ее, одн аж ды отчетливопроведяэторазличие, вы пойм етеегон еобх одим ость. Т ерм ин ы зависим аяи н езависим ая перем ен н аяприм ен яю тсявосн овн ом вэксперим ен тальн ом исследован ии, где эксперим ен татор м ан ипулирует н екоторы м и перем ен н ы м и, и вэтом см ы слеон и « н езависим ы » отреакций, свойств, н ам ерен ий и т.д., прису- щ их объектам исследован ия. Н екоторы едругиеперем ен н ы е, как предполагается, долж ны « зависеть» отдействий эксперим ен татора или отэксперим ен тальн ы х условий. И н ы м исловам и, зависим остьпроявляетсявответной реакции исследуем огообъекта н а оказан н оен а н еговоздействие. О т- части впротиворечии с дан н ы м разгран ичением понятий нах одится использован иеих висследован иях , гдевы н еварьируетен езависим ы епере- м ен н ы е, а толькоприписы ваетеобъекты к « эксперим ен тальн ы м группам » , осн овы ваясьн а н екоторы х их априорн ы х свойствах . Н априм ер, есливэксперим ен тем уж чин ы сравн иваю тсясж ен щ ин ам и отн осительн очисла лейкоцитов(WCC), содерж ащ их сявкрови, то « П ол» м ож н о н азватьн езависим ой перем ен н ой, а WCC зависим ой перем ен н ой.

Ш к алы изм ер ен ий . П ерем ен н ы еразличаю тсятакж етем , « н асколько х орош о» он им огутбы тьизм ерен ы или, другим исловам и, как м н огоизм е- ряем ой ин форм ации обеспечиваетш кала их изм ерен ий. О чевидн о, вкаж - дом изм ерен ии присутствует некоторая ош ибка, определяю щ ая гран ицы « количества информ ации» , котороем ож н ополучитьвдан н ом изм ерен ии. Д ругим фактором , определяю щ им количествоин форм ации, содерж ащ ейся вперем ен н ой, являетсятип ш калы , вкоторой проведен о изм ерен ие. Различаю т следую щ ие типы ш кал: a)н ом ин альн ая; b)порядковая (ордин альная); c)ин тервальн ая; d)отн осительн ая(ш кала отн ош ен ия).

Соответствен н о им еем четы ре типа перем енн ы х : (a) н ом ин альн ы е,

(b) порядковы е(ордин альны е), (c) интервальн ы еи(d) отн осительн ы е. Номина льные пе ре ме нные использую тся только для качествен н ой

классификации. Э тоозн ачает, чтодан н ы еперем ен н ы ем огутбы тьизм ерены тольковтерм ин ах прин адлеж н остик н екоторы м , сущ ествен н оразличны м классам ; при этом вы н есм ож етеопределитьколичествоили упорядочитьэтиклассы . Н априм ер, 2 ин дивидуум а различим ы втерм ин ах пере-

8

м ен н ой А (прин адлеж атк разн ы м н ациональн остям ). Т ипичн ы еприм еры ном ин альн ы х перем ен н ы х − пол, н ацион альн ость, цвет, городит.д. Ч асто ном ин альн ы еперем ен ны ен азы ваю ткатегориальн ы м и.

Поря дковые пе ре ме нные позволяю транж ировать(упорядочить) объекты , указав, какиеиз н их вбольш ей илим еньш ей степен иобладаю ткачеством , вы раж ен н ы м данн ой перем енн ой. О дн акоон и н епозволяю тсказать « н а сколько больш е» или « н а сколько м еньш е» . П орядковы е перем ен ны е ин огда такж еназы ваю тордин альны м и. Т ипичн ы й прим ер порядковой пе-

уровн я, одн акосказать, чторазн ица м еж ду н им иравн а, скаж ем , 18% м ы н е см ож ем . Сам орасполож ен иеш калвследую щ ем порядке: ном ин альн ая, порядковая, интервальн аяявляетсях орош им прим ером порядковой ш калы .

Инт е рва льные пе ре ме нные позволяю тн етолькоупорядочиватьобъекты изм ерен ия, н оичислен н овы разитьисравн итьразличиям еж дун им и. Н априм ер, тем пература, изм ерен н аявградусах Ф арен гейта или Ц ельсия, образуетин тервальн ую ш калу: тем пература 40 градусоввы ш е, чем тем пература 30 градусов, и увеличен иетем пературы с 20 до 40 градусоввдвое больш еувеличен иятем пературы от30 до40 градусов.

О т носит е льные пе ре ме нные очен ь пох ож и н а ин тервальн ы е пере- м ен н ы е. В дополн ен иековсем свойствам перем ен н ы х , изм ерен н ы х вин - тервальн ой ш кале, их х арактерн ой чертой являетсян аличиеопределен н ой точки абсолю тн ого н уля, таким образом , для этих перем ен н ы х являю тся обосн ован ны м ипредлож ен иятипа: x вдва раза больш е, чем y. Т ипичн ы м и прим ерам иш калотн ош ен ий являю тсяизм ерен ияврем ен иилипространства. Н априм ер, тем пература поК ельвин у образуетш калу отн ош ен ия, и вы м ож етен етолькоутверж дать, чтотем пература 200 градусоввы ш е, чем 100 градусов, н ои чтоон а вдвоевы ш е. И нтервальн ы еш калы (н априм ер, ш кала Ц ельсия) н еобладаю тдан н ы м свойством ш калы отн ош ен ия. Зам етим , чтовбольш инствестатистических процедур н еделаетсяразличиям еж ду свойствам иин тервальн ы х ш калиш калотн ош ен ия.

С В Я ЗИ М Е Ж Д У П Е Р Е М Е Н Н Ы М И

Н езависим ооттипа, двеили болееперем ен н ы х связан ы (зависим ы ) м еж ду собой, еслинаблю даем ы езн ачен ияэтих перем ен н ы х распределен ы согласован ны м образом . Д ругим исловам и, перем ен н ы езависим ы , еслиих зн ачен ия систем атическим образом согласован ы друг с другом вим ею - щ их сян аблю ден иях . Н априм ер, перем енн ы е« П ол» и « Ч ислолейкоцитов» м огли бы рассм атриватьсякак зависим ы е, если бы больш ин ство м уж чин

том у что обы чн о вы сокиеин дивиды тяж елеен изких ; « IQ» (коэффициен т ин теллекта) связан с « К оличеством ош ибок» втесте, т.к. лю ди свы соким зн ачен ием IQ делаю тм ен ьш еош ибок ит.д.

9

Статистическом у н аблю ден ию , представляю щ ем у собой н ачальн ы й этап исследован ия, долж н о уделятьсябольш оевн им ание, так как отполноты и качества собран н ы х дан н ы х во м н огом зависяти вы воды . Статистическоен аблю ден иеосущ ествляетсякак посредством отчетн ости, так и посредством специальн оорган изован н ы х исследован ий.

Результатилиисх одотдельн огоиспы тан ия(статистическогон аблю - ден ия) н азы ваетсясоб ыт ие м. Реализацияего, как правило, возм ож н а при наличииком плекса условий, н еобх одим ы х длятого, чтобы дан н оесобы тие произош ло. Ч исловая м ера возм ож ности осущ ествлен ия определенн ого собы тиявн екотором количествеслучаевиз общ егочисла возм ож н ы х н а-

зы ваетсяве роя т ност ью (р).

Е дин ицы совокупн ости обы чн о обладаю тм н огим и призн акам и, которы е им ею т различн ое вы раж ен ие у отдельн ы х един иц. Т ак, н априм ер, больн ы еразличаю тсяпополу, возрасту, профессии ит. д. П ризнаки, приним аю щ иеразличн ы езн ачения у отдельны х един иц совокупн ости, н азы - ваю тся ва рьирующими, а отдельн ы е числовы е зн ачен ия варьирую щ его призн ака − ва риа нт а ми (xi). В арьирован ие − х арактерн оесвойство всего ж ивого. В арьирую щ иепризн аки подразделяю тсян а а т риб ут ивные (ка че - ст ве нные ) иколиче ст ве нные . П ризн ак н азы ваетсяатрибутивны м , еслиотдельн ы еегозн ачен иявы раж аю тсяввидесостоян ия, свойстви т. д., присущ их явлению (профессиябольн ы х , видм икроорган изм ов, цветм очиит. д.). К количествен н ы м отн осяттепризн аки, отдельны езн ачен ия(вариан - ты ) которы х вы раж аю тсяввидечисел(количестволейкоцитов, титран тител, количеством икроорган изм овит. д.).

Располож ен иевариан твпорядкевозрастан ия(ум ен ьш ения) их числовы х значен ий, показы ваю щ ее закон ом ерн ость распределен ия един иц изучаем ой совокупн ости, н азы ваетсява риа ционным ря дом. В ариацион ны еряды , вы раж ен ны еввидецелы х чисел, н азы ваю тсядискре т ными, а при вы - раж ен ииколичествен ны х призн аковввидеинтервалов− инт е рва льными.

Д ляобобщ аю щ ей х арактеристикикачествен н оодн ородн ы х совокупностей использую тся сре дние ве личины, благодаря прим ен ен ию которы х статистика, им еяделосм ассовы м и явлен иям и, получаетвозм ож н остьперех одитьотедин ичн огок общ ем у, отслучайн ого− к закон ом ерн ом у. О д- ной из таких величин являетсясре дня я а риф ме т иче ска я (обозн ачаем аякак х илиМ), получаю щ аясяприделениисум м ы одн ородн ы х величин , х арактеризую щ их зн ачен иеопределен н огопризн ака, н а числовариан т.

П р им ер . Значен иявариан тсоставляю т: 8, 16, 9, 3, 14, 30, 26. Сум м а величин равн а 105, а x =105:7=15. О дн акосредн яяарифм етическаясам а по себен ичегон еговоритотом вариацион ном ряде, из которогоон а вы числе- н а, так как колебан иязначений вариан твнутрирядам огутбы тьразличн ы .

Н априм ер: 1-й вариацион ны й ряд: 8, 16, 9, 3, 14, 30, 26; x =15; 2-й вариацион н ы й ряд: 2, 8, 3, 5, 7, 22, 58; x =15.

В обоих случаях средн иеарифм етическиеравн ы , одн ако он и получен ы из рядовс различн ы м разм ах ом . Ра зма х − разн ость м еж ду м акси-

10

м альн ы м и м ин им альны м зн ачен ием вариан т. В первом случаеразм ах равен 30-3=27, вовтором − 58-2=56. Ч ем больш еин дивидуальн ы езначен ия вариан тразличаю тсям еж ду собой, тем больш еон и отличаю тсяи отсредней арифм етической, являю щ ейсяцен тром группирован иявариан тдан н о-

ан ализе степен и отклон ен ия (рассеяния) вариан т используется сре днее ква дра т иче ское от клоне ние (σ ), так как он о х арактеризуетвариацию н е отдельн овзяты х , а всех вариан тряда. В еличин а σ2 или D н оситн азвание

диспе рсии.

Совокупн остьзн ачен ий вариан т(xi) иих вероятн остей (р) н азы вается ра спре де ле ние м. В статистикеизвестен рядзакон овраспределен ияслучай-

М н огием едико-биологическиепризн аки, х арактеризую щ иесян епреры вн ой вариацией, являю тся сум м ой больш ого числа независим ы х слагаем ы х и с

сим м етричнаякуполообразн аякривая, им ею щ аям аксим ум вточкесредней арифм етической, н азы ваем аякривой норма льного ра спре де ле ния (рис. 1).

Рис.1. График плотн остин орм альн огораспределен ия Е сли площ адь, огран иченн ую кривой н орм альн ого распределен ия,

прин ятьза 1 (или за 100 %), том ож н орассчитатьплощ адь, заклю чен н ую

меж дукривой илю бы м идвум яордин атам и.

Устан овлен о, что площ адь м еж ду ордин атам и, проведен ны м и н а

расстоян ииlσ скаж дой сторон ы от x , составляет0,683 всей площ ади.

Э тоозн ачает, что68,3 % всех исследован н ы х един иц (частот) отклон яется от x н еболеечем н а 1σ, т. е. н ах одитсявпределах х ± σ. П лощ адь, заклю -