Analýza rozptylu (ANOVA)

Transkript

1 Aalýza rozptylu (ANOVA) Tato aptola j věováa záladímu popsu statstcé mtody zvaé aalýza rozptylu, trá j záladí mtodou pro tstováí hypotéz o střdích hodotách víc ž dvou sup a trá využívá srováí pozorovaé varablty mz výběry a pozorovaé varablty uvtř výběrových souborů. Použtí aalýzy rozptylu jao paramtrcé mtody j vša opět podmíěo určtým přdpolady, jmovtě ormaltou hodot jdotlvých výběrových souborů a srovatlým rozptylm v jdotlvých supách. Jao paramtrcá altratva aalýzy rozptylu v případě splěí jjích přdpoladů pa j přdstav Krusalův-Wallsův tst, trý j stjě jao Maův-Whtyho tst pro dva výběry založ a pořadích pozorovaých hodot. Přdpoládaé výstupy z výuy:. tudt rozumí prcpu výpočtu aalýzy rozptylu a zá přdpolady jjího použtí. tudt umí dfovat pojmy clový, supový a rzduálí součt čtvrců 3. tudt umí ověřt přdpolady aalýzy rozptylu pomocí grafcých výpočtích mtod 4. tudt doáž aplovat výpočt aalýzy rozptylu a rálá data 5. tudt j schop aplovat Krusalův-Wallsův tst jao paramtrcou altratvu aalýzy rozptylu Příos aalýzy rozptylu V přdchozí aptol jsm zavdl tsty pro srováváí charatrst jdoho výběru s daou ostatou a tsty pro srováváí charatrst dvou výběrů. V prax j vša vlm častá stuac, dy potřbujm srovávat víc sup, příladm můž být sldováí plcích fucí u pactů s chrocou obstručí plcí mocí v stadu II, III a IV. Zajímá ás, ja s pact v jdotlvých stadích lší v maxmálím spračím tlau, tdy maxmálím tlau, trý jsou schop vygrovat př ádchu. Otáza tdy j, ja můžm pro stada II, III a IV ověřt rozdíl (rsptv rovost) v maxmálím spračím tlau? Mám dvě možost:. Použjm vhodý tst pro dva výběry (apř. t-tst) a otstujm, ja s lší stadum II od stada III, stadum II od stada IV a stadum III od stada IV. Jým slovy provdm 3 tsty pro dva výběry.. Použjm vhodý tst pro víc ž dva výběry. Zásadí problém s prví možostí j v ásobém tstováí hypotéz, dy j třba s uvědomt, ž s arůstajícím počtm tstovaých hypotéz (zd třm) rost taé pravděpodobost zísáí falšě poztvího výsldu, tdy pravděpodobost toho, ž s př ašm tstováí zmýlím a uážm a statstcy výzamý rozdíl tam, d v sutčost žádý xstuj (chyba I. druhu). Pravděpodobost zísáí falšě poztvího výsldu lz v tomto případě jdoduš vatfovat: jstlž uvažujm tř tsty a v aždém z ch 95% pravděpodobost, ž udělám chybu I. druhu, pa za přdpoladu závslost provdých tstů lz clovou pravděpodobost, ž udělám chybu I. druhu, vyjádřt jao 0,95 0,95

2 0,95 0,857. Jým slovy pravděpodobost, ž udělám chybu I. druhu, ám clově lsla a 0,857 a tdy pravděpodobost, ž udělám chybu I. druhu, ám clově stoupla a 0,43. Jdozačou volbou pro tstováí hypotéz u víc ž dvou výběrů by tdy měl být advátí tst pro víc ž dva výběry. Záladí paramtrcou statstcou mtodou pro tstováí hypotéz o střdích hodotách víc ž dvou sup j tzv. aalýza rozptylu (aalyss of varac, ANOVA). Nulová hypotéza j v případě aalýzy rozptylu staova jao rovost střdích hodot v všch sldovaých supách. Ozačím-l tdy počt srovávaých výběrů, pa ulovou a altratví hypotézu aalýzy rozptylu vyjádřím jao H 0 : µ µ K µ, H : jméě jdo µ j odlšé od ostatích. (8.) Přílady problému a jmu příslušých hypotéz vhodých pro aalýzu rozptylu můž být ásldující: Lší s účost dvou růzých dáv léčva A od účost placba? Ozačm střdí hodotu účost placba µ p, střdí hodotu účost léčva A v dávc µ A a µ A v dávc. Pa ulovou a altratví hypotézu staovím tato H : µ µ µ, H : jmé ě jdo j odlšé od ostatích. (8.) 0 P A A µ Varablta výběrových souborů a prcp výpočtu Abychom mohl advátě vysvětlt prcp výpočtu aalýzy rozptylu, j třba jprv zavést začí a přdpolady, a chž j aalýza rozptylu postava. Obcě uvažujm závslých áhodých výběrů Y j, Y j,, Y j s rozsahy,,,, o chž přdpoládám, ž pochází z ormálího rozdělí, tdy ž pro j-té pozorováí z -tého výběru platí Y j ~ N(µ,σ ). Jým slovy přdpoládám ormaltu hodot a homogtu rozptylů u všch áhodých výběrů (paramtr odpovídající rozptylu í závslý a orétím výběru a j tdy stjý pro všch áhodých výběrů). Na záladě výš uvdých přdpoladů pa dfujm supové průměry pro jdotlvé výběry a clový průměr pro všchy výběry dohromady, tré uvádí tabula. Tabula Zavdí začí aalýz rozptylu. Rozsah výběru Výběrový součt Výběrový průměr Výběr j Y Výběr j Y Y j y Y / Y j y Y / : : : : Výběr Y j Y Všchy výběry Y j y Y / j j Y y Y /

3 Dál zavádím tř odhady varablty, tré charatrzují pozorovaá data. Prví j tzv. clový součt čtvrců (total sum of squars), T, trý odráží clovou varabltu v výběrovém souboru. Clový součt čtvrců j dfová pomocí vadrátů rozdílů pozorovaých hodot od clového průměru ásldově: T ( Y y ). (8.3) j j Clový součt čtvrců j jaožto fuc pozorovaých hodot statstou, trá má svoj rozdělí pravděpodobost. Lz uázat, ž za platost ulové hypotézy má statsta T chívadrát rozdělí s počtm stupňů volost, trý s ozačuj jao df T a j rov. Další formou varablty j tzv. supový součt čtvrců (group sum of squars), A, trý odráží varabltu mz supam, rsptv supovým průměry. Jým slovy, supový součt čtvrců popsuj varabltu příslušou vlvu sldovaé vysvětlující proměé. Lz ho spočítat pomocí součtu vadrátů rozdílů výběrových průměrů od clového průměru. tatstu A dfujm tato: A ( y y ). (8.4) tjě jao v případě T, má statsta A chí-vadrát rozdělí pravděpodobost, ttorát al s stup volost df A. Třtí statstou odrážjící varabltu pozorovaých dat j tzv. rzduálí součt čtvrců (rsdual sum of squars),, odpovídající varabltě v rámc sup. počítám ho ta, ž přs všchy výběry a pozorováí sčtm vadráty rozdílů pozorovaých hodot od příslušých supových průměrů, což lz zapsat tato: ( Y y ), (8.5) j j Pro statstu lz uázat, ž platí ~ χ ( ). Přílad. Tabula obsahuj a ftvích datch přílad výpočtu jdotlvých součtů čtvrců. V příladu přdpoládám tř výběrové soubory, přčmž aždý z ch obsahuj tř pozorovaé hodoty. 3

4 Léčba Pozorovaá hodota Tabula Ftví datový soubor s třm srovávaým supam. upový průměr upový průměr míus clový průměr Pozorovaá hodota míus supový průměr Pozorovaá hodota míus clový průměr A A A B B B C C C Clový průměr 6 oučt čtvrců 96 oučt čtvrců 8 oučt čtvrců 4 V tabulc s lz všmout, ž rzduálí součt čtvrců a supový součt čtvrců dávají po sčtí dohromady clový součt čtvrců. Toto í áhoda, sutčě lz uázat, ž platí +, (8.6) T A což zamá, ž clová varablta pozorovaých hodot s dá rozložt a varabltu v rámc sup a varabltu mz supam: Y y ) ( Yj y ) + ( y ( j j j y ). (8.7) tjý vztah jao (8.6) platí pro stupě volost příslušé statstám T, A a. Výpočt aalýzy rozptylu j založ a srováí supového a rzduálího součtu čtvrců, ja řčo ANOVA srovává pozorovaou varabltu (rozptyl hodot) mz výběry s pozorovaou varabltou (rozptylm hodot) uvtř výběrových souborů. Za přdpoladu, ž hodoty všch srovávaých výběrů pocházjí z ormálího rozdělí s stjým rozptylm, σ, přdstavuj výraz df ( Y y j j ) (8.8) výběrový odhad tohoto zámého paramtru. Tto podíl odpovídá průměrému vadrátu rozdílů pozorovaých hodot od příslušých supových průměrů. Navíc, za platost ulové hypotézy přdstavuj výraz 4

5 ( y ) y A (8.9) df A výběrový odhad σ. Tto podíl odpovídá průměrému vadrátu rozdílů výběrových průměrů od clového průměru. Platí-l tdy ulová hypotéza, výraz (8.9), vycházjící z výběrových průměrů, bud zhruba stjý jao výraz (8.8), vycházjící z pozorovaých hodot. Naopa, platí-l ulová hypotéza, lz očávat, ž výraz (8.9) bud větší ž výraz (8.8), boť lz očávat vlou varabltu mz výběrovým průměry (homogta rozptylů uvtř výběrů j záladím přdpoladm aalýzy rozptylu). Tstovou statstou v aalýz rozptylu j statsta F, trá j podílm výrazů (8.9) a (8.8) a trá má za platost H 0 Fshrovo F rozdělí s paramtry a. Tdy F ( y y ) ( Y y ) j j A / df / df A M M A ~ F(, ). (8.0) V případě, ž platí ulová hypotéza, bud čtatl statsty F větší ž jjí jmovatl a výsldá hodota statsty F ta bud větší ž. Hrac pro zamítutí ulové hypotézy al opět přdstavuj vatl (rtcá hodota) rozdělí F(, ) příslušý zvolé hladě výzamost tstu α. Případě ulovou hypotézu zamítm/zamítm a záladě srováí výsldé p-hodoty tstu s zvolou hladou výzamost tstu α. Výsldé výpočty jsou stadardě zazamáváy do tzv. tabuly aalýzy rozptylu, trou pro data z příladu přdstavuj tabula 3 (přdpoládjm tst a hladě výzamost α 0,05). Z této tabuly j vdět, ž zamítám ulovou hypotézu o tom, ž pozorovaé hodoty pocházjí z ormálího rozdělí s stjou střdí hodotou, boť př srováí výsldé p- hodoty tstu s zvolou hladou výzamost platí, ž 0,004 < 0,05. Poud bychom chtěl rozhodout o platost H 0 pomocí srováí výsldé hodoty statsty F (F 6) s rtcou (, ) (,6) hodotou, pa příslušý vatl F rozdělí j F α F0,95 5, 4. Přtom platí 6 > 5,4, což j v souladu s závěrm pomocí výsldé p-hodoty. Zdroj varablty Tabula 3 umarzac výsldů aalýzy rozptylu pro ftví data z příladu. oučt čtvrců Počt stupňů volost Průměrý čtvrc tatsta F p-hodota Mz supam A 96 df A M A 48 F 6 0,004 Uvtř sup 8 df 6 M 3 Clm T 4 df T 8 5

6 3 Přdpolady aalýzy rozptylu a jjch ověří Aalýza rozptylu má stjě jao větša dalších statstcých mtod svoj přdpolady, bz jjchž splěí lz a jjí výsldy spoléhat, rsptv, bz jjchž splěí bychom tuto mtodu vůbc měl a daé hodoty použít. Přdpolady aalýzy rozptylu jsou ásldující:. Nzávslost pozorovaých hodot. Tto přdpolad často brm za automatcý, cméě automatcý í a vždy j třba s zamyslt ad původm jdotlvých pozorováí, zda jsou č jsou vzájmě závslá.. Normalta hodot jdotlvých áhodých výběrů. Tto přdpolad j uto ortě ověřt, buď pomocí příslušého tstu, bo alspoň pomocí grafcých mtod (hstogramu, rabcového grafu). 3. tjý rozptyl hodot v všch srovávaých supách. Pro ověří tohoto přdpoladu platí to samé, co platí v případě ověří ormalty. Opět musím buď použít advátí tst (apř. F-tst uvdý v aptol 7), bo s pozorovaé hodoty alspoň zobrazt pomocí hstogramu č rabcového grafu. 3. Hodocí ormalty pozorovaých hodot Hodocí ormalty pozorovaých hodot j líčovým postupm v bostatstc, boť áhodý výběr z ormálího rozdělí j romě aalýzy rozptylu přdpoladm řady dalších záladích tstů a modlů. Zamítutí ormalty rozdělí pozorovaých hodot vša musí zamat povolí bo zamítutí použtí příslušého tstu, al můž apř. dovat odlhlé a logcé hodoty v datovém souboru. Posouzí, zda pozorovaé hodoty pochází z ormálího rozdělí pravděpodobost, í vůbc jdoduché a statstcé tsty musí být utě jlpším ástrojm. Vždy j důlžté pozorovaé hodoty zobrazt pomocí dostupých grafcých ástrojů. Záladí ástroj pro hodocí ormalty pozorovaých dat jsou ásldující: Q-Q dagram. Tto grafcý ástroj umožňuj posoudt, zda pozorovaé hodoty pochází z ějaého zámého rozdělí pravděpodobost. Q-Q dagram prot sobě zobrazuj a os x vatly tortcého rozdělí pravděpodobost (v ašm případě ormálího rozdělí) a a os y vatly pozorovaých hodot. V případě shody výběrového rozdělí dat s tortcým rozdělím lží všchy body a přímc, zatímco shodují-l s výběrové a tortcé rozdělí, budou zobrazé body vytvářt řvu odlšou od přímy. Čtyř přílady Q-Q dagramu jsou zázorěy a obrázu, d jsou srováy smulovaé hodoty z čtyř růzých rozdělí pravděpodobost s vatly stadardzovaého ormálího rozdělí N(0,). Vlvo ahoř vdím dálí shodu pozorovaých a tortcých vatlů daou tím, ž hodoty byly smulováy tatéž z rozdělí N(0,). Vpravo ahoř jsou taé zobrazy hodoty smulovaé z rozdělí N(0,), trým vša byly přdáy tř odlhlé hodoty. Výsldm j graf, d téměř všchy zobrazé body lží a přímc, výjmou jsou právě tř odlhlé hodoty, tré lz jdozačě dtfovat. Vlvo dol jsou v Q-Q dagramu zobrazy smulovaé hodoty z logartmco-ormálího rozdělí s paramtry 0 a, výsldá řva j typcá pro srováí pozorovaých hodot z asymtrcého rozdělí pravděpodobost s ormálím rozdělím. Vpravo dol pa vdím Q-Q dagram pro hodoty pocházjící z rovoměrě spojtého rozdělí a trvalu (0,). haprův-wlův tst byl prmárě odvoz pro hodocí ormalty u mších výběrových souborů ( mz 3 a 50), v roc 98 vša byl rozšíř pro větší soubory ( do 000). haprův-wlův tst má přímou souvslost s Q-Q dagramm, boť j založ 6

7 a statstcém vyjádří toho, ja moc s řva zobrazá Q-Q dagramm lší od dálí přímy. Jým slovy, jdá s o proloží sřazých pozorovaých hodot rgrsí přímou vzhldm očávaým hodotám ormálího rozdělí. Tto tst j důlžtým ástrojm právě v stuacích, dy mám dspozc pouz omzý počt pozorováí a a záladě vzualzac pomocí Q-Q dagramu jsm schop jdozačě rozhodout o tom, zda data jsou č jsou ormálě rozdělá. Kolmogorovův-mrovovův tst přdstavuj obcější ástroj a hodocí shody výběrového rozdělí s tortcým rozdělím pravděpodobost, trý j založ a srováí výběrové dstrbučí fuc s tortcou dstrbučí fucí odpovídající daému (v ašm případě ormálímu) rozdělí. Kolmogorovův-mrovovův tst hodotí maxmálí vzdálost mz těmto dvěma dstrbučím fucm. V případě, ž ětrý z přdpoladů aalýzy rozptylu í splě, mám a výběr z dvou možostí, buď s pousím data trasformovat (apř. logartmcá trasformac ám můž pomoc s ormalzací výběrového rozdělí bo s stablzací rozptylu u logartmcoormálích dat) bo pro tstováí použjm paramtrcý tst. Njpoužívaější paramtrcou altratvou aalýz rozptylu j Krusalův-Wallsův tst, trý vyžaduj přdpolad ormalty pozorovaých hodot. 7

8 8 Obr. Q-Q dagramy pro srováí výběrového rozdělí hodot s rozdělím N(0,). 4 Nparamtrcá altratva aalýzy rozptylu Krusalův-Wallsův tst Krusalův-Wallsův tst j zobcěím paramtrcého Maova-Whtyho tstu pro víc ž dvě srovávaé supy. tjě jao Maův-Whtyho tst ta tstuj shodu orétích paramtrů, al shodu výběrových dstrbučích fucí srovávaých souborů s tím, ž líčovým přdpoladm j zd závslost pozorovaých hodot. J-l počt srovávaých výběrů, pa ulovou a altratví hypotézu Krusalova-Wallsova tstu vyjádřím jao ) ( ) ( ) ( : 0 x F x F x F H K, ostatích j odlšá od jda jméě : F H. (8.) Data z ormálího rozdělí N(0,) Kvatly tortcého rozdělí N(0,) Kvatly pozorovaých hodot Data z ormálího rozdělí N(0,) s odlhlým hodotam Kvatly tortcého rozdělí N(0,) Kvatly pozorovaých hodot Data z log-ormálího rozdělí LN(0,) Kvatly tortcého rozdělí N(0,) Kvatly pozorovaých hodot Data z rovoměrě spojtého rozdělí a trvalu (0,) Kvatly tortcého rozdělí N(0,) Kvatly pozorovaých hodot

9 Hlaví myšlou Krusalova-Wallsova tstu j, ž za platost H 0 jsou sloučé hodoty z všch výběrových souborů ta dobř promíchaé, ž průměrá pořadí odpovídající jdotlvým souborům jsou podobá. Pro výpočt tstu tdy opět sřadím všcha pozorováí podl vlost (jao by pocházly z jdoho výběru) a přřadím jdotlvým hodotám pořadí (R j bud ozačovat pořadí j-té hodoty v -té supě). Ozačm clový počt sup, clový počt pozorováí a,,, počty pozorováí v jdotlvých supách ( ). Dál ozačm T součt pořadí v -té supě: T R j. (8.) j Pa tstová statsta Krusalova-Wallsova tstu má tvar T Q ( + ) 3( + ). (8.3) Lz uázat, ž tstová statsta Q má za platost ulové hypotézy chí-vadrát rozdělí pravděpodobost s paramtrm. Nulovou hypotézu H 0 ta zamítám a hladě výzamost α, dyž j ralzac tstové statsty Q větší ž rtcá hodota (vatl) příslušá hladě výzamost α, tdy dyž Q χ ( α). Pro malé vlost souboru j třba srovat statstu Q s tabulam pro Krusalův-Wallsův tst, tré lz ajít apř. v []. Přílady řší:. Na datch uvdých v tabulc otstujt pomocí aalýzy rozptylu ulovou hypotézu o rovost účů typů léčby, a 3 a hodoty áhodé vlčy X. Léčba Pozorovaá hodota X Clový průměr 4 [Výsld: F 0,6 a příslušý vatl Fshrova F rozdělí F α (, ) 4, 6, ulovou hypotézu zamítám] ( ) 9

10 Použtá ltratura:. Zar JH. Bostatstcal Aalyss. 5 th dto, Parso Prtc-Hall, Nw Jrsy, 00. Doporučá ltratura:. Adrs PK, ovgaard LT. Rgrsso wth Lar Prdctors. prgr, Nw Yor, 00.. Zvára K. Bostatsta. Naladatlství Karolum, Praha,