Neparametrické testy. 1. Úvod. 2. Medián

Transkript

1 Neparametrické testy. Úvod Testy hypotéz o parametrech základních souborů, které jsme zatím poznali, jsou založeny na předpokladu, že tyto soubory mají normální rozdělení pravděpodobnosti, popřípadě i na některých dalších předpokladech, např. rovnosti rozptylů. Nesplnění předpokladu o normalitě většinou není vzhledem k centrální limitní větě příliš na závadu, pokud je rozsah náhodných výběrů, z nichž konstrukce testu vychází, dostatečně velký. Často je ale třeba testovat hypotézy na základě náhodných výběrů malých rozsahů pocházejících z výrazně nenormálních rozdělení, takže klasické testy založené na předpokladu normality nelze použít. Pro práci s takovými výběry byly vyvinuty tzv. neparametrické testy, které nepředpokládají nic o konkrétním typu rozdělení základního souboru ani o jeho parametrech a vyžadují zpravidla pouze jeho spojitost. Po výpočetní stránce jsou neparametrické testy velmi jednoduché a proto se často používají i tehdy, kdy je možné použít také klasické, ale početně podstatně náročnější testy založené na předpokladu normality. Neparametrické testy však zpravidla využívají informaci obsaženou v náhodném výběru pouze částečně, a proto pravděpodobnost chyby. druhu je u nich v těchto případech zpravidla větší než u klasických testů. Zatímco rozhodovací pravidla parametrických testů jsou konstruována přímo z číselných hodnot náhodných výběrů, konstrukce rozhodovacích pravidel neparametrických testů vychází pouze ze vzájemného pořadí těchto hodnot. Některé neparametrické testy lze proto použít i v případech, kdy nejsou známy hodnoty náhodného výběru ale pouze jejich pořadí, nebo kdy tyto hodnoty znamenají pouze pořadí zkoumaných vlastností náhodného charakteru seřazených podle určitého hlediska. Neparametrických testů existuje velmi mnoho. Zde se omezíme jenom na několik z nich, které jsou obdobou klasických testů o střední hodnotě a testu lineární nezávislosti náhodných veličin. Na rozdíl od klasických testů se však testují hypotézy o mediánu.. Medián Medián m è rozdělení pravděpodobnosti náhodné veličiny X se spojitou distribuční funkcí F je míra polohy charakterizovaná ne zcela jednoznačně podmínkou FHm è L = P@X m è D = ê. Jednoznačně je medián určen např. tehdy, je-li funkce F rostoucí. Je-li příslušné rozdělení pravděpodobnosti symetrické kolem některého bodu m è, tj. platí-li pro všechna x œ rovnost FHm è - xl = - FHm è + xl, potom m è je medián a v případě, že existuje střední hodnota E X, platí rovnost m è = E X. Podmínku symetrie funkce F splňuje např. tehdy, je-li náhodná veličina X (absolutně) spojitá a její hustota f je symetrická podle bodu m è, tj. platí-li pro všechna x œ rovnost fhm è - xl = fhm è + xl. Není-li distribuční funkce F spojitá, lze medián m è definovat např. podmínkami P@X < m è D = lim xøx è - FHxL ê, P@X m è D = FHm è L ê. Definujeme-li a-kvantil x a rozdělení s distribuční funkcí F formulí Hx < x a ï P@X xd = FHxL < alfl P@X x a D = FHx a L a, pak tyto podmínky, které neurčují medián jednoznačně, splňuje např. kvantil x 0.5. Z definice mediánu a kvantilů dále snadno vyplývá, že tento kvantil je ze všech možných mediánů rozdělení nejmenší. Lze dokázat, že každý medián m è má následující vlastnost: je-li střední hodnota EX konečná, potom funkce E» X - c» nabývá v bodě c = m è svého minima.

2 Nonparametric Tests.nb 3. Znaménkový test 3.. Znaménkový test je určen k ověřování hypotéz o mediánu rozdělení pravděpodobnosti (základního souboru) se spojitou distribuční funkcí F. Protože bez dalších předpokladů o F není medián určen jednoznačně, je třeba význam nulové hypotézy m è = c a možných alternativ m è c, m è < c, m è > c upřesnit. Hypotéza m è = c znamená, že c je medián, tj. že FHcL = ê, alternativa m è c znamená, že c není medián, tj. že FHcL ê, alternativa m è < c znamená, že každý medián je menší než c, tj. že FHcL > ê, a a poslední alternativa znamená, že každý medián je větší než c, tj. že FHcL < ê. 3.. Kritické hodnoty pro znaménkový test. Pro každé reálné číslo c a každý bod =Hx,..., x n L prostoru n nechť n c H L = počet indexů i, pro něž x i c, n >c H L = počet indexů i, pro něž x i > c, a pro každé přirozené číslo n a každé a œh0, L nechť k a, HnL = Bi aê Hn, êl -, k a, HnL = Bi -aê Hn, êl +, kde Bi b Hn, êl je b-kvantil binomického rozdělení BiHn, êl Věta. Jestliže =HX,..., X n L je náhodný výběr z rozdělení se spojitou distribuční funkcí F a mediánem c, potom P@n >c H L xd ó x k a, HnL, P@n >c H L xd ó x k a, HmL Znaménkový test. Nechť =Hx,..., x n L je realizace náhodného výběru =HX,..., X n L z rozdělení se spojitou distribuční funkcí. Nulovou hypotézu H : m è = c na základě realizace zamítneme ve pro prospěch některé ze tří možných alternativ, pokud n >c = n >c H L a n c = n c H L splňují příslušnou podmínku uvedenou ve třetím sloupci následující tabulky: Hypotéza H 0 Alternativa H Kritický obor pro hladinu významnosti a m è = c m è c n >c k a, Hn c LÍ n >c k a, Hn c L m è = c m è < c n >c k a, Hn c L m è = c m è > c n >c k a, Hn c L 3.5. Asymptotická varianta znaménkového testu. Pro větší rozsahy n c, přibližně pro n c 0, můžeme také použít testovací statistiku R Zn,c = R Zn,c H L = n >c H L - n c H L ÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅ è!!!!!!!!!!!!!!!! ÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅ n c H L s asymptoticky normálním rozdělením NH0, L a kritické obory pro zamítnutí nulové hypotézy uvedené v tabulce Hypotéza H 0 Alternativa H Kritický obor pro hladinu významnosti a m è = c m è c» R Zn,c» > u -aê m è = c m è < c R Zn,c < -u -a, m è = c m è > c R Zn,c > u -a kde u b je jako obvykle b-kvantil normovaného normálního rozdělení Poznámka. Znaménkový test má poměrně malou sílu, tj. pravděpodobnost chyby. druhu je ve srovnání s jinými testy dosti veliká, a proto je žádoucí mít k dispozici větší počet pozorování různých od c Příklad. Deset pokusných osob mělo nezávisle na sobě a bez předchozího nácviku odhadnout, kdy od daného signálu uplyne jedna minuta. Byly získány následující výsledky ( v sekundách):

3 Nonparametric Tests.nb 3 Řešení. Odhad délky jedné minuty je zřejmě náhodná veličina se spojitou distribuční funkcí. Pro ověření hypotézy, že medián jejího rozdělení je c = 60 sekund, můžeme proto použít znaménkový test. Zřejmě n c = 0, n >c = a podle tabulky kritických hodnot k 0.05, H0L =, k 0.05, H0L = 9. Na hladině významnosti a = 0.05 nelze tedy hypotézu H 0 : m è = 60 zamítnout ve prospěch alternativy m è 60. Ke stejnému závěru dojdeme, použijeme-li statistiku R Zn,c, neboť R Zn,c = - ÅÅÅÅÅÅÅÅÅÅÅÅÅÅ 6 è!!!!!! 0 U , u = Příklad. V jednom městečku proběhl výzkum požívání alkoholu tak, že u 8 náhodně vybraných občanů byla zjištěna průměrná měsíční dávka alkoholu. Po nějaké době došlo v městečku ke dvěma úmrtím na cirhózu jater, způsobenou velmi pravděpodobně nadměrmým požíváním alkoholu. K posouzení, zda tato událost nějak ovlivnila u občanů městečka množství požívaného alkoholu, byly použity výsledky předchozího výzkumu a navíc byla u stejných 8 osob jako dříve zjištěna jejich současná průměrná měsíční dávka alkoholu. Výsledky obou šetření jsou uvedeny v následující tabulce: Osoba Před úmrtími Po úmrtích Otázka zní: lze na základě těchto výsledků na hladině významnosti a = 5 % tvrdit, že zmíněná úmrtí ovlivnila v městečku požívání alkoholu? Řešení. Výsledky obou šetření představují realizaci náhodného výběru H, L rozsahu n = 8 z dvourozměrmého základního souboru HX, YL, kde X resp. Y je průměrná měsíční spotřeba alkoholu obyvatele městečka před zmíněnými úmrtími resp. po nich. Rozdíl Z = Y - X tedy vyjadřuje, jak se tato spotřeba alkoholu u obyvatele městečka zvýšila nebo snížila. Za kritérium změny v požívání alkoholu můžeme vzít buď střední hodnotu EZ veličiny Z nebo její medián m è Z. Rovnost EZ = 0 znamená, že průměrná měsíční spotřeba alkoholu obyvatele městečka se nezměnila. Rovnost m è Z = 0 naproti tomu znamená jenom tolik, že počet obyvatel městečka, kteří po úmrtích požívání alkoholu omezili, je přibližně stejný, jako počet obyvalel, kteří naopak začali pít víc. Za předpokladu normality náhodného vektoru HX, YL můžeme otestovat hypotézu EZ = 0 proti hypotéze EZ 0 s výsledkem = -00, T = ÅÅÅÅÅÅÅÅÅÅÅÅ s è!!! n t -aêhn - L = ÅÅÅÅÅÅÅÅÅÅÅÅ 00 è!!!!.3646 = 67.04,»» < T, 8 což znamená, že na hladině významnosti a = 5 % nelze hypotézu EZ = 0 zamítnout. Protože dosažená hladina významnosti tohoto testu je 0.00, nulovou hypotézu lze zamítnout oboustranným testem až na hladině významnosti a > 0.., tj. s pravděpodobností chyby. druhu větší než 0 %, nebo jednostranným testem proti hypotéze EX < 0 až na hladině významnosti a > 0., tj. s pravděpodobností chyby. druhu alespoň 0 %. Protože normalita implikuje rovnost střední hodnoty a mediánu, testy hypotéz o střední hodnotě jsou současně testy hypotéz o mediánu. Pokud usoudíme, že normalitu předpokládat nelze, můžeme pouze otestovat hypotézu m è Z = 0 proti některé ze tří možných hypotéz m è Z 0, mè Z < 0, mè Z > 0. Protože pro Z, jak velmi snadno zjistíme, n 0 = 7, n >0 =, k a, H7L = 0, k a, H7L = 7, R Zn,0 = , u 0.95 =.64485, u =.95996, ani jeden z možných šesti znaménkových testů hypotézu m è Z = 0 na dané hladině významnosti nezamítá. Na hladině významnosti a = 5 % proto nelze tvrdit, že úmrtí konzumaci alkoholu v městečku nějak významně změnila. 4. Wilcoxonův jednovýběrový test 4.. Tento test je testem hypotézy H 0 : m è = c o mediánu rozdělení se spojitou distribuční funkcí F za předpokladu, že toto rozdělení je kolem mediánu m è symetrické, tj. že pro každé reálné číslo x platí rovnost FHm è - xl = - FHm è + xl. Protože symetrie rozdělení kolem bodu c implikuje, že c je medián, Wilcoxonův test hypotézy H 0 je vlastně testem

4 4 Nonparametric Tests.nb symetrie rozdělení kolem bodu c. K zamítnutí hypotézy H 0 proto může dojít buď proto, že c není medián, nebo proto, že rozdělení není kolem mediámu symetrické. 4.. Wilcoxonova jednovýběrová statistica. Pro každý vektor =Hx,..., x n L œ n označme * =Hx *,..., x n * L posloupnost absolutních hodnot čísel x, x,..., x n seřazených do neklesající posloupnosti a pro každé i =,,..., n definujme pořadí r i + H L absolutní hodnoty x i * čísla x i v posloupnosti * jako aritmetický průměr všech indexů j, pro něž x i * = x j *, zmenšený o počet indexů j, pro něž x i = 0, a položme S + H L = r + i H L, S - H L = r + i H L. x i >0 x i <0 Označíme-li ještě ǹ počet indexů i, pro které x i 0, pak se snadno ověří, že S + H L + S - H L = ǹhǹ + Lê. Jeli =HX,..., X m L náhodný výběr, pak náhodná veličina S + = SH L je tzv. Wilcoxonova jednovýběrová statistika (Wilcoxon signed rank statistic) Věta. Nechť =HX,..., X n L je náhodný výběr ze základního soubor X se spojitou distribuční funkcí F, jehož rozdělení pravděpodobnosti je symetrické kolem 0. Potom ES + = ES - = ÅÅÅÅÅ 4 nhn + L, var S+ = var S - = ÅÅÅÅÅÅÅ 4 nhn + L H n + L Kritické hodnoty pro Wilcoxonovův jednovýběrový test. Pro každé celé číslo k z intervalu X0, nhn + Lê\ nechť W+ HkL je počet permutací =Hx, x..., x n L množiny 8,,..., n<, kde x < x <... < x m, x m+ < x m+ <... < x n pro některé m œx0, n\ a x x m = k, a nechť f W + HkL = W+ HkL -n pro k œ80,,..., nhn + Lê<, f W + HxL = 0 pro x 80,,..., nhn + Lê<, F + W HxL = f + W HkL pro všechna x œ. k x Snadno je vidět, že pro každou permutaci =Hx,..., x n L množiny 8,,..., n<, kde x < x <... < x m, x m+ < x m+ <... < x n, platí implikace Odtud vyplývají postupně identity je celá část čísla x. m Hy,..., y n L =Hx m+,..., x n, x,..., x m L ï i= n-m x i + i= y i = ÅÅÅÅÅ nhn + L. W+ HkL = W+ HnHn + Lê - kl, W+ J ÅÅÅÅÅ 4 nhn + L - kn = W + J ÅÅÅÅÅ nhn + L + kn, 4 f + W HkL = f + W HnHn + Lê - kl, f + W J ÅÅÅÅÅ 4 nhn + L - kn = f W + J ÅÅÅÅÅ nhn + Lê + kn, 4 F + W HxL = - F + W HnHn + Lê -@xd - L, Dolní a horní kritické hodnoty Wilcoxonovy jednovýběrové statistiky jsou definovány vztahy Z vlastností funkce F W + snadno vyplývá identita k W, Hn, al = k ó F W + HkL a Ï F W + Hk + L > a, k W, Hn, al = k + ó F W + HkL - a Ï F W + Hk - L < - a. k W, Hn, al = ÅÅÅÅÅ nhn + L - k W,Hn, al. Kritické hodnoty Whitneyovy jednovýběrové statistiky jsou definovány pro 0 < a < ê vztahem V literatuře bývají tyto kritické hodnoty označovány w a HnL. k W Hn, al = k W, Hn, aêl.

5 Nonparametric Tests.nb Věta. Nechť =HX,..., X m L je náhodný výběr ze základního souboru X se spojitou distribuční funkcí F. Jestliže rozdělení pravděpodobnosti základního souboru je symetrické kolem 0, tj. FH-xL = - FHxL pro všechna x œ, potom P@S + H L = xd = f + W HxL, P@S + H L xd = F + W HxL, P@S + H L xd a ó x k W, Hn, al, P@S + H L xd a ó x k W, Hn, al, P@min 8S + H L, S - H L< xd a ó x k W Hn, al Wilcoxonův jednovýběrový test. Nechť =Hx,..., x n L je realizace náhodného výběru ze základního soubor X se spojitou distribuční funkcí F, jehož rozdělení pravděpodobnosti je symetrické kolem mediánu m è, nechť c =Hx - c,..., x n - cl a nechť ǹ je počet nenulových členů posloupnosti c. I. H 0 :m é = c, H :m é π c. Hypotézu H 0 : m è = c zamítneme na hladině významnosti a ve prospěch alternativy, jestliže min 8S + H c L, S - H c L< = min 8S + H c L, ǹ Hǹ + Lê - S + H c L< k W Hǹ, al. II. H 0 :m é = c, H :m é > c. Hypotézu H 0 zamítneme na hladině významnosti a ve prospěch alternativy, jestliže platí jedna z následujících dvou ekvivalentních nerovností S + H c L k W, Hǹ, al = ǹhǹ + Lê - k W Hǹ, al, S - H c L k W, Hǹ, al = k W Hǹ, al. III. H 0 :m é = c, H :m é < c. Hypotézu H 0 zamítneme na hladině významnosti a ve prospěch alternativy, jestliže platí jedna z následujících dvou ekvivalentních nerovností S + H c L k W, Hǹ, al, S - H c L k W, Hǹ, al = ǹhǹ + Lê - k W Hǹ, al Asymptotická varianta Wilcoxonova jednovýběrového testu. Kritické hodnoty Wilcoxonova jednovýběrového testu lze ve většině statistických tabulek najít pro nepříliš velké hodnoty n od 4 do přibližně 30. Není-li potřebná kritická hodnota k W Hn, al dostupná, můžeme pro n > 0 použít statistiku R W = R W H c L = S+ H c L - ES + H c L ÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅ è!!!!!!!!!!!!!!!!!!!!!!! ÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅ = S+ H c L - ÅÅÅÅ ǹhǹ + L 4 ÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅ var S + H c L "############################################ ÅÅÅÅÅ ǹhǹ + L H ǹ + L která má pro n Ø asymptoticky normované normální rozdělení. Na hladině významnosti blížící se a pak hypotézu H 0 : m è = c zamítneme ve prospěch alternativy H : m è c, bude-li platit nerovnost»r W» u -aê, kde u b je jako obvykle b-kvantil normovaného normálního rozdělení, a hypotézu H 0 : m è = c zamítneme ve prospěch alternativy H : m è > c resp. H : m è < c, bude-li platit nerovnost R W u -aê resp. R W -u -aê Příklad - pokračování příkladu 3.7. Otestujme hypotézu H 0 : m è = c pro c = 60 znovu pomocí Wilcoxonova testu. Protože x i y i = x i - c * y i r i , S + H L = r + 5 H L + r + 7 H L = + 5 = 7, S - H L = 55-7 = 48, min 8S + H L, S - H L< = 7, w 0.05 H0L = 8, hypotézu H 0, podle níž v lidské populaci polovina osob délku jedné minuty podhodnotí a polovina tuto délku nadhodnotí, na hladině významnosti a = 0.05 zamítneme. Protože

6 6 Nonparametric Tests.nb ES + = 7.5, var S + = 96.5, R W = R W H c L = -.09, u =.95996, hypotézu H 0 zamítá na dané hladině významnost i test zakládající se na statistice R W Příklad - pokračování příkladu 3.8. Podívejme se, co říká o hypotéze m è Z = 0 Wilcoxonův test. Protože z tabulky z i * z i r i , v níž jsou zapsány všechny potřebné hodnoty, plyne S + H L = r + 3 H L + r + 5 H L = = 6.5, S - H L = =.5, min 8S + H L, S - H L< = 6.5, w 0.05 H7L =, hypotézu m è Z = 0 nelze na hladině významnosti a = 0.05 zamítnout. Protože ES + = 4, var S + = 35, R W = R W H 0 L = -.68, u =.95996, hypotézu m è Z = 0 nezamítá na dané hladině významnost ani test zakládající se na statistice R W, který je však vzhledem k malé hodnotě redukovaného rozsahu ǹ velmi hrubý. 5. Mannův-Whitneyův test 5.. Tento test, který je v literatuře často uváděn jako Wilcoxonův dvouvýběrový test, je obdobou testu rovnosti středních hodnot dvou nezávislých náhodných výběrů z normálních rozdělení se stejným rozptylem, testuje však silnější hypotézu, že dva základní soubory X, Y se spojitými distribučními funkcemi F, G mají stejné rozdělení pravděpodobnosti, tj. hypotézu H 0 : F = G. Víme-li, že G má stejný tvar jako F, tj. že pro některé m a všechna x platí rovnost GHxL = FHx - ml, můžeme pomocí tohoto testu testovat také hypotézu H 0 : m = m 0 proti jedné z alternativ H : m m 0, H : m > m 0, H : m < m Mannova-Whitneyova statistika. Pro každé dvě posloupnosti =Hx,..., x m L, =Hy,..., y n L reálných čísel položme m UH, L = i= n HHy j - x i L, j= kde H je funkce nabývající hodnoty 0 na intervalu H-, 0L, hodnoty ê v bodě 0 a hodnoty na intervalu H0, + L. Snadno se ověří, že UH, L závisí pouze na množinách 8x,..., x m <, 8y,..., y n < a UH, L + UH, L = mn, UH, L = ÅÅÅÅÅ mn - k ó UH, L = ÅÅÅÅÅ mn + k. Jsou-li =HX,..., X m L a =HY,..., Y n L náhodné výběry, pak náhodná veličina U = UH, L je tzv. Mannova- Whitneyova statistika Věta. Nechť =HX,..., X m L a =HY,..., Y n L jsou nezávislé náhodné výběry ze základních souborů X a Y se spojitými distribučními funkcemi F resp. G. Jestliže F = G, potom EU = ÅÅÅÅÅ mn, var U = ÅÅÅÅÅÅÅ mnhm + n + L Kritické hodnoty pro Mannovův-Whitneyův test. Pro každé celé číslo k z intervalu X0, m n\ nechť MW HkL je počet permutací H, L =Hx,..., x m, y,..., y n L množiny 8,,..., m + n<, kde a jsou rostoucí posloupnosti a UH, L = k, a nechť

7 Nonparametric Tests.nb 7 f MW HkL = MW HkL i j m + n y z k m { - pro k œ80,,..., mn<, f MW HxL = 0 pro x 8,,... mn<, F MW HxL = f MW HkL pro všechna x œ. k x Snadno je vidět, že pro posloupnosti - = m + n + -Hx m,..., x L a - = m + n + -Hy n,..., y L platí rovnost UH -, - L = UH, L. Odtud a z výše uvedeného vztahu mezi UH, L a UH, L vyplývají postupně identity je celá část čísla x. MW HkL = MW Hmn - kl, MW J ÅÅÅÅÅ mn - kn = MW J ÅÅÅÅÅ mn + kn, f MW HkL = f MW Hmn - kl, f MW J ÅÅÅÅÅ mn - kn = f MW J ÅÅÅÅÅ mn + kn, F MW HxL = - F MW Hmn -@xd - L, Dolní a horní kritické hodnoty Mannovy-Whitneyovy statistiky jsou definovány vztahy Z vlastností funkce F MW snadno vyplývá identita k MW, Hm, n, al = k ó F MW HkL a fl F MW Hk + L > a, k MW, Hm, n, al = k + ó F MW HkL - a fl F MW Hk - L < - a. k MW, Hm, n, al = mn - k MW, Hm, n, al. Kritické hodnoty Mannovy-Whitneyovy statistiky jsou definovány pro 0 < a < ê vztahem k MW Hm, n, al = k MW, Hm, n, aêl Poznámka. Kritické hodnoty k MW Hm, n, al se zpravidla označují W a Hm, nl a jsou známy spíše jako kritické hodnoty pro Wilcoxonův test. Stejný název se ale používá i pro kritické hodnoty k W Hm, n, al definované v odstavci 6.5 a značené např. w a Hm, nl, které jsou o mhm + Lê větší Věta. Nechť =HX,..., X m L a =HY,..., Y n L jsou nezávislé náhodné výběry ze základních souborů X a Y se spojitými distribučními funkcemi F resp. G. Jestliže F = G, potom pro každé reálné x P@UH, L = xd = f MW HxL, P@UH, L xd = F MW HxL, P@UH, L xd a ó x k MW, Hm, n, al, P@UH, L xd a ó x k MW, Hm, n, al, P@min 8UH, L, UH, L< xd a ó x k MW Hm, n, al. 5.7.Mannův-Whitneyův test. Nechť =HX,..., X m L a =HY,..., Y n L jsou nezávislé náhodné výběry ze základních souborů X a Y se spojitými distribučními funkcemi F resp. G a nechť, jsou jejich realizace. I. H 0 : F = G, H : F π G. Hypotézu H 0 : F = G zamítneme na hladině významnosti a ve prospěch alternativy, jestliže min 8UH, L, UH, L< = min 8UH, L, mn - UH, L< k MW Hm, n, al. II. Předpokládejme nyní, že F a G mají stejný tvar, tj. že pro některé m a všechna x platí rovnost GHxL = FHx-mL, takže za platnosti hypotézy H 0 : m = m 0 má Y 0 = Y - m 0 stejné rozdělení jako X a 0 = - m 0 je realizace náhodného výběru 0 = - m 0 =HY - m 0,..., Y n - m 0 L z 0. To nám dovoluje testovat H 0 proti každé ze tří možných alternativ. (a) H 0 :m=m 0, H :mπ m 0. Hypotézu H 0 zamítneme na hladině významnosti a ve prospěch alternativy, jestliže min 8UH, 0 L, UH 0, L< = min 8UH, 0 L, mn - UH, 0 L< k MW Hm, n, al.

8 8 Nonparametric Tests.nb (b) H 0 :m=m 0, H :m> m 0. Hypotézu H 0 zamítneme na hladině významnosti a ve prospěch alternativy, jestliže platí jedna z následujících dvou ekvivalentních nerovností UH, 0 L k MW, Hm, n, al = mn - k MW Hm, n, al, UH 0, L k MW Hm, n, al. (c) H 0 :m=m 0, H :m < m 0. Hypotézu H 0 zamítneme na hladině významnosti a ve prospěch alternativy, jestliže platí jedna z následujících dvou ekvivalentních nerovností UH, 0 L k MW, Hm, n, al, UH 0, L k MW, Hm, n, al = mn - k MW Hm, n, al Asymptotická varianta Mannova-Whitneyova testu. Kritické hodnoty Mannovy-Whitneyovy statistiky lze ve většině statistických tabulek najít pro nepříliš velké hodnoty m, n od 4 do přibližně 30. Není-li potřebná kritická hodnota k MW Hm, n, al dostupná, můžeme pro m > 0, n > 0 použít statistiku UH, L - EUH, L UH, L - ÅÅÅÅ R MW = R MW H, L = ÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅ è!!!!!!!!!!!!!!!!!!!!!!!!!! ÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅ Å = ÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅ mn è!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! ÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅ var UH, L mnhm + n + Lê = UH, L - mn ÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅ è!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! ÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅ mnhm + n + Lê3, která má pro m Ø, n Ø asymptoticky normované normální rozdělení. Na hladině významnosti blížící se a pak hypotézu H 0 : F = G zamítneme ve prospěch alternativy H : F G, bude-li platit nerovnost»r MW» u -aê, kde u b je jako obvykle b-kvantil normovaného normálního rozdělení, a hypotézu H 0 : m = m 0 zamítneme za předpokladu, že F a G mají stejný tvar, ve prospěch alternativy H : m m 0 resp. H : m > m 0 resp. H : m < m 0, bude-li platit nerovnost» R MW» u -aê resp. R MW u -aê resp. R MW -u -aê Příklad-pokračování příkladů 3.8 a 4.9. Na rozdíl od příkladů 3.8 a 4.9 nyní předpokládejme, že průměrná spotřeba před úmrtími byla zjišťována tak jako v těchto příkladech u 8 vybraných obyvatel, po úmrtích však již tito lidé v městečku nežili resp. nebylo z různých důvodů možné jejich spotřebu alkoholu zjistit, a proto byla zjištěna spotřeba alkoholu u jiných náhodně vybráných obyvatel. Máme tedy realizace, dvou nezávislých náhodných výběrů - z rozdělení spotřeby alkoholu před úmrtími a z rozdělení alkoholu po úmrtích: Osoba Před úmrtími Po úmrtích Hypotézu, že úmrtí spotřebu alkoholu v městečku neovlivnila, můžeme zřejmě interpretovat jako hypotézu H 0 o rovnosti obou rozdělení. Použijeme-li k jejímu ověření Mannův-Whitneyův test, zapíšeme hodnoty HHy j - x i L přehledně do tabulky x i \ y j ê ê a z ní postupně vypočteme UH, L = 9, UH, L = 69, min 8UH, L, UH, L< = 9. Protože k MW H8, 0, 0.05L = 9, náhodné výběry leží v kritickém oboru testu, a proto nulovou hypotézu, tj. že spotřeba alkoholu po úmrtích je mezi obyvateli městečka rozložena stejně jako před úmrtími, na hladině významnosti 0.05 zamítáme. Protože

9 Nonparametric Tests.nb R MW = R MW H, L = ÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅ è!!!!!!!!!!!!!!!!!!!!!!!! ÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅ 88 µ 0ê = , u =.95996, nulovou hypotézu zamítá i asymptotická varianta Mannova-Whitneyova testu. 6. Wilcoxonův dvouvýběrový test 6.. Tento test, v anglosaské literatuře známý jako Wilcoxon rank-sum test, je zcela rovnocenný Mannovu-Whitneyovu testu, a proto jím lze testovat stejné hypotézy jako Mannovým-Whitneyovým testem. Rovnocennost obou testů je důsledkem jednoduchého vztahu mezi statistikami, na nichž se tyto testy zakládají, a totiž, že Wilcoxonovy statistiky se od Mannových-Whitneyových liší o konstanty závislé pouze na rozsazích náhodných výběrů, z nichž jsou konstruovány. 6.. Wilcoxonova dvouvýběrová statistika. Pro každé dvě posloupnosti =Hx,..., x m L, =Hy,..., y n L reálných čísel položme =Hz,... z m+n L =Hx,..., x m, y,..., y n L, uspořádejme čísla z i do neklesající posloupnosti * =Hz * *,..., z m+n L, definujme tzv. sdružené pořadí r i H, L čísla z i v této posloupnosti jako aritmetický průměr všech indexů j, pro něž z * * i = z j, a položme m SH, L = r i H, L. i= Snadno se ověří, že SH, L závisí pouze na množinách 8x,..., x m <, 8y,..., y n < a SH, L + SH, L = ÅÅÅÅÅ Hm + nl Hm + n + L. Jsou-li =HX,..., X m L a =HY,..., Y n L náhodné výběry, pak náhodná veličina S = SH, L je tzv. Wilcoxonova dvouvýběrová statistika (Wilcoxon rank-sum statistic). Následující věta uvádí do souvislosti Mannovu-Whitneyovu a Wilcoxonovu dvouvýběrovou statistiku. S její pomocí lze snadno pro každý výrok o Mannově-Whitneyově statistice vyslovit ekvivalentní výrok o Wilcoxonově dvouvýběrové statistice Věta. Pro každé dvě posloupnosti =Hx,..., x m L, =Hy,..., y n L SH, L = mn + ÅÅÅÅÅ mhm + L - UH, L = ÅÅÅÅÅ mhm + L + UH, L Věta. Nechť =HX,..., X m L a =HY,..., Y n L jsou nezávislé náhodné výběry ze základních souborů X a Y se spojitými distribučními funkcemi F resp. G. Jestliže F = G, potom ES = ÅÅÅÅÅ mhm +n + L, var S = ÅÅÅÅÅÅÅÅ mnhm + n + L Kritické hodnoty pro Wilcoxonův dvouvýběrový test. Pro každé celé číslo k z intervalu XmHm + Lê, mhm + Lê + mn\ nechť WHkL je počet permutací H, L =Hx,..., x m, y,..., y n L množiny 8,,..., m + n<, kde a jsou rostoucí posloupnosti a SH, L = k, a nechť f W HkL = WHkL i j m + n y z k m { - pro k œz ÅÅÅÅÅ mhm + L, ÅÅÅÅÅ f W HxL = 0 pro ostatní x, F W HxL = f W HkL pro všechna x œ. k x mhm + L + mn^, Z vlastností statistik UH, L, SH, L a vztahů mezi nimi snadno vyplývají následující identity

10 0 Nonparametric Tests.nb je celá část čísla x. WHkL = WHmHm + n + L - kl, WHkL = MW Jk - ÅÅÅÅÅ m Hm + LN, WJ m ÅÅÅÅÅ Hm + n + L - kn = WJ ÅÅÅÅÅ m Hm + n + L + kn, mhm + L f W HxL = f MW Jx - ÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅ N, f W HxL = f W HmHm + n + L - xl, f W J ÅÅÅÅÅ m Hm + n + L - xn = f WJ ÅÅÅÅÅ m Hm + n + L + xn, mhm + L F W HxL = F MW Jx - ÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅN, F W HxL = - F W HmHm + n + L -@xd - L, Dolní a horní kritické hodnoty Wilcoxonových statistik jsou definovány vztahy k W, Hm, n, al = k ó F W HkL a fl F W Hk + L > a, k W, Hm, n, al = k + ó F W HkL - a fl F W Hk - L < - a. Z vlastností funkcí F MW, F W a vztahu mezi nimi snadno vyplývají identity k W, Hm, n, al = k MW, Hm, n, al + ÅÅÅÅÅ m Hm + L, k W, Hm, n, al = k MW, Hm, n, al + ÅÅÅÅÅ m Hm + L, k W,Hm, n, al = mhm + n + L - k W, Hm, n, al. Kritické hodnoty Wilcoxonovy statistiky jsou definovány pro 0 < a < ê vztahem k W Hm, n, al = k W, Hm, n, aêl. V literatuře jsou kritické hodnoty k W Hm, n, al označovány w a Hm, nl i jinak Věta. Nechť =HX,..., X m L a =HY,..., Y n L jsou nezávislé náhodné výběry ze základních souborů X a Y se spojitými distribučními funkcemi F resp. G. Jestliže F = G, potom pro každé reálné x P@SH, L = xd = f W HxL, P@SH, L xd = F W HxL, P@SH, L xd a ó x k W, Hm, n, al, P@SH, L xd a ó x k W, Hm, n, al, P@min 8SH, L, mhm + n + L - SH, L< xd a ó x k W Hm, n, al. 6.7.Wilcoxonův test. Nechť =HX,..., X m L a =HY,..., Y n L jsou nezávislé náhodné výběry ze základních souborů X a Y se spojitými distribučními funkcemi F resp. G a nechť, jsou jejich realizace. I. H 0 : F = G, H : F π G. Hypotézu H 0 : F = G zamítneme na hladině významnosti a ve prospěch alternativy, jestliže min 8SH, L, m Hm + n + L - SH, L< k W Hm, n, al. II. Předpokládejme nyní, že F a G mají stejný tvar, tj. že pro některé m a všechna x platí rovnost GHxL = FHx-mL, takže za platnosti hypotézy H 0 : m = m 0 má Y 0 = Y - m 0 stejné rozdělení jako X a 0 = - m 0 je realizace náhodného výběru 0 = - m 0 =HY - m 0,..., Y n - m 0 L z 0. To nám dovoluje testovat H 0 proti každé ze tří možných alternativ. (a) H 0 :m=m 0, H :mπ m 0. Hypotézu H 0 zamítneme na hladině významnosti a ve prospěch alternativy, jestliže min 8SH, 0 L, mhm + n + L - SH, 0 L< k W Hm, n, al. (b) H 0 :m=m 0, H :m> m 0. Hypotézu H 0 zamítneme na hladině významnosti a ve prospěch alternativy, jestliže

11 Nonparametric Tests.nb SH, 0 L k W, Hm, n, al = k W Hm, n, al (c) H 0 :m=m 0, H :m < m 0. Hypotézu H 0 zamítneme na hladině významnosti a ve prospěch alternativy, jestliže SH, 0 L k W, Hm, n, al = mhm +n + L - k W Hm, n, al Asymptotická varianta Wilcoxonova testu. Kritické hodnoty Wilcoxonovy statistiky lze ve většině statistických tabulek najít pro nepříliš velké hodnoty m, n od 4 do přibližně 30. Není-li potřebná kritická hodnota k W Hm, n, al dostupná, můžeme pro m > 0, n > 0 použít statistiku R W = R W H, L = SH, L - ESH, L SH, L - ÅÅÅÅ mhm + n + L SH, L - mhm + n + L = ÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅ è!!!!!!!!!!!!!!!!!!!!!!!!! ÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅ = ÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅ è!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! ÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅ = ÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅ è!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!!! ÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅ, var SH, L mnhm + n + Lê mnhm + n + Lê3 která má pro m Ø, n Ø asymptoticky normované normální rozdělení. Protože, jak se snadno ověří, R W = R W H, L = R MW H, L = -R MW H, L, testy, založené na asymptotickém rozdělení statistiky R MW mají zřejmé ekvivalenty založené na statistice R W. Na hladině významnosti blížící se a tedy hypotézu H 0 : F = G zamítneme ve prospěch alternativy H : F G, bude-li platit nerovnost»r W» u -aê, kde u b je jako obvykle b-kvantil normovaného normálního rozdělení, a hypotézu H 0 : m = m 0 zamítneme za předpokladu, že F a G mají stejný tvar, ve prospěch alternativy H : m m 0 resp. H : m > m 0 resp. H : m < m 0, bude-li platit nerovnost»r W» u -aê resp. R W -u -aê resp. R W -u -aê Příklad-pokračování příkladů 3.8, 4.9 a 5.9. Chceme-li místo Mannova-Whitneyova testu použít Wilcoxonův test, zapíšeme přehledně výchozí data, neklesající posloupnost těchto dat * a pořadí výchozích dat v v posloupnosti * do tabulky x x x 3 x 4 x 5 x 6 x 7 x 8 y y y 3 y 4 y 5 y 6 y 7 y 8 y 9 y 0 y z i z i * r i , a z ní snadno vypočteme SH, L = 05.0, mhm + n + L - SH, L = = 55. Protože k W H8, L = 55, náhodné výběry leží v kritickém oboru testu a proto nulovou hypotézu, podle níž je spotřeba alkoholu mezi obyvateli městečka rozložena po úmrtích stejně jako před úmrtími, na hladině významnosti 0.05 zamítáme. Protože R W = R W H, L = ÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅ è!!!!!!!!!!!!!!!!!!!!!!!! ÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅ 88 µ 0ê =.0643, u = nulovou hypotézu zamítá i asymptotická varianta Wilcoxonova testu. 6. Spearmanův korelační koeficient a test nezávislosti 7.. Testování nezávislosti pomocí výběrového korelačního koeficientu náhodných veličin X, Y je vázáno na předpoklad normality rozdělení náhodného vektoru HX, YL. Dost často se však stává, že tento předpoklad je porušen. Někdy ani není možné hodnoty veličin v náhodném výběru HX, Y L,..., HX n, Y n L přesně stanovit a je známo jenom jejich pořadí. Jsou-li si však pořadí veličin X i a veličin Y i hodně podobná, lze nepochybně očekávat, že mezi X a Y existuje jistá závislost. 7.. Definice Spearmanova korelačního koeficientu. Pro každý vektor =Hx,..., x n L seřaďme čísla x,..., x n do neklesající posloupnosti * =Hx *,..., x n * L a pro každé i =,,..., n definujme pořadí r i H L čísla x i v posloupnosti * jako aritmetický průměr všech indexů j, pro něž x i * = x j *.

12 Nonparametric Tests.nb Předpokládejme nyní, že HX, Y L,..., HX n, Y n L je náhodný výběr ze základního souboru HX, YL se spojitým rozdělením a položme =HX,..., X n L, R i = r i H L, R =HR,..., R n L, =HY,..., Y n L, Q i = r i H L, Q =HQ,..., Q n L Spearmanův korelační koeficient je definován jako výběrový korelační koeficient výběrů R a Q formulí n i= R i Q i - n R Q 6 r S = r S H, L = ÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅ ÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅ = - ÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅ nhn $%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%%% n J i= R i - nr n N J i= Q i - n Q - L HR i - Q i L. i= N n kde R = Q =Hn + Lê jsou výběrové průměry výběrů R a Q Věta. Jsou-li veličiny X, Y nezávislé, potom Er S = 0, var r S = ÅÅÅÅÅÅÅÅÅÅÅÅÅÅ n - a veličina r S è!!!!!!!!!!! n - má asymptoticky normované normální rozdělení Spearmanův test nezávislosti. Hypotézu, že veličiny X a Y jsou nezávislé, zamítneme na hladině významnosti a na základě realizace r S = r S H, L Spearmanova koeficientu, platí-li nerovnost»r S» r S Hn, al, kde r S Hn, al je kritická hodnota Spearmanova korelačního koeficientu, kterou najdeme ve statistických tabulkách. V případě n > 30 lze využít asymptotickou normalitu veličiny r è!!!!!!!!!!! S n - a hypotézu nezávislosti zamítnout, platí.li nerovnost»r S» u * S Hn, al, kde u * S Hn, al = u -aê ÅÅÅÅÅÅÅÅÅÅÅÅÅÅ è!!!!!!!!!!! a u b je jako obvykle b-kvantil normovaného normálního rozdělení. n- Má-li základní soubor HX, YL regulární normální rozdělení s korelačním koeficientem, pak se dá dokázat, že Er S = 6 ÅÅÅÅÅ p n - ÅÅÅÅÅÅÅÅÅÅÅÅÅÅ n + arcsin ÅÅÅÅÅ + 6 ÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅ phn + L arcsin. S rostoucím n se druhý člen na pravé straně blíží k nule a přitom výběrový korelační koeficient r = rh, L konverguje skoro jistě k. Dostaneme tak přibližnou rovnost ru sinj p ÅÅÅÅÅ 6 r SN. Pokud se v datech, z nichž je koeficient r S počítán, vyskytuje mnoho shod, tj. stejně velkých pozorování, doporučuje se použít korigovaný Spearmanův koeficient. Ten je definován vzorci r S,korig = - 6 n i= HR i - Q i L ÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅ Å, T n 3 x = ÅÅÅÅÅ - n - T x - T y Ht x 3 - t x L, T y = ÅÅÅÅÅ Ht 3 y - t y L, kde t x resp. t y označuje počty stejně velkých x-ových resp. y-ových hodnot Příklad. Na základě údajů v tabulce Země Spotřeba alkoholu Úmrtnost Země Spotřeba alkoholu Úmrtnost Finsko Belgie Norsko Rakousko Irsko NSR Holandsko Itálie Švédsko Francie Anglie a Wales ,

13 Nonparametric Tests.nb 3 převzatých z publikace J.F. Osborn, Statistical Exercises in Medical Rexearch, Blackwell Scientific Publications, 979, Oxford, rozhodněte na hladině významnosti a = 5 %, zda spotřeba alkoholu a úmrtnost na cirhózu jater a alkoholismus (což je počet zemřelých s touto diagnózou na obyvatel) jsou nezávislé veličiny. Řešení. Pro n = a postupně vypočteme =H3.9, 4., 5.6, 5.7, 6.6, 7., 0.8, 0.9,.3, 5, 7, 4.7L, =H3.6, 4.3, 3.4, 3.7, 7., 3.0,.3, 7.0, 3.7, 3.6, 46.L R =H,, 3, 4, 5, 6, 7, 8, 9, 0, L, Q =H3, 5,, 4, 7,, 8, 6, 0, 9, <, R - Q =H-, -3,, 0, -, 5, -,, -,, 0L, HR - QL T.HR - QL =H4, 9,, 0, 4, 5,, 4,,, 0L, HR - QL.HR - QL = HR i - Q i L = 50, 6 r S = - ÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅ nhn - L i= n n i= HR i - Q i L = 7 ÅÅÅÅÅÅÅÅ U a v tabulkách najdeme kritickou hodnotu r S H, 0.05L = Protože tato kritická hodnota je menší než»r S», hypotézu o nezávislosti spotřeby alkoholu a úmrtnosti na cirhózu jater a alkoholismus na hladině významnosti 5 % zamítáme. Tuto hypotézu bychom zamítli i při použití přibližné kritické hodnoty u S * H, 0.05L, neboť u * S H, 0.05L = u ÅÅÅÅÅÅÅÅÅÅÅÅÅÅÅ è!!!!!! 0 U Anděl Jiří, Statistické metody, 3. vyd., Matfyzpress, Praha, Jaroš František a kolektiv, Pravděpodobnost a statistika, VŠCHT, Praha, Montgomery Douglas C., Runger George C. Applied Statistics and Probability for Engineers, John Wiley & Sons, 003