Náhodné veličiny, náhodné chyby

Transkript

1 Náhodné veličiny, náhodné chyby Máme náhodnou veličinu X, jejíž vlastnosti zkoumáme. Pokud známe její rozložení (např. z nějaké dřívější studie) nebo alespoň předpokládáme znalost rozložení, můžeme ji popsat určitými parametry - charakteristikami populace. Pokud tyto parametry neznáme, můžeme získat jejich odhad na základě výpočtu nebo zjištění z výběrového souboru. Každý odhad je zatížen jistou neurčitostí - náhodnou chybou. Je zřejmé, že při každém novém výběru bude chyba jiná, protože budou vybrány jiné prvky z populace.

2 Náhodné chyby a systematické chyby Při měření nebo stanovení charakteristik výběru jsou obvykle hodnoty zkresleny nejen náhodnými chybami, ale i dalšími chybami způsobenými nehomogenitou souboru, jednostrannými chybami měření apod. Tyto nežádoucí jevy nazýváme systematické chyby a snažíme se je eliminovat. Matematická statistika ale naopak počítá s náhodnými chybami - nejedná se vlastně o chyby, mluvíme spíše o náhodné složce, která může být ovlivněna: biologickou variabilitou nepřesností určení nebo měření veličiny nepřesností modelu

3 Náhodné chyby a rozsah souboru Kvalita odhadu je dána variabilitou náhodné veličiny rozsahem výběru Pokud konstruujeme odhady charakteristik populace, můžeme tedy náhodnou chybu zmenšit pouze zvětšením výběru. Variabilitu náhodné veličiny ovlivnit nemůžeme.

4 Parametry populace a náhodný výběr Protože výběr z populace je náhodný, jsou i hodnoty parametrů náhodné veličiny. Můžeme tedy považovat i parametry populace (například výběrový průměr nebo výběrový rozptyl) za náhodnou veličinu s určitým rozložením. Mluvíme-li ve statistice o testování veličin, považujeme za testovaný objekt populaci reprezentovanou výběrovým souborem (resp., více výběrovými soubory). TESTOVÁNÍ VELIČINY je zkoumání nějaké vlastnosti u této populace.

5 Úvod do statistického testování hypotéz HYPOTÉZA je domněnka (tvrzení) o statistickém souboru TESTOVÁNÍ HYPOTÉZ je způsob ověřování domněnek o typu rozdělení statistického souboru o parametrech rozdělení - charakteristikách souboru (μ, σ 2, σ, λ) o shodě dvou a více rozdělení o shodě parametrů rozdělení vždy proti sobě stojí dvě doměnky (tvrzení): nulová hypotéza (domněnka, kterou testujeme) alternativní hypotéza (domněnka, kterou přijímáme, pokud zamítneme nulovou hypotézu)

6 Nulová a alternativní hypotéza Nulová hypotéza je obvykle tvrzení, které po matematické stránce vyjadřuje rovnost, ekvivalenci, nulový rozdíl, nezávislost. Značíme H 0 Jejím zamítnutím potvrzujeme platnost alternativní hypotézy, obvykle tvrzení, které chceme prokázat. Zamítnutí H 0 má většinou vážnější důsledky. Alternativní hypotéza je obvykle tvrzení, které se zdá na první pohled evidentní a chceme ho prokázat. Říká, že existuje rozdíl mezi výběrovými soubory, např. závislost na zkoumaných faktorech. Značíme H A nebo H 1 Její zamítnutí nemá většinou tak vážné důsledky. Která hypotéza je nulová a která alternativní je pouze věcí dohody, kterou však budeme respektovat.

7 Nulová a alternativní hypotéza - příklady: Tvrzení, které chceme obvykle prokázat mohou znít např.: Lék A má větší léčebný efekt než lék B. Chlapci dosahují kratších časů v plavání než dívky. "Výsledky dotazníkového šetření závisí na věku respondentů. Opačná tvrzení - nulové hypotézy k alternativním, zní: Léky A a B mají stejný léčebný efekt." Chlapci dosahují stejných časů v plavání jako dívky." "Výsledky dotazníkového šetření nezávisí na věku respondentů. Pokud chceme dokázat H A, potřebujeme zamítnout H 0

8 Nulová a alternativní hypotéza Věcné hypotézy představují nulovou a alternativní hypotézu podle popsaných konvencí. Vždy se jedná o dvě tvrzení, která stojí proti sobě (druhé neguje první). Za nulovou hypotézu budeme považovat domněnku (tvrzení), že mezi testovanými soubory neexistuje vztah (souvislost), že pozorované rozdíly jsou způsobeny jen náhodnými vlivy. Výsledkem je přijetí nebo zamítnutí NULOVÉ HYPOTÉZY jakožto nositele nulové změny, nulové závislosti.

9 Rozhodování ve statistických testech Základem statistických testů je rozhodnutí, zda rozdíl testovaných hodnot můžeme vysvětlit náhodným kolísáním (platí nulová hypotéza), nebo jej považujeme za systematický (platí alternativní hypotéza). Pokud lze rozdíl vysvětlit náhodným kolísáním, nemůžeme zamítnout nulovou hypotézu. V opačném případě - rozdíl není způsobený náhodně, nýbrž má nějakou příčinu (tu právě chceme prokázat) - nulovou hypotézu zamítáme a Alternativní hypotézu považujeme za platnou. Rozhodování ve statistických testech má vždy charakter pravděpodobnostní nikdy si nejsme svým rozhodnutím zcela jisti.

10 Očekávané (hypotetické) rozdělení hodnot Pokud zkoumáme dva nebo víc výběrových souborů, porovnáváme (testujeme) obvykle jejich charakteristiky, které vypočteme z naměřených (pozorovaných) hodnot. Nulovou hypotézou bychom nazvali tvrzení, že: - charakteristiky výběrových souborů se neliší Někdy porovnáváme pouze jeden výběrový soubor s očekávaným rozdělením četností a testujeme, zda se rozdělení hodnot výběrového souboru řídí tímto očekávaným (hypotetickým) rozdělením hodnot. Nulovou hypotézou bychom nazvali tvrzení, že: - výběrový soubor se řídí očekávaným rozdělením hodnot.

11 Testování hypotéz TEST HYPOTÉZY je postup, kterým ověřujeme, zda statistickou hypotézu lze pokládat za správnou. Pokud se rozložení hodnot testované veličiny řídí očekávaným, hypotetickým rozdělením hodnot, znamená to, že od námi předpokládaného teoretického rozdělení se zkoumané hodnoty odlišují jen díky náhodným vlivům - náhodě, kterou umíme statisticky zdůvodnit, platí H 0 pozorované hodnoty jsou velmi blízké očekávaným (hypotetickým) hodnotám. V opačném případě platí H A pozorované hodnoty se příliš liší od očekávaných - neumíme vysvětlit pouhou náhodou

12 Příklad pro schematické vysvětlení statistických testů Budeme-li házet hrací kostkou, budeme očekávat čísla od 1 do 6. Pokud se nám mezi hrací kostky připlete jiná kostka, která bude mít čísla 6, 7, 8, 9, 10, 11 a padne na ní číslo 6, nepoznáme, že patří do jiného souboru. Když ale na ní padne číslo 7, 8, 9, 10 nebo 11, uvidíme na první pohled, že tato hodnota nepatří mezi očekávané. Statistické testy vyhodnotí statisticky výsledek našeho pokusu podobně: když se bude výsledek blížit očekávané hodnotě, nemůže zamítnout nulovou hypotézu. Když se bude výrazně odlišovat, statistický test prohlásí nulovou hypotézu za neplatnou. Pokud by nesprávné přijetí nulové hypotézy v příkladu s házením hrací kostkou mělo vážné důsledky, pro jistotu bychom ji museli zamítnout ve všech případech, kdy padla šestka, protože neumíme rozlišit, zda padla na kostce s hodnotami 1 6 nebo na kostce s hodnotami 6 11.

13 Chyba I. a II. druhu při testování hypotéz Při testování mohou nastat čtyři situace: I. H 0 zamítneme, ačkoliv platí II. H 0 přijmeme, ačkoliv neplatí III. H 0 přijmeme a platí IV. H 0 zamítneme a neplatí Výsledek testu H 0 platí Skutečnost H 0 neplatí H 0 zamítnuta Chyba I. druhu α IV. H 0 přijata III. Chyba II. druhu β

14 Hladina významnosti Snahou je volit test tak, aby pravděpodobnost chyby I. i II. druhu byla minimální. Bohužel jak si dále ukážeme, snížíme-li riziko chyby I. druhu, zvětší se riziko chyby II. druhu a naopak. Rozhodujeme se na základě zvážení důsledků obou chyb - tam, kde je důsledek chyby menší, můžeme zvolit riziko větší. Příklad: Lékař vyšetřuje pacienta, který si myslí, že trpí určitou chorobou. Na základě vyšetření se rozhoduje, zda mu předepíše léky (přijímá hypotézu, že pacient je nemocný) nebo ne (přijímá hypotézu, že pacient je simulant). Musí zvážit rizika, která s sebou nese rozhodnutí, že nemocnou osobu považuje za zdravou.

15 Hladina významnosti Obvykle mívá důsledek chyby I. druhu - zamítnutí nulové hypotézy, ačkoliv platí, horší následky. Proto se snažíme chybu I. druhu minimalizovat a její pravděpodobnost volíme velmi malou 0,05 (5%) nebo dokonce jen 0,01 (1%). Tato pravděpodobnost se nazývá hladina významnosti a značí se α. Je to riziko zamítnutí ověřované hypotézy. Opačnou chybu přijetí ověřované hypotézy, přestože neplatí, označujeme jako chybu II. druhu Tuto pravděpodobnost chyby II. druhu značíme β. Doplněk k β, tj. (1-β) - přijetí alternativní hypotézy, když platí, se nazývá síla testu.

16 Příklad statistického testu Sledujeme výšku postavy skupiny basketbalistů ve věku let. Chceme vědět, zda se jejich průměrná výška statisticky významně odlišuje od průměrné výšky mužské populace. Pro testování musíme: přijmout určité předpoklady - rozložení výšky se řídí normálním rozdělením stanovit hladinu významnosti (přijatelnou chybu statistického testu) Nulová hypotéza H 0 : průměrná výška sledované skupiny basketbalistů ve věku let se neodlišuje statisticky významně od průměrné výšky běžné mužské populace Alternativní hypotéza: průměrná výška sledované skupiny basketbalistů ve věku let je větší než průměrná výška běžné mužské populace

17 Testování hypotéz H 0 rozdělení výšky normální populace (to co ověřujeme) H 1 rozdělení výšky basketbalistů (to co chceme odlišit) H 0 H 1 Výsledek testu H 0 Skutečnost H 1 H0 zamítnuta chyba α H0 nezamítnuta platí H0 H0 zamítnuta platí H1 H0 nezamítnuta chyba β α chyba I. druhu zamítáme H0, ačkoliv platí β chyba II. druhu přijímáme H0, ačkoliv neplatí β α

18 Komentář k obrázku růžová plocha pod modrou křivkou představuje kritických 5% hodnot, tj. 5%-ní pravděpodobnost chyby I. druhu neboli hladinu významnosti α tuto hladinu významnosti volíme, může být např. i přísnější 1% modrá plocha pod červenou křivkou představuje chybu II. druhu a je to pravděpodobnost, že sice platí alternativní hypotéza H 1, ale my nejsme schopni prokázat významnou odchylku od testované hodnoty a nemůžeme zamítnout H 0. - zmenšit tuto pravděpodobnost, tj. chybu II. druhu aniž bychom zvětšili chybu I. druhu, můžeme jen zvětšením rozsahu výběru (viz následující obrázek) zvětšíme tím sílu testu, jinými slovy budeme schopní prokázat i menší odchylky od nulové hypotézy (na následujícím obrázku představuje posunutí šedé čáry z místa původní do nové hladiny významnosti α chyby 1. druhu).

19 H 0 testovaná hypotéza (to co ověřujeme) H 1 alternativní hypotéza (to co chceme odlišit) Výsledek testu H 0 Skutečnost H 1 H0 zamítnuta chyba α H0 nezamítnuta platí H0 H0 zamítnuta platí H1 H0 nezamítnuta chyba β zvětšením rozsahu výběru α chyba I. druhu zůstává stejná β chyba II. druhu se zmenšila β α

20 Výška mužů basketbalistů Dvouvýběrový t-test s rovností rozptylů Výška mužů výška basketbal Stř. hodnota 178,9 181, Rozptyl 13,88 9, Počet pozorování Hyp. rozdíl stř. hodnot 11, t Stat abs. hodnota P(T<=t) (1) t krit (1) jednostranný t. -1, P(T<=t) (2) 0, t krit (2) oboustranný t. 1,73

21 Výška mužů basketbalistů Dvouvýběrový t-test s rovností rozptylů Výška mužů výška basketbal Stř. hodnota 178,9 181, Rozptyl 13,88 9, Počet pozorování Hyp. rozdíl stř. hodnot 11, t Stat abs. hodnota P(T<=t) (1) t krit (1) jednostranný t. -1, P(T<=t) (2) 0, t krit (2) oboustranný t. 1, Výška mužů výška basketbal Stř. hodnota 179,2 181, Rozptyl 12,03 10, Počet pozorování Hyp. rozdíl stř. hodnot 11, t Stat abs. hodnota P(T<=t) (1) t krit (1) -2, P(T<=t) (2) 0, t krit (2) 1,69

22 Vyhodnocení výsledků t-testu z Excelové tabulky Jednostranný t-test pro H 0 výška basketbalistů není vyšší než průměrná výška populace pro H A výška basketbalistů je vyšší než průměrná výška populace porovnáním pravděpodobnosti a hladiny významnosti α vypočtenou hodnotu pravděpodobnosti P(T<=t) porovnáváme se zvolenou hladinou významnosti pro 10 měření je P=0,07 > α=0,05 proto H 0 nemůžeme zamítnout pro 20 měření je P=0,02 < α=0,05 proto H 0 zamítáme nebo ke stejnému závěru dojdeme porovnání statistiky a kritické hodnoty absolutní hodnotu vypočtené statistiky t Stat porovnáme s kritickou hodnotou t krit (1) pro hladinu významnosti α = 0,05 pro 10 měření t Stat=1,51 < t krit(1)=1,73 proto H 0 nemůžeme zamítnout pro 20 měření t Stat=2,14 > t krit(1)=1,69 proto H 0 zamítáme

23 Závislost výsledku testu na počtu měření Při prvním testu jsme vyhodnotili výsledek z 10 měření a na zvolené hladině významnosti α = 0,05 nemohli zamítnout nulovou hypotézu, že průměrná výška sledované skupiny basketbalistů ve věku let se statisticky významně neodlišuje od průměrné výšky běžné mužské populace. H 0 nemůžeme zamítnout ani u jednostranného testu, kdy nás zajímá pouze vyšší výška basketbalistů, ani u oboustranného testu, kdy hodnotíme odchylky na obě strany Při druhém testu jsme vyhodnotili výsledek z 20 měření a na zvolené hladině významnosti α = 0,05 zamítáme nulovou hypotézu a přijímáme alternativní hypotézu, že průměrná výška sledované skupiny basketbalistů ve věku let je statisticky významně vyšší než je průměrná výška běžné mužské populace. Když se podíváme na střední hodnoty obou výběrů, vidíme, že průměrná výška basketbalistů vzrostla o něco méně než u mužů, přesto se test stal pro vyšší počet měření statisticky významný.

24 Síla testu a interval spolehlivosti - viz příklad Pokud budeme mít více měření, budou hustoty pravděpodobnosti nulové hypotézy H 0 i alternativní hypotézy H 1 užší - rozptyl se zmenšil z 13,88 na 12,03 pro běžnou mužskou populaci a z 12,03 na 10,04 pro basketbalisty. Střední hodnota se paradoxně zvětšila u basketbalistů méně než u běžné mužské populace. Mezní hodnota pro chybu I. druhu (šedá čára) se posune pro jednostranný test z 1,73 na 1,69 a pro oboustranný test z 2,1 na 2,02. Velikost chyby II. druhu β (plocha pod červenou křivkou) se zmenší - test se stane silnějším. Čím je rozsah výběrového souboru větší, tím je náš odhad testovaného parametru přesnější a tím je interval spolehlivosti užší. Čím užší je interval spolehlivosti, tím větší je síla testu.

25 Postup konstrukce a provedení testu 1. Formulujeme hypotézu H 0, kterou chceme ověřit a k ní alternativní hypotézu H A, 2. Zvolíme hladinu významnosti podle důsledků, které by mohla mít chyba I. druhu (obvykle 5%, přísnější test 1%) 3. Zvolíme rozsah výběru (obvykle máme rozsah výběru daný našimi možnostmi) 4. Provedeme experiment a na základě hypotézy zvolíme testovou statistiku T (znamená to, že data převedeme transformací do vhodné statistické normy, např. výběrového rozdělení, abychom mohli test vyhodnotit) 5. Porovnáme testovou statistiku T s kritickou hodnotou T K příslušného výběrového rozdělení pro zvolenou hladinu významnosti. (T K najdeme v tabulkách nebo pomocí statistického programu, např. ve funkcích Excelu).

26 Postup konstrukce a provedení testu - pokračování 6. Na základě porovnání rozhodneme o zamítnutí nebo přijetí nulové hypotézy. Přijetí H 0 : pokud odchylky naměřených hodnot od předpokládaného výběrového rozdělení lze vysvětlit pouhou náhodou (T < T K ). Zamítnutí H 0 : pokud odchylky jsou větší - jsou statisticky významné (T T K ), s námi zvoleným rizikem α (hladina významnosti) zamítáme H 0 a přijímáme H 1

27 Testování hypotéz H 0 H A α=0,05 T < T K H 0 přijímáme T > T K H 0 zamítáme T K pro α=0,05

28 Významnost statistického testu - shrnutí Test není statisticky významný hypotézu H 0 nezamítáme Pozorované odchylky od hypotézy je možno vysvětlit pouhou náhodou Důvodem může být i to, že rozdíl je tak malý, že na jeho prokázání nestačí použitý rozsah souboru. Test je statisticky významný hypotézu H 0 zamítáme Pozorované odchylky od hypotézy není možno vysvětlit pouhou náhodou Odchylka od hypotézy je tak velká, že při opakování šetření bychom s velkou pravděpodobností hypotézu opět zamítli. P - hodnota Pravděpodobnost chyby vypočtená z našich pozorovaných dat, se kterou bychom zamítli hypotézu H 0. Při praktickém provedení testu slouží k porovnání s hladinou významnosti: platí, že H 0 zamítáme, pokud p-hodnota α

29 VÝBĚROVÁ ROZDĚLENÍ jsou rozložení používaná ke konstrukci statistických testů 2 Mějme normální rozložení s parametry µ a σ N ( µ, σ ) Protože Normální rozložení je tabelováno pouze pro hodnoty µ = 0 a σ = 1, normováním transformujeme pozorované hodnoty na tzv. z-skóry x µ z = i a tyto transformované hodnoty pak mají normované normální rozdělení. V praxi neznáme skutečné hodnoty µ a σ a musíme je nahradit jejich odhady. Tím se změní rozložení takto transformované veličiny. i σ

30 VÝBĚROVÁ ROZDĚLENÍ Proto byla pro tyto případy odvozena jiná rozdělení, která popisují rozdělení výběrových charakteristik (odhadů populačních parametrů). Pro provádění statistických testů nám slouží tato VÝBĚROVÁ ROZLOŽENÍ jako vzor, se kterým srovnáváme vypočtené výsledky: 2 χ - rozdělení t - rozdělení F - rozdělení

31 2 χ ROZDĚLENÍ Je rozdělení součtu n druhých mocnin normálně rozdělených veličin U: U (0,1) 2 χ n = U i = U1 + U 2 + U U n i = 1 Tvar rozložení je závislý na počtu sčítanců n, ale toto číslo musíme v případě, že pro výpočet použijeme odhad jednoho nebo více parametrů, zmenšit o příslušný počet odhadovaných parametrů. Příklad: když pro výpočet výběrového ROZPTYLU použijeme odhad průměru, je počet stupňů volnosti (n 1) místo n - (odhadovali jsme jeden parametr). 2

32 STUDENTOVO t - ROZDĚLENÍ Studentovo t-rozdělení popisuje např. standardní normální rozdělení v případě, že neznáme směrodatnou odchylku a použijeme pouze její odhad. t U veličina U v čitateli má standardizované normální rozložení = 2 2 χ n veličina ve jmenovateli má rozdělení χ o n-stupních volnosti Nejčastěji se používá k porovnání průměrů. Pro n > 40 můžeme Studentovo t-rozdělení nahradit Normálním rozdělením.

33 FISHEROVO F-ROZLOŽENÍ Toto rozložení popisuje rozložení dvou různých veličin s rozdělením 2 χ o n a m stupních volnosti. χ 2 1 n F = 2 χ2 m Používá se především pro testování rozdílnosti rozptylů