STATISTIKA A ANALÝZA DAT. Jan Picek. Katedra aplikované matematiky. doktorandské studium na EF TUL 2013/2014

Transkript

1 STATISTIKA A ANALÝZA DAT Katedra aplikované matematiky doktorandské studium na EF TUL 2013/2014

2 KONTAKT Katedra aplikované matematiky Fakulta přírodovědně-humanitní a pedagogická budova H (4.patro), Voroněžská 13 tel , konzultační hodiny:út 9:00-10:30 jan.picek@tul.cz

3 POŽADAVKY Požadavky: Zpracování semestrální práce zaměřené na využití statistických metod ve vazbě na téma disertační práce. Ústní komisionální zkouška.

4 LITERATURA ANDĚL, J.. 4. vyd. Praha: Matfyzpress, ISBN HEBÁK, P. a kol. Vícerozměrné statistické metody, díl vyd. Praha: Informatorium, ISBN HENDL, J. Přehled statistických metod zpracování dat. Portál: Praha, 2012 (4.vyd.). ISBN MELOUN, M. a J. MILITKÝ. Kompendium statistického zpracování dat. 2. vyd. Praha: Academia, ISBN PECÁKOVÁ, I. Statistika v terénních průzkumech. 2. vyd. Praha: Professional Publishing, ISBN ŘEZANKOVÁ, H., D. HÚSEK a V. SNÁŠEJ. Shluková analýza dat. 2. vyd. Praha: Professional Publishing, ISBN

5 LITERATURA JUREČKOVÁ, J. a J. PICEK. Robust statistical methods with R. 1st ed. Boca Raton: Chapman & Hall, ISBN WARNER, R. M. Applied Statistics: From Bivariate Through Multivariate Techniques. 2nd ed. Thousand Oaks: SAGE Publications, ISBN

6 LITERATURA Jaroslav Ramík: v marketingu friesl/hpsb/tit.html

7 ÚVOD Motto: "Vystačím si s průměrem...", "Co po mne chcete, to je přece výsledek z počítače..."

8 ÚVOD Motto: "Vystačím si s průměrem...", "Co po mne chcete, to je přece výsledek z počítače..." I tak jednoduchý ukazatel, jako je aritmetický průměr, může mít vlastnosti, které překvapí.

9 ÚVOD Motto: "Vystačím si s průměrem...", "Co po mne chcete, to je přece výsledek z počítače..." I tak jednoduchý ukazatel, jako je aritmetický průměr, může mít vlastnosti, které překvapí. Příklad č. 1: Naprostá většina lidí má nadprůměrný počet nohou

10 ÚVOD Motto: "Vystačím si s průměrem...", "Co po mne chcete, to je přece výsledek z počítače..." I tak jednoduchý ukazatel, jako je aritmetický průměr, může mít vlastnosti, které překvapí. Příklad č. 1: Naprostá většina lidí má nadprůměrný počet nohou Příklad č. 2: Dvě firmy na trhu zabývající se stejnou činností uvádí průměrnou mzdu. První ji má Kč a druhá Kč.

11 ÚVOD 1. firma: 10 dělníků adm. pracovníci zástupce ředitele ředitel

12 ÚVOD 1. firma: 10 dělníků adm. pracovníci zástupce ředitele ředitel průměr

13 ÚVOD 1. firma: 10 dělníků adm. pracovníci zástupce ředitele ředitel průměr firma: 100 dělníků adm. pracovníků zástupci ředitele ředitel

14 ÚVOD 1. firma: 10 dělníků adm. pracovníci zástupce ředitele ředitel průměr firma: 100 dělníků adm. pracovníků zástupci ředitele ředitel průměr

15 ÚVOD Opustíme-li průměry, situace může být ještě zamotanější okres A okres B kategorie ženy muži celkem ženy muži celkem mladší starší celkem V mladší věk. kategorii je podíl žen v okrese A větší než v okrese B: 5 11 = 45,5% > 3 7 = 42,9% Ve starší věkové kategorie je to stejné: 6 9 = 66,7% > 9 14 = 64,3%

16 ÚVOD Opustíme-li průměry, situace může být ještě zamotanější okres A okres B kategorie ženy muži celkem ženy muži celkem mladší starší celkem V mladší věk. kategorii je podíl žen v okrese A větší než v okrese B: 5 11 = 45,5% > 3 7 = 42,9% Ve starší věkové kategorie je to stejné: 6 9 = 66,7% > 9 14 = 64,3% Je podíl žen v okrese A větší než v okrese B?

17 ÚVOD Opustíme-li průměry, situace může být ještě zamotanější okres A okres B kategorie ženy muži celkem ženy muži celkem mladší starší celkem V mladší věk. kategorii je podíl žen v okrese A větší než v okrese B: 5 11 = 45,5% > 3 7 = 42,9% Ve starší věkové kategorie je to stejné: 6 9 = 66,7% > 9 14 = 64,3% Je podíl žen v okrese A větší než v okrese B? NE = 55,0% > = 57,1%

18 ÚVOD Okres Podíl žáků na gymnáziích Jablonec 38.6% Semily 29.0% Liberec 18.6%

19 ÚVOD Okres Podíl žáků na gymnáziích Jablonec 38.6% Semily 29.0% Liberec 18.6% Okres počet Studenti Podíl Jablonec % Semily % Liberec %

20 ÚVOD Okres Podíl žáků na gymnáziích Jablonec 38.6% Semily 29.0% Liberec 18.6% Okres počet Studenti Podíl Bydlí Podíl Jablonec % % Semily % % Liberec % %

21 MĚŘENÉ ZNAKY A MĚŘÍCÍ ŠKÁLY Vlastnosti, které jsou podrobovány měření, označujeme jako znaky. Znak je měřen na vhodné zvolené škále, stupnici.

22 MĚŘENÉ ZNAKY A MĚŘÍCÍ ŠKÁLY Vlastnosti, které jsou podrobovány měření, označujeme jako znaky. Znak je měřen na vhodné zvolené škále, stupnici. Měření rozdělujeme podle typu: 1. Metrické (kardinální) 2. Ordinální 3. Nominální (jmenné)

23 DATA: TŘÍDĚNÍ Předmětem zájmu obvykle není jediný, izolovaný objekt, ale soubor objektů. Pozorování či měření se podrobují všichny prvky tohoto souboru. Pro každou ze sledovaných vlastností, definujících znak, tak dostáváme soubor údajů odečítaných na příslušných škálách - tj. data x 1,...,x n.

24 DATA: TŘÍDĚNÍ Předmětem zájmu obvykle není jediný, izolovaný objekt, ale soubor objektů. Pozorování či měření se podrobují všichny prvky tohoto souboru. Pro každou ze sledovaných vlastností, definujících znak, tak dostáváme soubor údajů odečítaných na příslušných škálách - tj. data x 1,...,x n. 174, 178, 183, 168, 163, 175, 178, 177, 169, 182, 188, 176, 177, 178, 184, 185, 170, 168, 157, 158, 174, 174, 173, 171, 168, 170, 172, 174, 176, 179, 179, 188, 186, 181, 180, 169, 172, 174, 165, 164, 156, 174, 184, 182, 181, 172, 176, 177, 185, 181, 178, 175, 170, 168, 180, 183, 183, 181, 180, 173, 175, 177, 179, 164, 161, 172, 174, 178, 184, 176, 179, 162, 182, 177.

25 DATA: TŘÍDĚNÍ Třídní rozdělení četností: Interval absol. relativ. kumul.abs. kumul.rel. 156, 161) , 166) , 171) , 176) , 181) , 186) , 191)

26 DATA: TŘÍDĚNÍ Počet a volba tříd: mnoho málo Doporučení: M = 1+3.3log(n) Stugarsovo pravidlo M = n odmocninové pravidlo

27 DATA: TŘÍDĚNÍ Histogram

28 DATA: TŘÍDĚNÍ Pohlaví Kuřák Nekuřák Muž Žena Známka počet žáků

29 DATA: POPIS Základní úlohou, které řeší popis dat, je úloha kondenzace, zhuštění informace v datech obsažené, tak že se původní primární data zredukují do mnohem menšího počtu údajů, tzv. charakteristik souboru: polohy variability (proměnlivosti) vzájemného vztahu, souvislosti mezi měřenými daty...

30 CHARAKTERISTIKY POLOHY 1 aritmetický průměr citlivý na hrubé chyby, pouze pro metrický znak x = 1 n x i. n i=1

31 CHARAKTERISTIKY POLOHY 1 aritmetický průměr citlivý na hrubé chyby, pouze pro metrický znak x = 1 n x i. n 2 výběrový medián "robustní" - není ovlivněn i velkými změnami několika hodnot. n liché: ˆx = x ( n+1 2 ) i=1

32 CHARAKTERISTIKY POLOHY 1 aritmetický průměr citlivý na hrubé chyby, pouze pro metrický znak x = 1 n x i. n 2 výběrový medián "robustní" - není ovlivněn i velkými změnami několika hodnot. n liché: ˆx = x ( n+1 ( 2 ) ) n sudé: ˆx = 1 x 2 ( n 2 ) +x ( n 2 +1). 3 modální hodnota (modus) x je definován jako nejčetnější hodnota. Obecně není určena jednoznačně. i=1

33 CHARAKTERISTIKY POLOHY setříděná data: x (1) x (2)... x (n)

34 CHARAKTERISTIKY POLOHY α-kvantil x α ( α (0,1)) x α = x ( αn ), kde a označuje a, pokud je to celé číslo, jinak nejbliží vyšší celé číslo. Kromě mediánu, což je kvantil pro α = 0.5, se často užívají i kvartily, x 0.25 a x 0.75.

35 CHARAKTERISTIKY POLOHY

36 CHARAKTERISTIKY VARIABILITY

37 CHARAKTERISTIKY VARIABILITY Rozptyl (variance, disperze) - průměrná kvadratická odchylka od průměru ( s 2 = 1 n n ) (x i x) 2 = 1 x 2 i n x 2 n n i=1 směrodatná odchylka s = s 2 střední chyba s n i=1 variační koeficient v = s x - definován pouze pro x 1,...,x n > 0.

38 CHARAKTERISTIKY VARIABILITY průměrná absolutní odchylka d = 1 n n x i ˆx i=1 rozpětí R = x (n) x (1) mezikvartilové rozpětí R M = x 0.75 x 0.25 entropie (pro nominální znak) h = r i=1 n ( i n log ni ) n

39 DALŠÍ CHARAKTERISTIKY 1 Obecný moment k tého řádu m k = 1 n x k n i, k = 0,1,... i=1 2 Centrální moment k tého řádu m k = 1 n (x i x) k, k = 0,1,... n i=1 3 šikmost míra (ne)symetrie 4 špičatost a 3 = m 3 s 3 a 4 = m 4 s 4

40 Průměr je x = 1 n výběrový rozptyl s 2 = 1 n směrodatná odchylka n x i = , i=1 n (x i x n ) 2 = 51.72, i=1 s = s 2 = 7.19, variační koeficient v = = 0.041, s x šikmost špičatost a 3 = 1 n n i=1 (x i x) 3 s 3 1 n n i=1 (x i x) 4 = 0.629,

41 CHARAKTERISTIKY - BOX PLOT č. výška výška otce výška matky váha tuk

42 CHARAKTERISTIKY - BOX PLOT č. výška výška otce výška matky váha tuk

43 CHARAKTERISTIKY - BOX PLOT

44 CHARAKTERISTIKY VZTAHU

45 CHARAKTERISTIKY VZTAHU Statistiky ukazují, že 10% dopravních nehod způsobují opilí řidiči. Z toho plyne, že zbývajících 90% dopravních nehod je způsobeno střízlivými řidiči. Nemělo by se tedy střízlivým řidičům zakázat řízení vozidel?

46 CHARAKTERISTIKY VZTAHU (x 1,y 1 ),...,(x n,y n ) korelační koeficient: r x,y = C x,y s x s y. kovariance: C x,y = 1 n ( n n (x i x)(y i ȳ) = 1 x i y i ) xȳ, n i=1 i=1

47 CHARAKTERISTIKY VZTAHU Korelační matice (výška, výška otce, výška matky, váha, tuk):

48 CHARAKTERISTIKY VZTAHU Spearmanův korelační koeficient R i a Q i je pořadí r S = 1 6 n(n 2 1) n (R i Q i ) 2 i=1

49 CHARAKTERISTIKY VZTAHU Žák (i) x i y i R i Q i , , , ,5 6

50 CHARAKTERISTIKY VZTAHU Žák (i) x i y i R i Q i , , , ,5 6 r S = 0.266

51 CHARAKTERISTIKY VZTAHU Pohlaví Kuřák Nekuřák Muž Žena

52 CHARAKTERISTIKY VZTAHU Pohlaví Kuřák Nekuřák Muž Žena Míry asociace založeny na χ 2 = r i=1 ( s nij n i.n j. j=1 n i. n j. n n ) 2 např. χ C = 2 χ 2 +n

53 CHARAKTERISTIKY VZTAHU Pohlaví Kuřák Nekuřák Muž Žena C = Míry asociace založeny na χ 2 = r i=1 ( s nij n i.n j. j=1 n i. n j. n n ) 2 např. χ C = 2 χ 2 +n

54 INDUKTIVNÍ STATISTIKA - ÚVOD Příklad: placení školného, dotáži se několika vybranných jedinců: 1. 7 osob, 1x ANO, 7x NE pro je 1 7 = = 14.3(%)

55 INDUKTIVNÍ STATISTIKA - ÚVOD Příklad: placení školného, dotáži se několika vybranných jedinců: 1. 7 osob, 1x ANO, 7x NE pro je 1 7 = = 14.3(%) Kolik osob do šetření vybrat?

56 INDUKTIVNÍ STATISTIKA - ÚVOD Příklad: placení školného, dotáži se několika vybranných jedinců: 1. 7 osob, 1x ANO, 7x NE pro je 1 7 = = 14.3(%) Kolik osob do šetření vybrat? osob, 430x ANO, 2570x NE pro je = = 14.3(%)

57 INDUKTIVNÍ STATISTIKA - ÚVOD Příklad: placení školného, dotáži se několika vybranných jedinců: 1. 7 osob, 1x ANO, 7x NE pro je 1 7 = = 14.3(%) Kolik osob do šetření vybrat? osob, 430x ANO, 2570x NE pro je = = 14.3(%) Přesnost - tzv. intervalové odhady, kvalita - reprezentativnost

58 INDUKTIVNÍ STATISTIKA - ÚVOD Intervalový odhad: 1) (0.4%,57.9%) 2) (13.1%,15.6%)

59 INDUKTIVNÍ STATISTIKA - ÚVOD Intervalový odhad: 1) (0.4%,57.9%) 2) (13.1%,15.6%) Základní soubor - úplné šetření Vzorek - výběrové šetření

60 INDUKTIVNÍ STATISTIKA - ÚVOD Matematická statistika řeší dvě základní úlohy: odhady (v základním souboru) rozhodovací problémy (testování hypotéz) Obvykle předpokládáme, že pro danou situaci známe vhodný model (distribuční funkci, hustotu aj.) až na hodnotu parametrů. Úlohy jsou pak převedeny na úvahy o těchto parametrech.

61 ODHADY bodový (odhad číslem) intervalový - interval, který s předepsanou pravděpodobností (1 α) pokrývá hodnotu neznámého parametru

62 PRAVDĚPODOBNOST Předmětem teorie pravděpodobnosti je studium náhodných dějů, tj. takových dějů, jejichž výsledek není předem jednoznačně určen a očekává se pouze, že výsledek bude jedním z dané množiny možných výsledků Ω neprázdná abstraktní množina. Počet jejích prvků může být konečný, spočetný, ale i nespočetný. Náhodnému ději budeme říkat náhodný pokus. Výsledkem pokusu mohou být čísla, číselné vektory, číselné posloupnosti, časový průběh nějaké funkce na daném intervalu, ale i libovolný kvalitativní ukazatel. Všechny možné výsledky pokusu ω Ω nazýváme elementárními jevy. Podmnožiny množiny Ω nazýváme jevy

63 PRAVDĚPODOBNOST Klasická definice pravděpodobnosti. Tato definice je použitelná v případech, kdy situace je popsána konečným počtem n různých výsledků (elementárních jevů ω), z nichž každý je "stejně možný". Potom P(A) = m(a) n, kde m(a) je počet elementárních jevů, které tvoří náhodný jev A.

64 PRAVDĚPODOBNOST Náhodná veličina Cíl: matematický popis náhodných jevů ("kvantifikovace" popisu - vyjádření pomocí reálných čísel.) odpovědi v anketě "ano", "ne" "1", "0", "kvalita výrobku" označení 1,2,3,... pro třídy kvality, Často je už náš základní prostor jevů částí R (výsledky měření, doba bezporuchového provozu, počet výrobků za směnu atd.).

65 PRAVDĚPODOBNOST Náhodnou veličinou budeme nazývat zobrazení X : Ω R. Náhodná veličina se vyznačuje rozdělením pravděpodobnosti na R, což není nic jiného než původní pravděpodobnost na Ω převedená na R. Existují dva typy náhodných veličin, náhodná veličina s diskrétním rozdělením pravděpodobnosti a náhodná veličina se spojitým rozdělením pravděpodobnosti.

66 PRAVDĚPODOBNOST Diskrétní rozdělení Řekneme, že náhodná veličina X je náhodná veličina s diskrétním rozdělením pravděpodobnosti, jestliže existuje nejvýše spočetně mnoho bodůx j a nejvýše spočetně mnoho kladných čísel p j = P(X = x j ) > 0, splňujících j P(X = x j) = 1. Funkci P X (x j ) = P(X = x j ) nazýváme pravděpodobnostní funkcí.

67 PRAVDĚPODOBNOST Řekneme, že náhodná veličina X je náhodná veličina s (absolutně) spojitým rozdělením, jestliže existuje nezáporná reálná funkce f X reálné proměnné taková, že P(a X < b) = pro libovolná reálná a,b; a b. b a f X (x)dx Funkce f X se nazývá hustotou rozdělení pravděpodobnosti.

68 PRAVDĚPODOBNOST Distribuční funkcí náhodné veličiny X budeme nazývat reálnou funkci reálné proměnné, pro kterou platí F X (x) = P(X < x).

69 PRAVDĚPODOBNOST Vlastnosti distribuční funkce 1. 0 F X (x) 1 pro všechna reálná x. 2. F X je neklesající funkce, tj. F X (x 1 ) F X (x 2 ) pro každé x 1,x 2 R,x 1 < x Pro libovolná reálná čísla a,b R;a < b platí P(a X < b) = F X (b) F X (a). 4. lim F X(x) = 0, lim F X (x) = 1. x x 5. F X je zleva spojitá v libovolném bodě x R. 6. Pro libovolné reálné číslo x R platí P(X = x) = lim t x+ F X (t) F X (x). 7. Distribuční funkce má nejvýše spočetně mnoho bodů nespojitosti.

70 PRAVDĚPODOBNOST Číselné charakteristiky Rozdělení pravděpodobnosti dává úplnou informaci o náhodném chování náhodné veličiny. Při vyhodnocování pokusů a sledování náhodných jevů však často vystačíme se znalostí jen některých zvláštních charakteristik, které odráží nějakou důležitou stránku tohoto pokusu resp. náhodného jevu.

71 PRAVDĚPODOBNOST Nejdůležitější z takovýchto charakteristik je hodnota, kolem které se kumulují hodnoty náhodné veličiny. Tuto hodnotu nazýváme střední hodnotou, někdy též hovoříme o očekávané hodnotě. EX = i I x i P(X = x i ). resp. EX = + xf X (x)dx.

72 PRAVDĚPODOBNOST Rozptyl Kromě střední hodnoty, nejužívanějším momentem je druhý centrální, tzv. rozptyl (variance) náhodné veličiny resp. varx = E(X EX) 2 = i I (x i EX) 2 P(X = x i ). varx = E(X EX) 2 = + (x EX) 2 f X (x)dx Druhou odmocninu z rozptylu nazýváme směrodatnou odchylkou (σ).

73 PRAVDĚPODOBNOST Vlastnosti rozptylu a střední hodnoty. 1. varx varx = EX 2 (EX) Necht a,b R a X je náhodná veličina, potom platí var(a+bx) = b 2 varx a E(a+bX) = a+bex. 4. Nemusí existovat.

74 PRAVDĚPODOBNOST Je-li g funkce, pak Eg(X) = i I g(x i )P(X = x i ). resp. Eg(X) = + g(x)f X (x)dx.

75 PRAVDĚPODOBNOST Obecné a centrální momenty Obecný moment r-tého řádu µ r = EX r = i I x r i P(X = x i ), r = 1,2,..., resp. µ r = EX r = + x r f X (x)dx.

76 PRAVDĚPODOBNOST Centrální moment r-tého řádu µ r = E(X EX) r = i I (x i EX) r P(X = x i ) resp. µ r = E(X EX) r = + (x EX) r f X (x)dx Šikmost a špičatost: α 3 = α 3 (X) = µ 3 σ 3, α 4 = α 4 (X) = µ 4 σ 4 ( 3)

77 PRAVDĚPODOBNOST Kvantilové číselné charakteristiky Necht X náhodná veličina s distribuční funkci F X. Potom funkce F 1 X daná vztahem F 1 X (α) = inf{x; F X(x) α} 0 < α < 1, se nazývá kvantilová funkce. Hodnotám funkce F 1 X (α) říká α-kvantil (nebo 100α%-ní kvantil).

78 PRAVDĚPODOBNOST Mediánem x rozumíme 50%-ní kvantil. Dolním kvartilem x 0.25 rozumíme 25%-ní kv. Horním kvartilem x 0.75 rozumíme 75%-ní kv. k-tým decilem rozumíme F 1 X (k/10) pro k = 1,2,...,9. k-tým percentilem rozumíme F 1 X (k/100) pro k = 1,2,...,99. mezikvartilové rozpětí x 0.75 x 0.25

79 PRAVDĚPODOBNOST Používaná diskrétní rozdělení

80 PRAVDĚPODOBNOST Alternativní rozdělení X Alt(p) Necht náhodná veličina X nabývá pouze dvou hodnot 0 a 1, a to s pravděpodobnostmi P(X = 1) = p, P(X = 0) = (1 p), kde 0 < p < 1. Rozdělení se někdy označuje jako 0 1. EX = p, varx = p(1 p)

81 PRAVDĚPODOBNOST Binomické rozdělení X Bi(n, p) Necht náhodná veličina X nabývá hodnot 0,1,...,n s pravděpodobnostmi ( ) n P(X = i) = p i (1 p) n i, i = 0,1,...,n, i kde 0 < p < 1. EX = np, varx = np(1 p)

82 PRAVDĚPODOBNOST Binomické rozdělení X Bi(n, p) Binomickým rozdělením se řídí četnost nějakého jevu A v n nezávislých pokusech, když v každém pokusu je pravděpodobnost jevu A stále stejná a je rovna p.

83 PRAVDĚPODOBNOST Poissonovo rozdělení X P o(λ) Necht X je náhodná veličina nabývající hodnot i = 0,1,2,... s pravděpodobnostmi kde λ > 0 je dané číslo. P(X = i) = λi i! e λ, EX = var(x)

84 PRAVDĚPODOBNOST Poissonovo rozdělení X P o(λ) Nejčastěji se používá pro popis pravděpodobnosti počtu událostí v nějakém časovém intervalu. (počet telefonních hovorů, dopravních nehod, příchodů zákazníků do obchodu apod.) Poissonovo rozdělení je možno také použít místo binomické náhodné veličiny X Bi(n,p), přičemž n je velmi velké číslo, p je velmi malé číslo a součin λ = np je stálý.

85 PRAVDĚPODOBNOST Geometrické rozdělení X Ge(p) Uvažujme náhodnou veličinu X, která nabývá hodnot i = 0,1,2,..., a to s pravděpodobnostmi kde p (0,1) je parametr. P(X = i) = p(1 p) i, EX = 1 p, varx = (1 p)p2 p

86 PRAVDĚPODOBNOST Geometrické rozdělení X Ge(p) Sledujme výskyt jevu A v nezávislých opakováních náhodného pokusu, přičemž pravděpodobnost jevu A je v každém pokusu rovna p. Náhodná veličina s geometrickým rozdělením udává počet nezávislých opakování onoho náhodného pokusu před prvním výskytem jevu A.

87 PRAVDĚPODOBNOST Hypergeometrické rozdělení X Hg(N, n, M) Necht N,M a n jsou přirozená čísla taková, že M < N, n < N. Necht X nabývá pouze celočíselných hodnot i s pravděpodobnostmi ) P(X = i) = ( M )( N M i n i ( N n), pro max(0,m +n N) i min(m,n). EX = na ( na(n A), var(x) = 1 n 1 ). N N 2 N 1

88 PRAVDĚPODOBNOST Hypergeometrické rozdělení X Hg(N, n, A) Toto rozdělení je možné popsat následující situací. Uvažujme množinu, která obsahuje N objektů, z nichž M má jistou vlastnost. Vybereme náhodně z této množiny n objektů. Potom X označuje počet vybraných objektů mající uvažovanou vlastnost.

89 PRAVDĚPODOBNOST Spojitá rozdělení

90 PRAVDĚPODOBNOST F X (x) = x f X (y)dy pro každé x R. Ve všech bodech, kde existuje derivace distribuční funkce F X, platí vztah df X (x) = f X (x). dx f X (x)dx = 1

91 PRAVDĚPODOBNOST Pro libovolná reálná čísla a,ba b platí P (a X b) = P (a < X b) = P (a X < b) = P (a < X < b) = b a f X (t)dt.

92 PRAVDĚPODOBNOST Rovnoměrné rozdělení { X R(a, b) 1 pro a < x < b f(x) = b a 0 pro x a nebo x b. 0 x a x a F(x) = a < x < b b a 1 x b. Dále je EX = (a+b) 2, var(x) = (b a)2. 12

93 PRAVDĚPODOBNOST Normální (Gaussovo) rozdělení X N(µ,σ) f(x) = 1 ( exp 1 ) (x µ) 2, prox R, 2πσ 2 σ 2 parametry: µ = EX a σ 2 = var(x). Distribuční funkce - nexistuje žádná explicitní formule. Hodnoty distribuční funkce s parametry 0, 1 velice přesně tabelovány.

94 PRAVDĚPODOBNOST 0.8 µ=0, σ= µ=0, σ=1 µ=2, σ=1 0.2 µ=0, σ= Graf hustoty normalního rozdělení pro různé hodnoty parametrů µ a σ.

95 PRAVDĚPODOBNOST Exponenciální rozdělení X Exp(c) { ce cx x 0 f(x) = 0 jinak, x { 1 e cx x 0 F X (x) = f(t)dt = 0 x < 0. EX = 1/c, var(x) = 1/c 2

96 PRAVDĚPODOBNOST Weibullovo rozdělení X Wb(c,d) Zobecněním exponenciálního rozdělení { 1 e cx d x 0 F(x) = 0 x < 0. s parametry c,d > 0. { cdx f(x) = d 1 exp( cx d ) x 0 0 x < 0.

97 PRAVDĚPODOBNOST c=2, d=1 c=1, d=1 c=1, d=2 0.2 c=1, d= Graf hustoty Weibullova rozdělení pro různé hodnoty parametrů c a d.

98 PRAVDĚPODOBNOST Cauchyovo rozdělení parametry θ a λ. f(x) = 1 π λ λ 2 +(x θ) 2, F(x) = π arctan ( x θ λ ). Toto rozdělení nemá střední hodnotu a rozptyl.

99 ODHADY Matematická statistika řeší dvě základní úlohy: odhady (v základním souboru) rozhodovací problémy (testování hypotéz) Obvykle předpokládáme, že pro danou situaci známe vhodný model (distribuční funkci, hustotu aj.) až na hodnotu parametrů. Úlohy jsou pak převedeny na úvahy o těchto parametrech.

100 ODHADY Informaci pro statistickou analýzu obdržíme ve formě dat, která považujeme za realizace zkoumaných náhodných veličin. Náhodným výběrem rozumíme vektor složený z nezávislých a stejně rozdělených náhodných veličin. Číslo n je rozsah výběru. Náhodný výběr je model pro situace, kdy pozorujeme n nezávislých, stejných" objektů, nebo opakujeme nezávisle n krát tentýž pokus. Náhodná veličina je modelem pro onu veličinu, kterou na daných objektech zkoumáme.

101 ODHADY "výběr" za rozumnou dobu a s rozumnými náklady schopni zjistit údaje jen o n vybraných objektech. Na základě výběru děláme závěry o charakteristikách celého souboru. Příklady: namátková či výběrová kontrola výrobků, výzkumy veřejného mínění, testování léčebných postupů. Důležitou otázka - reprezentativnost

102 ODHADY Mezi nejpoužívanější odhady : výběrový průměr a výběrový rozptyl S 2 = 1 n 1 X n = 1 n n i=1 X i n (X i X n ) 2 = 1 n n 1 ( Xi 2 n X n,) 2 i=1 i=1

103 ODHADY Necht X 1,...,X n je náhodný výběr z rozdělení, které má střední hodnotu µ a konečný rozptyl σ 2. Pak platí E X = µ, var X = σ2 n Necht X 1,...,X n je náhodný výběr N(µ,σ 2 ). Pak platí X N(µ,σ 2 /n).

104 ODHADY Necht X 1,...,X n je náhodný výběr z rozdělení, které má střední hodnotu µ a konečný rozptyl σ 2. Pak platí ES 2 = σ 2 vars 2 = σ 4 2n (n 1) 2 Necht X 1,...,X n je náhodný výběr N(µ,σ 2 ). Pak platí (n 1)S 2 /σ 2 χ 2 n 1 a X a S 2 jsou nezávislé.

105 ODHADY Náhodná veličina Z = m 1 Z2 j má χ 2 -rozdělení, když Z 1,Z 2,...,Z m jsou nezávislé stejně rozdělené veličiny z rozdělení N(0,1). Pak hustota Z je g m (z) = 1 2 m 2 Γ ( m 2 )e z 2 z m 2 1, pro z 0, Γ(p) je gamma-funkce, 0 x p 1 e x dx, pro p celé > 0 je Γ(p) = (p 1)!. E(Z) = n, var(z) = 2n

106 ODHADY Necht X 1,...,X n je náhodný výběr z rozdělení, které má střední hodnotu µ a konečný rozptyl σ 2. Pak platí ES 2 = σ 2 vars 2 = σ 4 2n (n 1) 2 Necht X 1,...,X n je náhodný výběr N(µ,σ 2 ). Pak platí (n 1)S 2 /σ 2 χ 2 n 1 a X a S 2 jsou nezávislé.

107 ODHADY Necht U, Z jsou nezávislé náhodné veličiny, kde U je normální N(0,1) a Z 2 má χ 2 -rozdělení o n stupních volnosti. Pak veličina T = U Z n má Studentovo t-rozdělení o n stupních volnosti dané hustotou h n (t) = ( ) n+1 1 ( nb n, ), t2 2 n < t <.

108 ODHADY Necht U, V jsou dvě nezávislé náhodné veličiny o χ 2 -rozděleních o n a m stupních volnosti. Rozdělení jejich podílu W = U/n V/m se pak nazývá F -rozdělení s n a m stupni volnosti a má hustotu g n,m (z) = g n,m = 0 n n 2 m m 2 z n 2 1 B( n 2,m 2)(m+nz) n+m 2 pro z > 0 jinak.

109 ODHADY Teorie bodového odhadu Náhodný výběr (reprezentuje data): nezávislé stejně rozdělené náhodné veličiny mají rozdělení z určité třídy rozdělení {F(x,θ)}, kde θ Θ R k je neznámý parametr. Uvažujeme tedy náhodný vektor X, jejíž rozdělení závisí na parametru θ. F X (x,θ) = n F(x i,θ) i=1

110 ODHADY Úkolem je odhad parametru θ. Parametr θ "charakterizuje vlastnost, kterou z dat chceme odhadnout." Odhad je obecně funkcí pozorovaných náhodných veličin, tj. T(X) z R n to R k (statistika). Odhad je opět náhodná veličina (vektor), konkrétní "odhad" aktuální hodnoty parametru θ je hodnota T(X), když x je realizace X. Cíl vybrat funkci statistiku T n (X), která by "co nejlépe" odhadovala neznámý parametr θ.

111 ODHADY Požadované vlastnosti odhadů: 1 Nestrannost (nevychýlenost): pro každé θ platí E θ T n (X) = θ. 2 Konzistence: lim n T n (X) = θ 3 Eficience (vydatnost): odhad T n (x) je eficientní, když pro každý jiný odhad T n(x) mající konečný druhý moment platí E θ {(T n (X) θ) 2 } E θ {(T n(x) θ) 2 } tj. pro nestranné odhady var θ (T n (X) var θ (T n(x))

112 ODHADY Metody odhadu Metoda maximální věrohodnosti Maximálně věrohodným odhadem parametru θ při naměřených hodnotách x 1,x 2,...,x n je hodnota θ 0 Θ, pro kterou je věrohodnostní funkce L θ (x) maximální. L θ (x) = n i=1 f(x i,θ) pro spojité, resp. P(X i = x i,θ) pro diskrétní rozložení pravděpodobnosti.

113 ODHADY Protože logl má maximum v témže bodě jako L, prakticky se často odhad hledá jako řešení věrohodnostní rovnice logl θ (x)/ θ = 0. Maximálně věrohodný odhad je konzistentní.

114 ODHADY Momentová metoda Porovnání teoretických a výběrových momentů

115 ODHADY Odhady: bodový (odhad číslem) intervalový - interval, který s předepsanou pravděpodobností (1 α) pokrývá hodnotu neznámého parametru

116 ODHADY Intervalový odhad: model normálního rozdělení 100(1 α)% interval pro µ a neznámé σ 2 : (X t n 1 (1 α/2) S n,x +t n 1 (1 α/2) S n ) pro µ a známé σ 2 : (X Φ 1 (1 α/2) σ n,x +Φ 1 (1 α/2) σ n ) t n 1 (1 α/2), Φ 1 (1 α/2) - kvantily (tabulkové hodnoty), α - zvolená (předepsaná) hodnota, obvykle 0.05, 0.01

117 ODHADY Intervalový odhad: model normálního rozdělení 100(1 α)% interval pro σ 2 : ( ) (n 1)S 2 χ 2 n 1(1 α/2), (n 1)S2 χ 2 n 1(α/2) χ 2 n 1(α/2) - kvantily (tabulkové hodnoty), α - zvolená (předepsaná) hodnota, obvykle 0.05, 0.01

118 ODHADY Intervalový odhad: model binomického rozdělení 100(1 α)% interval pro p: ( m n Φ 1 (1 α/2) m(1 m n n ), m n + Φ 1 (1 α/2) m(1 m n n Φ 1 (1 α/2) - kvantil normálního rozdělení (tabulky), m/n relativní četnost "výskytu sledovaného jevu" ve výběrovém souboru

119 TESTY Testování hypotéz: Na základě náhodného výběru x = (X 1,...,X n ), jehož rozdělení závisí na parametru θ, který patří do parametrického prostoru Θ, chceme rozhodnout, zda platí určité tvrzení o náhodné veličině, například, že θ patří do určité vlastní podmnožiny θ prostoru Θ. Toto tvrzení nazýváme (nulová) hypotéza.

120 TESTY Toto tvrzení nazýváme (nulová) hypotéza. H 0 : θ θ. Protikladné tvrzení v rámci uvažovaného modelu se nazývá alternativa, např. A : θ / θ. Je-li θ jednobodová, pak mluvíme o jednoduché hypotéze.

121 TESTY Vlastní test: Na základě náhodného výběru zkonstruujeme testovou statistiku T a určíme množinu W, která se nazve kritický obor. Nastane-li jev {T W}, pak zamítneme hypotézu H 0. Při tomto rozhodování nastane některý z následujících případů: 1. H 0 platí a test ji nezamítá. Rozhodnutí je správné. 2. H 0 neplatí a test ji zamítá. Rozhodnutí je správné. 3. H 0 platí a test ji zamítá. Říká se, že nastala chyba 1. druh 4. H 0 neplatí a test ji nezamítá. Říká se, že nastala chyba 2.

122 TESTY Kriticky obor přitom konstruujeme tak, aby pravděpodobnost chyby 1. druhu nepřekročila předem dané číslo α hladina testu. Nejlepší volba kritického oboru a testové statistiky je taková, kdy při dodržení podmínky na chybu na chybu 1. druhu je pravděpodobnost chyby 2. druhu minimální.

123 TESTY T-test: Model normální rozdělení: nulová hypotéza: H 0 : µ = µ 0 (předepsané číslo) alternativa: A : µ µ 0

124 TESTY Rozhodovací kritérium: T = X µ 0 S n Je-li T t n 1 (1 α/2) zamítám nulovou hypotézu ("tvrdím, že správná je alternativa"), v případě opačné nerovnosti nezamítám nulovou hypotézu ("je správná").

125 TESTY Párový t-test: se používá v situacích, kdy máme na každém z n objektů měřeny dvě veličiny (X 1,Y 1 ),...,(X n,y n ). Jednotlivé objekty lze zpravidla pokládat za nezávislé, ale měření na témž objektu nikoli. Položme Z 1 = X 1 Y 1,...,Z n = X n Y n. Předpokládejme, že Z i N(µ,σ 2 ), i = 1,...,n, kde µ = µ 1 µ 2. Jsou-li tyto předpoklady splněny, pak jde o test H : µ = 0 proti alternativě A : µ 0. (Úloha převedena na jednovýběrový t-test.)

126 TESTY Testová statistika: T = Z S n, kde S 2 = 1 n 1 n (Z i Z) 2 i=1 Je-li T t n 1 (1 α/2) zamítám nulovou hypotézu, v případě opačné nerovnosti nezamítám nulovou hypotézu.

127 TESTY Dvouvýběrový t-test: jako párový test porovnává dvě skupiny dat (měření), můžeme ho použít pouze v situacích, kdy máme skutečně zajištěnu nezávislost všech veličin X 1,...,X n,y 1,...,Y m. Užijeme-li dvouvýběrový t test v situaci, pro kterou je nezbytný test párový, pak to zpravidla vede k nesmyslným výsledkům. Naproti tomu není hrubou chybou použít párový test v případě n = m i v situaci, pro kterou je vhodnější dvouvýběrový t-test.

128 TESTY Položme kde S 2 = 1 ( ) (n 1)S 2 n+m 2 X +(m 1)SY 2, S 2 X = 1 n 1 S 2 Y = 1 m 1 n (X i X) 2, i=1 m (Y i Y) 2 i=1

129 TESTY Testová statistika: T = X Y S nm n+m. Je-li T t n+m 2 (1 α/2) zamítám nulovou hypotézu (tj. střední hodnoty jsou různé), v případě opačné nerovnosti nezamítám nulovou hypotézu (rovnost středních hodnot).

130 TESTY Znaménkový test: Alternativa k t-testu, nepožaduje se normalita. Testuje se hypotéza H : x = x 0, tj. medián je roven danému číslu.

131 TESTY POSTUP: 1. Vyloučíme z dalšího zpracování pozorování, pro něž X i = x 0 a příslušně snížíme rozsah výběru n. 2. Určíme v kolika případech nastal jev X i > x 0. Počet těchto případů označíme Z. 3. Z je náhodná veličina s binomickým rozdělením Bi(n,p), kde p = P(X i > x 0 ).

132 TESTY TESTOVÁ STATISTIKA. U = Z n/2 n/4 = 2Z n. n Je-li U Φ 1 (1 α/2) zamítám nulovou hypotézu (medián není roven číslu x 0 ), v případě opačné nerovnosti nezamítám nulovou hypotézu.

133 TESTY Jednovýběrový Wilcoxonův test: Test o hodnotě mediánu (jako znaménkový test), založen na pořadí hodnot. 1. Vyloučíme z dalšího zpracování pozorování, pro něž X i = x 0 a příslušně snížíme rozsah n. 2. Určíme pořadí R + i náhodných veličin X i x Test je založen na součtu pořadí R + i těch veličin X i x 0, pro které je X i x 0 > 0.

134 TESTY TESTOVÁ STATISTIKA. V = i:x i >x 0 R + i U = V n(n+1) 4 n(n+1)(2n+1) 24 Je-li U Φ 1 (1 α/2) zamítám nulovou hypotézu (medián není roven číslu x 0 ), v případě opačné nerovnosti nezamítám nulovou hypotézu.

135 TESTY Dvouvýběrový Wilcoxonův test: Test o shodě hodnot mediánů (obdoba dvouvýběrového t-testu), založen na pořadí hodnot. 1. Určíme pořadí R i náhodných veličin ve sloučeném výběru. 2. Test je založen na součtu pořadí R i těch veličin, které jsou v prvním výběru.

136 TESTY TESTOVÁ STATISTIKA. V x = x i R x i U = V x nx(nx+ny+1) 2 n xn y(n x+n y+1) 12 Je-li U Φ 1 (1 α/2) zamítám nulovou hypotézu (mediány si nejsou rovny), v případě opačné nerovnosti nezamítám nulovou hypotézu.