VÍCEROZMĚRNÝ STATISTICKÝ SOUBOR

KORELACE A REGRESE 1 Vytvořeno s podporou projektu Průřezová inovace studijních programů Lesnické a dřevařské fakulty MENDELU v Brně (LDF) s ohledem na discipliny společného základu (reg. č. CZ.1.07/..00/8.001) za přispění finančních prostředků EU a státního rozpočtu České republiky

VÍCEROZMĚRNÝ STATISTICKÝ SOUBOR Vícerozměrný statistický soubor je množina C souběžných realizací určitého počtu veličin X 1, X,, X m. Množina C vznikne získáním hodnot znaků X 1, X,, X m na prvcích množiny n. C je potom množina uspořádaných m- tic hodnot [x 1, x,, x m ] znaků X 1, X,, X m. n-tý OBJEKT C = x x x T 1 T j T n x = x x 1,1 j,1 n,1 x x x 1,i j,i n,i x x x 1,m j,m n,m m-tá VELIČINA

3 STATISTICKÁ ZÁVISLOST

STATISTICKÁ ZÁVISLOST pokud měříme v příliš malém intervalu, nemusí se závislost prokázat!! 4

STATISTICKÁ ZÁVISLOST jedna proměnná je násobkem druhé v tom případě je možné jednu proměnnou z analýzy vyloučit bez ztráty informace 5

STATISTICKÁ ZÁVISLOST korelace popisuje vliv změny úrovně jednoho znaku na změnu úrovně jiných znaků a platí pro kvantitativní (měřené) znaky; kontingence popisuje závislost kvalitativních (slovních, popisných) znaků, které mají více než dvě alternativy, tzv. množných znaků (např. druh dřeviny, národnost, apod.); 6 asociace - popisuje závislost kvalitativních (slovních, popisných) znaků, které mají pouze dvě alternativy, tzv. alternativních znaků (např. pohlaví, odpovědi typu ano/ne, ).

KORELACE typy podle počtu korelovaných znaků jednoduchá popisuje vztah dvou znaků, mnohonásobná popisuje vztahy více než dvou znaků, parciální popisuje závislost dvou znaků ve vícerozměrném statistickém souboru při vyloučení vlivu ostatních znaků na tuto závislost 7

KORELACE typy podle smyslu změny hodnot kladná se zvyšováním hodnot jednoho znaku se zvyšují i hodnoty druhého znaku záporná - se zvyšováním hodnot jednoho znaku se zmenšují hodnoty druhého znaku 8

KORELACE typy podle tvaru závislosti přímková (lineární) grafickým obrazem závislosti je přímka (lineární trend) křivková (nelineární) grafickým obrazem závislosti je křivka (nelineární trend) 9

KORELAČNÍ POČET korelační analýza zjišťuje existenci závislosti a její druhy, měří těsnost závislosti, ověřuje hypotézy o statistické významnosti závislosti; 10 regresní analýza zabývá se vytvořením vhodného matematického modelu závislosti, stanoví parametry tohoto modelu, ověřuje hypotézy o vhodnosti a důležitých vlastnostech modelu.

MÍRA KORELAČNÍ ZÁVISLOSTI x CELKOVÁ VARIABILITA Y (odchylka měřené hodnoty od průměru) REZIDUÁLNÍ VARIABILITA (odchylka měřených a modelových - vypočítaných hodnot) x VARIABILITA VYSVĚTLENÁ MODELEM (odchylka modelových hodnot od průměru) 11 x 1

MÍRA LINEÁRNÍ KORELAČNÍ ZÁVISLOSTI x CELKOVÁ VARIABILITA Y (odchylka měřené hodnoty od průměru) REZIDUÁLNÍ VARIABILITA (odchylka měřených a modelových - vypočítaných hodnot) x VARIABILITA VYSVĚTLENÁ MODELEM (odchylka modelových hodnot od průměru) n ( ) xi -x i=1 n = x 1 n ( ) xi - x i= 1 n + n i=1 x -x ( ) i n i 1

MÍRA LINEÁRNÍ KORELAČNÍ ZÁVISLOSTI KOEFICIENT DETERMINACE S x R = = S x x S 1- S xx 1 13 KOEFICIENT KORELACE S x 1 R= = 1- S Sx S x x x

KOEFICIENT DETERMINACE vyjadřuje, jakou část celkové variability závisle proměnné (vysvětlované proměnné) objasňuje regresní model. r = 0.9 r = 0.05 r = 1 14

KORELAČNÍ KOEFICIENT PRO JEDNODUCHOU KORELACI párový - zvláštní případ vícenásobného korelačního koeficientu, kdy vyjadřuje míru lineární stochastické závislosti mezi náhodnými veličinami Xi a Xj, Pearsonův Spearmanův (korelace pořadí) 15

KORELAČNÍ KOEFICIENT PRO VÍCENÁSOBNOU KORELACI vícenásobný - definuje míru lineární stochastické závislosti mezi náhodnou veličinou X 1 a nejlepší lineární kombinací složek X, X 3,..., X m náhodného vektoru X parciální - definuje míru lineární stochastické závislosti mezi náhodnými veličinami X i a X j při zkonstantnění dalších složek vektoru X x 1 x x 3 x 4 x 1 x x 3 x 4 16

PEARSONŮV KORELAČNÍ KOEFICIENT (r) podmínkou je dodržení dvourozměného normálního rozdělení = normovaná kovariance r x 1 x = r x x 1 = cov S x 1 x 1 S x x 17

PEARSONŮV KORELAČNÍ KOEFICIENT (r) KOVARIANCE: míra intenzity vztahu mezi složkami vícerozměrného souboru je mírou intenzity lineární závislosti je vždy nezáporná její limitou je součin směrodatných odchylek je symetrickou funkcí svých argumentů její velikost je závislá na měřítku argumentů nutnost normování 18 cov x 1 x n 1 = n i= 1 ( x x ) ( x x ) 1i 1 i

PEARSONŮV KORELAČNÍ KOEFICIENT (r) Základní vlastnosti Pearsonova korelačního koeficientu: 19 je to bezrozměrná míra lineární korelace; nabývá hodnoty 0 1 pro kladnou korelaci, 0 (-1) pro zápornou korelaci; hodnota 0 znamená, že mezi posuzovanými veličinami není žádný lineární vztah (může být nelineární) nebo tento vztah zůstal na základě dat, které máme k dispozici, neprokázán; hodnota 1 nebo (-1) indikuje funkční závislost; hodnota korelačního koeficientu je stejná pro závislost x 1 na x i pro opačnou závislost x na x 1.

Souvislost mezi velikosti Pearsonova korelačního koeficientu a typem závislosti r =1,000 r =-1,000 r =0,000 r =0,934 r =0,967 r =0,857 r =-0,143 r =0,608

PEARSONŮV KORELAČNÍ KOEFICIENT (r) výpočet v Excelu Pearsonův R 1

SPEARMANŮV KORELAČNÍ KOEFICIENT neparametrický korelační koeficient, vycházející nikoli z hodnot, ale z jejich pořadí. Používá se tehdy, nejsou-li závažným způsobem splněny předpoklady pro použití Pearsonova korelačního koeficientu. r S = 1 6 n n i= 1 3 d i n diference mezi pořadími hodnot X a Y v jednom řádku

SPEARMANŮV KORELAČNÍ KOEFICIENT vlivné body Pearsonův R = -0,41 (započítává se účinek vlivných bodů) Spearmanův R = +0,541 (účinek vlivných bodů je značně omezen) 3

MNOHONÁSOBNÝ KORELAČNÍ KOEFICIENT vyjadřuje sílu závislosti jedné proměnné na dvou a více jiných proměnných x x I1 x x x x x x II1 III1 m1 In IIn II I n mn 4

MNOHONÁSOBNÝ KORELAČNÍ KOEFICIENT - vlastnosti Základní vlastnosti: 0 R 1 pokud je R = 1, znamená to, že závisle proměnná x 1 je přesně lineární kombinací veličin x,..., x m pokud je R = 0, potom jsou také všechny párové korelační koeficienty nulové s růstem počtu vysvětlujících (nezávislých) proměnných hodnota vícenásobného korelačního koeficientu neklesá, tj. platí R 1() R 1(,3)... R 1(,..., m) 5

MNOHONÁSOBNÝ KORELAČNÍ KOEFICIENT - výpočet R ) 1(,3,...,m = 1 det( R) det( korelační koeficient 1. a. proměnné R (11) ) = determinant korelační matice = determinant korelační matice s vypuštěným sloupcem a řádkem odpovídajícím té proměnné, jejíž závislost na zbytku matice se vypočítává 6 R = 1 R R R 1 i1 m1 R R 1 1 m 1 R 1 R 1i mi 1 R R 1 1m im Korelační matice R

MNOHONÁSOBNÝ KORELAČNÍ KOEFICIENT 7 R 1(,3,..., m) 1 R1 R1 i R1 m R1 1 1 det( R) Ri1 1 Rim 1 R R R 1 1 R1 R1 i R1 m R1 1 1 det( R(11) ) Ri1 1 Rim 1 Rm 1 Rm Rmi 1 m1 m mi = 1 det( R) det( R ) (11)

MNOHONÁSOBNÝ KORELAČNÍ KOEFICIENT výpočet v Excelu 8

MNOHONÁSOBNÝ KORELAČNÍ KOEFICIENT výpočet v Excelu det( R ) = DETERMINANT(R) 1 = 1 = det( R ) = DETERMINANT( R ) (11) (11) 9 0.004755585 = 1 = 0.010714947 0.74577

MNOHONÁSOBNÝ KORELAČNÍ KOEFICIENT výpočet v Excelu Nástroje Analýza dat Regrese 30

PARCIÁLNÍ KORELAČNÍ KOEFICIENT používá se k posouzení síly závislosti dvou veličin ve vícerozměrném souboru při vyloučení vlivu ostatních veličin podle počtu vyloučených proměnných se stanovují řády parciálního R v příkladu vlevo to je parciální korelace III. řádu (3 vyloučené proměnné) 31

PARCIÁLNÍ KORELAČNÍ KOEFICIENT - výpočet Klasický výpočet je velmi zdlouhavý vychází se z korelační matice, poté se počítají parciální korelace I. řádu (s jednou vyloučenou proměnnou), z nich II. řádu (dvě vyloučené proměnné), atd. až do potřebného řádu. Při využití Excelu je možné využít vzorce R ij(1,,...,m) = ( 1) det( R j det( R (ii) (ij) ) det( R ) ( jj) ) 3

PARCIÁLNÍ KORELAČNÍ KOEFICIENT výpočet v Excelu R R ij(1,,...,m) ij(1,,..., m) = = ( 1) det( R j det( R (ii) (ij) ) det( R ( 1) det( R(1) ) ) ( jj) det( R ) det( R ) (11) () ) 33

PARCIÁLNÍ KORELAČNÍ KOEFICIENT výpočet v Excelu det(r (11) ) = 0.010715 det(r (1) ) = 0.006086 det(r () ) = 0.01048 34

PARCIÁLNÍ KORELAČNÍ KOEFICIENT výpočet v Excelu R 1(3,4,5) ( 1) det( R(1) ) 1 0.00608 = = = det( R ) det( R ) 0.01071 0.0105 (11) () 0.5808 Parciální korelační koeficient III. řádu pro závislost proměnných X1 a X (při vyloučení vlivu proměnných X3, X4 a X5) je 0.58. 35

REGRESNÍ ANALÝZA Základní úlohou regresní analýzy je nalezení vhodného modelu studované závislosti. Snažíme se nahradit každou měřenou (experimentální, empirickou, zjištěnou) hodnotu závisle proměnné (vysvětlované proměnné) Y hodnotou teoretickou (modelovou, vyrovnanou, predikovanou), tj. hodnotou ležící na spojité funkci (modelu) nezávisle proměnné (vysvětlující proměnné) X (X) 36

Francis Galton (18-1911) položil základy regresní analýzy (vztah mezi výškou syna a výškou otce) zázračné dítě, bratranec Charlese Darwina zakladatel eugeniky (nauky o zlepšování genetického základu)

REGRESNÍ ANALÝZA měřené hodnoty závisle proměnná Y modelové (vypočítané) hodnoty 38 nezávisle proměnná X

39 REGRESNÍ MODEL 11 1 1 1 1 1 1 1 1 1 j m j m i i ij im n n nj nm i n j m i n y x x x x x x x x x x x x x y x y x x y β ε ε β β ε ε β = + X ε β y závisle nezávisle proměnná regresní náhodná proměnná parametry chyba y = X β + ε

REGRESNÍ MODEL závisle proměnná Y 1 absolutní člen regresní parametr nezávisle proměnná X 40

REGRESNÍ MODEL - typy Regresní model předpokládá, že nezávislá proměnná (proměnné) je nenáhodná (tj. pevně určena, např. experimentátorem) a závislá proměnná je náhodná (měřená).tento předpoklad nebývá v praxi striktně naplněn (v mnoha případech jsou obě nebo všechny veličiny náhodné, tj. měřené, potom mluvíme o tzv. korelačním modelu). 41 Rozeznáváme: regresní modely lineární mají lineární postavení parametrů regresní modely nelineární mají nelineární postavení parametrů

REGRESNÍ MODEL - typy Příklady lineárních regresních modelů: y = a + bx - přímka y = a + bx + cx - parabola y = a + (b/x) - hyperbola lineární modely jsou i některé, jejichž grafickým vyjádřením je křivka!! Příklady nelineárních regresních modelů: 4 y = a x b y = a e bx k y= a e x Výhody jsou schopny modelovat složité reálné děje, např. růst, včetně reálné predikce. Nevýhody složitý výpočet

POSTUP REGRESNÍ ANALÝZY Podstatou řešení regresní analýzy je: stanovit nejvhodnější tvar regresního modelu (tedy určit příslušnou rovnici, která bude popisovat závislost Y na X) stanovit jeho parametry (tj. stanovit konkrétní hodnoty parametrů β) stanovit statistickou významnost modelu (tj. zda model podstatným způsobem přispěje ke zpřesnění odhadu závisle proměnné oproti použití průměru) výsledky dané modelem interpretovat z hlediska zadání 43

STANOVENÍ VHODNÉHO TVARU MODELU 1) najít množinu modelů, které svými vlastnostmi vyhovují řešenému problému (např. růstové funkce) ) teprve mezi nimi najít podle statistických kritérií ten model, která nejlépe vyhovuje měřeným datům Je nutné věnovat velkou pozornost tomu, aby byla modelována REÁLNÁ PŘÍČINNÁ ZÁVISLOST!! 44

reziduum xi ˆy i yi hodnota vypočítaná Y regresní čára STANOVENÍ PARAMETRŮ MODELU METODA NEJMENŠÍCH ČTVERCŮ hodnoty závisle proměnné Y měřená hodnota n ( ˆ ) yi - y i i=1 reziduum = min. 45 hodnoty nezávisle proměnné X

46 MNČ PRO PŘÍMKU = a + bx ŷ ( ) = = + n 1 i i i. min x b a y ( ) ( ) ( ) = = = = + n 1 i i i n 1 i i i 0 1 x b a y a x b a y ( ) ( ) ( ) = = = = + n 1 i i i i n 1 i i i 0 x x b a y b x b a y Parciální derivace podle parametrů:

MNČ PRO PŘÍMKU Získáme soustavu normálních rovnic: n i= 1 y i = n a + n b x i i = 1 n n n xy i i = xa+ b x i i i= 1 i= 1 i = 1 47

48 MNČ obecný postup 1 1 1 1 1 n i i n n i n i i n i i i i g b i i A n x x x y a b xy = = = = = = g - A b =0

MNČ obecný postup n y1 1 1 yi i= 1 n x1 x n y xy n i i i= 1 T g = = = X y n 1 x1 1 1 n xi i= 1 = n n x1 x = = n 1 x x n i xi i= 1 i= 1 A XT X 49

MNČ obecný postup g - A b =0 X T T y X X b = 0 ( T ) T b= X X X y ( T ) 1 yˆ = X X X X y T 1 obecný vztah pro výpočet regresních parametrů lineárního modelu obecný vztah pro výpočet predikovaných (modelových) lineárního modelu 50 projekční matice H

PŘEDPOKLADY MNČ 1) Regresní parametry β mohou teoreticky nabývat jakýchkoli hodnot. ) Regresní model je lineární v parametrech. 3) Jednotlivé nezávislé proměnné jsou skutečně vzájemně nezávislé, tedy mezi nimi nedochází k tzv. multikolinearitě. 4) Podmíněný rozptyl D(y/x) = σ je konstantní (tzv. podmínka homoskedasticity). 5) Náhodné chyby mají nulovou střední hodnotu E(ε i ) = 0, mají konečný rozptyl E(ε i ) = σ a jsou nekorelované. 51

5 MULTIKOLINEARITA 11 1 1 1 1 1 1 1 1 1 j m j m i i ij im n n nj nm i n j m i n y x x x x x x x x x x x x x y x y x x y β ε ε β β ε ε β = + X ε β y Vektory matice X musí být skutečně navzájem nezávislé (jejich párové R musí být nulové nebo statisticky nevýznamné). Pokud tomu tak není, dochází k multikolinearitě, která způsobuje početní i statistické problémy.

MULTIKOLINEARITA proč je nebezpečná 53 Početní problémy: způsobuje špatnou podmíněnost matice X T X, (determinant této matice je nula nebo číslo blízké nule) potíže při invertaci matice (regresní model není jednoznačně řešitelný (singularita matice)). Statistické problémy: nelze odděleně sledovat skutečný vliv jednotlivých vysvětlujících vstupních proměnných na vysvětlovanou (závislou) proměnnou nespolehlivé určení parametrů regresního modelu (interval spolehlivosti parametrů je tak velký, že odhad parametrů ztrácí smysl) nestabilita odhadů regresních parametrů (např. malá změna hodnot závisle proměnné znamená zásadní změnu parametrů)

MULTIKOLINEARITA příčiny Příčiny: přeurčenost regresního modelu ( zbytečně mnoho nezávislých proměnných) skutečně existující závislost mezi nezávislými proměnnými povaha modelu (např. polynom) nevhodné rozmístění experimentálních bodů (např. malá variabilita hodnot nezávisle proměnné) 54

MULTIKOLINEARITA vliv variability nezávisle proměnné správný průběh regresní čáry chyba měření nesprávný průběh regresní čáry 55 malá variabilita nezávisle proměnné

MULTIKOLINEARITA vliv variability nezávisle proměnné 56 vhodná variabilita nezávisle proměnné

MULTIKOLINEARITA - testování VIF variance inflation factor diagonální prvky inverzní matice ke korelační matici nezávisle proměnných (diag(r -1 )) VIF > 10 kritická multikolinearita korelační matice R =INVERZE(B..F6) Ctrl+Shift+Enter inverzní matice R -1 57 kriticky vysoké hodnoty VIF

MULTIKOLINEARITA - řešení K odstranění (nebo zmenšení nepříznivého vlivu) multikolinearity může vést: snížení počtu nezávisle proměnných použití jiného modelu použití jiné metody výpočtu (obvykle metody regrese hlavních komponent PCR) 58

HOMOSKEDASTICITA x HETEROSKEDASTICITA Homoskedasticita znamená, že hodnoty závisle proměnné y mají pro všechny hodnoty nezávisle proměnné X konstantní rozptyl (variabilitu, proměnlivost). závisle proměnná závisle proměnná malá variabilita hodnot y pr o hodnotu x1 vysok á var iabilita hodnot y pr o hodnotu x nezávisle proměnná x1 x nezávisle proměnná 59 homoskedasticita heteroskedasticita

HOMOSKEDASTICITA - princip měřené hodnoty nejpravděpodobnější hodnota veličiny Y (modelová) 60

HOMOSKEDASTICITA - testování n i i= 1 Test trendu reziduí ( ˆ ) ρ = 1 s n 3 6 n D D= R e i Testujeme významnost Spearmanova korelačního koeficientu ρ s 61 t R = ρ n s 1 ρ s

HOMOSKEDASTICITA - testování Vycházíme z předpokladu, že rozptyl naměřené hodnoty y i je určitou funkcí proměnné x i β (např. exponenciální funkcí) Cookův - Weisbergův test S f = n ( y i y ) i= 1 σ 4 n ( y i y ) i= 1 e i Pokud v datech není heteroskedasticita, potom platí, že S f < χ (1) 6

HOMOSKEDASTICITA řešení Nejobvyklejším způsobem je použití metody vážených nejmenších čtverců, kdy se podmínka sumy reziduí násobí vhodně zvolenými váhami n m U( b) = yv V xb i ii ii ij j i= 1 j= 1 V běžných případech je možné jako váhy volit hodnoty 1/y i nebo 1/y i. 63

INTERVALY SPOLEHLIVOSTI V KORELAČNÍ A REGRESNÍ ANALÝZE IS korelačního koeficientu (koeficientu determinace) IS regresních parametrů IS modelových hodnot (modelu) IS predikovaných hodnot (pás spolehlivosti) 64

INTERVAL SPOLEHLIVOSTI R (IS) IS vymezuje interval možných hodnot korelačního koeficientu základního souboru ρ (s pravděpodobností 1 - α) Protože rozdělení výběrových korelačních koeficientů není normální, musíme použít Fisherovu transformaci Z(R) = arctgh(r) = 1+ 0.5ln 1 R R která má přibližně normální rozdělení se střední hodnotou E(Z) = Z(ρ) a rozptylem D(Z) = 1/(n-3). 65

INTERVAL SPOLEHLIVOSTI R R Postup výpočtu IS R: Fisherova transformace v Excelu funkce FISHER(R) statistické tabulky Z(R) Z( R) ± z 1 polovina IS α 1 n 3 horní a dolní hranice IS ve Fisherově transformaci horní a dolní hranice IS ve Fisherově transformaci retransformace Z(R) na korelační koeficient v Excelu funkce FISHERINV(Z(R)) statistické tabulky horní a dolní hranice IS korelačního koeficientu 66

INTERVAL SPOLEHLIVOSTI R Fisherova proměnná R = 0.95305 FISHER(0.95305) = 1.864 IS Fisherovy proměnné: 1 Z ( ρ ) = 1.864 ± 1.96 = 1.864 ± 0.65333 = 1 3 = 1.107;.51737 1.1 1.864.517 IS korelačního koeficientu: =FISHERINV(1.107) = 0.83689 =FISHERINV(.5174) = 0.98707 67 0.837 0.953 0.987

INTERVAL SPOLEHLIVOSTI REGRESNÍCH PARAMETRŮ vyjadřuje interval na číselné ose, ve kterém se s pravděpodobností 1 - α vyskytuje neznámý parametr β základního souboru β = b ± t s j j b α, n m j Pokud IS obsahuje nulu tedy dolní hranice je záporná a horní kladná - je daný parametr statisticky nevýznamný. 68 s Směrodatné odchylky pro přímku: a syx x = 1+ s = xy b n s s n x x s

IS REGRESNÍCH PARAMETRŮ - příklad 69 100 90 80 70 60 50 40 30 0 10 0-10 -0-30 Bodový Intervalový odhad odhad dolní horní a -8.6-3.53 6.9 b 1.56 1.1 1.91 průběh přímky pro dolní hranici IS (1,1) průběh přímky pro hodní hranici IS (1,91)

IS REGRESNÍCH PARAMETRŮ - příklad 100 80 Bodový Intervalový odhad odhad dolní horní a 0 0 0 b 1.37 1.3 1.51 60 40 0 0 0 10 0 30 40 50 60 70-0 70

INTERVAL SPOLEHLIVOSTI MODELOVÝCH HODNOT JEDNA HODNOTA REGRESNÍHO MODELU (tyto hodnoty platí jen pro jeden konkrétní výběr, ze kterého byly vypočítány) IS jedné modelové hodnoty horní hranice IS dolní hranice IS plocha, ve které se s pravděpodobností 1 - α nacházejí všechny možné modely vypočítané z jakéhokoliv výběru pocházejícího z daného základního souboru 71

IS MODELOVÝCH HODNOT Pro model přímky: směr.odchylka reziduí y µ y = i ± α modelová hodnota t,n σ 1+ n n(x n i= 1 i (x i polovina IS modelu přímky x) x) 7

IS Y HODNOT PÁS SPOLEHLIVOSTI udává rozpětí, ve kterém se budou v základním souboru nacházet hodnoty závisle (vysvětlované) proměnné se zvolenou pravděpodobností 1 - α y i(min,max) = y i ± t α ;n m σ 73

IS MODELU A PÁS SPOLEHLIVOSTI - příklad 45 40 35 šířka listu (mm) 30 5 0 15 10 0 5 30 35 40 45 50 55 60 65 délka listu (mm) 74 měřené hodnoty modelové hodnoty intervalový odhad modelu pás spolehlivosti měřených hodnot

IS MODELU - příklad 100 90 80 70 60 50 40 30 0 10 0 10 0 30 40 50 60 70 75

TESTY VÝZNAMNOSTI V REGRESNÍ ANALÝZE proč musíme testovat? Y skutečný regresní model platný pro základní soubor (neznáme ho!!!) statisticky nevýznamný 76 Regresní model získaný na základě výběru ( nešťastný výběr dat) vede k závěru, že model je statisticky významný X Statistický test významnosti modelu určí, zda na základě dat získaných z výběru můžeme uvěřit, že model je významný i v základním souboru

TESTY VÝZNAMNOSTI V KORELAČNÍ A REGRESNÍ ANALÝZE test významnosti korelačního koeficientu test významnosti modelu jako celku test významnosti jednotlivých regresních parametrů test shody lineárních regresních modelů a mnoho dalších.. 77

TEST VÝZNAMNOSTI R Test významnosti odpovídá na otázku, zda je korelace mezi výběrovými proměnnými (R) natolik silná, abychom mohli tuto korelaci považovat za prokázanou i pro základní soubor (ρ). Pro párový R: Pro násobný R: t F R R = R n 1 R R ( n m) ( 1 R )( m 1) KH t α,n- = t α,n-m n počet hodnot výběru m počet proměnných 78 Pro parciální R: t R = R n k 1 R t α,n-k- k počet vyloučených proměnných

TEST VÝZNAMNOSTI REGRESNÍHO MODELU co testujeme Y = b 0 + b 1 x 1 + b x + b 3 x 3 + + b m x m 79 Testujeme JEDNOTLIVÉ PARAMETRY (jestliže je daný parametr nevýznamný, příslušná proměnná x j nijak nepřispívá ke zpřesnění odhadu závisle proměnné a je v modelu zbytečná). Testujeme MODEL JAKO CELEK (zda příslušná kombinace nezávisle proměnných statisticky významně zpřesní odhad závisle proměnné oproti použití jejího průměru)

TEST VÝZNAMNOSTI REGRESNÍHO MODELU JAKO CELKU 1. Test významnosti korelačního koeficientu. Pomocí analýzy rozptylu Zdroj variability Součet čtverců odchylek regresní model REG ( y i y) reziduum (nevysvětleno regresním modelem) = n i= 1 Počet stupňů volnosti S DF REG = m 1 R ( yi y i ) = n i= 1 S DF R = n m Celkový C ( yi y) = n i= 1 S DF C = n - 1 Průměrný čtverec odchylek (rozptyl) S M REG = DF SR M R = DF REG REG R Testové kritérium M F = M REG R 80 Testové kritérium F se porovná s kritickou hodnotou F α;m-1;n-m.

TEST VÝZNAMNOSTI REGRESNÍCH PARAMETRŮ H 0 : β j = 0, tj. j-tý regresní parametr je nevýznamný t b β j j = pro β j = 0 s b t = b s j b Pokud platí, že t > t α;n-m, potom je j-tý regresní parametr statisticky významný a příslušná proměnná musí zůstat v modelu. 81

HODNOCENÍ MODELU Z HLEDISKA VÝSLEDKŮ TESTŮ VÝZNAMNOSTI Výsledek F testu TEST CELÉHO MODELU nevýznamný významný významný významný Výsledek t testu TEST JEDNOTLIVÝCH PARAMETRŮ všechny nevýznamné všechny významné některé nevýznamné všechny nevýznamné Hodnocení modelu posuzované veličiny jsou lineárně nezávislé nebo model je nevhodný (nevystihuje variabilitu závisle proměnné) vhodný (ale nemusí být optimálně navržen) vhodný (je možné vypustit nevýznamné členy modelu) zvláštní případ způsobený multikolinearitou je nutné upravit nebo zcela změnit model 8

TEST SHODY REGRESNÍCH MODELŮ Porovnává se: empirický model (modely) s teoretickým dva nebo více empirických modelů mezi sebou H 0 : Porovnávané modely jsou shodné (tj. shodují se ve směrnici i v úseku). 83

TEST SHODY REGRESNÍCH MODELŮ A B C D 84

TEST SHODY REGRESNÍCH MODELŮ SHODA EMPIRICKÉHO A TEORETICKÉHO MODELU: H 0 : Empirický model y = a + bx pochází ze základního souboru, jehož model y = α + βx je shodný s teoretickým modelem y 0 = α 0 +β 0 x, tj. platí α = α 0, β =β 0. t a α0 b β = t = 0 s s a b 85

TEST SHODY REGRESNÍCH MODELŮ SHODA DVOU EMPIRICKÝCH MODELŮ: H0: β j,1 = β j,, tj. regresní koeficienty obou modelů jsou v základním souboru shodné Vycházíme z testování shody regresních parametrů dvou lineárních modelů y 1 = X 1 β 1 + ε 1 a y = X β + ε 86 Při tomto testu využijeme tzv. složeného modelu, tj. oba porovnávané výběry sloučíme do jednoho a také pro něj stanovíme parametry stejného modelu jako pro oba dílčí výběry

TEST SHODY REGRESNÍCH MODELŮ F C = (RSC s RSC RSC )(n ( RSC + RSC ) m 1 1 m) n celkový počet prvků obou výběrů, tj. n 1 + n RSC s reziduální součet čtverců složeného modelu RSC 1 reziduální součet čtverců prvního modelu RSC reziduální součet čtverců druhého modelu 87

HODNOCENÍ KVALITY REGRESNÍHO MODELU MEP střední kvadratická chyba predikce (MEP) = 1 n n e i i= 1 ( 1 H ) ii e i čtverec reziduí modelu H ii i-tý diagonální prvek projekční matice H Akaikovo informační kritérium (AIC) RSC AIC = n ln + m n RSC reziduální součet čtverců m počet parametrů Čím je AIC (MEP) menší, tím je model vhodnější. 88

REGRESNÍ DIAGNOSTIKA stačí vždy jen testování modelu a parametrů? Výběr A Výběr B 14 14 1 1 10 10 8 8 Y Y 6 4 y = 0,5x + 3,0 R = 0,8164 6 4 y = 0,5x + 3,0 R = 0,816 0 4 6 8 10 1 14 16 0 4 6 8 10 1 14 16 X X 89

REGRESNÍ DIAGNOSTIKA stačí vždy jen testování modelu a parametrů? Výběr C Výběr D 14 14 1 1 10 10 8 8 Y Y 6 4 y = 0,5x + 3,0 R = 0,816 6 4 y = 0,5x + 3,0 R = 0,8165 0 4 6 8 10 1 14 16 0 4 9 14 19 4 X X 90

REGRESNÍ DIAGNOSTIKA Zkoumá regresní triplet data (kvalitu dat pro navržený model) model (kvalitu modelu pro daná data) metoda odhadu (splnění předpokladů metody MNČ) 91

REGRESNÍ DIAGNOSTIKA analýza reziduí Používá se grafická analýza reziduí - tři typy grafů: Typ grafu Osa X Osa Y I pořadové číslo bodu i reziduum e i II j-tá nezávislá proměnná x j reziduum e i III vypočítaná (modelová) hodnota y i reziduum e i 9

REGRESNÍ DIAGNOSTIKA analýza reziduí mrak bodů graf nesignalizuje žádný problém 93

REGRESNÍ DIAGNOSTIKA analýza reziduí klín bodů indikace heteroskedasticity (nekonstantního rozptylu) 94

REGRESNÍ DIAGNOSTIKA analýza reziduí indikace chybného modelu 95

REGRESNÍ DIAGNOSTIKA vlivné body Vlivné body (data, jejichž zařazení do modelu průběh modelu podstatně ovlivní): 1) hrubé chyby - jsou způsobeny chybou měření nebo pozorování, ) body s vysokým vlivem (tzv. zlaté body ) jsou speciálně vybrané body, které byly přesně změřeny a zpravidla zlepšují predikční schopnosti modelu; 3) zdánlivě vlivné body - jsou způsobeny nevhodným modelem; 96

REGRESNÍ DIAGNOSTIKA vlivné body odlehlé body v pořádku e e Ji Si = e Si = σ n m 1 n m e e i 1 H ii Si 97 i-tý diagonální prvek projekční matice H

REGRESNÍ DIAGNOSTIKA kvalita modelu 1) Graf reziduí ) Parciální regresní grafy vyjadřuje závislost mezi vysvětlovanou proměnnou (tedy vektorem y) a jednou vysvětlující proměnnou x j při statisticky neměnném vlivu ostatních vysvětlujících proměnných, které tvoří matici X (j) (vynechaná j-tá proměnná). Je to tedy určitá grafická obdoba parciálního korelačního koeficientu u korelačních modelů. 98

REGRESNÍ DIAGNOSTIKA kvalita modelu Zajímá nás, zda všechny proměnné x 1-3 jsou v modelu oprávněně. Postup je ukázán pro proměnnou x 1. X X (1) y x 1 x x 3 y x 1 x x 3 x 1 =f(x (1) ) regrese v 1 rezidua u 1 Proměnná x 1 do modelu patří u 1 y=f(x (1) ) regrese u 1 rezidua Proměnná x 1 do modelu nepatří 99 v 1 v 1

REGRESNÍ DIAGNOSTIKA kvalita modelu pokud body parciálního regresního grafu leží na přímce s nulovým úsekem (absolutním členem), potom existuje skutečná lineární závislost mezi y a x j směrnice přímky proložené body parciálního regresního grafu číselně odpovídá příslušnému regresnímu koeficientu b j původního (posuzovaného) regresního modelu korelační koeficient mezi u j a v j odpovídá parciálnímu korelačnímu koeficientu rezidua regresní přímky mezi u j a v j odpovídají reziduím původního modelu 100

REGRESNÍ DIAGNOSTIKA podmínky MNČ multikolinearita VIF heteroskedasticita testy heteroskedasticity (např. Cook Weinsberg) autokorelace reziduí test významnosti autokorelačního koeficientu normalita reziduí testy normality 101

REGRESNÍ MODEL - typy Příklady lineárních regresních modelů: y = a + bx - přímka y = a + bx + cx - parabola y = a + (b/x) - hyperbola lineární modely jsou i některé, jejichž grafickým vyjádřením je křivka!! Příklady nelineárních regresních modelů: 10 y = a x b y = a e bx k y= a e x Výhody jsou schopny modelovat složité reálné děje, např. růst, včetně reálné predikce. Nevýhody složitý výpočet

NELINEÁRNÍ REGRESNÍ MODELY Platí podmínka, že 1. parciální derivace regresního modelu podle parametrů g j = δ f ( ) δβ x,β j je alespoň pro jeden parametr jeho funkcí. 103

NELINEÁRNÍ REGRESNÍ MODELY Regresní modely se dělí na: neseparabilní všechny parametry jsou v nelineárním postavení separabilní část parametrů je lineárních, část nelineárních linearizovatelné vhodnou transformací je lze převést na lineární model 104

NELINEÁRNÍ REGRESNÍ MODELY pro lineární model: účelová (minimalizační) funkce pro nelineární model: 105 jednoznačné řešení

NELINEÁRNÍ REGRESNÍ MODELY 1. odhad parametrů 1. aproximace. odhad parametrů (první vypočítaný). aproximace 3. odhad parametrů (druhý vypočítaný) 106

NELINEÁRNÍ REGRESNÍ MODELY lokální min. (zde není optimální řešení) 107 globální minimum (optimální řešení) sedlový bod

NELINEÁRNÍ REGRESNÍ MODELY Metody odhadů parametrů nederivační metody přímého hledání (např. krokové hledání minima, Rosenbrockova metoda) simplexové metody (postupné vytváření adaptivních polyedrů simplexů a jejich překlápění směrem k minimu) metody využívající náhodných čísel 108 derivační (tendence k lokálním minimům, závislost na prvních odhadech, vhodné k jemnému nalezení minima jako pokračování nederivačních metod) Gauss-Newton Levenberg-Marquart dog-leg

HODNOCENÍ NELINEÁRNÍHO REGRESNÍHO MODELU 1. Kvalita nalezených odhadů parametrů a) podle intervalů spolehlivosti (čím menší interval spolehlivosti, tím lépe) β j = j ± mm 1 ; m; n m b C m s F α b) podle rozptylů parametrů, kde by pro kvalitní odhad mělo platit D ( b j ) < b j 109

HODNOCENÍ NELINEÁRNÍHO REGRESNÍHO MODELU. Kvalita dosažené těsnosti proložení 1. a) podle reziduálního rozptylu b) podle regresního rabatu, což je v procentech vyjádřený koeficient determinace (čím více se blíží 100 %, tím lepší proložení) 3. Vhodnost navrženého modelu Akaikovo informační kritérium(aic) - (čím je AIC menší, tím vhodnější je model). 110

HODNOCENÍ NELINEÁRNÍHO REGRESNÍHO MODELU 4. Predikční schopnost modelu střední kvadratická chyba predikce (MEP) - čím je MEP menší, tím je predikční schopnost modelu lepší 5. Kvalita experimentálních dat a) na základě analýzy reziduí 111 b) na základě analýzy vlivných bodů (podle Jackknife reziduí, Cookovy vzdálenosti, diagonální prvky projekční matice a věrohodnostní vzdálenost).