Bc. Samuel íha. Parciální a podmín né korela ní koecienty DIPLOMOVÁ PRÁCE. Univerzita Karlova v Praze. Matematicko-fyzikální fakulta

Transkript

1 Univerzita Karlova v Praze Matematicko-fyzikální fakulta DIPLOMOVÁ PRÁCE Bc. Samuel íha Parciální a podmín né korela ní koecienty Katedra pravd podobnosti a matematické statistiky Vedoucí diplomové práce: Studijní program: Studijní obor: Ing. Marek Omelka, Ph.D. Matematika Pravd podobnost, matematická statistika a ekonometrie Praha 015

2 Cht l bych vyjád it velké díky svému vedoucímu diplomové práce inºenýru Marku Omelkovi za mnoho cenných rad, p ipomínek a v neposlední ad za jeho velkou ochotu sejít se se mnou ke konzultaci i ve svém volném ase. Dále bych cht l pod kovat v²em, kte í m p i psaní jakkoli podporovali a umoºnili tak vznik této diplomové práce.

3 Prohla²uji, ºe jsem tuto diplomovou práci vypracoval samostatn a výhradn s pouºitím citovaných pramen, literatury a dal²ích odborných zdroj. Beru na v domí, ºe se na moji práci vztahují práva a povinnosti vyplývající ze zákona. 11/000 Sb., autorského zákona v platném zn ní, zejména skute nost, ºe Univerzita Karlova v Praze má právo na uzav ení licen ní smlouvy o uºití této práce jako ²kolního díla podle Ÿ60 odst. 1 autorského zákona. V Praze dne Podpis autora

4 Název práce: Parciální a podmín né korela ní koecienty Autor: Bc. Samuel íha Katedra: Katedra pravd podobnosti a matematické statistiky Vedoucí diplomové práce: Ing. Marek Omelka, Ph.D., KPMS MFF UK Abstrakt: K m ení závislosti dvou náhodných veli in Y 1, Y za p ítomnosti t etí ru²ivé veli iny X se pouºívají podmín né a parciální korela ní koecienty. V práci uvádím obecnou denici podmín ného korelan ího koecientu a rozebírám vlastnosti, které by m l spl ovat parciální korela ní koecient, tedy korela ní koecient po ítaný z náhodných veli in Y 1, Y vhodn o i²t ných od vlivu X. Navrhuji n kolik alternativ, jak lze takové o i²t ní provést. P edstavuji nový pojem perfektní parciální korela ní koecient, s jehoº pomocí zkoumám, kdy lze povaºovat o i²t ní náhodných veli in Y 1, Y od vlivu X za vhodné. Klí ová slova: Pearson v korela ní koecient, Kendallovo tau, Spearmanovo rho, podmín ný korela ní koecient, parciální korela ní koecient Title: Partial correlation coecients and their extension Author: Bc. Samuel íha Department: Department of Probability and Mathematical Statistics Supervisor: Ing. Marek Omelka, Ph.D., KPMS MFF UK Abstract: Measuring the dependence of two random variables Y 1, Y in the presence of a third, interfering, variable X is done by means of conditional and partial correlation coecients. This work presents a general denition of the conditional correlation coecient and it analyses properties which should hold for the partial correlation coecient, by which I mean the correlation coecient computed from the random variables Y 1, Y after the removal of the eect of X. I propose several alternative ways to remove this eect of X. I introduce a new concept of the perfect partial correlation coecient, which I use in order to investigate under which conditions the removal of X appears appropriate. Keywords: Pearson correlation coecient, Kendall's tau, Spearman's rho, conditional correlation coecient, partial correlation coecient

5 Obsah Úvod 3 1 Míry závislosti a korelace dvou náhodných veli in Pearson v korela ní koecient Po adové korela ní koecienty Závislost dvou náhodných veli in za p ítomnosti ru²ivé veli iny 17.1 Podmín ný korela ní koecient Parciální korela ní koecient Testování podmín né nezávislosti Pearson v korela ní koecient 3.1 Podmín ný Pearson v korela ní koecient Parciální Pearson v korela ní koecient vzniklý lineárním o i²t ním Dal²í parciální Pearsonovy korela ní koecienty Odhady podmín ného a parciálních Pearsonových korela ních koecient Testování podmín né nezávislosti Kopule Podmín né, pr m rné a parciální kopule Odhadování kopulí Kendallovo tau Parciální Kendallovo tau Odhady podmín ného a parciálního Kendallova tau Spearmanovo rho Parciální Spearmanovo rho Odhady podmín ného a parciálního Spearmanova rho Aplikace na datech Simulovaná data Reálná data Záv r 63 1

6 Literatura 64 Seznam pouºitých zkratek 66

7 Úvod Korela ní koecienty se v matematické statistice pouºívají pro vyjád ení závislosti dvou náhodných veli in Y 1, Y pomocí jednoho reálného ísla. Ve své diplomové práci se zam ím na p ípad, kdy je p ítomna i t etí náhodná veli ina X. Pro m ení závislosti Y 1, Y za p ítomnosti ru²ivé veli iny X se pouºívají podmín né a parciální korela ní koecienty. V první kapitole rozeberu moºnosti, jak lze pomocí jednoho reálného ísla m it závislost dvou náhodných veli in Y 1, Y. Zam ím se zejména na t i hlavní korela ní koecienty - Pearson v korela ní koecient, Kendallovo tau a Spearmanovo rho. V druhé kapitole obecn denuji pojmy podmín ný a parciální korela ní koe- cient. P edstavuji zde taky nový pojem perfektní parciální korela ní koecient, který si klade za cíl popsat, kdy je parciální korela ní koecient vhodným ukazatelem závislosti Y 1, Y za p ítomnosti ru²ivé veli iny X. Ve t etí, páté a ²esté kapitole se zabývám m ením závislosti dvou náhodných veli in za p ítomnosti t etí ru²ivé veli iny pomocí Pearsonova korela ního koecientu, Kendallova tau a Spearmanova rho. Pro kaºdý z t chto korela ních koecient denuji jeho podmín nou verzi a popisuji r zné moºnosti zavedení parciálních korela ních koecient. Pomocí formulovaných v t dokazuji, za kterých podmínek vyhovují tyto parciální korela ní koecienty denici perfektního parciálního korela ního koecientu. Na konci p íslu²ných kapitol taky uvádím moºnosti odhadu v²ech zavedených korela ních koecient. P i práci s Kendallovým tau a Spearmanovým rho pouºívám vyjád ení daných koecient pomocí kopulí. Proto ve tvrté kapitole uvádím základní termíny týkající se kopulí spolu s jejich vlastnostmi a odhady. V sedmé kapitole porovnávám v²echny navrºené podmín né a parciální korela ní koecienty na simulovaných a reálných datech. Hlavním p ínosem práce je obecné zavedení pojm parciálního a podmín ného korela ního koecientu. Zavedení pojmu perfektního parciálního korela ního koecientu. D kazy, za jakých podmínek jsou r zné parciální korela ní koecienty perfektní. Nové jsou rovn º alternativy parciálního Pearsonova korela ního koecientu. P ínos práce spo ívá i ve shrnutí poznatk týkajících se analýzy Pearsonova korela ního koecientu, Kendallova tau a Spearmanova rho za p ítomnosti ru²ivé veli iny. Za zmínku stojí, ºe v²echny d kazy uvedené v práci, není-li uvedeno jinak, jsou moje vlastní. 3

8 1. Míry závislosti a korelace dvou náhodných veli in Vztah dvou náhodných veli in je kompletn popsán jejich sdruºenou distribu ní funkcí. N kdy se spokojíme se zjednodu²eným vyjád ením tohoto vztahu pomocí kopulí (kterým se v nuji ve 4. kapitole). ƒasto dokonce poºadujeme, aby byl vztah dvou náhodných veli in zachycen pouze jedním reálným íslem (nap. Pearsonovým korela ním koecientem). Mírou závislosti (angl. measure of dependence) náhodných veli in Y 1, Y rozumíme funkci z prostoru v²ech dvojic náhodných veli in do R, která vyjad uje vztah náhodných veli in Y 1, Y pomocí jednoho reálného ísla. Rényi (1959) navrhl 7 kritérií, která by míra závislosti q dvou náhodných veli in m la spl ovat. Rényi na²el mezi známými mírami závislosti pouze jednu, která vyhovuje v²em jeho 7 kritériím. Jedná se o maximální korela ní koecient, jeº denuji v (1.14). Schweizer a Wol (1981) p epracovali t chto 7 Rényiových kritérií. Míra závislosti q dvou spojitých náhodných veli in by podle nich m la spl ovat pro v²echny dvojice spojitých náhodných veli in Y 1, Y tzv. Rényiovy axiomy: A) q(y 1, Y ) je denované pro v²echny spojité Y 1, Y. B) q(y 1, Y ) = q(y, Y 1 ). C) 0 q(y 1, Y ) 1. D) q(y 1, Y ) = 0 Y 1, Y jsou nezávislé. E) q(y 1, Y ) = 1 Y 1 = g 1 (Y ) Y = g (Y 1 ) s.j., pro n jaké striktn monotóní Borelovské funkce g 1, g. F) q(y 1, Y ) = q [ g 1 (Y 1 ), g (Y ) ], pokud g 1, g jsou striktn monotónní Borelovské funkce s.v. na nosi ích supp(y 1 ), resp. supp(y ). G) Pokud má vektor (Y 1, Y ) regulární dvojrozm rné normální rozd lení, pak je q(y 1, Y ) striktn rostoucí funkce Pearsonova korela ního koecientu ρ (P ) (Y 1, Y ). H) Jestli posloupnost { (Y 1n, Y n ) } konverguje v distribuci k (Y 1, Y ), potom lim n q(y 1n, Y n ) = q(y 1, Y ). Poznámka 1.1. supp(y ) zna í nosi náhodné veli iny Y. Tedy supp(y ) = {y R P(y δ < Y < y + δ) > 0, pro δ > 0}. Nelsen (006) denuje míru závislosti dvou spojitých náhodných veli in Y 1, Y jakoºto funkci q spl ující Rényiovy axiomy A, B, C, D, E a F. Axiom G Nelsen (006) pro denici míry závislosti nevyºaduje a axiom H upravuje na tvar pracující s kopulami (Nelsen (006) se totiº zam uje pouze na míry závislosti vyjád itelné pomocí kopul). Nelsen (006) taktéº denuje míru korelace (angl. measure of concordance) dvou spojitých náhodných veli in. Ve své práci se budu zabývat i mírami korelace, které nelze vyjád it pomocí kopulí. Proto podmínky, které podle Nelsen 4

9 (006) musí spl ovat míra korelace, lehce modikuji, tak aby platily i pro nespojité náhodné veli iny, a aby jim vyhovoval i Pearson v korela ní koecient (jak následn dokazuji v 1.3). Míra korelace q dvou náhodných veli in Y 1, Y, pro které je q (Y 1, Y ) denována, by m la spl ovat následující podmínky korelace, které ozna uji jako upravené Nelsenovy axiomy : A) q (Y 1, Y ) = q (Y, Y 1 ). B) 1 q (Y 1, Y ) 1, q (Y 1, Y 1 ) = 1, q (Y 1, Y 1 ) = 1. C) q (Y 1, Y ) = 0, pokud jsou Y 1, Y nezávislé. D) q ( Y 1, Y ) = q (Y 1, Y ) = q (Y 1, Y ). E) Nech α, β R : Y = α + βy 1 s.j., pak pro β > 0 platí q (Y 1, Y ) = 1, pro β < 0 platí q (Y 1, Y ) = 1. F) Pro α 1, α R, β 1, β R + : q (Y 1, Y ) = q (α 1 + β 1 Y 1, α + β Y ). St ºejním rozdílem mezi mírou závislosti a mírou korelace je podmínka C) v Rényiových axiomech a podmínka B) v upravených Nelsenových axiomech. Ve své práci se budu zabývat zejména korela ními koecienty. Korela ním koecientem chápu n jaký ukazatel míry korelace. N kdy se ale v matematice pojem korela ní koecient uºívá obecn ji a adí se mezi n j t eba i maximální korela ní koecient (viz denice 1.14) nebo distan ní korela ní koecient (více o n m v Székely a kol. (007) a Székely a Rizzo (009)), které bych dle Rényiových a upravených Nelsenových axiom adil spí²e mezi míry závislosti. Jindy se naopak v matematické literatu e pouºívá pojem korela ní koecient speci t ji a myslí se jím pouze Pearson v korela ní koecient. Ve zbytku kapitoly p edstavím t i hlavní korela ní koecienty - Pearson v korela ní koecient, Spearmanovo rho a Kendallovo tau, kterými se budu v práci podrobn ji zabývat. Uvedu i n které dal²í míry závislosti, které s t mito t emi korela ními koecienty souvisí. 1.1 Pearson v korela ní koecient Pearson v korela ní koecient je nejpouºívan j²ím ukazatelem závislosti dvou náhodných veli in. Denice 1.. Nech Y 1 a Y jsou náhodné veli iny s kone nými nenulovými druhými momenty. Pearsonovým korela ním koecientem veli in Y 1 a Y rozumíme íslo ρ (P ) (Y 1, Y ) = σ Y 1 Y, σ Y1 σ Y kde σ Y 1 = Var(Y 1 ), σ Y = Var(Y ) a σ Y1 Y = Cov(Y 1, Y ). V ta 1.3. Nech Y 1, Y jsou náhodné veli iny s kone nými nenulovými druhými momenty. Pak ρ (P ) (Y 1, Y ) spl uje v²ech 6 upravených Nelsenových axiom. 5

10 D kaz. A) ρ (P ) (Y 1, Y ) = σ Y 1 Y σ Y1 σ Y = σ Y Y 1 σ Y σ Y1 = ρ (P ) (Y, Y 1 ). B), C), E), F) Tvrzení jsou dokázána v And l (007) str. 45. D) Platí nebo Cov( Y 1, Y ) = Cov(Y 1, Y ) = Cov(Y 1, Y ) a Var(Y 1 ) = Var( Y 1 ), Var(Y ) = Var( Y ). Pro interpretaci Pearsonova korela ního koecientu je d leºitý pojem lineární aproximace. Denice 1.4. Nech Y 1, Y jsou náhodné veli iny s kone nými nenulovými druhými momenty. Nejlep²í lineární aproximací Y pomocí Y 1 rozumíme náhodnou veli inu Ŷ = α + βy 1, kde α a β jsou taková reálná ísla, pro která platí α, β R : E(Y α βy 1 ) E(Y α β Y 1 ). And l (007) uvádí vzorec na výpo et koecient α, β nejlep²í lineární aproximace. V ta 1.5. Nech Y 1, Y jsou náhodné veli iny s kone nými nenulovými druhými momenty. Pro koecienty α a β nejlep²í lineární aproximace Ŷ = α + βy 1 platí β = σ Y 1 Y σ Y 1, α = EY βey 1. (1.1) D kaz. Je k nalezení v And l (007) na str. 44. Pearson v korela ní koecient ρ (P ) (Y 1, Y ) lze interpretovat jako odmocninu z procenta vysv tleného rozptylu Y pomocí nejlep²í lineární aproximace Ŷ ve smyslu následující v ty. V ta 1.6. Nech Y 1, Y jsou náhodné veli iny s kone nými nenulovými druhými momenty. Nech Ŷ zna í nejlep²í lineární aproximaci Y pomocí Y 1. Potom platí ρ (P ) (Y 1, Y ) = σ Ŷ σ Y = 1 σ Y Ŷ σ Y. (1.) 6

11 D kaz. Nejd ív dokáºu σ ˆ Y σ Y = ρ (P ) (Y 1, Y ). Podle v ty 1.5 získám úpravami poºadovanou rovnost [( ) σ Ŷ Var(α + βy 1 ) Var EY σ Y 1 Y EY σ 1 Y = = 1 σy σy σy [ ] ( ) Var σy1 Y σy1 Y Y σy 1 = 1 = σ σ Y Y1 1 = σy σy Pro d kaz rovnosti σ ˆ Y = σy rovnost plyne z rovnosti + σ Y 1 Y σ Y 1 Y 1 ] σ Y 1 Y σ Y 1 σ Y = ρ (P ) (Y 1, Y ). 1 σ Y ˆ Y σ Y sta í dokázat σ Ŷ = σ Y σ Y Ŷ. Tato σ Y =Var [ Ŷ + (Y Ŷ) ] = Var ( Ŷ ) + Var(Y Ŷ) + Cov [ Ŷ, (Y Ŷ) ] = σ Ŷ + σ Y Ŷ, která platí, nebo rozepsáním zjistíme, ºe Cov [ Ŷ, (Y Ŷ) ] = 0 Poznámka 1.7. σ p edstavuje rozptyl nevysv tlené ásti náhodné veli iny Y Y Ŷ pomocí nejlep²í lineární aproximace Ŷ. Poznámka 1.8. Vzhledem k symetrii Pearsonova korela ního koecientu platí σ Ŷ σ Y = ρ (P ) (Y 1, Y ) = ρ (P ) (Y, Y 1 ) = σ Ŷ1 σ Y 1, kde Ŷ1 je nejlep²í lineární aproximace náhodné veli iny Y 1 pomocí Y. Pearson v korela ní koecient tedy lze symetricky interpretovat jako odmocninu z procenta vysv tleného rozptylu Y 1 pomocí Ŷ 1. Na základ v ty 1.6 lze íct, ºe Pearson v korela ní koecient m í (pouze) lineární závislost mezi Y 1, Y. V p ípad, ºe tato závislost je siln nelineární, není Pearson v korela ní koecient vhodným ukazatelem závislosti mezi Y 1, Y, jak ilustruji na následujícím p íkladu. P íklad 1.9. Nech Y 1 má normované normální rozd lení a Y = Y1. Pak snadno spo ítáme, ºe ρ (P ) (Y 1, Y ) = σ Y 1 Y1 = E[ (Y 1 EY 1 )(Y1 EY1 ) ] = E(Y 3 1 Y 1 ) = 0, σy 1 σ σ Y1 Y 1 σ σ Y1 Y 1 σ Y1 p i emº poslední rovnost platí, jelikoº jsou liché momenty normovaného normálního rozd lení nulové. Pro odhad Pearsonova korela ního koecientu na základ dostupných pozorování náhodných veli in Y 1, Y slouºí výb rový Pearson v korela ní koecient. 7

12 Denice Nech (Y 11, Y 1 ),..., (Y 1n, Y n ) je náhodný výb r z (Y 1, Y ), p i- emº Y 1, Y mají kone ný nenulový rozptyl. Výb rový Pearson v korela ní koecient náhodných veli in Y 1 a Y spo ítáme pomocí vzorce ρ (P ) n (Y 1, Y ) = n (Y 1i Y 1 )(Y i Y ) (n 1)s Y1 s Y, (1.3) kde s Y1, s Y jsou výb rové sm rodatné odchylky s Y1 = 1 n (Y 1i Y 1 ) n 1, s Y = 1 n 1 Y 1 a Y zna í výb rové pr m ry 1 n n Y 1i a 1 n n Y i. n (Y i Y ). Poznámka Výb rový Pearson v korela ní koecient je denovaný korektn pouze v p ípad, kdy nenastane ani jedna z rovností Y 11 = = Y 1n nebo Y 1 = = Y n. O tom, pro je výb rový Pearson v korela ní koecient vhodný odhad Pearsonova korela ního koecientu, hovo í následující v ta. V ta 1.1. Nech Y 1, Y jsou náhodné veli iny s nenulovými druhými a kone nými tvrtými momenty a nech (Y 11, Y 1 ),..., (Y 1n, Y n ) je náhodný výb r z (Y 1, Y ). Potom platí [ n ρ (P ) n (Y 1, Y ) ρ (P ) (Y 1, Y ) ] d Z N (0, n γ ). (1.4) Rozptyl γ asymptotického rozd lení spo ítám pomocí vzorce γ = 1 [ 4 ρ(p ) C(Y1 Y 1, Y 1 Y 1 ) (Y 1, Y ) + C(Y 1Y 1, Y Y ) + C(Y ] Y, Y Y ) σy 4 1 σy 1 σy σy 4 [ ρ (P ) C(Y1 Y 1, Y 1 Y ) (Y 1, Y ) + C(Y ] 1Y, Y Y ) + C(Y 1Y, Y 1 Y ), σy 3 1 σ Y σ Y1 σy 3 σy 1 σy kde C(Y 1 Y, Y 3 Y 4 ) = Cov [ (Y 1 EY 1 )(Y EY ), (Y 3 EY 3 )(Y 4 EY 4 ) ]. D kaz. Nap ve Ferguson (1996) str. 5. Poznámka d zna í konvergenci v distribuci. n Na základ v ty 1.1 lze sestavit interval spolehlivosti pro Pearson v korela ní koecient, který vyuºívá výb rový Pearson v korela ní koecient, p ípadn lze testovat hypotézy typu ρ (P ) (Y 1, Y ) = konst. Z Pearsonova korela ního koecientu je odvozeno mnoho dal²ích m r závislosti dvou náhodných veli in. Popí²u zde aspo n které z nich - maximální korela ní koecient, randomizovaný koecient závislosti, correlation ratio a Spearmanovo rho, kterému se budu v novat zvlá². 8

13 Maximální korela ní koecient Maximální korela ní koecient (angl. maximum correlation coecient) jsem zmínil v úvodu kapitoly. Tato míra závislosti spl uje v²ech 7 p vodních Rényiho kritérií míry závislosti dvou náhodných veli in (d kaz v Rényi, 1959). Denice Nech Y 1, Y jsou náhodné veli iny. Maximální korela ní koecient náhodných veli in Y 1, Y je denován jako hgr(y 1, Y ) = sup f 1,f ρ (P )[ f 1 (Y 1 ), f (Y ) ], kde sup f1,f je supremum p es v²echny dvojice f 1, f Borelovských funkcí s kone ným nenulovým rozptylem, tedy spl ujících 0 < Var [ f 1 (Y 1 ) ], Var [ f (Y ) ] <. Supremum sup f1,f v denici 1.14 je supremum p es nekone n -dimenzionální prostor. Proto hgr(y 1, Y ) není odhadnutelný. Jedná se spí²e o teoretický koncept, neº o praktickou míru závislosti dvou náhodných veli in, jak uvádí Lopez-Paz a kol. (013). Na základ maximálního korela ního koecientu zavedli Lopez-Paz a kol. (013) randomizovaný koecient závislosti (angl. randomized dependence coef- cient), který má podobné vlastnosti a strukturu jako maximální korela ní koe- cient, ale je narozdíl od n j odhadnutelný. Correlation ratio Pearson v korela ní koecient ρ (P ) (Y 1, Y ) lze na základ v ty 1.6 interpretovat jako odmocninu z procenta rozptylu Y vysv tleného lineární aproximací Y pomocí Y 1. My²lenkou correlation ratio je zavést míru závislosti mezi dv ma veli inami, která bude m it procento rozptylu Y vysv tleného libovolnou (nejen lineární) aproximací Y pomocí Y 1. Denice Nech Y 1, Y jsou náhodné veli iny s kone nými nenulovými druhými momenty. Correlation ratio Y ku Y 1 je denované jako η (Y Y 1 ) = Var[ E(Y Y 1 ) ] σ Y. Poznámka V²imn me si, ºe denice correlation ratio odpovídá vzorci pro výpo et druhé mocniny Pearsonova korela ního koecientu (viz první rovnost v (1.)), akorát v ní místo nejlep²í lineární aproximace Ŷ pracujeme s podmín nou st ední hodnotou E(Y Y 1 ). Daní za to, ºe correlation ratio m í i sloºit j²í neº lineární závislost mezi Y 1, Y je, ºe se nejedná o symetrickou míru závislosti, tedy obecn neplatí rovnost η(y Y 1 ) = η(y 1 Y ). Viz následující p íklad. 9

14 P íklad Nech Y 1 má normované normální rozd lení a Y = Y1. Pak snadno spo ítáme, ºe Nicmén η (Y Y 1 ) = Var[ E(Y 1 Y 1 ) ] σ Y 1 η (Y 1 Y ) = Var[ E(Y 1 Y 1 ) ] σ Y 1 = Var[ ] Y1 σ Y1 = Var [ ] 0 σ Y1 = 1. = 0. N které d leºité vlastnosti a moºnosti odhadování correlation ratia lze nalézt v Lewandowski a kol. (007). Problematikou parciálního a podmín ného correlation ratio se zabývá McKay a kol. (1995). 1. Po adové korela ní koecienty V p ípad, ºe nám nesta í m it lineární závislost mezi Y 1 a Y, m ºeme jako alternativu k Pearsonovu korela nímu koecientu pouºít po adové korela ní koe- cienty. Tyto koecienty vyjad ující závislost Y 1 a Y jsou po ítany pouze na základ po adí pozorování náhodných veli in Y 1 a Y. Mezi nejznám j²í po adové korela ní koecienty pat í Spearmanovo rho a Kendallovo tau. Spearmanovo rho Spearmanovo rho je známé p edev²ím ve své výb rové podob. Denice Nech (Y 11, Y 1 ),..., (Y 1n, Y n ) je náhodný výb r z (Y 1, Y ). Nech R 11,..., R 1n jsou po adí Y 11,..., Y 1n a R 1,..., R n jsou po adí Y 1,..., Y n. Pak výb rové Spearmanovo rho náhodných veli in Y 1 a Y je denováné ρ (S) n (Y 1, Y ) = ρ (P ) n (R 1, R ) = n (R 1i R 1 )(R i R ) (n 1)s R1 s R, kde s R1, s R jsou výb rové rozptyly z po adí pozorování s R1 = 1 n (R 1i R 1 ) n 1, s R = 1 n 1 n (R i R ). R 1 a R zna í pr m ry po adí pozorování 1 n n R 1i a 1 n n R i. Poznámka Výb rové Spearmanovo rho je denované korektn pouze v p ípad, kdy nenastane ani jedna z rovností R 11 = = R 1n nebo R 1 = = R n. Poznámka 1.0. Výb rové Spearmanovo rho závisí z ejm pouze na po adích pozorování náhodných veli in Y 1, Y. V praxi se k výpo tu výb rového Spearmanova rho pouºívá jednodu²e implementovatelný vzorec, jeº je uveden v následující v t. 10

15 V ta 1.1. Nech (Y 11, Y 1 ),..., (Y 1n, Y n ) je náhodný výb r ze spojitého vektoru (Y 1, Y ). Nech R 11,..., R 1n jsou po adí Y 11,..., Y 1n a R 1,..., R n jsou po adí Y 1,..., Y n. Pro výpo et výb rového Spearmanova rho náhodných veli in Y 1, Y platí vzorec ρ (S) 6 n (Y 1, Y ) = 1 n(n 1) n (R 1i R i ) s.j. (1.5) D kaz. Je uveden v And l (011) na str. 56. Popula ní verze Spearmanova rho je vlastn Pearson v korela ní koecient po ítaný nikoli p ímo na veli inách Y 1, Y, ale na jejich transformacích pomocí distribu ních funkcí F 1 (Y 1 ), F (Y ), kde F 1, F jsou distribu ní funkce Y 1, Y. Denice 1.. Nech Y 1, Y jsou nedegenerované náhodné veli iny (tedy nejsou rovny konstant s.j.). Spearmanovo rho náhodných veli in Y 1 a Y je denováno ρ (S) Cov [ F 1 (Y 1 ), F (Y ) ] (Y 1, Y ) = Var [ F 1 (Y 1 ) ] Var [ F (Y ) ]. Poznámka 1.3. F 1 (Y 1 ), F (Y ) jsou omezené a jelikoº Y 1, Y jsou nedegenerované, tak i F 1 (Y 1 ), F (Y ) jsou nedegenerované. Proto jsou rozptyly Var [ F 1 (Y 1 ) ] a Var [ F (Y ) ] nenulové a kone né. Denice Spearmanova rho je tedy korektní. Spearmanovo rho lze vyjád it ve tvaru podobném denici Kendallova tau (jeº uvedu v (1.31)). V ta 1.4. Nech (Y 1, Y ), (Y 1, Y ) a (Y 1, Y ) jsou nezávislé stejn rozd lené nedegenerované náhodné vektory. Potom platí { ρ (S) (Y 1, Y ) = 3 P [ (Y 1 Y 1)(Y Y ) > 0 ] P [ (Y 1 Y 1)(Y Y ) < 0 ] }. (1.6) D kaz. Nap. v Nelsen (006) str Spearmanovo rho bývá n kdy také ozna ované jako Spearman v po adový korela ní koecient. Toto ozna ení je oprávn né, nebo Spearmanovo rho spl uje podmínky míry korelace. Viz následující v ta. V ta 1.5. Nech Y 1, Y jsou spojité náhodné veli iny. Pak ρ (S) (Y 1, Y ) spl uje v²ech 6 upravených Nelsenových axiom. D kaz. A), B), C), D) Jsou dokázána v Nelsen (006) na str E), F) V Nelsen (006) str. 169 jsou dokázána dokonce siln j²í tvrzení, kde se neuvaºují jen lineární funkce α 1 +β 1 Y 1 a α +β Y, ale libovolné monotónní funkce g 1 (Y 1 ) a g (Y ). 11

16 Mezi výb rovou a popula ní verzí Spearmanova rho platí podobný vztah jako mezi výb rovým Pearsonovým a Pearsonovým korela ním koecientem (jeº byl uveden ve v t 1.1). V ta 1.6. Nech (Y 1, Y ) je spojitý náhodný vektor a (Y 11, Y 1 ),..., (Y 1n, Y n ) je náhodný výb r z (Y 1, Y ). Potom platí [ n ρ (S) n (Y 1, Y ) ρ (S) (Y 1, Y ) ] d Z N (0, n σ ), kde σ je konstanta závislá pouze na sdruºeném rozd lení (Y 1, Y ). D kaz. Uveden v Schmid a Schmidt (007) na str. 6. Kendallovo tau Druhým nejznám j²ím po adovým korela ním koecientem je Kendallovo tau, které je (stejn jako Spearmanovo rho) známé spí²e ve své výb rové podob. Pro denici výb rového Kendallova tau je pot eba nejd íve zavést pojmy souhlasná a nesouhlasná dvojice pozorování. M jme (Y 11, Y 1 ),..., (Y 1n, Y n ) náhodný výb r z (Y 1, Y ). Existuje celkem ( ) n dvojic (Y 1i, Y i ) a (Y 1j, Y j ) pro i, j {1,..., n}, i j. Ozna me C = po et souhlasných dvojic (Y 1i, Y i ) a (Y 1j, Y j ) D = po et nesouhlasných dvojic (Y 1i, Y i ) a (Y 1j, Y j ), p i emº dvojice (Y 1i, Y i ) a (Y 1j, Y j ) je souhlasná, pokud platí Y 1i < Y 1j Y i < Y j nebo Y 1i > Y 1j Y i > Y j. Nesouhlasná pokud Y 1i > Y 1j Y i < Y j nebo Y 1i < Y 1j Y i > Y j. Jestliºe Y 1i = Y 1j nebo Y i = Y j, pak dvojice (Y 1i, Y i ) a (Y 1j, Y j ) není ani souhlasná ani nesouhlasná. Poznámka 1.7. Na základ vý²e zmín ného popisu lze odvodit vzorce C = D = n n I { } Y 1i < Y 1j, Y i < Y j n j=1 j=1 n I { } Y 1i < Y 1j, Y i > Y j. Denice 1.8. Nech (Y 11, Y 1 ),..., (Y 1n, Y n ) je náhodný výb r z (Y 1, Y ). Výb rové Kendellovo tau náhodných veli in Y 1 a Y spo ítáme pomocí vzorce τ n (Y 1, Y ) = C D ( n ). (1.7) Poznámka 1.9. Kendallovo tau lze tedy interpretovat jako normovaný rozdíl souhlasných a nesouhlasných dvojic (Y 1i, Y i ) a (Y 1j, Y j ). 1

17 Poznámka Výpo et výb rového Kendallova tau závisí pouze na po adích R 11,..., R 1n veli in Y 11,..., Y 1n a po adích R 1,..., R n veli in Y 1,..., Y n, nebo platí n n C = I { } n n Y 1i < Y 1j, Y i < Y j = I { } R 1i < R 1j, R i < R j D = n j=1 n I { } Y 1i < Y 1j, Y i > Y j = j=1 n j=1 n I { } R 1i < R 1j, R i > R j. Na základ výb rové verze je denována popula ní verze Kendallova tau. Denice Nech (Y 1, Y ), (Y 1, Y ) jsou nezávislé stejn rozd lené náhodné vektory. Kendallovo tau náhodných veli in Y 1 a Y je denováno jako τ(y 1, Y ) = P [ (Y 1 Y 1)(Y Y ) > 0 ] P [ (Y 1 Y 1)(Y Y ) < 0 ]. (1.8) j=1 Poznámka 1.3. Pokud (Y 1, Y ), (Y 1, Y ) jsou nezávislé stejn rozd lené náhodné vektory se spojitými marginálami, pak je a tedy platí P(Y 1 = Y 1 Y = Y ) = 0, τ(y 1, Y ) = P [ (Y 1 Y 1)(Y Y ) > 0 ] 1. (1.9) Kendallovo bývá n kdy také ozna ované jako Kendall v po adový korela ní koecient. Kendallovo tau totiº dle následující v ty spl uje podmínky míry korelace. V ta Nech Y 1, Y jsou spojité náhodné veli iny. Pak τ(y 1, Y ) spl uje v²ech 6 podmínek upravených Nelsenových axiom. D kaz. A), B), C), D) Jsou dokázána v Nelsen (006) na str E), F) V Nelsen (006) str. 169 jsou dokázána dokonce siln j²í tvrzení, kde se neuvaºují jen lineární funkce α 1 +β 1 Y 1 a α +β Y, ale libovolné monotónní funkce g 1 (Y 1 ) a g (Y ). Pro vztah výb rového a popula ního Kendallova tau platí analogie v t 1.1 a 1.6. V ta Nech (Y 1, Y ) je spojitý náhodný vektor a (Y 11, Y 1 ),..., (Y 1n, Y n ) je náhodný výb r z (Y 1, Y ). Potom platí n [ τn (Y 1, Y ) τ(y 1, Y ) ] d n Z N (0, σ ), kde σ je konstanta závislá pouze na sdruºeném rozd lení (Y 1, Y ). D kaz. Viz Barbe a kol. (1996) na str

18 Po adové korela ní koecienty pro velké mnoºství shod V p ípad, ºe náhodné veli iny Y 1, Y nejsou spojité, zejména v p ípad, kdy jsou v realizacích náhodného výb ru (Y 11, Y 1 ),..., (Y 1n, Y n ) shody, tj. ve vektoru (Y 11,..., Y 1n ) nebo (Y 1,..., Y n ) se vyskytují shodná pozorování, je vhodné pouºít modikované verze Spearmanova rho a Kendallova tau. And l (011) doporu uje p i velkém mnoºství shodných pozorování pouºít tzv. korigované Spearmanovo rho, které vychází ze vzorce (1.6) pro výb rové Spearmanovo rho. Denice Nech (Y 11, Y 1 ),..., (Y 1n, Y n ) je náhodný výb r z (Y 1, Y ). Nech R 11,..., R 1n jsou po adí Y 11,..., Y 1n a R 1,..., R n jsou po adí Y 1,..., Y n. Pro výpo et (výb rového) korigovaného Spearmanova rho náhodných veli in Y 1, Y platí vzorec ρ (S,korig) n (Y 1, Y ) = 1 6 n (R 1i R i ), n(n 1) T Y 1 T Y kde T Y 1 = 1 t y 1 [ ty 1 (t y 1 1)], T Y = 1 t y [ ty (t y 1)]. Symbol t y 1 ozna uje po ty stejn velkých hodnot v Y 11,..., Y 1n. V p ípad, ºe je mezi Y 11,..., Y 1n více skupin stejn velkých pozorování, pak t y 1 jsou rozsahy t chto skupin. Obdobným zp sobem je denováno t y pro stejn velké hodnoty v Y 1,..., Y n. Výb rové Kendallovo tau je interpretovatelné jako normovaný rozdíl souhlasných a nesouhlasných dvojic (Y 1i, Y i ) a (Y 1j, Y j ). Tato interpretace je ale zavád jící v p ípad, kdy je po et souhlasných a neosuhlasných dvojic (Y 1i, Y i ) a (Y 1j, Y j ) dohromady men²í neº ( n ). Tento problém se nabízí e²it tím, ºe budeme rozdíl po tu souhlasných a nesouhlasných dvojic pozorování d lit pouze sou tem souhlasných a nesouhlasných dvojic pozorování místo po tem v²ech dvojic pozorování. Na tomto principu je denované Goodman-Kruskalovo gamma. Denice Nech (Y 11, Y 1 ),..., (Y 1n, Y n ) je náhodný výb r z (Y 1, Y ). (Výb rové) Goodman-Kruskalovo gamma náhodných veli in Y 1 a Y spo ítám pomocí vzorce Γ n (Y 1, Y ) = C D C + D, kde C, D p edstavují po et souhlasných, resp. nesouhlasných dvojic (Y 1i, Y i ) a (Y 1j, Y j ). Poznámka Pokud v náhodném výb ru (Y 11, Y 1 ),..., (Y 1n, Y n ) z (Y 1, Y ) nejsou ºádné shody, pak z ejm platí ρ (S,korig) n (Y 1, Y ) = ρ (S) n (Y 1, Y ), Γ n (Y 1, Y ) = τ n (Y 1, Y ). 14

19 Srovnání Spearmanova rho a Kendallova tau Spearmanovo rho a Kendallovo tau mají velmi podobný zp sob výpo tu (viz (1.6) a (1.8)). Tato podobnost vyplývá uº jen z faktu, ºe jsou to oba dva po adové korela ní koecienty. Na následujících dvou p íkladech ilustruji hlavní rozdíl t chto dvou korela ních koecient. P íklad M jme realizace po adí náhodného výb ru z (Y 1, Y ). Tyto hodnoty jsou uvedeny v tabulce 1.1 a jsou zaneseny do grafu 1.1. R R Tabulka 1.1: Realizace po adí náhodného výb ru z (Y 1, Y ). R R 1 Obrázek 1.1: Realizace po adí náhodného výb ru z (Y 1, Y ). Ná základ po adí R 11,..., R 1n a R 1,..., R n spo ítám pomocí vzorc (1.5) a (1.7) výb rové Spearmanovo rho a výb rové Kendallovo tau. ρ (S) n (Y 1, Y ). = 0.958, τ n (Y 1, Y ). = P íklad M jme realizace po adí náhodného výb ru z (Y 1, Y ). Tyto hodnoty jsou uvedeny v tabulce 1. a jsou zaneseny do grafu 1.. R R Tabulka 1.: Realizace po adí náhodného výb ru z (Y 1, Y ). 15

20 R R 1 Obrázek 1.: Realizace po adí náhodného výb ru z (Y 1, Y ). Spo ítám výb rové verze Spearmanova rho a Kendallova tau. ρ (S) n (Y 1, Y ). = 0.154, τ n (Y 1, Y ). = V p íklad 1.38 vy²lo τ n < ρ (S) n. V p íklad 1.39 naopak τ n > ρ (S) n. P i bliº²ím pohledu na výpo tové vzorce pro Spearmanovo rho (1.5) a Kendallovo tau (1.7) si v²imn me, ºe Spearmanovo rho klesá s druhou mocninou rozdílu po adí R 1i R i. Naproti tomu odchýlené po adí ovlivní po et souhlasných a nesouhlasných dvojic pozorování (tedy i Kendallovo tau) pouze lineárn. Proto v p íklad 1.38, kdy je rozdíl mezi po adím pozorování maximáln jedna, vyjde τ n. Naopak v p íklad 1.39, kde je u jednoho pozorování extrémní rozdíl v po adí, vyjde τ n > ρ (S) n. < ρ (S) n Rozhodujeme-li se, jestli pouºít Spearmanovo rho nebo Kendallovo tau, m li bychom se prvn zamyslet nad tím, zda vyºadujeme tu nebo onu interpretaci korela ního koecientu. Volíme-li ale po adový korela ní koecient ist jen jako alternativu k Pearsonovu korela nímu koecientu, nebo nám nesta í zachytit pouze lineární závislost mezi náhodnými veli inami, pak se doporu uje pouºít Spearmanovo rho, pokud vyºadujeme velkou penalizaci, kdyº je u jednoho pozorování (Y 1i, Y i ) velký rozdíl v po adích R 1i R i. Naopak je vhodné pouºít Kendallovo tau, pokud nevadí, ºe se u jednoho pozorování po adí výrazn li²í. Problematice rozdíl Spearmanova rho a Kendallova tau se podrobn ji v nují nap. Weichao a kol. (010) a Xu a kol. (013). Tito auto i ve svých láncích rovn º diskutují, za jakých okolností je vhodné zvolit Spearmanovo rho nebo Kendallovo tau. 16

21 . Závislost dvou náhodných veli in za p ítomnosti ru²ivé veli iny K výpo tu závislosti dvou náhodných veli in Y 1 a Y za p ítomnosti ru²ivé veli iny X se nej ast ji pouºívají parciální a podmín né korela ní koecienty. A koliv se tyto dva konstrukty významn li²í, bývají v literatu e mnohdy zam ovány. V této kapitole oba konstrukty ádn zavedu a zmíním n které jejich vlastnosti a odli²nosti..1 Podmín ný korela ní koecient Podmín ný korela ní koecient popisuje závislost dvou náhodných veli in za plného vyuºití informace o ru²ivé veli in. V literatu e se nej ast ji setkáváme s podmín ným Pearsonovým korela ním koecientem. V následující denici podmín ný korela ní koecient zavádím obecn. Denice.1. Nech (Y 1, Y, X) je náhodný vektor a q je n jaký korela ní koecient. Nech F 1 x (y 1, y ) = P(Y 1 y 1, Y y X = x) je podmín ná distribu ní funkce vektoru (Y 1, Y ) za podmínky X = x. Nech (Y 1 x, Y x ) je náhodný vektor s distribu ní funkcí F 1 x. Potom podmín ný q korela ní koecient veli in Y 1 a Y za podmínky X = x denuji jako q(y 1, Y X = x) = q(y 1 x, Y x ), pro x R, pro která je q(y 1 x, Y x ) denován. Poznámka.. Podmín ný korela ní koecient q(y 1, Y X) je funkcí náhodné veli iny X. N kdy vyºadujeme, aby ná² ukazatel závislosti dvou náhodných veli in za podmínky t etí veli iny nebyl na této t etí veli in závislý. Vhodným kandidátem na takový koecient je pr m rný podmín ný korela ní koecient. Denice.3. Nech Y 1, Y a X jsou náhodné veli iny a q je n jaký korela ní koecient. Pr m rným podmín ným korela ním koecientem Y 1 a Y za podmínky X rozumíme íslo q(y 1, Y X) = E X [ q(y1, Y X) ].. Parciální korela ní koecient Dal²í zp sob, jak spo ítat závislost dvou náhodných veli in Y 1, Y za p ítomnosti ru²ivé veli iny X, je zaloºen na tom, ºe nejd íve veli iny Y 1, Y vhodným zp sobem o istíme od vlivu X a následn z t chto o i²t ných veli in spo ítáme korela ní koecient. 17

22 Parciálním korela ním koecientem náhodných veli in Y 1, Y za p edpokladu X se v t²inou v matematické literatu e rozumí parciální Pearson v korela ní koecient ρ (P ) (Y 1 α 1 β 1 X, Y α β X), kde α 1, α, β 1, β jsou vhodné reálné konstanty. Ve své práci tento parciální korela ní koecient formáln denuji v 3.6 pod názvem parciální Pearson v korela ní koecient vzniklý lineárním o i²t ním. Pojem parciální korela ní koecient budu chápat ²í eji. O i² ující transformací t náhodné veli iny Y od vlivu X rozumím funkci z L L, kde L zna í prostor v²ech náhodných veli in. Budu psát Z = t(y, X). Parciálním q korela ním koecientem náhodných veli in Y 1, Y za p edpokladu X vzniklým pomocí o i² ujících transformací t 1, t rozumím korela ní koecient kde q(y 1, Y X) = q(z 1, Z ), Z 1 = t 1 (Y 1, X), Z = t (Y, X). Poznámka.4. Parciální korela ní koecient Y 1 a Y za p edpokladu X nezávisí na X, na rozdíl od podmín ného korela ního koecientu, který obecn na X záviset m ºe. Je tedy z ejmé, ºe se jedná o odli²né konstrukty. Pravd podobn hlavním d vodem zám ny pojm podmín ný a parciální korela ní koecient je skute nost, ºe v p ípad, kdy má vektor (Y 1, Y, X) trojrozm rné regulární normální rozd lení (tedy trojrozm rné normální rozd lení s pozitivn denitní varian ní maticí), platí rovnost mezi podmín ným a parciálním Pearsonovým korela ním koecientem vzniklým lineárním o i²t ním. Viz v ta Smyslem o i² ujících transformací t 1 : (Y 1, X) Z 1, t : (Y, X) Z je zbavit náhodné veli iny Y 1, Y vlivu náhodné veli iny X, jinak ale d leºitý vztah mezi Y 1 a Y zachovat. Prakticky pouºívané p íklady o i² ujících transformací pro r zné korela ní koecienty jsou: 1) Z = Y α βx, α, β R. ) Z = Y g(x), kde g je Borelovská funkce z: R R. 3) Z = F Y X (Y ), kde F Y X je podmín ná distribu ní funkce Y za podmínky X, tj. F Y X (y) = P(Y y X). 4) Z = Y E(Y X) σ Y X, kde σ Y X zna í podmín ný rozptyl Y za podmínky X denovaný vztahem σ Y X = E [ [Y E(Y X) ] X ]. V denicích.6,.7 a.10 navrhuji zavést podmínky, o kterých se domnívám, ºe p i jejich spln ní má daný parciální korela ní koecient vzniklý pomocí o i² ujících transformací t 1, t smysluplnou interpretaci. 18

23 Poznámka.5. Mnoºinami Y, Y 1, Y, X budu (v následujících denicích) mít na mysli mnoºiny náhodných veli in. Typicky to budou nap. mnoºiny v²ech spojitých náhodných veli in nebo mnoºiny v²ech náhodných veli in s kone ným nenulovým rozptylem. Denice.6. eknu, ºe o i² ující transformace t je na mnoºin Y X úplná, pokud pro Y Y, X X je náhodná veli ina nezávislá na X. Z = t(y, X) Podmínka uvedená v denici.6 je pro o i² ující transformaci d leºitá nebo smyslem o i² ujících transformací je zbavit náhodné veli iny Y 1, Y od vlivu X. Podmínka uvedená v následující denici.7 má zajistit, ºe se p i transformaci neztratí informace uloºená ve veli inách Y 1, Y (nap. Z = 0 s.j. je z ejm nevyhovující o i² ující transformace). Denice.7. eknu, ºe o i² ující transformace t na mnoºin Y X zachovává informaci o Y, pokud pro Y Y, X X existuje Borelovská funkce t XY : R R taková, ºe platí Y = t XY (Z, X) s.j., kde Z = t(y, X). Poznámka.8. Funkci t XY funkci. z p edchozí denice n kdy ozna uji jako inverzní I v p ípad, ºe jsou o i² ující transformace Z 1 = t 1 (Y 1, X), Z = t (Y, X) úplné a zachovávají informaci o Y 1, Y, tak stále hrozí, ºe se transformacemi zm ní struktura vztahu Y 1, Y, který popisuje korela ní koecient q - viz následující p íklad. P íklad.9. Nech Y 1, Y, X jsou náhodné veli iny s normovaným normálním rozd lením, pro které platí Y 1 = Y s.j. a X je nezávislá na Y 1 a Y. Od vhodných o i² ujících transformací Z 1 = t 1 (Y 1, X), Z = t (Y, X) bychom o ekávali, ºe bude platit ρ (P ) (Z 1, Z ) = 1. O i² ující transformace Z 1 = Y 1, Z = Y 9 jsou z ejm úplné a zachovávají informaci o Y 1, Y (p íslu²né inverzní funkce jsou Y 1 = Z 1, Y = 9 Z ). Jelikoº jsou známy vzorce pro v²echny momenty normovaného normálního rozd lení, tak snadno spo ítám, ºe platí ρ (P ) (Z 1, Z ). = 0,16. O i² ující transformace by tedy m la spl ovat i podmínku uvedenou v denici.10, která má zajistit nem nnost korela ního koecient q p i transformacích Z 1 = t 1 (Y 1, X), Z = t (Y, X) v p ípad, ºe Y 1, Y nezávisí na X (tedy není co o i² ovat). 19

24 Denice.10. Nech q je n jaký symetrický korela ní koecient (tedy platí q(y 1, Y ) = q(y, Y 1 )). Potom eknu, ºe o i² ující transformace t je na mnoºin Y X nezkreslená vzhledem ke korela nímu koecientu q, pokud pro Y, Y Y, X X takové, ºe Y je nezávislá na X, platí q [ Y, t(y, X) ] = q(y, Y ). Na základ denic.6,.7 a.10 denuji tzv. perfektní parciální korela ní koecient. Denice.11. Nech q je symetrický korela ní koecient. Nech parciální q korela ní koecient vzniklý o i² ujícími transformacemi t 1, t q(y 1, Y X) = q(z 1, Z ) = q [ t 1 (Y 1, X), t (Y, X) ] je denovaný na Y 1 Y X. Pak eknu, ºe je q(y 1, Y X) pro Y 1 Y 1, Y Y, X X perfektní parciální korela ní koecient, pokud jsou transformace t 1, t na mnoºinách Y 1 X, resp. Y X úplné, zachovávají informaci o Y 1, resp. Y a jsou nezkreslené vzhledem ke korela nímu koecientu q. Poznámka.1. P estoºe oba parciální korela ní koecient a pr m rný podmín ný korela ní koecient nezávisí na X, tak se obecn tyto dva koecienty nerovnají, a to ani v p ípad, ºe se jedná o perfektní parciální korela ní koecient. P íkladem této nerovnosti je parciální Kendallovo tau a pr m rné podmín né Kendallovo tau. Viz p íklad Pr m rný podmín ný korela ní koecient p i m ení závislosti veli in Y 1, Y za podmínky X, na rozdíl od parciálního korela ního koecientu, obecn vyuºívá plnou informaci vztahu (Y 1, Y ) s ru²ivou veli inou X. Pro mnoho konkrétních korela ních koecient je parciální korela ní koecient snáze numericky odhadnutelný neº pr m rný podmín ný korela ní koecient. Proto se v praxi ast ji pouºívá práv parciální korela ní koecient. V kapitolách 3, 5 a 6 se budu v novat problematice, za jakých podmínek lze denovat perfektní parciální korela ní koecient..3 Testování podmín né nezávislosti Pomocí podmín ného korela ního koecientu lze za ur itých podmínek testovat podmín nou nezávislost. Nejd íve zadenuji, co se rozumí podmín nou nezávislostí dvou náhodných veli in vzhledem k t etí veli in. Denice.13. ekneme, ºe jsou náhodné veli iny Y 1, Y podmín n nezávislé vzhledem k náhodné veli in X, pokud pro y 1, y R a x supp(x) platí F 1 x (y 1, y ) = F 1 x (y 1 )F x (y ), kde F 1 x je podmín ná distribu ní funkce vektoru (Y 1, Y ) za podmínky X = x a F 1 x, F x jsou podmín né distribu ní funkce Y 1, resp. Y, za podmínky X = x. 0

25 Podmín ná nezávislost náhodných veli in Y 1, Y vzhledem k X se dá testovat pomocí hypotézy: H 0 : F 1 x = F 1 x F x, pro x supp(x), H 1 : F 1 x F 1 x F x, pro n jaké x supp(x). V p ípad, ºe korela ní koecient q v daném modelu spl uje podmínku q(y 1, Y ) = 0 = Y 1, Y jsou nezávislé, pak lze testovat podmín nou nezávislost Y 1, Y vzhledem k X pomocí podmín ného korela ního koecientu q(y 1, Y X) hypotézou H 0 : q(y 1, Y X = x) = 0, pro x supp(x), H 1 : q(y 1, Y X = x) 0, pro n jaké x supp(x). Pokud H 0 zamítneme, tak zamítáme podmín nou nezávislost Y 1, Y vzhledem k X. Konkrétním testováním podmín né nezávislosti pomocí parciálního Pearsonova korela ního koecientu vzniklého lineárním o i²t ním se budu zabývat na konci 3. kapitoly. 1

26 3. Pearson v korela ní koecient Budu se zabývat Pearsonovým korela ním koecientem náhodných veli in Y 1, Y za p ítomnosti ru²ivé veli iny X. Nejd íve denuji podmín ný Pearson v korelan í koecient. V dal²í ásti se budu zabývat moºnými o i² ujícími transformacemi, na jejichº základ denuji n kolik r zných parciálních Pearsonových korela ních kocient. Budu se zabývat jejich vlastmostmi, odhady a jejich vyuºitím k testování podmín né nezávislosti. Poznámka 3.1. V této a dal²ích kapitolách budu pracovat s podmín nými st edními hodnotami a podmín nými distribu ními funkcemi. Vzhledem k tomu, ºe jsou podmín né st ední hodnoty denované pouze jako t ídy ekvivalence s.j., tak pro zjednodu²ení zápisu budu psát, ºe je n jaká náhodná veli ina (nap. podmín ná st ední hodnota nebo podmín ný korela ní koecient) rovna konstant, místo abych specikoval, ºe je rovna konstant pouze s.j. 3.1 Podmín ný Pearson v korela ní koecient Uvádím denici podmín ného Pearsonova korela ního koecientu, která je k nalezení nap. v Baba (004). Denice 3.. Nech Y 1, Y a X jsou náhodné veli iny s kone nými nenulovými druhými momenty. Podmín ný Pearson v korela ní koecient veli in Y 1 a Y za podmínky X = x je denován jako ρ (P ) (Y 1, Y X = x) = σ Y1 Y X=x σ Y 1 X=x σ Y X=x, kde σ Y1 Y X=x =Cov(Y 1, Y X = x) [ [Y1 = E E(Y 1 X = x) ][ Y E(Y X = x) ] ] X = x je podmín ná kovariance náhodných veli in Y 1, Y za podmínky X = x. [ [Y1 σy 1 X=x =Var(Y 1 X = x) = E E(Y 1 X = x) ] ] X = x, [Y σy X=x =Var(Y X = x) = E[ E(Y X = x) ] ] X = x jsou podmín né rozptyly náhodných veli in Y 1, resp. Y za podmínky X = x. E(Y 1 X = x) a E(Y X = x) zna í podmín né st ední hodnoty Y 1 resp. Y za podmínky X = x. Poznámka 3.3. Podmín ná kovariance σ Y1 Y X a podmín né rozptyly σ Y 1 X, σ Y X jsou funkcemi náhodné veli iny X. Stejn tak podmín ný Pearson v korela ní koecient ρ (P ) (Y 1, Y X) je funkcí X. Takto denovaný podmín ný Pearson v korela ní koecient je v souladu s de- nicí obecného podmín ného korela ního koecientu. Viz následující v ta.

27 V ta 3.4. Nech Y 1, Y a X jsou náhodné veli iny s kone nými nenulovými druhými momenty. Podmín ný Pearson v korela ní koecient ρ (P ) (Y 1, Y X = x) denovaný v 3. je podmín ný korela ní koecient q(y 1, Y X = x) podle denice.1 pro p ípad, kdy je q Pearson v korela ní koecient. D kaz. Podle denice.1 pro p ípad, kdy je q Pearson v korela ní koecient platí q(y 1, Y X = x) = σ Y 1 x Y x, σ Y1 x σ Y x kde náhodný vektor(y 1 x, Y x ) má distribu ní funkci F 1 x. Podle denice 3. platí ρ (P ) (Y 1, Y X = x) = σ Y1 Y X=x σ Y 1 X=x σ Y X=x. Rovnost q(y 1, Y X = x) = ρ (P ) (Y 1, Y X = x) dokáºu, pokud se mi poda í ukázat rovnosti σ Y 1 x = σ Y 1 X=x, σ Y x = σ Y X=x, σ Y1 x Y x = σ Y1 Y X=x. (3.1) Pro zbytek d kazu budu vyuºívat (v ta 8. Lachout, 004, str. 4). Rovnost σy 1 x = σy 1 X=x plyne z následujících úprav σy 1 x = (y 1 x EY 1 x ) df 1 x (y 1 x, y x ) = (y 1 EY 1 x ) df 1 x (y 1, y ) R R [ [Y1 ] ] [ [Y1 = E EY 1 x X = x = E E(Y 1 X = x) ] ] X = x = σy 1 X=x. P edposlední rovnítko platí nebo EY 1 x = y 1 x df 1 x (y 1 x, y x ) = R y 1 df 1 x (y 1, y ) = E(Y 1 X = x). R Analogicky lze dokázat i σy x = σy X=x. Rovnost σ Y 1 x Y x = σ Y1 Y X=x plyne z úprav σ Y1 x Y x = (y 1 x EY 1 x )(y x EY x )df 1 x (y 1 x, y x ) R = (y 1 EY 1 x )(y EY x )df 1 x (y 1, y ) R[ [Y1 ][ ] ] = E EY 1 x Y EY x X = x [ [Y1 = E E(Y 1 X = x) ][ Y E(Y X = x) ] ] X = x = σ Y1 Y X=x. Na základ podmín ného Pearsonova korela ního koecientu m ºu denovat pr m rný podmín ný Pearson v korela ní koecient. 3

28 Denice 3.5. Nech Y 1, Y a X jsou náhodné veli iny s kone nými nenulovými druhými momenty. Pr m rný podmín ný Pearson v korela ní koecient veli in Y 1 a Y za podmínky X je denován ρ (P ) (Y 1, Y X) = E σ Y 1 Y X σ Y 1 X σ Y X. 3. Parciální Pearson v korela ní koecient vzniklý lineárním o i²t ním Pearson v korela ní koecient m í pouze lineární závislost mezi veli inami Y 1 a Y (viz v ta 1.6). P irozený zp sob, jak o istit Y 1, Y od vlivu X je pomocí nejlep²ích lineárních aproximací (viz denice 1.4). Na základ takových o i²t ní denuji parciální Pearson v korela ní koecient vzniklý lineárním o i²t ním. Denice 3.6. Nech Y 1, Y a X jsou náhodné veli iny s kone nými nenulovými druhými momenty. Parciální Pearson v korela ní koecient veli in Y 1 a Y za p edpokladu X vzniklý lineárním o i²t ním denuji jako ρ (PL) (Y 1, Y X) = Cov[ (Y 1 Ŷ1)(Y Ŷ) ], Var(Y 1 Ŷ1)Var(Y Ŷ) kde Ŷ1 a Ŷ zna í nejlep²í lineární aproximace Y 1, resp. Y pomocí X. Poznámka 3.7. ρ (P L) (Y 1, Y X) je korektn denován pouze v p ípad, kdy jsou rozptyly Var(Y 1 Ŷ1), Var(Y Ŷ) nenulové. Poznámka 3.8. O i² ující transformace u parciálního Pearsonova korela ního koecientu vzniklého lineárním o i²t ním jsou Z 1 = Y 1 Ŷ1 Z = Y Ŷ. Poznámka 3.9. Hovo í-li se v literatu e o parciálním (Pearsonov ) korela ním koecientu, myslí se tím zpravidla práv parciální Pearson v korela í koecient vzniklý lineárním o i²t ním. And l (007) uvádí alternativní vzorec pro výpo et parciálního Pearsonova korela ního koecientu vzniklého lineárním o i²t ním. V ta Nech Y 1, Y a X jsou náhodné veli iny s kone nými nenulovými druhými momenty. Potom platí ρ (P L) (Y 1, Y X) = ρ (P ) (Y 1, Y ) ρ (P ) (Y 1, X)ρ (P ) (Y, X) [ 1 [ ρ (P ) (Y 1, X) ] ][ 1 [ ρ (P ) (Y, X) ] ], (3.) jsou-li výrazy na obou stranách rovnosti denované. D kaz. Je k nalezení v And l (007) na str

29 Poznámka Vzorec (3.) nám umoºní jednodu²e odhadnout parciální Pearson v korela ní koecient vzniklý lineárním o i²t ním. Viz (3.4). Za ur itých podmínek platí rovnost mezi podmín ným Pearsonovým korela ním koecientem a parciálním Pearsonovým koecientem vzniklým lineárním o i²t ním. V ta 3.1. Nech Y 1, Y a X jsou náhodné veli iny s kone nými nenulovými druhými momenty. Nech α 1, α, β 1, β R taková, ºe Pak platí E(Y 1 X) = α 1 + β 1 X, E(Y X) = α + β X. Cov [ (Y 1 Ŷ1)(Y Ŷ) ] = E [ σ Y1 Y X], Var(Y 1 Ŷ1) = E [ σ Y 1 X], Var(Y Ŷ) = E [ σ Y X], kde Ŷ1, Ŷ zna í nejlep²í lineární aproximace Y 1, resp. Y pomocí X. Pokud jsou navíc σ Y1 Y X, σy 1 X, σ Y X nezávislé na X. Pak ρ (P L) (Y 1, Y X) = ρ (P ) (Y 1, Y X). D kaz. Je uveden v Baba (004) str. 10. Dokáºu, ºe pro ur itý model spl uje parciální Pearson v korela ní koecient vzniklý lineárním o i²t ním podmínky perfektního parciálního korela ního koecientu. V ta Nech Y 1, Y a X jsou náhodné veli iny s kone nými nenulovými druhými momenty. Nech jsou Y 1, Y lineárn závislé na X, tedy nech α 1, α, β 1, β R takové, ºe Y 1 = α 1 + β 1 X + ɛ 1, Y = α + β X + ɛ, (3.3) kde ɛ 1, ɛ jsou náhodné veli iny s nulovou st ední hodnotou a kone ným nenulovým rozptylem, p i emº vektor (ɛ 1, ɛ ) je nezávislý na X. Pak platí a)ρ (P L) (Y 1, Y X) je perfektní parciální korela ní koecient. b)ρ (P L) (Y 1, Y X) = ρ (P ) (Y 1, Y X). D kaz. a) O i² ující transformace t 1, t pro ρ (P L) (Y 1, Y X) jsou denované jako t 1 (Y 1, X) = Y 1 Ŷ1, t (Y, X) = Y Ŷ, 5

30 kde Ŷ1, Ŷ jsou nejlep²í lineární aproximace Y 1, Y pomocí X. Z denice 1.4 spo- ítám Ŷ1, Ŷ. Pro i {1, } výrazy E(Y i α i β ix) =E [ α i α i + (β i β i)x + ɛ i ] nabývají svého minima pro = E [ α i α i + (β i β i)x ] + Eɛ [ i [αi + E α i + (β i β i)x ] ] ɛ i = E [ α i α i + (β i β i)x ] + Eɛ i + E [ α i α i + (β i β i)x ] E[ɛ i ] = E [ α i α i + (β i β i)x ] + Eɛ i α i = α i, β i = β i, jelikoº je druhý moment E [ α i α i + (β i β i)x ] vºdy nezáporný. Platí tedy Ŷ 1 = α 1 + β 1 X, Ŷ = α + β X. Dopo ítám o i² ující transformace t 1, t. t 1 (Y 1, X) = Y 1 Ŷ1 = Y 1 (α 1 + β 1 X) = ɛ 1, t (Y, X) = Y Ŷ = Y (α + β X) = ɛ Jelikoº jsou ɛ 1, ɛ nezávislé na X, tak jsou t 1, t úplné. Dále existují inverzní transformace Y 1 = Z 1 + α 1 + β 1 X, Y = Z + α + β X, tedy t 1, t zachovávají informaci o Y 1, resp. Y. Zbývá ukázat, ºe jsou t 1, t nezkreslené vzhledem k Pearsonovu korela nímu koecientu. Nech Y i, Y i spl ují model (3.3) a Y i je nezávislá na X. Pot ebuji dokázat ρ (P )[ Y i, t i (Y i, X) ] = ρ (P ) (Y i, Y i ). (3.4) Nejlep²í lineární aproximace Y i pomocí X je EY i, jelikoº následující výraz E [ Y i α i β ix ] =E[Y i EY i + EY i α i β ix] = E[Y i EY i ] + E[EY i α i β ix] + E [ (Y i EY i )(EY i α i β ix) ] = E[Y i EY i ] + E[EY i α i β ix] + E[Y i EY i ]E[EY i α i β ix] = E[Y i EY i ] + E[EY i α i β ix] nabývá minima pro α i = EY i a β i = 0, a tedy ρ (P )[ Y i, t i (Y i, X) ] = ρ (P )[ Y i, Y i EY i 6 ] = ρ (P ) (Y i, Y i ).

31 b) Sta í dokázat, ºe jsou spln ny podmínky v ty 3.1. Pro i {1, } platí E(Y i X) = E(α i + β i X + ɛ i X) = E(α i + β i X X) + E(ɛ i X) = α i + β i X, kde poslední rovnítko plyne z nezávislosti ɛ i a X. Tím je spln na první podmínka v ty 3.1. Dále platí Y i E(Y i X) = Y i (α i + β i X) = ɛ i. Odtud plyne [ [Y1 σ Y1 Y X = E E(Y 1 X) ][ Y E(Y X) ] ] X = E(ɛ 1 ɛ X) = E(ɛ 1 ɛ ), [ [Y1 σy 1 X = E E(Y 1 X) ] ] X = E(ɛ 1 X) = Eɛ 1, [ [Y σy X = E E(Y X) ] ] X = E(ɛ X) = Eɛ. σ Y1 Y X, σy 1 X, σ Y X 3.1. jsou tedy nezávislé na X a platí tak i druhá podmínka v ty Má-li vektor (Y 1, Y, X) trojrozm rné normální rozd lení, pak je dle následující v ty parciální Pearson v korela ní koecient vzniklý lineárním o i²t ním roven podmín nému Pearsonovu korela nímu koecientu. V ta Nech má náhodný vektor (Y 1, Y, X) trojrozm rné regulární normální rozd lení. Potom platí ρ (P L) (Y 1, Y X) = ρ (P ) (Y 1, Y X). D kaz. V Lindgren a kol. (013) jsou uvedeny výpo tové vzorce pro E(Y 1 X), E(Y X) a také pro σ Y1 Y X, σ Y 1 X, σ Y X. Z t chto vzorc plyne, ºe existují α 1, α, β 1, β R spl ující E(Y 1 X) = α 1 + β 1 X, E(Y X) = α + β X. Dále je z jejich vzorc z ejmé, ºe σ Y1 Y X, σy 1 X, σ Y X spln ny p edpoklady v ty 3.1, a tedy nezávisí na X. Jsou tedy ρ (P L) (Y 1, Y X) = ρ (P ) (Y 1, Y X). 3.3 Dal²í parciální Pearsonovy korela ní koecienty Ideáln bych cht l najít o i² ující transformace t 1, t, na základ kterých bych mohl denovat perfektní parciální Pearson v korela ní koecient. V následující 7

32 ásti rozeberu, jak by takové transformace musely vypadat. Aby byly t 1, t nezkreslené vzhledem k Pearsonovu korela nímu koecientu, tak pro i {1, } a libovolné náhodné veli iny Y i, Y i Y i, kde Y i je nezávislá na X, musí platit ρ (P )[ Y i, t i (Y i, X) ] = ρ (P ) (Y i, Y i ). P i volb Y i = t i (Y i, X) tak získám rovnost Z ejm a tedy musí být i ρ (P )[ t i (Y i, X), t i (Y i, X) ] = ρ (P ) (t i (Y i, X), Y i ). ρ (P )[ t i (Y i, X), t i (Y i, X) ] = 1, ρ (P ) (t i (Y i, X), Y i ) = 1. Pak podle (v ta 3.5 v Dupa a Hu²ková, 009, str. 46) existují reálná ísla α, β taková, ºe platí t i (Y i, X) = α + βy i Pokud mají být o i² ující transformace rozumné, tak bychom o ekávali, ºe pro Y i Y i bude pro n jaká α, β R platit rovnost t i (Y i, X) = α + βy i Poznámka α, β obecn m ºou záviset na Y i. Aby byla t i úplná, tak musí být t i (Y i, X) a X nezávislé, a tedy podle (v ty 3.18 v Dupa a Hu²ková, 009, str. 61) musí být 0 = Cov [ t i (Y i, X), X ] = Cov [ α + βy i, X ] = βcov(y i, X). Pro v²echny veli iny, pro které je Cov(Y i, X) 0, musí být β = 0. Platí tedy t i pak nezachovává informaci o Y i. t i (Y i, X) = α s.j.. Poznámka Ukázal jsem sice, ºe pokud pro Y i Y i existují α, β R taková, ºe s.j. s.j. t i (Y i, X) = α + βy i s.j., pak neexistuje o i² ující transformace t i. Obecn ale o i² ující transformace t i existovat m ºe. Nap. transformace denovaná: pro Y i závislé na X p edpisem: t i (Y i, X) = F Yi X(Y i ), kde F Yi X je podmín ná distribu ní funkce Y i za podmínky X. D kaz, ºe je tato transformace úplná a zachovává informaci o Y i je u v ty 5.9. pro Y i nezávislé na X pak denuji: t i (Y i, X) = Y i. Tato transformace je z ejm úplná a zachovává informaci o Y i. O i² ující transformace t i je také nezkreslená vzhledem k Pearsonovu korela nímu koecientu, nebo pro Y i nezávislou na X p ímo a e platí ρ (P )[ Y i, t i (Y i, X) ] = ρ (P ) (Y i, Y i ). 8

33 P estoºe obecn pro Pearson v korela ní koecient pravd podobn neexistuje ºádné hezké perfektní o i²t ní, m ºu veli iny Y 1 a Y o istit obecn jí neº pomocí lineární aproximace. Jednou z moºností je o i²t ní Z 1 = Y 1 g 1 (X), Z = Y g (X), kde g 1, g jsou libovolné Borelovské funkce z R R. Na základ t chto o i² ujících transformací (které ozna uji jako subtrak ní o i² ující transformace) denuji parciální Pearson v korela ní koecient vzniklý subtrak ním o i²t ním. Denice Nech Y 1, Y a X jsou náhodné veli iny s kone nými nenulovými druhými momenty. Parciální Pearson v korela í koecient veli in Y 1 a Y za p edpokladu X vzniklý subtrak ním o i²t ním denuji jako [ [Y1 Cov g 1 (X) ][ Y g (X) ]] ρ (PS) (Y 1, Y X) = Var [ Y 1 g 1 (X) ] Var [ Y g (X) ], kde g 1, g jsou takové Borelovské funkce spl ující E [ g 1 (X) ], E [ g (X) ] <, ºe pro v²echny dvojice Borelovských funkcí g 1, g spl ujících E [ g 1(X) ], E [ g (X) ] < platí E [ Y 1 g 1 (X) ] E [ Y1 g 1(X) ], E [ Y g (X) ] E [ Y g (X) ]. Poznámka ρ (P S) (Y 1, Y X) je korektn denován pouze v p ípad, kdy Var [ Y 1 g 1 (X) ], Var [ Y g (X) ] > 0. Parciální Pearson v korela ní koecient vzniklý subtrak ním o i²t ním jsem zavedl tak, aby odpovídal zobecn né denici parciálního Pearsonova korela ního koecientu vzniklého lineárním o i²t ním. Funkce g 1 (X), g (X) jdou vyjád it pomocí podmín ných st edních hodnot, jak plyne z následující v ty. V ta Nech Y, X jsou náhodné veli iny s kone nými druhými momenty, E(Y X) < a nech g je libovolná Borelovská funkce spl ující E [ g (X) ] <. Pak druhý moment E [ Y g (X) ] nabývá svého minima pro g (X) = E(Y X). D kaz. Platí E [ Y g (X) ] =E [ [Y E(Y X) ] [ g (X) E(Y X) ]] = E [ Y E(Y X) ] E [ [Y E(Y X) ][ g (X) E(Y X) ]] + E [ g (X) E(Y X) ] E [ Y E(Y X) ] E [ [Y E(Y X) ][ g (X) E(Y X) ]]. Pro dokon ení d kazu mi sta í ukázat E[ [Y E(Y X) ][ g (X) E(Y X) ]] = 0. 9

34 To dokáºu následujícími úpravami. [ [Y ][ E E(Y X) g (X) E(Y X) ]] { [ [Y ][ = E E E(Y X) g (X) E(Y X) ] ] } X = E{ [g (X) E(Y X) ] E[ [Y E(Y X) ] X ] } = 0, nebo [ [Y ] ] E E(Y X) X = 0. D sledek 3.0. Z v ty 3.19 plyne, ºe za podmínek denice 3.17 platí [ [Y1 Cov E(Y 1 X) ][ Y E(Y X) ]] ρ (PS) (Y 1, Y X) = Var [ Y 1 E(Y 1 X) ] Var [ Y E(Y X) ]. Za ur itých podmínek popsaných ve v tách 3.1 a 3. je parciální Pearson v korela ní koecient vzniklý subtrak ním o i²t ním roven podmín nému Pearsonovu korela nímu koecientu. V ta 3.1. Nech Y 1, Y a X jsou náhodné veli iny s kone nými nenulovými druhými momenty. Nech jsou σ Y1 Y X, σy 1 X, σ Y X nezávislé na X. Pak ρ (P S) (Y 1, Y X) = ρ (P ) (Y 1, Y X). D kaz. Nekd ív ukáºu pomocné tvrzení, ºe pro náhodné veli iny U, V s kone nými st edními hodnotami platí, ºe pokud je E(U V ) nezávislá na V, pak E(U V ) = E(U). Z (v ty 7.17 Lachout, 004, str.38) plyne, ºe pokud je E(U V ) nezávislá na V, tak nutn E(U V ) = k, kde k je n jaké reálné íslo. Odtud ov²em plyne E(U) = E [ E(U V ) ] = Ek = k = E(U V ). Tím je pomocné tvrzení dokázáno. Jelikoº σ Y1 Y X, σy 1 X, σ Y X jsou nezávislé na X, pak díky pomocnému tvrzení vím [ [Y1 σ Y1 Y X =E E(Y 1 X) ][ Y E(Y X) ] ] X [Y1 = E[ E(Y 1 X) ][ Y E(Y X) ]], (3.5) [ [Y1 σy 1 X =E E(Y 1 X) ] ] X = E [ Y 1 E(Y 1 X) ], (3.6) [ [Y σy X =E E(Y X) ] ] X = E [ Y E(Y X) ]. (3.7) 30

35 Dále pro i {1, } platí E [ Y i E(Y i X) ] = E [ Y i ] + E [ E(Yi X) ] = 0. (3.8) Vzhledem k rovnosti (3.8) m ºu upravit vztahy (3.5), (3.6), (3.7). Získám tak rovnosti σ Y1 Y X = Cov[ [Y1 E(Y 1 X) ][ Y E(Y X) ]], σ Y 1 X = Var [ Y 1 E(Y 1 X) ], σ Y X = Var [ Y E(Y X) ]. Z d sledku 3.0 pak uº snadno plyne poºadovaná rovnost ρ (P S) (Y 1, Y X) = ρ (P ) (Y 1, Y X). Pro specický model parciální Pearson v korela ní koecient vzniklý subtrak ním o i²t ním vyhovuje podmínkám perfektního korela ního koecientu. V ta 3.. Nech Y 1, Y a X jsou náhodné veli iny s kone nými nenulovými druhými momenty. Nech existují Borelovské funkce g 1, g : R R takové, ºe Y 1 = g 1 (X) + ɛ 1, Y = g (X) + ɛ, kde ɛ 1, ɛ jsou náhodné veli iny s nulovou st ední hodnotou a kone ným nenulovým rozptylem, p i emº vektor (ɛ 1, ɛ ) je nezávislý na X. Pak platí a)ρ (P S) (Y 1, Y X) je perfektní parciální korela ní koecient. b)ρ (P S) (Y 1, Y X) = ρ (P ) (Y 1, Y X). D kaz. Analogicky jako d kaz v ty Akorát místo α i +β i X budu psát g i (X). Poznámka 3.3. Subtrak ní o i²t ní Pearsonova korela ního koecientu m ºeme provést na zúºené rodin o i² ujících funkcí. V tomto p ípad o i²t ní spo ívá v transformacích Z 1 = Y 1 g 1 (X), Z = Y g (X), kde g 1, g jsou funkce z rodiny G, která m ºe a nemusí být parametrická. To nám m ºe zjednodu²it odhadování parciálního Pearsonova korela ního koecientu. Pokud je G rodina v²ech lineárních funkcí, jedná se o lineární o i²t ní. Dal²í moºnost o i²t ní náhodných veli in Y 1, Y od vlivu X je pomocí o i²- ujících transformací Z 1 = Y 1 g 1 (X) h 1 (X), Z = Y g (X) h (X) kde g 1, g, h 1, h jsou libovolné Borelovské funkce z R R spl ující h 1 (X) 0, h (X) 0 s.j. P irozená volba g i, h i pro i {1, } je g i (X) = E(Y i X), h i (X) = Var(Y i X). Na základ t chto o i² ujících transformací (které ozna uji jako normovací) denuji parciální Pearson v korela ní koecient vzniklý normovacím o i²t ním. 31,

36 Denice 3.4. Nech Y 1, Y a X jsou náhodné veli iny s kone nými nenulovými druhými momenty. Parciální Pearson v korela í koecient veli in Y 1 a Y za p edpokladu X vzniklý normovacím o i²t ním denuji jako ρ (P N ) (Y 1, Y X) = Cov(Z 1, Z ) VarZ1 VarZ, (3.9) kde Z 1 = Y 1 E(Y 1 X) Var(Y1 X), Z = Y E(Y X) Var(Y X). Poznámka 3.5. ρ (P N ) (Y 1, Y X) je korektn denován pouze v p ípad, kdy Var(Y 1 X), Var(Y X) > 0. Parciální Pearson v korela ní koecient vzniklý normovacím o i²t ním je roven podmín nému Pearsonovu korela nímu koecientu p i platnsoti tzv. nonparametric location scale modelu. Viz následující v ta. V ta 3.6. Nech Y 1, Y a X jsou náhodné veli iny s kone nými nenulovými druhými momenty. Nech existují Borelovské funkce m 1, m, σ 1, σ : R R spl ující σ 1 (X), σ (x) > 0 s.j. Pokud navíc platí Y 1 = m 1 (X) + σ 1 (X)ɛ 1, Y = m (X) + σ (X)ɛ, (3.10) kde ɛ 1, ɛ jsou náhodné veli iny s nulovou st ední hodnotou a jednotkovým rozptylem, p i emº vektor (ɛ 1, ɛ ) je nezávislý na X. Pak platí a)ρ (P N ) (Y 1, Y X) je perfektní parciální korela ní koecient. b)ρ (P N ) (Y 1, Y X) = ρ (P ) (Y 1, Y X). D kaz. Nejd íve dokáºu pro i {1, } To plyne z následujících dvou rovností. Z i = Y i E(Y i X) Var(Yi X) = ɛ i. (3.11) E(Y i X) = E [ m i (X) X ] + E [ σ i (X)ɛ i X ] = m i (X) + σ i (X)E(ɛ i X) = m i (X), [ [Yi Var(Y i X) = E E(Y i X) ] ] [ [σi ] ] X X = E (X)ɛ i = σi (X)Eɛ i = σi (X). a) O i² ující transformace t 1, t jsou úplné nebo pro i {1, } jsou Z i = ɛ i nezávislé na X. t 1, t zachovávají informaci o Y 1, resp. Y, jelikoº existují inverzní funkce Y 1 = m 1 (X) + σ 1 (X)Z 1, Y = m (X) + σ (X)Z. Zbývá mi dokázat, ºe pro i {1, } je transformace t i nezkreslená vzhledem k Pearsonovu korela nímu koecientu. Tedy, ºe pro Y i, Y i spl ující model (3.10) a Y i nezávislou na X platí ρ (P )[ Y i, t i (Y i, X) ] = ρ (P ) (Y i, Y i ). (3.1) 3

37 Tato rovnost plyne z úprav ρ (P )[ Y i, t i (Y i, X) ] [ ] =ρ (P ) Y i, Y i E(Y i X) Var(Y i [ X) ] = ρ (P ) Y i, Y i E(Y i ) Var(Y b) Na základ (3.11) platí = ρ (P ) (Y i, Y i ). ρ (P N ) (Y 1, Y X) = Cov(Z 1, Z ) VarZ1 VarZ = Cov(ɛ 1, ɛ ) Varɛ1 Varɛ = Cov(ɛ 1, ɛ ). (3.13) Zárove platí [ [Y1 E E(Y 1 X) ][ Y E(Y X) ] ] X ρ (P ) (Y 1, Y X) = Var(Y1 X)Var(Y X) [ [σ1 ][ ] ] E (X)ɛ 1 σ (X)ɛ X = σ 1 (X)σ(X) Z (3.13) a (3.14) plyne kýºená rovnost = σ 1(X)σ (X)E(ɛ 1 ɛ ) σ 1 (X)σ (X) = Cov(ɛ 1, ɛ ). (3.14) ρ (P N ) (Y 1, Y X) = ρ (P ) (Y 1, Y X). i ) Parciální Pearsonovy korela ní koecienty vzniklé subtrak ním nebo normovacím o i²t ním sice pracují na bázi dokonalej²ího o i²t ní náhodných veli- in Y 1, Y od vlivu X neº parciální Pearson v korela ní koecient vzniklý lineárním o i²t ním, p esto tak ka nejsou v praxi pouºívány. Jejich odhady (viz (3.5), (3.6) ) jsou podstatn komplikovan j²í neº odhad parciálního Pearsonova korela ního koecientu vzniklého lineárním o i²t ním (3.4). P itom síla parciálních pearsonových korela ních koecient vzniklých subtrak ním nebo normovacím o i²t ním se projeví pouze v p ípad, kdy závislost Y 1 a Y na X je sloºit j²í, neº lineární (tedy E(Y 1 X) Ŷ1, E(Y X) Ŷ, kde Ŷ1, Ŷ jsou nejlep²í lineární aproximace Y 1, Y pomodí X). P i takové sloºit j²í závislosti asto bude také závislost mezi Y 1 a Y sloºit j²í neº lineární a Pearson v korela ní koecient tak nebude vhodným ukazatelem závislosti náhodných veli in Y 1 a Y. V aplikované statistice, kde se ob as pouºívá výhradn Pearson v korela ní koecient navzdory tomu, ºe závislost mezi Y 1 a Y není lineární, m ºe být vhodné pouºít práv parciální Pearson v korela ní koecient vzniklý subtrak ním nebo normovacím o i²t ním. 33

38 3.4 Odhady podmín ného a parciálních Pearsonových korela ních koecient Pro následující odhady budu p edpokládat, ºe mám k dispozici náhodný výb r (Y 11, Y 1, X 1 ),..., (Y 1n, Y n, X n ) z vektoru (Y 1, Y, X). Pro odhad (nejen) podmín ného Pearsonova korela ního koecientu je pot eba odhadnout podmín né st ední hodnoty E(Y 1 X), E(Y X), podmín nou kovarianci σ Y1 Y X a podmín né rozptyly σ Y 1 X, σ Y X. Nejzákladn j²í zp sob, jak získat takové odhady, je pomocí tzv. jádrových funkcí. Podmín nou st ední hodnotu E(Y 1 X = x) lze odhadnout pomocí výrazu n Ê(Y 1 X = x) = Y 1i w ni (x, h n ). (3.15) { wni (x, h n ) } jsou váhy zaloºené na vyhlazovacím parametru h n. Nejznám j²ím p íkladem takových vah jsou Nadaraya-Watsonovy váhy ( ) X K i x h n w ni (x, h n ) = ( ), i = 1,..., n, (3.16) n j=1 K Xj x h n kde K(x) je tzv. jádrová funkce (angl. Kernel function). Jedna z moºných voleb jádrové funkce je K(x) = 1 I{ x 1}. (3.17) Gijbels a kol. (011) uvádí n kolik dal²ích p íklad uºívaných vah. Podmín ný rozptyl σy 1 X=x lze odhadnout pomocí n [ ˆσ Y 1 X=x = Y1i Ê(Y 1 X = X i ) ] wni (x, h n ). (3.18) Analogicky získáme odhady Ê(Y X = x) a ˆσ Y X=x. Podmín ná kovariance σ Y1 Y X=x se odhaduje jako n [ ˆσ Y1 Y X=x = Y1i Ê(Y 1 X = X i ) ][ Y i Ê(Y X = X i ) ] w ni (x, h n ). (3.19) T mito a dal²ími alternativními odhady podmín ného rozptylu spolu s jejich vlastnostmi se zabývají nap. Müller a Stadtmüller (1993), Fan a Yao (1998), Dette a Pilz (009) a Yin a kol. (010). Hledáním vhodného vyhlazovacího parametru h n se zabývají nap. Fan a Yao (1998). Odhady podmín ného Pearsonova korela ního koecientu Na základ vý²e zmín ných odhad (3.15), (3.18) a (3.19) m ºu neparametricky odhadnout podmín ný Pearson v korela ní koecient jako ρ (P ) n (Y 1, Y X = x) = ˆσ Y1 Y X=x ˆσ Y 1 X=xˆσ Y X=x. (3.0) 34

39 V n kterých p ípadech m ºeme mít d vod se domnívat, ºe je závislost podmín ného Pearsonova korela ního koecientu ρ (P ) (Y 1, Y X) na X popsatelná parametrickou funkcí f β : R R, kde β je n jaký parametr z mnoºiny B. Tedy platí ρ (P ) (Y 1, Y X) = f β (X). (3.1) Parametr β m ºeme nalézt nap. pomocí metody nejmen²ích tverc ˆβ = argmin β B n [ ρ (P ) n (Y 1, Y X = X i ) f β (X i ) ]. Odhad závislý na parametru podmín ného Pearsonova korela ního koecientu tak získám jako ρ (P ) n,β (Y 1, Y X = x) = fˆβ(x). P i malém po tu pozorování m ºe být neparametrický odhad podmín ného Pearsonova korela ního koecientu hodn nep esný. Obvzlá², pokud je jeho závislost na X nelineární. V takové situaci m ºe být rovn º vhodné pouºít parametrický odhad, p estoºe není moºné p edpokládat rovnost (3.1). Pokud je f β lineární, tak ρ (P ) n,β (Y 1, Y X = x) = β 0 + β 1 x. (3.) D leºitý speciální p ípad nastane, pokud je f β konstantní funkce. Tedy v p ípad, ºe v (3.) platí β 1 = 0. Nyní je funk ní p edpis parametrického odhadu podmín ného Pearsonova korela ního koecientu nezávislý na x a tento odhad je roven odhadu pr m rného podmín ného korela ního koecientu. n,β (Y 1, Y X = x) = ρ (P n ) (Y 1, Y X) = 1 n ρ (P ) n ρ (P ) n (Y 1, Y X = X i ). (3.3) Odhady parciálních Pearsonových korela ních koecient Pro odhad parciálního Pearsonova korela ního koecientu vzniklého lineárním o i²t ním lze pouºít jeho vyjád ení z v ty 3.10, p i emº Pearsonovy korela ní koecienty v rámci tohoto vyjád ení odhadnu pomocí výb rových Pearsonových korela ních koecient (1.3). Získám tak odhad ρ (P L) n (Y 1, Y X) = ρ (P n ) (Y 1, Y ) ρ (P n ) (Y 1, X)ρ (P n ) (Y, X) [ 1 [ ρ (P n ) (Y 1, X) ] ][ 1 [ ρ (P n ) (Y, X) ] ]. (3.4) V²imn me si, ºe pro parciální Pearson v korela ní koecient vzniklý subtrak ním o i²t ním platí rovnost [ [Y1 Cov E(Y 1 X) ][ Y E(Y X) ]] ρ (PS) (Y 1, Y X) = Var [ Y 1 E(Y 1 X) ] Var [ Y E(Y X) ] = Eσ Y1Y X. EσY 1 X Eσ Y X 35

40 Na základ této rovnosti získám pro parciální Pearson v korela ní koecient vzniklý subtrak ním o i²t ním odhad ] [ˆσY1 Y X=X i ρ (P S) n (Y 1, Y X) = n n [ˆσ Y1 X=X i ] n [ˆσ Y X=X i ]. (3.5) Parciální Pearson v korela ní koecient vzniklý normovacím o i²t ním je roven Pearsonov korela nímu koecientu na náhodných veli inách Z 1, Z. Viz denice (3.9). P irozený odhad parciálního korela ního koecientu vzniklého normovacím o i²t ním tak je ρ (P N ) n (Y 1, Y X) = ρ (P ) n (Ẑ1, Ẑ) = n (Ẑ1i Ẑ1)(Ẑi Ẑ) (n 1)sẐ1 sẑ, (3.6) kde Ẑ 1i = Y 1i Ê(Y 1 X = X i ), Ẑ i = Y i Ê(Y X = X i ). ˆσ ˆσ Y 1 X=X i Y X=Xi 3.5 Testování podmín né nezávislosti Nech náhodný vektor (Y 1, Y, X) pochází z trojrozm rného regulárního normálního rozd lení. Je známo, ºe potom i vektor (Y 1 x, Y x ) s distribu ní funkcí F 1 x pro lib. x R má dvojrozm rné normální rozd lení. Dle v t 3.14 a 3.4 platí ρ (P L) (Y 1, Y X) = ρ (P ) (Y 1, Y X) = ρ (P ) (Y 1 x, Y x ) a rovnost ρ (P ) (Y 1 x, Y x ) = 0 implikuje nezávislost Y 1 x, Y x (d kaz viz nap. Bertsekas, 00, str. 40). Lze tedy podmín nou nezávislost Y 1, Y vzhledem k X testovat pomocí hypotézy H 0 : ρ (P L) (Y 1, Y X) = 0 H 1 : ρ (P L) (Y 1, Y X) 0. Tuto hypotézu m ºeme testovat nap. na základ následujícího tvrzení. V ta 3.7. Nech pro n > 3 je (Y 11, Y 1, X 1 ),..., (Y 1n, Y n, X n ) náhodný výb r z (Y 1, Y, X), který má trojrozm rné regulární normální rozd lení. Pokud navíc platí ρ (P L) (Y 1, Y X) = 0, pak má náhodná veli ina T = ρ (P L) n (Y 1, Y X) 1 [ ρ (P L) n (Y 1, Y X) ] n 3 Studentovo rozd lení o n 3 stupních volnosti. D kaz. Je uveden v And l (1978). Nech t n 3 zna í kvantilovou funkci Studentova rozd lení o n 3 stupních volnosti. V p ípad T t n 3 (1 α) zamítneme hypotézu H 0 : ρ (P L) (Y 1, Y X) = 0 (tedy i podmín nou nezávislost Y 1, Y vzhledem k X) na hladin α. 36

41 Dal²í moºností jak testovat H 0 za p edpokladu trojrozm rného reguálrního normálního rozd lení (Y 1, Y, X) je vyuºití toho, ºe Fisherova z-transformace Z = 1 ln 1 + ρ(p L) n (Y 1, Y X) 1 ρ (P L) n (Y 1, Y X) má podle And l (007) p ibliºn normální rozd lení N Tím je my²leno, ºe U = Z n 4 α ( 1 ln 1 + ) ρ(pl) (Y 1, Y X) 1 ρ (P L) (Y 1, Y X), 1. n 4 d N (0, 1). H 0 zamítneme pro U u(1 n ), kde u zna í kvantilovou funkci normovaného normálního rozd lení. 37

42 4. Kopule Pro práci s Kendallovým tau a Spearmanovým rho v 5.a 6. kapitole budu vyuºívat vyjád ení t chto dvou korela ních koecient pomocí kopulí. V této kapitole konstrukt kopule zavedu. Ukáºu, jak lze Kendallovo tau a Spearmanovo rho vyjád it pomocí kopulí. Uvedu n které nezbytné v ty, které vyuºiji v následujících kapitolách. Budu se také v novat odhadováním kopulí. Denice 4.1. (Dvoudimenzionální) kopulí rozumíme funkci C denovanou na intervalu [0, 1] s hodnotami v [0, 1], která spl uje následující t i vlastnosti: 1) C(α, 0) = C(0, α) = 0, pro α [0, 1]. ) C(α, 1) = C(1, α) = α, pro α [0, 1]. 3) C(α, β ) C(α, β 1 ) C(α 1, β ) + C(α 1, β 1 ) 0, pokud platí α 1 α, β 1 β. Následující v ta (téº ozna ovaná jako Sklarova v ta) popisuje, jak lze vyuºít kopule p i zkoumání závislosti dvou náhodných veli in. V ta 4.. Nech Y 1, Y jsou náhodné veli iny a nech H, F 1 a F jsou distribu ní funkce denované jako F 1 (y 1, y ) = P (Y 1 y 1, Y y ), F 1 (y 1 ) = P (Y 1 y 1 ), F (y ) = P (Y y ), potom existuje kopule C 1 spl ující pro y 1, y R rovnost C 1 [ F1 (y 1 ), F (y ) ] = F 1 (y 1, y ). (4.1) V p ípad, ºe Y 1, Y jsou spojité náhodné veli iny, je kopule C 1 denovaná jednozna n. D kaz. Viz Nelsen (006) str Poznámka 4.3. Kopuli C 1 v (4.1) nazývám nepodmín nou kopulí veli in Y 1 a Y. Poznámka 4.4. Pokud jsou Y 1, Y spojité náhodné veli iny, pak platí [ C 1 (u 1, u ) = F 1 F 1 1 (u 1 ), F 1 (u ) ] = P [ ] F 1 (Y 1 ) u 1, F (Y ) u pro u 1, u [0, 1]. (4.) Na základ vzorce (4.) m ºeme C 1 interpretovat jako normovanou sdruºenou distribu ní funkci vektoru (Y 1, Y ), jejíº marginály mají rovnom rné rozd lení na [0, 1]. Nelsen (006) dokazuje, ºe pro libovolnou nepodmín nou kopuli C 1 platí nerovnosti max{u 1 + u 1, 0} C 1 (u 1, u ) min{u 1, u }. T i p íklady toho, jak nepodmín ná kopule m ºe vypadat jsou uvedené na obrázku

43 Obrázek 4.1: P íklady nepodmín ných kopulí. Nalevo je znázorn na tzv. minimální kopule, tedy kopule denovaná vztahem C 1 (u 1, u ) = max{u 1 + u 1, 0}. Uprost ed je kopule pro p ípad, kdy Y 1, Y jsou nezávislé, tedy C 1 (u 1, u ) = u 1 u. Napravo je tzv. maximální kopule C 1 (u 1, u ) = min{u 1, u }. Z nepodmín né kopule lze odvodit celou adu r zných ukazatel závislosti dvou náhodných veli in. V²echny takovéto korela ní koecienty jsou nem nné p i transformacích pomocí rostoucích funkcí. Viz následující v ta. V ta 4.5. Nech Y 1, Y jsou spojité náhodné veli iny a q je n jaký korela ní koe- cient, který lze vyjád it pomocí nepodmín né kopule, tedy platí q(y 1, Y ) = f(c 1 ), (4.3) pro n jaký funkcionál f. Nech g 1, g jsou rostoucí spojité funkce skoro v²ude na supp(y 1 ), resp. supp(y ). Potom platí q(y 1, Y ) = q [ g 1 (Y 1 ), g (Y ) ]. (4.4) D kaz. Vzhledem k (4.3) a (4.4) pot ebuji dokázat rovnost f(c 1 ) = f(c g1 g ), kde C g1 g zna í nepodmín nou kopuli náhodných veli in g 1 (Y 1 ), g (Y ). Sta í tedy ukázat, ºe platí Pro i {1, } a y i supp(y i ) platí kde F gi C 1 = C g1 g. (4.5) F i (y i ) = P(Y i y i ) = P [ g i (Y i ) g i (y i ) ] = F gi [ gi (y i ) ], (4.6) zna í distribu ní funkci náhodné veli iny g i (Y i ) denovanou Z (4.6) plyne rovnost F gi (y 1 ) = P [ g i (Y i ) y i ]. F i (Y i ) = F gi [ gi (Y i ) ], a tedy pro libovolná u 1, u [0, 1] platí C 1 (u 1, u ) =P [ ] F 1 (Y 1 ) u 1, F (Y ) u [ = P [F g1 g1 (Y 1 ) ] [ u 1, F g g (Y ) ] ] u = C g1 g (u 1, u ), Tím je dokázaná poºadovaná rovnost (4.5). 39