BAKALÁŘSKÁ PRÁCE. Martin Jusko Modely volatility ARCH a GARCH

Univerzita Karlova v Praze Matematicko-fyzikální fakulta BAKALÁŘSKÁ PRÁCE Martin Jusko Modely volatility ARCH a GARCH Katedra pravděpodobnosti a matematické statistiky Vedoucí bakalářské práce: Mgr. Šárka Došlá Studijní program: Matematika, Obecná matematika 009

Na tomto místě bych rád poděkoval Mgr. Šárce Došlé za množství drahocenných rad a příjemnou spolupráci při psaní bakalářské práce. Prohlašuji, že jsem svou bakalářskou práci napsal samostatně a výhradně s použitím citovaných pramenů. Souhlasím se zapůjčováním práce a jejím zveřejňováním. V Praze dne 8. května 009 Martin Jusko

Obsah 1 Základní pojmy a tvrzení 6 ARMA modely 10.1 ARmodely..... 10. MAmodely..... 17.3 ARMAmodely... 3 Modely volatility 4 3.1 ModelARCH.... 6 3. ModelGARCH... 33 4 Aplikace na konkrétní časové řady 38 4.1 PoužitéfunkcevprogramuR...... 38 4. Simulovanádata............. 41 4.3 Kurzčeskékorunyvůčieuru....... 46 4.4 BurzovníindexPX............ 51 Literatura 57 3

Název práce: Modely volatility ARCH a GARCH Autor: Martin Jusko Katedra: Katedra pravděpodobnosti a matematické statistiky Vedoucí bakalářské práce: Mgr. Šárka Došlá E-mail vedoucího: dosla@karlin.mff.cuni.cz Abstrakt: V předložené práci se věnujeme pojmu volatility a základním modelům volatility ARCH a GARCH. Nejprve jsou popsány ARMA modely, které k modelům volatility přirozeně vedou. Poté jsou představeny modely volatility ARCH a GARCH, jsou zkoumány jejich vlastnosti a metody odhadu. Podstatnou částí práce jsou podrobně popsané aplikace těchto modelů na konkrétní časové řady(na simulovaná a reálná data) v programu R. Analyzována jsou data zachycující vývoj pražského burzovního indexu PX a směnného kurzu české koruny vůči euru. Cílem práce je poskytnout čtenáři vybavenému základními poznatky z pravděpodobnosti a statistiky dostatek teoretických znalostí a praktických dovedností k pochopení modelů a jejich samostatné aplikaci. Klíčová slova: volatilita, ARCH, GARCH Title: ARCH and GARCH volatility models Author: Martin Jusko Department: Department of Probability and Mathematical Statistics Supervisor: Mgr. Šárka Došlá Supervisor s e-mail address: dosla@karlin.mff.cuni.cz Abstract:Theworkisdevotedtotheconceptofvolatilityandthebasicmodelsofvolatility ARCH and GARCH. First, ARMA models, which lead naturally to the volatility models, are explained. Then the ARCH and GARCH volatility models are introduced and their properties and estimation methods are discussed. The substantial part of this work is a detailed application of the described models to some particular timeseries(bothsimulatedandrealdata)usingtherprogram.weanalyzethereal data capturing the evolution of Prague stock index PX and exchange rate between CzechcrownandEuro.Thekeyaspectoftheworkistoprovideenoughtheoretical knowledge and practical skills for a reader to fully understand the mentioned models andtobeabletoapplytheminpractice. Keywords: volatility, ARCH, GARCH 4

Úvod Modelování časových řad se ve velké míře využívá například ve finančnictví, pojišťovnictví nebo ekonomii. Volatilita neboli kolísavost časových řad se nejčastěji studuje právě v těchto oborech, neboť určitým způsobem reflektuje například rizikovost cenných papírů nebo náladu na trhu. Aplikaci proto nachází například při oceňování opcí nebo řízení rizika. Cílem této práce je zavést pojem volatility, definovat základní modely ARCH a GARCH pro její modelování a předvést postupy při jejich praktickém použití. K tomu je třeba představit některé základní pojmy a definovat ARMA modely, které se často aplikují na studované řady před vlastním modelováním volatility. U čtenáře se předpokládají základní znalosti z pravděpodobnosti a statistiky, výhodou mohou být vědomosti z teorie pravděpodobnosti a z teorie náhodných procesů. Po prostudování práce by měl čtenář rozumět podstatě modelů ARMA, ARCH agarchabýtschopenjeaplikovatnakonkrétnídata. V kapitole 1 jsou definovány základní pojmy používané v celém textu. Kapitola je věnována ARMA modelům, které jsou hojně používány pro modelování časových řad a jejichž pochopení je zásadní pro porozumění modelům volatility, které jsou studovány v kapitole 3. V kapitole 4 je čtenář nejprve seznámen s některými funkcemi programu R, načež jsou předvedeny aplikace získaných znalostí na konkrétní časové řady. Pro ilustraci vlastností představených modelů a předvedení různých funkcí programu R jsou použita simulovaná data. Praktická aplikace je poté předvedena na reálných datech. Tato práce, použitá data, obrázky, zdrojové kódy a některé výstupy programu R z kapitoly 4 jsou dostupné na přiloženém CD a na internetové adrese http://artax.karlin.mff.cuni.cz/ juskm6am/bc. 5

Kapitola 1 Základní pojmy a tvrzení V této kapitole definujeme základní pojmy týkající se časových řad potřebné pro pochopení dále probíraného tématu. Definice 1.1. Časovou řadou rozumíme posloupnost náhodných veličin {X t : t T },kde T R.Index tznačíčas,vněmžjepozorovánahodnota X t. Vdalšímtextubudemepodoznačením {X t }uvažovat T N.Budemetaképracovatpouzesreálnýmičasovýmiřadami,tojestpřípad,kdynáhodnéveličiny X t tvořícířadu {X t }nabývajípouzereálnýchhodnot.poznamenejme,žeteorienáhodných procesů obecně pracuje s komplexními časovými řadami, jako je tomu například v[13]. Definice1..Nechťčasovářada {X t : t T }splňujeext < provšechna t T. Pakdefinujemeautokovariančnífunkci γ(, )řady {X t }předpisem γ(p, r)=cov(x p, X r )=E(X p EX p )(X r EX r ), p, r T. Autokorelačnífunkci(ACF) ρ(, )řady {X t }definujemejako ρ(p, r)= cov(x p, X r ), p, r T. var(xp )var(x t ) Hodnoty autokorelační funkce se také někdy nazývají korelační koeficienty. Definice1.3.Řekneme,žečasovářada {X t : t T }jestriktněstacionární,jestliže prolibovolné n N,provšechna x 1,...,x n R,provšechna t 1,...,t n Taprolibovolné h Rtakové,že t k + h Tpro1 k n,platí,že P(X t1 x 1,..., X tn x n )=P(X t1 +h x 1,...,X tn+h x n ). Řečeno slovy, definice striktní stacionarity požaduje, aby libovolná skupina náhodných veličin z časové řady měla v případě libovolného časového posunu stejné rozdělení jako neposunutá. To je poměrně silná podmínka. Zavedeme tedy ještě pojem slabé stacionarity. 6

Definice1.4.Časovářada {X t : t T }jenazývánaslaběstacionární,jestližeplatí (i)ex t <, (ii)ex t = µprovšechna t Tanějaké µ R, (iii)cov(x p, X r )=γ( p r )provšechna p, r T. Bod(iii)vpředchozídefiniciznamená,žeautokovariančnífunkce {X t }závisí pouze na vzdálenosti indexů. U stacionárních časových řad proto autokovarianční funkcipíšemejensjednímargumentem,kterýudávátutovzdálenost: γ(p, r) ozn. = γ(l) pro l= p r. Poznámka 1.5. Je-li časová řada striktně stacionární s konečnými druhými momenty, pak je zřejmě splněna definice slabé stacionarity. Stacionární časovou řadou budeme v dalším textu rozumět slabě stacionární řadu. Implicitně tak předpokládáme konečnost prvních dvou momentů. V dalším textu se zabýváme stacionárními časovými řadami. Více informací o nestacionárních časových řadách najde čtenář například v[7]. Poznámka 1.6.Ustacionárníčasovéřadyplatívar(X t ) = cov(x t, X t ) = γ(0). Autokorelační funkce takové řady(definice 1.) má potom tvar ρ(p, r)= γ( p r ) γ( p r ) ozn. = = ρ(l), kde l= p r, p, r T. γ(0)γ(0) γ(0) Definice1.7.Nechť {X t : t N}jestacionárníčasovářada.Označme X 1 projekci X 1 dolineárníhoprostoru Pgenerovanéhonáhodnýmiveličinami {X,...,X k },kde kjepřirozenéčíslo.existujítedyčísla c,...,c k Rtaková,že X 1 = c X + +c k X k a X 1 X 1 X,...,X k. Podobněoznačme X k+1 projekci X k+1 dolineárníhoprostoru P.Parciálníautokorelačnífunkci(PACF)časovéřady {X t }definujemejako α(k)=ρ(1) k=1 =corr(x 1 X 1, X k+1 X k+1 ) k >1. Projekce X k+1 tedyvyjadřuje X k+1 pomocíveličin X,...,X k a X 1 rovněžvyjadřuje X 1 pomocítěchtoveličin.protožena X k+1 i X 1 majívlivještějinénáhodné veličiny,nejednáseopřesnévyjádření.pokudby X 1 bylanekorelovanás X,...,X k, potombyprojekce X 1 bylanulovýmprvkemprostoru PaX 1 X 1 = X 1.Vopačném případě X 1 = X 1 +E 1,kde E 1 jenějakánáhodnáveličinynekorelovanásx,...,x k (atedynulovýprvekprostoru P).Podobně X k+1 = X k+1 +E k+1.pacfvbodě k pakvyjadřujekorelačníkoeficientmezi E 1 a E k+1,tedyvztahmezi X 1 a X k+1,který nemůžebýtvyjádřenskrze X,...,X k.protože {X t }jestacionární,platírovnost corr(x 1 X 1, X k+1 X k+1 )=corr(x h X h, X k+h X k+h ) atedy α(k)vyjadřujetentovztahprokaždédvěnáhodnéveličinyz{x t },vzdálené odsebeočas k. 7

Definice1.8.Pronaměřenéhodnoty X 1,...,X n časovéřady,ukterépředpokládáme slabou stacionaritu, definujeme výběrovou autokorelační funkci ˆρ( ) předpisem ˆρ(l) = n t=l+1 (X t X n )(X t l X n ) n t=1 (X t X n ), 0 l n 1 kde X n jevýběrovýprůměrdefinovanýjako X n = 1 n n t=1 X t. Výběrová ACF ˆρ slouží jako odhad ACF ρ. Za určitých předpokladů lze ukázat, že rozdíl ˆρ(l) ρ(l) má asymptoticky normální rozdělení, viz.[13], a to je možné využít protestováníhypotézy H 0 : ρ(l)=0prokonkrétní l 1.Vespeciálnímpřípadě,kdy data odpovídají realizaci Gaussovského bílého šumu, leží ˆρ(l) s pravděpodobností 95%vintervalu( 1,96/ n,1,96/ n).tentointervalbudemenazývatintervalem spolehlivosti pro hodnoty výběrové ACF. V grafu výběrové ACF bývá zpravidla vyznačen přerušovanou čárou, jak je vidět například na obrázku.1. Leží-li výběrová ACF ˆρ(l) v tomto intervalu, můžeme odpovídající ρ(l) považovat za nulové. Předchozí odstavec popisuje testování hypotézy o nulovosti jednotlivých korelačních koeficientů, ovšem v dalších kapitolách budeme při ověřování adekvátnosti modelů často používat Portmanteaův test, který testuje hypotézu o nulovosti většího množství korelačních koeficientů najednou. Uvedeme zde Ljung Boxovu testovací statistiku publikovanou v[1]. Tato statistika vznikla jako modifikace Box Piercovy statistiky, odvozené v[3], jež při malé velikosti výběru n způsobuje menší sílu testu, jakjepopsánov[1]. Portmanteaův test (Ljung Boxova statistika). Nechť X 1,...,X n jsou pozorovanéhodnotyčasovéřady {X t }sautokorelačnífunkcí ρ( ).Zaplatnostihypotézy H 0 : ρ(1)=ρ()= =ρ(m)=0platí,že kde Q(m)=n(n+) m l=1 ˆρ(l) n l L značíkonvergencivdistribucipro n. L χ m, m N, Číslo m v předchozí větě udává počet korelačních koeficientů, které testujeme. Výsledky simulačních studií ukazují, že optimální volba m je přibližně ln(n), jak je uvedenov[15]. Definice1.9.Časovářada {X t }senazývábílýšum,jestliže {X t }jeposloupnost nekorelovaných stejně rozdělených náhodných veličin s nulovou střední hodnotou askonečnýmrozptylem σ.bílýšumznačímewn(0, σ )(whitenoise).má-linavíc X t normálnírozdělenín(0, σ ),nazýváse {X t }Gaussovskýbílýšum. Při práci s finančními časovými řadami se většinou místo cen aktiv pracuje s jejich výnosy. Z následujících definic uvidíme, že pro investora poskytuje výnos stejnou informaci jako samotná cena aktiva, navíc může být uváděn v procentech a je tak dokonce jasnějším ukazatelem výhodnosti investice. 8

Definice1.10.Buď P t cenaaktivavčase t.hrubýmvýnosemaktivarozumímečíslo 1+R t = P t P t 1. Podletétodefiniceje R t P t 1 částka,kterouvydělámevlastněnímaktivavčasovém intervalu(t 1, t).jinýmislovy, R t vyjadřujeprocentuálníziskzaktivazačasový interval(t 1, t).tatočástkasenazýváčistývýnosaktiva.vpraxisečastopoužívá tzv. logaritmický výnos. Definice 1.11. Přirozený logaritmus hrubého výnosu aktiva nazveme logaritmický výnosaoznačímehojako r t.platíproněj r t =ln(1+r t )=ln P t P t 1 =ln(p t ) ln(p t 1 ) ozn. = p t p t 1. Vdalšímtextubudemeproobecnostčasovéřadyznačitjako {X t : t N},vefinančníchaplikacíchsevšakčastopoužívajířadylogaritmickýchvýnosů {r t : t N}. Pokudsičtenářbudechtítpředstavitaplikacivefinancích,můžesimísto X t dosadit r t. 9

Kapitola ARMA modely U finančních časových řad se často setkáváme s tím, že hodnoty autokorelační funkce nejsou nulové a náhodné veličiny tvořící studovanou řadu jsou tedy korelované. To můžeme interpretovat tak, že hodnota řady v čase t je ovlivněna hodnotami v předcházejících časech. Této vlastnosti využívají matematické modely k přesnějšímu popisu a předpovídání průběhu časových řad, což jsou dva jejich hlavní úkoly. Mezi často používané modely pro finanční časové řady patří autoregresní(ar autoregressive) modely a modely s klouzavými součty(ma moving average) a jejich kombinace, tzv. ARMA modely. V tomto textu se věnujeme pouze stručnějšímu a spíše prakticky zaměřenému přehledu základních vlastností ARMA modelů. Pro více podrobných informací o ARMA modelech může čtenář nahlédnout například do[10] nebo[13]..1 AR modely Autoregresnímodelypředpokládají,žehodnotačasovéřadyvčase tsedáažnanáhodnou složku vyjádřit jako lineární funkce hodnot v předcházejících časech. V námi probíraných modelech je tato náhodná složka bílý šum. Definice.1.Nechť p N, φ 0,...,φ p R, φ p 0aY t jebílýšum.řekneme,že časovářada {X t }seřídíautoregresnímmodelemřádu p(značímear(p)),jestliže platí X t = φ 0 + φ 1 X t 1 + +φ p X t p + Y t. Jak je ukázáno například v[13], model AR(p) je stacionární, jestliže všechny kořeny polynomu φ(z)=1 φ 1 z φ z φ p z p jsou v absolutní hodnotě větší než jedna. Je-liřada {X t }zpředchozídefinicestacionární,můžemeprovéstnásledujícívý- 10

početstředníhodnotyex t = =EX t p = µ: EX t = φ 0 + φ 1 EX t 1 + +φ p EX t p µ=φ 0 + φ 1 µ+ +φ p µ φ 0 = µ(1 φ 1 φ φ p ) φ 0 µ=ex t =. 1 φ 1 φ φ p Autoregresní modely mají řadu dalších vlastností, které se dají studovat. My se zde budeme zabývat jen těmi, které nám pomohou na cestě k modelům volatility. Zájemce o podrobnější informace o vlastnostech AR modelů budiž odkázán na[13] nebo na[10]. Základní úlohy, které řešíme při aplikaci matematických modelů na časovou řadu, jsou určení(identifikace) modelu a jeho řádu, odhad parametrů v modelu a posouzení adekvátnosti odhadnutého modelu. Ve zbytku této podkapitoly se budeme věnovat těmto úlohám a nastíníme některé z metod, které se používají k jejich řešení. Identifikace modelu a určení řádu Dá se ukázat, že autokorelační funkce AR(p) modelu je řešení diferenční rovnice p- tého řádu, viz.[13]. Proto její graf vypadá jako graf klesající exponenciály nebo tlumeného sinu, případně jejich kombinace, což ilustruje obrázek.1. Autokorelační funkce tak má nekonečně mnoho nenulových hodnot. Naopak parciální autokorelační funkce AR modelu nabývá jen konečně mnoha nenulových hodnot, což bude ukázáno později. Toho se dá využít v situaci, kdy máme časovou řadu, kterou chceme modelovat, a rozhodujeme se, jaký model použít. Dejme tomu, že jsme pro studovanou řadu na základě průběhu výběrové ACF apacfidentifikovaliarmodelarádibychomurčiliřád p.ktomutoúčelupoužijeme užitečnou vlastnost parciální autokorelační funkce AR modelu, kterou nyní odvodíme. Uvažujme AR model řádu p ve tvaru X t = φ 0 + φ 1 X t 1 + +φ p X t p + Y t. Zvolme n > p.vzhledemkdanémumodelujeprojekce X n+1 doprostoru Pgenerovaného {X,..., X n }rovna X n+1 = φ 0 + φ 1 X n + +φ p X n p+1.dáleprojekce X 1 do Pje X 1 = f(x,...,x p+1 ),pronějakoulineárnífunkci f,neboť X 1 senaposledy (explicitně)vyskytujevzápisu X p+1 = φ 0 + φ 1 X p + +φ p X 1.Potom α(n)=corr(x 1 X 1, X n+1 X n+1 )=corr(x 1 f(x,..., X p+1 ), Y n+1 ). Zdefinicemodeluplyne,ževeličiny X p+1,..., X 1 mohoubýt(skrzerekurzi)vyjádřenypomocí Y p+1,...,y 1,tedy X 1 f(x,..., X p+1 )můžemenapsatjakonějakou lineárnífunkci g(y 1,...,Y p+1 ).Proto cov(x 1 f(x,...,x p+1 ), Y n+1 )=cov(g(y 1,...,Y p+1 ), Y n+1 )=0, 11

AR(1) s parametrem 0.8 AR() s parametry 0.8 0. ACF 0.5 0.0 0.5 1.0 ACF 0. 0. 0.6 1.0 0 5 10 15 0 a) 0 5 10 15 0 b) AR(1) s parametrem 0.5 AR() s parametry 0.5, 0.5 ACF 0. 0. 0.6 1.0 ACF 0. 0. 0.6 1.0 0 5 10 15 0 c) 0 5 10 15 0 d) Obrázek.1: Grafy výběrové ACF simulovaných řad řídících se modely a) AR(1) sparametrem φ 1 = 0.8,b)AR()sparametry φ 1 = 0.8, φ =0.,c)AR(1) sparametrem φ 1 =0.5ad)AR()sparametry φ 1 =0.5, φ = 0.5. 1

neboť n > p a Y 1,...,Y n+1 jsou z definice bílého šumu nekorelované. Pro n > pjetedyhodnotapacfčasovéřadyřídícísemodelemar(p)vbodě n nulová. Z předchozího postupu vidíme, že pro n p dostaneme stejným postupem α(n)= =cov(g(y 1,...,Y p+1 ), Y n+1 ) 0. Pro výpočet parciální autokorelační funkce existují metody založené na řešení soustavy rovnic, ve které figuruje autokorelační funkce. Podrobnosti zde nebudeme uvádět, případný zájemce najde bližší informace v[13]. Výběrovou PACF dostaneme dosazením výběrových korelačních koeficientů namísto korelačních koeficientů do zmíněné soustavy rovnic a budeme ji značit ˆα. VýběrováPACFjeodhademPACF.PodobnějakouACF,iuPACFlzezaurčitých podmínek určit asymptotické rozdělení rozdílu ˆα(n) α(n), viz.[13], a testovat hypotézu H 0 : α(n)=0propevné n 1.Interval( 1,96/ n,1,96/ n)jevgrafech výběrové PACF znázorněn stejně jako u ACF, což můžeme vidět na obrázku.. Leží-li výběrová PACF ˆα(n) v tomto intervalu, který budeme nazývat intervalem spolehlivosti, můžeme odpovídající α(n) považovat za nulové. Připomeňme, že pro model AR(p) s autokorelační funkcí ρ a parciální autokorelační funkcí α platí, že ρ(l) 0 pronekonečněmnoho l α(l)=0 pro l > p. Předchozí výsledky dávají návod pro určení řádu AR modelu. Je-li výběrová PACF zkoumané časové řady, u které jsme podle průběhu výběrové ACF identifikovali AR model,takzvaněuseknutávbodě p(tzn.nenulovávbodě panulovázaním),použijeme AR(p) model. Odhadování parametrů Proodhadováníparametrů φ 0,...,φ p var(p)modelusedápoužítmetodanejmenších čtverců(lse least squares estimate), momentová metoda a v případě, že známe rozděleníbíléhošumu Y t,takémetodamaximálnívěrohodnosti(mle maximum likelihood estimate). Posledně jmenované se budeme podrobněji věnovat v dalších kapitolách, zde jen v krátkosti uvedeme metodu nejmenších čtverců. Více informací čtenář nalezne například v[13] nebo v[7]. Definice..Nechť X 1,...,X T jsoupozorovanéhodnotyčasovéřady {X t },uníž předpokládáme model AR(p) ve tvaru X t = φ 0 + φ 1 X t 1 + +φ p X t p + Y t = X t (φ)+y t. Odhademparametru φ=(φ 0,...,φ p )metodounejmenšíchčtvercůrozumíme φ=( φ 0,..., φ p )=argmin φ T t=p+1 ( X t X t (φ)). Řadu { X t } = {X t ( φ)}nazvemeodhadnutýmodel.číslo Ŷt = X t X t nazveme reziduum odhadnutého modelu v čase t. 13

AR(1) s parametrem 0.8 AR() s parametry 0.5, 0.5 Partial ACF 0.0 0.4 0.8 Partial ACF 0.4 0.0 0. 5 10 15 0 a) 5 10 15 0 b) AR() s parametry 0.4, 0.4 AR() s parametry 0.1 0.8 Partial ACF 0.0 0. 0.4 0.6 Partial ACF 0.0 0.4 0.8 5 10 15 0 c) 5 10 15 0 d) Obrázek.: Grafy výběrové PACF simulovaných řad řídících se modely a) AR(1) sparametrem φ 1 = 0.8,b)AR()sparametry φ 1 =0.5, φ = 0.5,c)AR() sparametry φ 1 =0.4, φ =0.4ad)AR()sparametry φ 1 =0.1, φ =0.8. 14

Testování adekvátnosti modelu Je vhodné posoudit, zda odhadnutý model správně reflektuje odhadovanou časovou řadu(je adekvátní). Odpovídající statistické testy využívají předpokladu, že náhodná veličina Y t jebílýšumwn(0, σ ).Videálnímpřípaděbyplatilo,že X t X t atedy Y t Ŷtprokaždé t {1,..., T }. Chcemeprototestovat,zda Ŷt WN(0, σ ),tedyzdarezidua Ŷt,odhadující chybovousložku Y t,majíblízkokbílémušumu.vtakovémpřípaděbymělybýt výběrovékorelačníkoeficientyřady {Ŷt}statistickynevýznamné.Pokudzgrafuvýběrové ACF vidíme, že se významně od nuly liší, usoudíme, že model není adekvátní a musíme ho vylepšit zvětšením řádu nebo použít jiný model. Leží-li výběrové korelační koeficienty uvnitř intervalu spolehlivosti, znamená to nezamítnutí hypotézy o nulovosti jednotlivých korelačních koeficientů. V takovém případě přistoupíme k testování hypotézy o nulovosti ve sdruženém testu. K tomu můžeme použít Portmanteaův test, uvedený na konci kapitoly 1, ovšem s drobnou modifikací testová statistika Q(m) v případě modelu AR(p) konverguje v distribuci k χ -rozděleníom pstupníchvolnosti,tj. χ m p-rozdělení.jetímreflektována skutečnost, že v modelu bylo odhadováno p parametrů, viz.[15]. Pokud hypotézu běžněnahladině α=0.05 nezamítneme,znamenáto,žekorelačníkoeficienty nejsouodnulytakdaleko,abytobylovrozporushypotézouojejichnulovosti. V takovém případě je považujeme za nulové a odhadnutý model za adekvátní. Předpovídání Nechť X 1,...,X T jsouopětpozorovanéhodnotyčasovéřady {X t },unížpředpokládáme model AR(p) s nyní již známými(v praxi však jen odhadnutými) parametry φ 0, φ 1,...,φ p. Definice.3.Předpovědí X T+h pomocínejmenšístředníčtvercovéchyby(mse mean square error) rozumíme (, X T (h)=argmine X T+h f) f kde fjefunkcepozorovanýchhodnot X 1,...,X T.Číslo hsenazýváhorizontpředpovědi.náhodnouveličinu e T (h) = X T+h X T (h)nazvemechybouvpředpovědi X T+h. Předpověďpro h=1podlepředchozídefinicezískámetakto:provyjádření X T+1 využijemeznalostihodnot X 1,..., X T aparametrůmodeluar(p).dáseukázat,že nejmenší střední chyby ve smyslu předchozí definice dosáhneme tehdy, když v předpovědimísto Y T+1 použijemeey T+1 =0,viz.[10]nebo[13].Tentopostuplzezapsat jako X T (1)=E(X T+1 X T, X T 1,..., X T p+1 )=φ 0 + φ 1 X t + +φ p X T p+1, kdee(x T+1 X T, X T 1,...,X T p+1 )jestřední hodnota X T+1 podmíněnáznalostí hodnot X T, X T 1,...,X T p+1.odpovídajícíchybavpředpovědije e T (1)=X T+1 X T (1)=Y T+1. 15

Dosadíme-li proto X T (1) do definice předpovědi za f, je minimalizovaný výraz EYT+1 =var Y T+1=var e T (1)=σ.Ztohoplyne,želepšípředpověďnemůžeme získat, protože rozdíl předpovědi a skutečné hodnoty bude vždy alespoň neznámá složka Y T+1. Podobnězkonstruujemepředpověďpro h=.místo X T+1 použijemepředpověď X T (1)astejnějakopro h=1místo Y T+ napíšemeey T+.Odhadpakbude X T ()=E(X T+ X T, X T 1,...,X T p+1 ) = φ 0 + φ 1 E(X T+1 X T, X T 1,...,X T p+1 )+φ X T + +φ p X T p+ = φ 0 + φ 1 XT (1)+φ X T + +φ p X T p+. Chybavpředpovědi X T+ jeproto e T ()=X T+ X T ()=φ 0 + φ 1 X T+1 + φ X T + +φ p X T p+ + Y T+ φ 0 φ 1 XT (1) φ X T φ p X T p+ = φ 1 (X T+1 X ) T (1) + Y T+ = φ 1 e T (1)+Y T+ = φ 1 Y T+1 + Y T+. Proveďme nyní tento postup pro přirozené h splňující h < p. Pak X T (h)=φ 0 + φ 1 XT (h 1)+ +φ h 1 XT (1)+φ h X T + +φ p X T p+h, pro obecné h potom h 1 X T (h)=φ 0 + φ i XT (h i)+ i=1 p φ j X T+h j, kdeprázdnýsoučettypu p j=p+1 položímerovennule. Tímtopostupemjsmezkonstruovalibodovépředpovědihodnotřady {X t }(to znamená,žepředpovědijsoučísla).pokudznámerozděleníchyby e T (h),můžeme sestrojitintervalovoupředpověďpro X T+h ospolehlivosti1 α. Nechť Y t N(0, σ ).Protože {Y t }jebílýšum,jsouveličiny Y t nekorelované. Jednou z vlastností normálního rozdělení přitom je, že nekorelovanost je ekvivalentní nezávislosti. Je známo, že pro nezávislé náhodné veličiny s normálním rozdělením Z 1 N(µ 1, σ1 ), Z N(µ, σ ) platí, že jejich součet má normální rozdělení N(µ 1 + µ, σ1 + σ ),viz.[1].přidáme-liktomudalšívlastnostpravděpodobnostních rozdělení,asice,želineárnítransformace(z µ)/σ N(0,1),kde Z N(µ, σ ), zjistíme,žejsmeschopniurčitrozděleníchybyvpředpovědi e T (h). Pro h=1je e T (1)=X T+1 X T (1)=Y T+1 N(0, σ ),protoplatí ( P u 1 α < X T+1 X T (1) σ j=h < u 1 α P( XT (1) σu 1 α < X T+1 < X T (1)+σu 1 α ) =1 α, ) =1 α, 16

kde u 1 α je1 αkvantiln(0,1).mámetakintervalovoupředpověď X T+1.Podobným způsobembudemepostupovatpro h >1.Pro h=ah=3dostaneme ) e T () φ 1 Y T+1 + Y T+ N (0, σ (1+φ 1 ), ( e T (3) φ 1 e T ()+φ e T (1)+Y T+3 N 0, σ [ 1+φ 1 (1+φ 1 ] ) )+φ. Odtud ( P u 1 α < X T+ X T () ) σ (1+φ 1 ) < u 1 α =1 α, ( P u 1 α < X T+3 X T (3) ) σ ( ) < u 1+φ 1 α =1 α, 1 (1+φ 1 )+φ odkud opět snadno dopočítáme intervalové předpovědi. Vpraxiovšemnemámepřesnéhodnotyparametrů φ 0,...,φ p,nýbržjejichodhady. Protože tyto odhady jsou konzistentní, jak je ukázáno v[13], funguje pro ně předchozí postup asymptoticky pro velikost výběru T.. MA modely Druhým modelem, který je rovněž užitečný při modelování časových řad, je model klouzavých součtů(ma moving average). Definice.4.Nechť {Y t }jebílýšum(viz.definice1.9).řekneme,žečasovářada {X t }seřídímamodelemřádu q N,jestližeplatí X t = θ 0 + Y t θ 1 Y t 1 θ q Y t q, kde θ 0,...,θ q R, θ q 0. UvažujmemodelMA(1),tedy X t = θ 0 + Y t θ 1 Y t 1.Pak EX t = θ 0 +EY t θ 1 EY t 1 = θ 0 adíkynekorelovanosti {Y t } var X t =var Y t + θ1 var Y t 1= σ + θ1 σ = σ (1+θ1 ). Podobně pro model MA(q) dostaneme EX t = θ 0 +EY t θ 1 EY t 1 θ q EY t q = θ 0, var X t =var Y t + θ1var Y t 1 + θvar Y t + +θqvar Y t q = σ (1+θ1+ +θq). Jak bude ukázáno dále, každý MA model je stacionární. 17

Identifikace modelu a určení řádu UvažujmenyníopětmodelMA(1),tedy X t = θ 0 +Y t θ 1 Y t 1.Potompro l 1, l N platí Pro autokorelační funkci z definice platí X t l X t = θ 0 X t l + Y t X t l θ 1 Y t 1 X t l. γ(l)=ex t l X t EX t l EX t = θ 0 EX t l +EY t X t l θ 1 EY t 1 X t l θ 0. Svyužitímnekorelovanosti X t l a Y t dostaneme atedy γ(l)=θ 0 EX t l +EY t EX t l θ 1 EY t 1 X t l θ 0 = θ 1 EY t 1 X t l Pro autokorelační funkci z toho plyne, že γ(l)=0 l >1 = θ 1 σ l=1. ρ(l)=1 l=0, = θ 1 l=1, (1+θ1) =0 l >1. Tento výsledek je možné zobecnit pro model MA(q), čímž dostaneme ρ(l) 0 l q, =0 l > q, viz. například[13]. Toznamená,ževeličina Y t ovlivňujepouze qhodnot X t,...,x t+q amodelma má takzvaně konečnou paměť. Protože ACF je funkcí rozdílu časů, střední hodnota je konstantní a rozptyl konečný, je každý model MA stacionární. Parciální autokorelační funkce modelu MA(q) je řešením diferenční rovnice q-tého řádu a má proto tvar tlumeného sinu nebo exponenciály, případně jejich kombinace, viz.[13]. Proto nabývá nenulových hodnot v nekonečně mnoho bodech. Připomeňme, že pro model MA(q) s autokorelační funkcí ρ a parciální autokorelační funkcí α platí, že α(l) 0 pronekonečněmnoho l ρ(l)=0 pro l > q. Mají-li tedy výběrové ACF a PACF takovýto průběh, identifikujeme MA model řádu q. 18

MA() s parametry 1, MA(4) s parametry 1,, 3, 5 ACF 0.5 0.0 0.5 1.0 ACF 0.5 0.0 0.5 1.0 0 5 10 15 0 a) 0 5 10 15 0 b) MA() s parametry 1, MA(4) s parametry 1,, 3, 5 Partial ACF 0.4 0.0 0. Partial ACF 0.6 0. 5 10 15 0 c) 5 10 15 0 d) Obrázek.3: Grafy výběrové ACF a PACF simulovaných řad řídících se modely MA()sparametry θ 1 = 1, θ = ama(4)sparametry θ 1 = 1, θ =, θ 3 = 3, θ 4 = 5. 19

Odhadování parametrů V modelech MA se běžně používají odhady metodou maximální věrohodnosti. K tomu jetřebapředpokládat,žeznámerozděleníbíléhošumu {Y t }.Parametrylzeodhadovat také použitím metody nejmenších čtverců, zmíněné v předchozí kapitole. Zde uvedeme metodu maximální věrohodnosti, která je sice náročnější na výpočetní výkon, ale dává přesnější výsledky. Podrobnější informace o používaných metodách může čtenář nalézt například v[13]. Mějmepozorovanéhodnotyveličin X 1,..., X T aoznačmeje x 1,..., x T.Chceme odhadovatparametry θ 0,..., θ q vmodeluma(q).zestacionarityvíme,žestřední hodnotaex t = θ 0 jekonstantní.budemeprotobezújmynaobecnostipředpokládat, že θ 0 =0(jinakbychomodečetliod X t výběrovýprůměr X T ). Označme F t 1 σ-algebrugenerovanounáhodnýmiveličinami X t 1,..., X 1.Jinými slovy, F t 1 obsahuje informaci o hodnotách řady {X t } až do času t 1. Označme θ=(θ 0,..., θ q )vektorparametrůmodeluma(q).rádibychomnazákladě znalosti F t 1 vyjádřilihodnoty Y t 1,...,Y 1.Tytohodnotyoznačímepronázornost y t 1,...,y 1.Díkypředpokládanémumodelumůžemepotompsát y 1 = x 1, y = x + θ 1 y 1, y 3 = x 3 + θ 1 y + θ y 1, Nyní můžeme psát(z vlastností podmíněné hustoty): f(y T,..., y 1 θ)=f(y T,...,y θ, F 1 )f(y 1 θ). = f(y T,...,y 3 θ, F )f(y θ, F 1 )f(y 1 θ). = f(y T θ, F T 1 )f(y T 1 θ, F T ) f(y θ, F 1 )f(y 1 θ), kde f(y T,..., y 1 θ)jesdruženáhustotaveličin Y T,...,Y 1 podmíněnáparametrem θ a f(y t θ, F t 1 )jehustotanáhodnéveličiny Y t podmíněnávektorem θaσ-algebrou F t 1. Protožezpředpokladůznámerozděleníveličin Y t (zdefinicebíléhošumustejné pro všechna t), dosadíme za f hustotu tohoto rozdělení. Máme tedy sdruženou hustotuveličin Y T,...,Y 1 vyjádřenoupomocínámznámýchhodnot x T,...,x 1 avektoru parametrů θ, který neznáme a chceme ho odhadnout. Myšlenka metody maximální věrohodnostije,ženámipozorovanéhodnoty x T,..., x 1 atedyiznichvypočítané y T,...,y 1 jsou nejvícepravděpodobné.protosdruženáhustotaveličin Y T,...,Y 1 mábýtprotytohodnotymaximálníaodhadem θbudetakovývektor θ=( θ 0,..., θ q ), který tuto sdruženou hustotu maximalizuje. Tentoodhadvzniklvsituaci,kdyjsmepoložili y t =0pro t 0,říkásemuproto podmíněnýodhadmetodoumaximálnívěrohodnosti.hodnoty y 1 q,..., y 0 vstupují 0

do maximalizované hustoty proto, že v modelu MA(q) platí y 1 = x 1 + θ 1 y 0 + θ y 1 + +θ q y 1 q, y = x + θ 1 y 1 + θ y 0 + +θ q y q,. Druhámožnostjeodhadnouthodnoty y 1 q,...,y 0,kterépovažujemezaneznámé konstanty,společněsparametrem θ=(θ 0,...,θ q ). Označme y=(y 1 q,...,y 0 ).Pakpodobnějakovpředchozím f(y T,...,y 1 θ, y)=...=f(y T θ, F T 1, y)f(y T 1 θ, F T, y) f(y 1 θ, y), což je opět funkce, kterou chceme maximalizovat v argumentech θ a y. Výsledkem budouodhady θ=( θ 0,..., θ q )a ŷy=(ŷ 1 q,..., ŷ 0 ),znichžpotřebujemepouze θ,ale parametr y nám posloužil ke zpřesnění odhadu, kterému se proto někdy říká přesný odhad metodou maximální věrohodnosti. Testování adekvátnosti modelu Testování adekvátnosti modelu je opět založeno na testování nekorelovanosti reziduí {Ŷt},kde Ŷt= X t X t.ktomulzevyužítmetodypopsanéuarmodelůvčásti.1. Pokud známe rozdělení bílého šumu, je možné testovat také hypotézu o tom, že rezidua odpovídají tomuto rozdělení. Pokud ji nezamítneme, stejně jako hypotézu o nekorelovanosti, neliší se rezidua závažně od bílého šumu a model pokládáme za adekvátní. Předpovídání Uvažujmeprořadu {X t }modelma(q).nechť X T,...,X 1 jsouopětznáméhodnoty {X t }.Prohorizontpředpovědi h=1chcemepředpovědět X T+1.VmodeluMA(q), vněmžpředpokládámeex t =0,platí X T+1 = Y T+1 θ 1 Y T θ q Y T+1 q. Předpovědí X T+1 pakpodobnějakouarmodelůrozumíme X T (1)=E(X T+1 X T,...X 1 )= θ 1 Ŷ T θ q Ŷ T+1 q, kde Ŷtjereziduumodhadnutéhomodeluvčase t,tedy Ŷt= X t X t. Pro h=potom Pro obecné h platí X T+ = Y T+ θ 1 Y T+1 θ q Y T+ q, X T ()=E(X T+ X T,...X 1 )= θ Y T θ q Y T+ q. X T+h = ŶT+h θ 1 Ŷ T+h 1 θ q Ŷ T+h q, q X T (h)= θ h Ŷ T θ q Ŷ T+h q = θ i Ŷ T+h i, 1 i=h

kdeopětprázdnýsoučetdodefinujemenulou.vidíme,žepro h > qjepředpověď X T (h)=0,cožjeex t.jakvímezprůběhuacf,veličiny X 1,...,X T nijakneovlivňujíveličiny X T+q+1, X T+q+,...,aprotoznalost X 1,...,X T nemůženicnapovědět obudoucíchhodnotách X T+q+1, X T+q+,.....3 ARMA modely V některých aplikacích se můžeme dostat do situace, kdy při aplikaci AR nebo MA modelu budeme pro adekvátní popis časové řady potřebovat vysoký řád modelu. ZtohotodůvodusezavádíspojeníARaMAmodelů,tzv.ARMAmodel. Definice.5.Nechť {Y t }jebílýšuma{x t }jestacionárníčasovářada.řekneme, žečasovářada {X t }seřídíarma(p, q)modelem, p, q N {0},jestližeplatí X t = φ 0 + p φ i X t i i=1 q θ j Y t j + Y t, j=1 kde φ 0,..., φ p, θ 1,..., θ q R, φ p 0aθ q 0. V literatuře se často používá zápis pomocí operátoru zpětného posunu: Definice.6.Operátor B: X t X t 1 senazýváoperátorzpětnéhoposunu(backshift operator). Model ARMA(p, q) zapsaný pomocí operátoru zpětného posunu vypadá následovně: (1 φ 1 B φ B φ p B p )X t = φ 0 +(1 θ 1 B θ B θ q B q )Y t. Polynom φ(z)=(1 φ 1 z φ z φ p z p )nazvemecharakteristickýmpolynomem ARsložkyARMA(p, q)modelu.jakjeukázánonapříkladv[13],arma(p, q)model je stacionární, pokud je jeho AR složka stacionární(ma složka je stacionární vždy). To nastává, jestliže jsou všechny kořeny charakteristického polynomu AR složky v absolutní hodnotě větší než jedna. Identifikace modelu a určení řádu Jakužbylořečenovúvodukapitoly,vpraxičastopoužívámeARMAmodelvsituacích, kdy jsme identifikovali AR nebo MA model vysokého řádu. V takových případech ARMA model k adekvátnímu popsání dané časové řady potřebuje tak vysoký řád. UrčovánířádůneníuARMAmodelutakjednoduchéjakouARaMAmodelů anepomůženámsnímaniacfapacf.protožepodrobnýpopismetodpoužitelnýchkurčenířádůarmamodelubynijaknepřispělkúčelutétopráce,uvedeme zde pouze stručný popis s odkazem na literaturu, v níž může zájemce nalézt bližší informace. Standardně se uvádí metoda FPE(final prediction error) a AIC(Akaike s information criterion). Metoda FPE vyjádří střední čtvercovou chybu v předpovědi