Matematicko fyzikální fakulta Univerzity Karlovy v Praze ÚTIA AV ČR 22. listopadu 2010 u
Obsah Definice u u u
Motivace Známe. Umíme používat, odhadovat jejich koeficienty atd. Co když ale data nemají konstantní rozestupy? C Využití: Fyzika Inženýrství Finance u
Zavedení u Gaussovský CARMA(p,q) proces {Y t } s 0 q < p a koeficienty a 1, a 2,..., a p, b 0, b 1,..., b q definujeme jako stacionární řešení lineární diferenciální rovnice p-tého řádu, a(d)y (t) = b(d)dw (t), t 0, (1) kde D značí diferencování vzhledem k t, {W (t)} je Brownův pohyb, a(z) = z p + a 1 z p 1 + + a p, b(z) = b 0 + b 1 z + + b p z p u a pro koeficienty b j platí: b q 0 a b j = 0 pro q < j p. Proces {W (t)} s.j. nemá derivaci v žádném bodě nutné rovnici (1) správně interpretovat.
Interpretace I. {Y t } je Gaussovský CARMA(p,q) proces, jestliže splňuje: Y (t) = b X(t), (2) kde X(t) = (X 0 (t), X 1 (t),..., X p 1 (t)) je řešením dx(t) AX(t)dt = e dw (t), (3) s 0 1 0 0 0 0 0 1 0 0 A =....... e =. b = 0 0 0 1 0 a p a p 1 a p 2 a 1 1 b 0 b 1. b p 2 b p 1 u a E[X(0)W (t)] = 0
Interpretace II. Rozpis soustavy (3): prvních (p 1) rovnic: X j (t) X j (0) = t tj. X j je j-tá derivace X 0 poslední rovnice: 0 X j+1 (u)du, j = 0, 1,..., p 2 dx p 1 + a 1 X p 1 dt + a 2 X p 2 dt + + a p X 0 dt = dw (t) u X 0 řešení (1) s b(z) = 1
Řešení rovnice (3) (3) lineární Itôova diferenciální rovnice pro X(t) Dk: t X(t) = e At X(0) + e A(t u) edw (u) (4) 0 d dt X(t) = AeAt X(0) + A t = AX(t) + edw (t) 0 e A(t u) edw (u) + edw (t) u
Gaussovský CARMA(p,q) Necht 0 q < p jsou celá čísla. {Y (t), t 0} je Gaussovský CARMA(p,q) proces s parametry a 1, a 2,..., a p, b 0, b 1,..., b q právě tehdy, když splňuje Y (t) = b X(t), kde X(t) je stacionární řešení rovnice dx(t) AX(t)dt = e dw (t), kde {W (t)} je Brownův pohyb a E[X(0)W (t)] = 0. u
CARMA(p,q) {Y (t)} je CARMA(p,q) proces, pokud splňuje předchozí definici s {W (t)} libovolným reálným procem splňujícím: W (0) = 0, E[W (t) 2 ] <, E[(W (t 4 ) W (t 3 ))(W (t 2 ) W (t 1 ))] = 0, kde 0 t 1 t 2 t 3 t 4, E[(W (t) W (s)) 2 ] = t s, t s 0. u
CARMA se střední hodnotou µ {Y (t)} je se střední hodnotou µ právě tehdy, když {Y (t) µ} je. u
Stacionarita a vlastnosti {X(t)} Nutná a postačující podmínka: 1. vlastní čísla {A} mají záporné reálné části 2. E[X(0)] = 0 3. Σ = E[X(0)X(0) ] = 0 eay ee e A y dy Dk: 3. Σ = E[X(t)X(t) ], t 0, lim X(t) = t 0 e Ay edw (y), [ lim t E[X(t)X(t) ] = E e Ay edw (y) = 0 0 e Ay ee e A y dy. E[X(t)] = 0 & E[X(t + h)x(t) ] = e Ah Σ, h 0. 0 ] e e A y dw (y) = u
Vlastnosti {Y (t)} I. E[Y (t)] = 0, t 0 γ Y (h) = E[Y (t + h)y (t)] = b e A h Σb spektrální hustota f Y (ω) = 1 e iωh γ Y (h)dh 2π = 1 b(iω) 2 2π a(iω) 2, < ω < zpátky γ Y (h) = eiωh f Y (ω)dω γ Y (h) = λ:a(λ)=0 1 (m 1)! kde m je násobnost daného kořene [ ] d m 1 (z λ) m e z h b(z)b( z) dz m 1 a(z)a( z) (5) u z=λ,
Vlastnosti {Y (t)} II. Všechny kořeny a(z) = 0 jsou různé γ Y (h) = λ:a(λ)=0 e λ h b(λ)b( λ) a (λ)a( λ) Příklad: Stacionární Ornsteinův Uhlenbeckův proces kde a > 0 a {W (t)} je BP. (D + a)y (t) = bdw (t), t 0, u E[Y (t)] = 0 a γ Y (h) = b2 2a e a h.
Doplňení Vlastnost minimální fáze {Y (t)} je minimální fáze, pokud všechny kořeny b(z) = 0 mají záporné reálné části. Odpovídá invertibilitě diskrétních ARMA procesů. Mají-li si vzájemně odpovídat vlastnosti 2. řádu a koeficienty a 1, a 2,..., a p, b 0, b 1,..., b q, musí být proces minimální fáze a b(z) být kladný v okolí 0. CARMA řízené Lévyho procesem {Y (t)} je řízený Lévyho procesem právě tehdy, když splňuje definici Gaussovského CARMA, kde ovšem {W (t)} je Lévyho procesem a X(0) je nezávislý na {W (t)}. u
Zavedení ARMA ARMA(p,q) proces {Y t } s AR koeficienty φ 1, φ 2,..., φ p, MA koeficienty θ 1, θ 2,..., θ q a bílým šumem {ε t } s rozptylem σ 2 je definován kde φ(l)y t = θ(l)ε t, (6) φ(z) = 1 φ 1 z φ 2 z 2... φ p z p, θ(z) = 1 + θ 1 z + θ 2 z 2 + + θ q z q, u φ p 0, θ q 0 a L je operátor zpětného posunutí.
Stacionarita, invertibilita a další vlastnosti Jestliže všechny kořeny rovnice φ(z) = 0 leží vně jednotkového kruhu, {Y t } je stacionární. Jestliže všechny kořeny rovnice θ(z) = 0 leží vně jednotkového kruhu, {Y t } je invertibilní. Jestliže je {Y t } stacionární, potom E[Y t ] = 0. u
Stavová reprezentace Podobně jako pro : a Y t = Θ X t, t = 0, 1, 2,... kde 0 1 0 0 0 0 1 0 Φ =....... 0 0 0 1 φ r φ r 1 φ r 2 φ 1 X t+1 ΦX t = eε t+1, (7) 0 0 e =. Θ = 0 1 θ r 1 θ r 2. θ 1 1, u r = max(p, q + 1), θ j = 0 pro j > q, φ j = 0 pro j > p a X 0 = j=0 Φj ez j
Vlastnosti {X t } = Dále: E[X t ] = 0, t 0, t 1 X t = Φ t X 0 + Φ j ez t j j=0 Φ j ez t j, t 0 j=0 E[X t+h X t ] = Φh Ξ, h 0, kde Ξ = E[X 0 X 0 ] = σ2 Φ j ee Φ j. j=0 u
Vlastnosti {Y t } E[Y t ] = 0, t 0, f Y (ω) = σ2 θ(e iω )θ(e iω ) 2π φ(e iω )φ(e iω ), γ Y (h) = E[Y (t + h)y (t)] = Θ Φ h ΞΘ = + λ Z [ ] σ 2 I [0,q p) ( h ) d q p h z q p θ(z)θ(z 1 ) (q p h )! dz q p h φ(z)φ(z 1 ) z=0 [ ] σ 2 d m 1 (z λ) m z h 1 θ(z)θ(z 1 ) (m 1)! dz m 1 φ(z)φ(z 1 ), z=λ kde Z = {λ : φ(λ 1 ) = 0} a m je násobnost kořene λ. Je-li násobnost všech kořenů rovnice φ(λ 1 ) = 0 1 a q < p, potom u γ Y (h) = σ 2 p j=1 λ h +1 j θ(λ j )θ(λ 1 j ) φ(λ j )φ (λ 1. j )
Nová reprezentace u Zavedeme Y(t) = BX(t), kde {X(t)} je řešení (4) rovnice (3) a b 0 b 1 b 2 b p 1 0 1 0 0 B = 0 0 1 0........ 0 0 0 1 Y (t) = ( 1 0 0 ) Y(t), kde {Y(t)} je stacionární řešení dy(t) = BAB 1 Y(t)dt + Be dw (t), t 0. u platí: n Y(n) = e BAB 1 Y(n 1)+ e A(n u) BedW (u), n = 1, 2,... n 1
I. {Y (t), t 0} CARMA(p,q) proces s q < p {Y (n), n = 0, 1, 2,... } první složkou diskrétního p-rozměrného AR(1). {Y (n)} diskrétní ARMA(p,q ) proces s q < p. Základ pro odhadování ů pozorovaných v rovnoměrně rozložených okamžicích. TVRZ: Neparametrické odhady spektrální hustoty spojitých stacionárních časových řad trpí problémem i. u Budeme-li modelovat časovou řadu pomocí CARMA, bude odhad koeficientů a spektrální hustoty určen jednoznačně?... NE vždy.
II. Je-li dán diskrétní ARMA(p,q) proces {Y n} s q < p, exituje nějaký {Y (t)} s γ Y (n) = γ Y (n), n = 0, 1, 2,...? Je třída autokovariančních funkcí ARMA procesů s q < p stejně velká jako třída autokovariančních funkcí ů restringovaných na celá čísla?... Pro ARMA proces s kořenem θ(z) = 0 na jednotkovém kruhu neexistuje odpovídající. u
Příklad I. Necht {Y n } je ARMA(p,q) proces (q < p) a všechny kořeny φ(z 1 ) = 0 jsou různé, potom kde γ Y (h) = p j=1 α j λ h j, (8) θ(λ α j = σ 2 j )θ(λ 1 j ) λ j φ(λ j )φ (λ 1, j = 1, 2,..., p. (9) j ) Necht {Y (t)} je u a všechny kořeny a(z) = 0 jsou různé, potom u γ Y (h) = p j=1 e λ j h b(λ j )b( λ j ). (10) a (λ j )a( λ j ) Hledáme {Y (t)} takový, že γ Y (h) = γ Y (h), h Z,
Příklad II. tedy m p γ Y (x) = w jk α j e δ jk x, (11) k= m j=1 kde m N, δ jk = ln λ j + 2kπi, π < arg(ln λ j ) π a m k= m w jk = 1, j = 1, 2,..., p. Úkolem je tedy m a váhy w jk tak, aby (11) byla autokovarianční funkce, neboli aby f Y (ω) = 1 2π = 1 π m k= m j=1 γ Y (x)e iωx dx p δ jk w jk α j ω 2 + δjk 2 u byla nezáporná ω R.
Příklad příkladu I. Mějme AR(1) proces potom X n = φx n 1 + ε n, {ε n } WN(0, σ 2 ), φ < 1, γ X (h) = σ2 φ h 1 φ 2. Pokud 0 < φ < 1, {X n } může být vnořen do CAR(1) [m = 0, w 10 = 1] DY (t) (ln φ)y (t) = 2σ2 ln φ DW (t). 1 φ2 u
Příklad příkladu II. Je-li 1 < φ < 0, potom ln φ = ln( φ) iπ. m = 1, α 1 = σ 2 /(1 φ 2 ), δ 10 = ln( φ) iπ, δ 11 = ln( φ) + iπ, w 10 = w 11 = 0.5 a w 1, 1 = 0. γ Y (x) = σ2 1 φ 2 ( φ) x e iπ x + e iπ x 2 = σ2 1 φ 2 ( φ) x cos(π x ). + Podmínka na spektrální hustotu: f Y (ω) = 1 2π = 1 2π σ 2 u 1 φ 2 ( φ) x e iπ x + e iπ x e iωx dx 2 ( ) σ 2 ln φ 1 φ 2 ln 2 ( φ) + (π + ω) + ln φ 2 ln 2 ( φ) + (π ω) 2 Odpovídá CARMA(2,1).
III. Problém vnořování souvisí s problémem i. Jeden ARMA proces může být vnořen do více CARMA procesů (i od nekonečně mnoha). Závisí na parametrech. u
Princip odhadování I. Necht t 1, t 2,... jsou okamžiky, ve kterých pozorujeme {Y (t)}. Platí: X(t i+1 ) = e A(t i+1 t i ) X(t i ) + Z(t i ), i = 1, 2,..., Y (t i ) = [b 0 b 1 b p ] X(t i ), i = 1, 2,..., kde {Z(t i ), i = 1, 2,... } je posloupnost Gaussovských náhodných vektorů s: E[Z(t i )] = 0, u E[Z(t i )Z(t i ) ] = t i+1 t i 0 e Ay ee e A y dy, E[Z(t i )Z(t j ) ] = 0, i j.
Princip odhadování II. Aplikací Kalmanova filtru získáme: m i = E[Y (t i ) Y (t j ), j < i] a v i = E[(Y (t i ) m i ) 2 Y (t j ), j < i], které využijeme pro zisk N L = (2π) N/2 (v 1... v N ) 1/2 exp (Y (t i ) m i ) 2 /(2v i ), j=1 u kde m 1 = 0 a v 1 = b Σb
Definice (p) proces s koeficienty a 1 = a 1 (Y (t)), a 2 = a 2 (Y (t)),..., a p = a p (Y (t)) a střední hodnotou µ = µ(y (t)) definujeme jako řešení rovnice (D p + a 1 D p 1 + + a p )Y (t) = bdw (t) + a p µ. (12) Stavová reprezentace: kde Y(t) je řešením Y (t) = [1 0... 0]Y(t), t 0, (13) dy(t) = (AY(t) + a p µe)dt + bedw (t). (14) u Další předpoklady: b 0 a nezávisí na Y (t), a 1, a 2,..., a p, µ jsou omezené a měřitelné na R, {W (t)} je BP (není nezbytné).
Existence silného řešení Rovnice (14) má pro dané Y(0) silné řešení, pokud koeficienty u dt a dw (t) splňují standardní Lipschitzovy podmínky. CTAR(p) a 1, a 2,..., a p, µ po částech konstantní funkce na (, y 1 ], (y 1, y 2 ],..., (y m, ) nesplňují Lipschitzovy podmínky. Nutno hledat slabé řešení. u
Slabé řešení I. Zavedeme X = [X 0 X 1... X p 1 ] = b 1 Y kde: Y (t) = bx 0 (t), dx 0 = X 1 (t)dt, dx 1 = X 2 (t)dt,.. dx p 2 = X p 1 (t)dt, dx p 1 = [ a p x 0... a 1 X p 1 (t) + a p µb 1 ]dt + dw (t), u kde a i = a i (bx 0 (t)) a µ = µ(bx 0 (t)).
Slabé řešení II. Předpokládejme X(0) = x X p 2 = x p 2 + t 0 X p 1(s)ds,..., X 0 = x 0 + t 0 X 1(s)ds X(t) = F(X p 1, t) (15) dx p 1 = G(X p 1, t)dt + dw (t) (16) Necht B je BP na (C[0, ), B[0, ), P xp 1 ) s B(0) = x p 1, potom dz 0 = Z 1 (t)dt, dz 1 = Z 2 (t)dt,. dz p 2 = Z p 1 (t)dt, dz p 1 = db(t),. u s Z(0) = x má silné řešení Z(t) = F(B, t).
Slabé řešení III. Necht Ŵ (0) = x p 1 a dŵ (t) = G(B, t)dt + db(t) = G(Z p 1, t)dt + dz p 1 (t), potom (C M G) Ŵ je BP podle ˆP xp 1, kde a M(B, t) = exp dˆp xp 1 = M(B, t)dp xp 1 [ 1 t t ] G 2 (B, s)ds + G(B, s)dw (s). 2 0 0 (Z p (t), Ŵ (t)) je slabým řešením (16) na u (C[0, ), B[0, ), P xp 1, {F t }) s počáteční podmínkou X p 1 (0) = x p 1, a tedy (Z(t), Ŵ (t)) řeší původní soustavu pro X s X(0) = x. (F t = σ{b(s), s t} N, N je σ algebra P xp 1 nulových množin)
Slabé řešení IV. Ihned vidíme: ψ X(t) (u x) = Êx p 1 [exp(iu Z(t))] = E xp 1 [exp(iu Z(t))M(B, t)] = E xp 1 [exp(iu F(B, t))m(b, t)]. u
Definice {Y (t)} je CTAR(p) proces, jestliže je řešením (D p + a 1 D p 1 + + a p )Y (t) = bdw (t) + a p µ, kde a 1, a 2,..., a p, µ jsou po částech konstantní funkce na intervalech (, y 1 ], (y 1, y 2 ],..., (y m, ). u
Charakteristická funkce a momenty CTAR(1) dy (t) + a 1 Y (t)dt = bdw (t), pokud Y (t) < 0, dy (t) + a 2 Y (t)dt = bdw (t), pokud Y (t) 0. Z výsledů pro slabé řešení ihned dostáváme ( ψ X(t) (u x) = E x [exp iub(t) 1 t a 2 (B(s))ds 2 0 t )] a(b(s))db(s) 0 a následně E[X(t) x] = ( E x [B(t) exp 1 t a 2 (B(s))ds 2 0 t )] a(b(s))db(s). Obojí analyticky velmi těžké simulací. 0 u
Eulerova aproximace I. Alternativní postup při počítání E[X(t) k x]: Y n (t) = [1 0... 0]Y n (t), t = 0, 1 n, 2 n,..., přičemž ( Y n t + 1 ) n = [ I + 1 ] n A(Y n(t)) Y n (t) + [ 1 + n Z (t)b + 1 ] n c(y n(t)) e, u kde c = a p µ a {Z (t)} jsou iid s P(Z = 1) = P(Z = 1) = 0.5.
Eulerova aproximace II. {Y n (t)} je Markovský a m n (y, t) = E[Y n (t) Y n (0) = y] splňují m n (y, t + n 1 ) = 1 2 m n(y + n 1 (A(y)y + c(y)e) + n 1/2 be, t) + s počáteční podmínkou m n (y, 0) = y. Podobně funguje i pro vyšší momenty. + 1 2 m n(y + n 1 (A(y)y + c(y)e) n 1/2 be, t) u
Literatura [1] Shanbhag, D. N., and Rao, C. R., eds.: Handbook of Statistics, Vol. 19. Elsevier Science B.V., 2001. [2] Hamilton, J. D.: Time Series Analysis. Princeton University Press, 1994. u
Děkuji za pozornost a prosím o vaše dotazy. u