Náhodné 1 1 Katedra pravděpodobnosti a matematické statistiky Univerzita Karlova v Praze email: praskova@karlin.mff.cuni.cz 11.-12.3. 2010
1 Outline
Lemma 1: 1. Nechť µ, ν jsou konečné míry na borelovských množinách intervalu [, π]. Platí-li pro každé t Z e itλ dµ(λ) = e itλ dν(λ), potom µ(b) = ν(b) pro každé B (, π) a µ({} {π}) = ν({} {π}). 2. Nechť µ, ν jsou konečné míry na (R, B). Platí-li pro každé t R e itλ dµ(λ) = potom µ(b) = ν(b) pro každé B B. Důkaz: Anděl (1976), III.1, věty 5 a 6. e itλ dν(λ),
Lemma 2 [Hellyova věta]: Nechť {F n, n N} je posloupnost neklesajících stejnoměrně ohraničených funkcí. Potom existuje vybraná podposloupnost {F nk }, která pro k, n k konverguje k neklesající ohraničené zprava spojité funkci F v podstatě, tj. v bodech spojitosti F. Důkaz: Rao (1978), věta 2c.4, I. Lemma 3 [Hellyova-Brayova věta]: Nechť {F n, n N} je posloupnost neklesajících stejnoměrně ohraničených funkcí, která pro n konverguje k nějaké neklesající ohraničené zprava spojité funkci F v bodech spojitosti F, lim F n ( ) = F ( ), lim F n (+ ) = F (+ ). Nechť f je spojitá ohraničená. Potom f (x)df n (x) Důkaz: Rao (1978), věta 2c.4, II. f (x)df (x) pro n.
Poznámka: Integrál v Hellyově-Brayově větě je Stieltjesův integrál f podle F. Jestliže [a, b] je omezený interval a F je zprava spojitá, budeme integrálem b a f (x)df (x) rozumět (a,b] f (x)df (x).
Věta 19: Komplexní R(t), t Z, je stacionární náhodné posloupnosti, právě když platí R(t) = e itλ df (λ) pro každé t Z, (1) kde F je zprava spojitá neklesající ohraničená na [, π], F () = 0. Funkce F je určena em (1) jednoznačně. Vzorec (1) se nazývá stacionární náhodné posloupnosti. Funkci F nazýváme distribuční funkcí náhodné posloupnosti.
Důkaz 1. Nechť (1) platí pro nějakou komplexní funkci R na Z. Potom R je pozitivně semidefinitní, neboť pro každé n N, pro libovolné konstanty c 1,..., c n C a pro všechna t 1,..., t n Z je n j=1 k=1 n c j c k R(t j t k ) = = = n j=1 k=1 n c j c k e i(t j t k )λ df (λ) n j=1 k=1 n c j e it j λ j=1 n c j c k e it j λ e it kλ df (λ) 2 df (λ) 0, protože F je neklesající pro λ [, π]. Tedy R je funkcí nějaké stacionární náhodné posloupnosti.
pokračování důk. 2. Nechť je dána stacionární posloupnost s funkcí R. Potom R je pozitivně semidefinitní: n n j=1 k=1 c jc k R(t j t k ) 0 pro všechna n N, c 1,..., c n C a t 1,..., t n Z. Zvolme t j = j, c j = e ijλ pro λ [, π]. Potom pro každé n N, λ [, π] je ϕ n (λ) := 1 n n j=1 k=1 n e i(j k)λ R(j k) 0.
pokračování důk. Po úpravě odtud dostáváme ϕ n (λ) = 1 n = 1 n = 1 n n j=1 k=1 n 1 n e i(j k)λ R(j k) min(n, κ+n) κ= n+1 j=max(1, κ+1) n 1 κ= n+1 e iκλ R(κ) e iκλ R(κ)(n κ ).
pokračování důk. Pro každé n N definujme funkci 0, x, x F n (x) = ϕ n(λ)dλ, x [, π], F n (π), x π. Zřejmě F n () = 0 a F n (x) je neklesající na [, π]. Spočtěme F n (π):
pokračování důk. F n (π) = = 1 n = 1 n ϕ n (λ)dλ n 1 κ= n+1 [ n 1 κ= n+1 e iκλ R(κ)(n κ ) R(κ)(n κ ) ] dλ e iκλ dλ = R(0), neboť poslední integrál je roven δ(κ).
pokračování důk. {F n, n N} je posloupnost neklesajících funkcí, 0 F n (x) R(0) < pro všechna x R a všechna n N. Podle Hellyovy věty existuje podposloupnost {F nk } {F n }, F nk F v podstatě pro k, n k, kde F je neklesající ohraničená zprava spojitá a F (x) = 0, x, F (x) = R(0), x > π. Z Hellyovy - Brayovy věty pro f (x) = e itx, kde t Z, e itλ df nk (λ) e itλ df (λ) pro k, n k.
Zároveň e itλ = e itλ df nk (λ) = 1 n k = 1 n k n k 1 κ= n k +1 n k 1 κ= n k +1 pokračování důk. e itλ ϕ nk (λ)dλ R(κ)(n k κ ) e iκλ R(κ)(n k κ ) dλ e i(t κ)λ dλ, tedy { ( e itλ R(t) 1 t, t < n df nk (λ) = k 0 jinak. n k )
lim k pokračování důk. Celkem dostáváme ( e itλ df nk (λ) = lim R(t) 1 t ) k n k Jednoznačnost: = R(t) = e itλ df (λ) Nechť R(t) = eitλ dg(λ), kde G je zprava spojitá neklesající ohraničená na [, π] a G() = 0. Potom platí e itλ dµ F = e itλ dµ G, kde µ F a µ G jsou konečné míry na borelovských množinách intervalu [, π] indukované mi F a G. Dále lze postupovat podle lemmatu 1.
Vzorec (1) se nazývá stacionární náhodné posloupnosti. Funkci F nazýváme distribuční funkcí náhodné posloupnosti. Pokud existuje f (λ) 0 pro λ [, π] taková, že F (λ) = λ f (x)dx (F je absolutně spojitá), potom f se nazývá hustota. Zřejmě f = F. V případě, že hustota existuje, lze psát ve tvaru R(t) = e itλ f (λ)dλ, t Z. (2)
Věta 20: Komplexní R(t), t R, je centrovaného stacionárního procesu spojitého podle středu, právě když R(t) = e itλ df (λ), t R, (3) kde F je neklesající zprava spojitá taková, že lim x F (x) = 0, lim x F (x) = R(0) <. Funkce F je určena jednoznačně. Funkce F se nazývá distribuční náhodného procesu spojitého podle středu.
Důkaz. 1. Nechť R je komplexní na R, pro kterou platí (3), kde F je neklesající zprava spojitá, F ( ) = 0, F (+ ) = R(0) <. Potom R je pozitivně semidefinitní, která je navíc spojitá. Podle věty 6 existuje stacionární centrovaný proces s funkcí R. Protože R je spojitá (a tedy spojitá v nule), je tento proces podle věty 15 spojitý podle středu. 2. Jestliže naopak R je centrovaného stacionárního procesu spojitého podle středu, potom je pozitivně semidefinitní a spojitá v nule. Důkaz, že pro R platí (3), lze nalézt např. v Anděl (1976), IV.1, věta 2.
Jestliže distribuční v rovnici (3) je absolutně spojitá, potom její derivace f se nazývá hustota a (3) lze psát ve tvaru R(t) = e itλ f (λ)dλ, t R. (4) Dva různé náhodné procesy mohou mít stejné distribuční, a tedy stejné.
Věta 21: Nechť K je komplexní celočíselné proměnné, nechť t= K(t) <. Potom K(t) = e itλ f (λ)dλ, t Z, kde f (λ) = 1 t= e itλ K(t), λ [, π].
Důkaz: Uvažujme funkci K, pro kterou t= K(t) <. Protože řada f (λ) = 1 e itλ K(t) t= konverguje stejnoměrně pro λ [, π], můžeme zaměnit pořadí integrace a sčítání a pro každé t Z máme [ ] π e itλ f (λ)dλ = e itλ 1 e ikλ K(k) dλ k= = 1 [ ] K(k) e i(t k)λ dλ = 1 k= k= K(k)δ(t k) = K(t).
Věta 22: Nechť {X t, t Z} je stacionární posloupnost s funkcí R(t), pro kterou je t= R(t) <. Potom hustota posloupnosti {X t, t Z} existuje a je pro každé λ [, π] rovna f (λ) = 1 k= e ikλ R(k). (5)
Důkaz: t= R(t) < R(t) = f (λ) = 1 t= e itλ f (λ)dλ, t Z, e itλ R(t), λ [, π] (předchozí věta). Vzhledem k jednoznačnosti ho u (2) stačí dokázat, že f (λ) 0 pro každé λ [, π]. Pro každé λ [, π], ϕ n (λ) = 1 n n 1 κ= n+1 e iκλ R(κ)(n κ ) 0 (z důkazu věty 19). Ukážeme, že f (λ) = lim n ϕ n (λ).
pokračování důk. Máme f (λ) ϕ n (λ) 1 e ikλ R(k) k n 1 n 1 + e iκλ R(κ) κ n 1 κ= n+1 k n R(k) + 1 n n 1 κ= n+1 R(κ) κ 0 (Kroneckerovo lemma: k=1 a k < 1 n n k=1 k a k 0 pro n ).
Vzorec (5) se nazývá inverzní vzorec pro stacionární náhodné posloupnosti. Spojitá verze: Věta 23: Nechť {X t, t R} je centrovaný slabě stacionární proces spojitý podle středu. Jestliže pro jeho funkci R platí R(t) dt <, potom existuje hustota tohoto procesu a platí f (λ) = 1 e itλ R(t)dt, λ (, ). (6) Větu lze dokázat stejně jako vzorec pro pravděpodobnosti pomocí charakteristické (Fourierova transformace).
Příklad (bílý šum): Nechť {X t, t Z} je posloupnost nekorelovaných náhodných veličin s nulovou střední hodnotou a konečným kladným rozptylem σ 2 : EX t = 0, varx t = σ 2, cov(x s, X t ) = σ 2 δ(s t) = R(s t). t= R(t) = σ2 < hustota existuje Podle inverzního vzorce je f (λ) = 1 k= e ikλ R(k) = 1 σ2 R(0) =, λ [, π].
distribuční bílého šumu je F (λ) = 0, λ, (λ + π), λ [, π], = σ 2, λ π. = σ2 Značení: WN(0, σ 2 ) (white noise)
Příklad : Stacionární posloupnost, R(t) = a t, t Z, a < 1. t= f (λ) = 1 R(t) = = 1 = 1 = 1 = 1 k= k=0 k=0 t= e ikλ a k a t = 1 + 2 e ikλ a k + 1 ( ae iλ) k + 1 1 1 ae iλ + 1 1 a 2 1 ae iλ 2 = 1 1 a t <, t=1 e ikλ a k k= (ae iλ) k k=1 ae iλ 1 ae iλ 1 a 2 1 2a cos λ + a 2
6 4 AR(1), 0.8 2 0 2 4 6 0 100 200 300 400 500 6 AR(1), 0.8 4 2 0 2 4 6 0 100 200 300 400 500 posloupnost s R(t) = a t, nahoře: a = 0, 8, dole a = 0, 8
62 KAPITOLA 5. LINEÁRNÍ MODELY ČASOVÝCH ŘAD r(t) 1.0 0.5 0.0 0.5 1.0 f(λ) 0 1 2 3 4 0 2 4 6 8 10 t π π 2 0 π 2 π λ (vlevo) a hustota (vpravo), a = 0, 8 Obrázek 5.3: Autokorelační (vlevo) a hustota (vpravo) posloupnosti AR(1): X t = 0,8 X t 1 + Y t ; Y t N (0, 1) 1.0 4
AR(1): X t = 0,8 X t 1 + Y t ; Y t N (0, 1) r(t) 1.0 0.5 0.0 0.5 1.0 f(λ) 0 1 2 3 4 0 2 4 6 8 10 t π π 2 0 π 2 π λ (vlevo) a hustota (vpravo), a = 0, 8 Obrázek 5.4: Autokorelační (vlevo) a hustota (vpravo) posloupnosti AR(1): X t = 0,8 X t 1 + Y t ; Y t N (0, 1)
Příklad : Centrovaný slabě stacionární proces, R(t) = ce α t, t R, c > 0, α > 0. Proces je spojitý podle středu. Platí R(t) dt = ce α t dt <, takže hustota existuje a podle vzorce (6) f (λ) = 1 = c = c π 0 pro každé λ R. e itλ R(t)dt = 1 (cos λt i sin λt)e α t dt cos(λt)e αt dt = cα π 1 α 2 + λ 2 e itλ ce α t dt
1 0.9 0.8 0.7 0.6 0.5 0.4 0.3 0.2 0.1 0.35 0.3 0.25 0.2 0.15 0.1 0.05 0 5 0 5 0 5 0 5 (vlevo)a hustota (vpravo), c = 1, α = 1
Příklad : Centrovaný proces spojitý podle středu, který má distribuční funkci F (λ) = 0, λ < 1, = 1, 2 1 λ < 1, = 1, λ 1. distribuční není absolutně spojitá; proces nemá hustotu. Jeho podle (3) je R(t) = e itλ df (λ) = 1 2 e it + 1 2 eit = cos t, t R. Říkáme, že v tomto případě má proces diskrétní spektrum s nenulovými hodnotami ve frekvencích λ 1 = 1, λ 2 = 1.
Příklad : Proces {X t, t R} nekorelovaných náhodných veličin s nulovou střední hodnotou a stejným konečným kladným rozptylem nesplňuje podmínku, za níž platí (3), totiž spojitost podle středu.