Univerzita Karlova v Praze procesy II. Zuzana. funkce

Transkript

1 Náhodné 1 1 Katedra pravděpodobnosti a matematické statistiky Univerzita Karlova v Praze praskova@karlin.mff.cuni.cz

2 1 Outline

3

4 Lemma 1: 1. Nechť µ, ν jsou konečné míry na borelovských množinách intervalu [, π]. Platí-li pro každé t Z e itλ dµ(λ) = e itλ dν(λ), potom µ(b) = ν(b) pro každé B (, π) a µ({} {π}) = ν({} {π}). 2. Nechť µ, ν jsou konečné míry na (R, B). Platí-li pro každé t R e itλ dµ(λ) = potom µ(b) = ν(b) pro každé B B. Důkaz: Anděl (1976), III.1, věty 5 a 6. e itλ dν(λ),

5 Lemma 2 [Hellyova věta]: Nechť {F n, n N} je posloupnost neklesajících stejnoměrně ohraničených funkcí. Potom existuje vybraná podposloupnost {F nk }, která pro k, n k konverguje k neklesající ohraničené zprava spojité funkci F v podstatě, tj. v bodech spojitosti F. Důkaz: Rao (1978), věta 2c.4, I. Lemma 3 [Hellyova-Brayova věta]: Nechť {F n, n N} je posloupnost neklesajících stejnoměrně ohraničených funkcí, která pro n konverguje k nějaké neklesající ohraničené zprava spojité funkci F v bodech spojitosti F, lim F n ( ) = F ( ), lim F n (+ ) = F (+ ). Nechť f je spojitá ohraničená. Potom f (x)df n (x) Důkaz: Rao (1978), věta 2c.4, II. f (x)df (x) pro n.

6 Poznámka: Integrál v Hellyově-Brayově větě je Stieltjesův integrál f podle F. Jestliže [a, b] je omezený interval a F je zprava spojitá, budeme integrálem b a f (x)df (x) rozumět (a,b] f (x)df (x).

7 Věta 19: Komplexní R(t), t Z, je stacionární náhodné posloupnosti, právě když platí R(t) = e itλ df (λ) pro každé t Z, (1) kde F je zprava spojitá neklesající ohraničená na [, π], F () = 0. Funkce F je určena em (1) jednoznačně. Vzorec (1) se nazývá stacionární náhodné posloupnosti. Funkci F nazýváme distribuční funkcí náhodné posloupnosti.

8 Důkaz 1. Nechť (1) platí pro nějakou komplexní funkci R na Z. Potom R je pozitivně semidefinitní, neboť pro každé n N, pro libovolné konstanty c 1,..., c n C a pro všechna t 1,..., t n Z je n j=1 k=1 n c j c k R(t j t k ) = = = n j=1 k=1 n c j c k e i(t j t k )λ df (λ) n j=1 k=1 n c j e it j λ j=1 n c j c k e it j λ e it kλ df (λ) 2 df (λ) 0, protože F je neklesající pro λ [, π]. Tedy R je funkcí nějaké stacionární náhodné posloupnosti.

9 pokračování důk. 2. Nechť je dána stacionární posloupnost s funkcí R. Potom R je pozitivně semidefinitní: n n j=1 k=1 c jc k R(t j t k ) 0 pro všechna n N, c 1,..., c n C a t 1,..., t n Z. Zvolme t j = j, c j = e ijλ pro λ [, π]. Potom pro každé n N, λ [, π] je ϕ n (λ) := 1 n n j=1 k=1 n e i(j k)λ R(j k) 0.

10 pokračování důk. Po úpravě odtud dostáváme ϕ n (λ) = 1 n = 1 n = 1 n n j=1 k=1 n 1 n e i(j k)λ R(j k) min(n, κ+n) κ= n+1 j=max(1, κ+1) n 1 κ= n+1 e iκλ R(κ) e iκλ R(κ)(n κ ).

11 pokračování důk. Pro každé n N definujme funkci 0, x, x F n (x) = ϕ n(λ)dλ, x [, π], F n (π), x π. Zřejmě F n () = 0 a F n (x) je neklesající na [, π]. Spočtěme F n (π):

12 pokračování důk. F n (π) = = 1 n = 1 n ϕ n (λ)dλ n 1 κ= n+1 [ n 1 κ= n+1 e iκλ R(κ)(n κ ) R(κ)(n κ ) ] dλ e iκλ dλ = R(0), neboť poslední integrál je roven δ(κ).

13 pokračování důk. {F n, n N} je posloupnost neklesajících funkcí, 0 F n (x) R(0) < pro všechna x R a všechna n N. Podle Hellyovy věty existuje podposloupnost {F nk } {F n }, F nk F v podstatě pro k, n k, kde F je neklesající ohraničená zprava spojitá a F (x) = 0, x, F (x) = R(0), x > π. Z Hellyovy - Brayovy věty pro f (x) = e itx, kde t Z, e itλ df nk (λ) e itλ df (λ) pro k, n k.

14 Zároveň e itλ = e itλ df nk (λ) = 1 n k = 1 n k n k 1 κ= n k +1 n k 1 κ= n k +1 pokračování důk. e itλ ϕ nk (λ)dλ R(κ)(n k κ ) e iκλ R(κ)(n k κ ) dλ e i(t κ)λ dλ, tedy { ( e itλ R(t) 1 t, t < n df nk (λ) = k 0 jinak. n k )

15 lim k pokračování důk. Celkem dostáváme ( e itλ df nk (λ) = lim R(t) 1 t ) k n k Jednoznačnost: = R(t) = e itλ df (λ) Nechť R(t) = eitλ dg(λ), kde G je zprava spojitá neklesající ohraničená na [, π] a G() = 0. Potom platí e itλ dµ F = e itλ dµ G, kde µ F a µ G jsou konečné míry na borelovských množinách intervalu [, π] indukované mi F a G. Dále lze postupovat podle lemmatu 1.

16 Vzorec (1) se nazývá stacionární náhodné posloupnosti. Funkci F nazýváme distribuční funkcí náhodné posloupnosti. Pokud existuje f (λ) 0 pro λ [, π] taková, že F (λ) = λ f (x)dx (F je absolutně spojitá), potom f se nazývá hustota. Zřejmě f = F. V případě, že hustota existuje, lze psát ve tvaru R(t) = e itλ f (λ)dλ, t Z. (2)

17 Věta 20: Komplexní R(t), t R, je centrovaného stacionárního procesu spojitého podle středu, právě když R(t) = e itλ df (λ), t R, (3) kde F je neklesající zprava spojitá taková, že lim x F (x) = 0, lim x F (x) = R(0) <. Funkce F je určena jednoznačně. Funkce F se nazývá distribuční náhodného procesu spojitého podle středu.

18 Důkaz. 1. Nechť R je komplexní na R, pro kterou platí (3), kde F je neklesající zprava spojitá, F ( ) = 0, F (+ ) = R(0) <. Potom R je pozitivně semidefinitní, která je navíc spojitá. Podle věty 6 existuje stacionární centrovaný proces s funkcí R. Protože R je spojitá (a tedy spojitá v nule), je tento proces podle věty 15 spojitý podle středu. 2. Jestliže naopak R je centrovaného stacionárního procesu spojitého podle středu, potom je pozitivně semidefinitní a spojitá v nule. Důkaz, že pro R platí (3), lze nalézt např. v Anděl (1976), IV.1, věta 2.

19 Jestliže distribuční v rovnici (3) je absolutně spojitá, potom její derivace f se nazývá hustota a (3) lze psát ve tvaru R(t) = e itλ f (λ)dλ, t R. (4) Dva různé náhodné procesy mohou mít stejné distribuční, a tedy stejné.

20 Věta 21: Nechť K je komplexní celočíselné proměnné, nechť t= K(t) <. Potom K(t) = e itλ f (λ)dλ, t Z, kde f (λ) = 1 t= e itλ K(t), λ [, π].

21 Důkaz: Uvažujme funkci K, pro kterou t= K(t) <. Protože řada f (λ) = 1 e itλ K(t) t= konverguje stejnoměrně pro λ [, π], můžeme zaměnit pořadí integrace a sčítání a pro každé t Z máme [ ] π e itλ f (λ)dλ = e itλ 1 e ikλ K(k) dλ k= = 1 [ ] K(k) e i(t k)λ dλ = 1 k= k= K(k)δ(t k) = K(t).

22 Věta 22: Nechť {X t, t Z} je stacionární posloupnost s funkcí R(t), pro kterou je t= R(t) <. Potom hustota posloupnosti {X t, t Z} existuje a je pro každé λ [, π] rovna f (λ) = 1 k= e ikλ R(k). (5)

23 Důkaz: t= R(t) < R(t) = f (λ) = 1 t= e itλ f (λ)dλ, t Z, e itλ R(t), λ [, π] (předchozí věta). Vzhledem k jednoznačnosti ho u (2) stačí dokázat, že f (λ) 0 pro každé λ [, π]. Pro každé λ [, π], ϕ n (λ) = 1 n n 1 κ= n+1 e iκλ R(κ)(n κ ) 0 (z důkazu věty 19). Ukážeme, že f (λ) = lim n ϕ n (λ).

24 pokračování důk. Máme f (λ) ϕ n (λ) 1 e ikλ R(k) k n 1 n 1 + e iκλ R(κ) κ n 1 κ= n+1 k n R(k) + 1 n n 1 κ= n+1 R(κ) κ 0 (Kroneckerovo lemma: k=1 a k < 1 n n k=1 k a k 0 pro n ).

25 Vzorec (5) se nazývá inverzní vzorec pro stacionární náhodné posloupnosti. Spojitá verze: Věta 23: Nechť {X t, t R} je centrovaný slabě stacionární proces spojitý podle středu. Jestliže pro jeho funkci R platí R(t) dt <, potom existuje hustota tohoto procesu a platí f (λ) = 1 e itλ R(t)dt, λ (, ). (6) Větu lze dokázat stejně jako vzorec pro pravděpodobnosti pomocí charakteristické (Fourierova transformace).

26 Příklad (bílý šum): Nechť {X t, t Z} je posloupnost nekorelovaných náhodných veličin s nulovou střední hodnotou a konečným kladným rozptylem σ 2 : EX t = 0, varx t = σ 2, cov(x s, X t ) = σ 2 δ(s t) = R(s t). t= R(t) = σ2 < hustota existuje Podle inverzního vzorce je f (λ) = 1 k= e ikλ R(k) = 1 σ2 R(0) =, λ [, π].

27 distribuční bílého šumu je F (λ) = 0, λ, (λ + π), λ [, π], = σ 2, λ π. = σ2 Značení: WN(0, σ 2 ) (white noise)

28 Příklad : Stacionární posloupnost, R(t) = a t, t Z, a < 1. t= f (λ) = 1 R(t) = = 1 = 1 = 1 = 1 k= k=0 k=0 t= e ikλ a k a t = e ikλ a k + 1 ( ae iλ) k ae iλ a 2 1 ae iλ 2 = 1 1 a t <, t=1 e ikλ a k k= (ae iλ) k k=1 ae iλ 1 ae iλ 1 a 2 1 2a cos λ + a 2

29 6 4 AR(1), AR(1), posloupnost s R(t) = a t, nahoře: a = 0, 8, dole a = 0, 8

30 62 KAPITOLA 5. LINEÁRNÍ MODELY ČASOVÝCH ŘAD r(t) f(λ) t π π 2 0 π 2 π λ (vlevo) a hustota (vpravo), a = 0, 8 Obrázek 5.3: Autokorelační (vlevo) a hustota (vpravo) posloupnosti AR(1): X t = 0,8 X t 1 + Y t ; Y t N (0, 1) 1.0 4

31 AR(1): X t = 0,8 X t 1 + Y t ; Y t N (0, 1) r(t) f(λ) t π π 2 0 π 2 π λ (vlevo) a hustota (vpravo), a = 0, 8 Obrázek 5.4: Autokorelační (vlevo) a hustota (vpravo) posloupnosti AR(1): X t = 0,8 X t 1 + Y t ; Y t N (0, 1)

32 Příklad : Centrovaný slabě stacionární proces, R(t) = ce α t, t R, c > 0, α > 0. Proces je spojitý podle středu. Platí R(t) dt = ce α t dt <, takže hustota existuje a podle vzorce (6) f (λ) = 1 = c = c π 0 pro každé λ R. e itλ R(t)dt = 1 (cos λt i sin λt)e α t dt cos(λt)e αt dt = cα π 1 α 2 + λ 2 e itλ ce α t dt

33 (vlevo)a hustota (vpravo), c = 1, α = 1

34 Příklad : Centrovaný proces spojitý podle středu, který má distribuční funkci F (λ) = 0, λ < 1, = 1, 2 1 λ < 1, = 1, λ 1. distribuční není absolutně spojitá; proces nemá hustotu. Jeho podle (3) je R(t) = e itλ df (λ) = 1 2 e it eit = cos t, t R. Říkáme, že v tomto případě má proces diskrétní spektrum s nenulovými hodnotami ve frekvencích λ 1 = 1, λ 2 = 1.

35 Příklad : Proces {X t, t R} nekorelovaných náhodných veličin s nulovou střední hodnotou a stejným konečným kladným rozptylem nesplňuje podmínku, za níž platí (3), totiž spojitost podle středu.