Značení 1.1 (posloupnost výsledků pokusu). Mějme posloupnost opakovaných (i závislých) pokusů,

Transkript

1 Rekurentní jevy Značení. (posloupnost výsledků pokusu). Mějme posloupnost opakovaných (i závislých) pokusů, kde každý má tutéž konečnou nebo spočetnou množinu výsledků E, E,...}. Pak E j,..., E jn } značí jev, že i-tý pokus skončil E ji pro i, n}. Definice. (jev v posloupnosti pokusů). Necht pro všechny konečné posloupnosti výsledků platí (a) P (E j,..., E jn ) = j n= P (E j,..., E jn, E jn ) pro < n < (b) O každé posloupnosti lze rozhodnout, zda má či nemá vlastnost ξ. Pak řekneme, že ξ nastává na n-tém místě posloupnosti E j, E j,..., pokud posloupnost E j,..., E jn } má vlastnost ξ. Definice.3 (rekurentní jev). Vlastnost ξ je rekurentní jev, pokud ξ nastal na n-tém a (n + m)- tém místě E j,..., E jn+m }. Pak platí P (E j,..., E jn+m ) = P (E j,..., E jn ) P (E jn+,..., E jn+m ) Definice.4 (výskyt v n-tém pokusu). Pro rekurentní jev ξ definujeme pro n < posloupnosti. u n }, kde u n = P (ξnastane v n-tém pokusu). f n }, kde f n = P (ξnastane v n-tém pokusu poprvé) Speciálně definujeme u 0 :=, f 0 := 0. Pak f n tvoří rozdělení pravděpodobnosti, u n ale ne. Poznámka.5 (vztah f n a u n ). Pokud ξ nastal v kroku n, musel někdy nastat poprvé. Pokud to bylo v k-tém kroku, lze uvažovat, že ξ nastal na konci posloupnosti délky n k. Pak platí (dle věty o úplné pravděpodobnosti) pro n : u n = f u n + f u n f n u 0 Což je konvoluce bez prvního členu (proto jsme dodefinovali u 0 a f 0 ). Poznámka.6 (vytvořující funkce rekurzivních jevů). Vytvořující funce u n } je U(x) = n=0 u n x n, vytvořující funkce f n } je F (x) = n=0 f n x n. Pro n > 0 můžeme zapsat rovnice tvaru u n = f 0 u n + f u n + f u n f n u 0. Ty vynásobíme x n, sečteme je po sloupcích a dostaneme U(x) = u 0 x 0 + U(x) F (x). Platí tedy následující věta: Věta.7. U(x) = F (x) U(x) resp. F (x) = U(x) U(x) resp. U(x) = F (x). Poznámka.8. f n } udává rozdělení náhodné veličiny T, která popisuje čekání na první výskyt ξ. Pokud f = n= f n <, potom T je nevlastní náhodná veličina (T = ) a pravděpodobnost, že jev nenastal, je f. Definice.9 (doba návratu). Mějme nezávislé náhodné veličiny T i, i r se stejným rozdělením f n }. T i interpretujeme jako dobu návratu, tedy počet pokusů mezi (i )-ním a i-tým výskytem. Pak T (r) = r i= T i je doba čekání na r-tý výskyt. Značení.0 (pravděpodobnost r-tého návratu). Značíme f n (r) Speciálně f (r) 0 := 0. = P (ξnastane po r-té v n-tém pokusu). Věta. (vytvořující funkce pro r-tý návrat). Pro rekurentní jevy lze vytvořující funkci r-tých návratů spočítat jako r-tou mocninu vytvořující funkce prvních návratů, tedy f (r) n } = f n } r.

2 Důkaz. Pro r = podobně jako v předchozí větě. Uvažujeme, že f n = f 0 f n + f f n f n f 0 (pokud jev poprvé nastal v kroku k, lze uvažovat, že nastal poprvé také na konci posloupnosti délky n k). Což je úplná konvoluce pro n 0. Vzniklé rovnice vynásobíme x n a sečteme po sloupcích, což dá požadovaný výsledek. Pro r > plyne indukcí. Věta.. Pravděpodobnost, že rekurzivní jev nastane v nekonečné posloupnosti alespoň r-krát, je f r, kde f = n=0 f n. Poznámka.3 (chování f n (r) ). Funkce r-tých návratů se chová podobně jako součet nezávislých náhodných veličin - jde vlastně o nezávislé náhodné veličiny T, T,..., které představují doby mezi návraty jevu. Po nastání jevu zapomínám předchozí pokusy. Proto se doba čekání na r-tý výskyt ξ dá popsat náhodnou veličinou T (r) = r i= T i, viz..9.. Klasifikace rekurentních jevů Definice.4 (trvalý a přechodný rekurentní jev). Rekurentní jev ξ je (a) trvalý, pokud f = n=0 f n =, (b) přechodný, pokud f <. Poznámka.5. ˆ ξ je trvalý, pak P (ξ nastane v nekonečné posloupnosti pokusů ) =. ˆ ξ je přechodný, pak P ( ) = 0. u = u n=0 < + a také f = u (viz vytvořující funkce F, U). Definice.6 (Střední doba návratu). Pro trvalý jev ξ označíme µ = ET = n= n f n za střední dobu návratu ξ. Definice.7. Pokud µ < +, jev ξ označujeme za nenulový, pokud µ = +, za nulový. Definice.8. Rekurentní jev ξ je periodický, právě když λ > n, λ n : u n = 0. Největší takové λ se nazývá perioda jevu ξ.. Příklady Definice.9 (Náhodná procházka po přímce). Mějme posloupnost nezávislých náhodných veličin X, X,... Alt(p). Jednoduchá náhodná procházka s pravděpodobností zdaru p je potom posloupnost S n } n=0, kde S n = n i= X i. Příklad.0 (Náhodná procházka po přímce). Mějme jednoduchou náhodnou procházku po přímce s p =. V čase n nastává ξ návrat do počátku, jestliže S n = 0 (tedy počet zdarů a nezdarů je v n-tém kroku stejný). Ukážeme, že ξ je periodický jev trvalý pro p = a přechodný jinak. Řešení. Zřejmě u n+ = 0 (v lichém kroku se nelze vrátit) a u n = ( ) n n p n ( p) n Bi(n, p) (n tam, n zpět). ξ je tedy periodický jev. Poznámka.. Využíváme Stirlingovu formuli: n! n n e n πn. ) = (n)! Pak ( n n!n! TO BE DONE = (n)n n!n! = (n) n e 4n 4πn n nn e n πn nn e n πn = πn n πn.

3 Příklad. (Náhodná symetrická procházka po čtvercové síti). p = 4. Chceme opět znát u n. Zafixujeme si počet kroků v jednom směru jako i, ostatní z něj plynou (pro u n to činí i kroků v opačném směru a n i v obou zbývajících). Potom u n = n n! i!i!(n i)!(n i)! 4 n πn u n = i=0 Jde tedy o periodický trvalý rekurentní jev. Příklad.3 (Náhodná symetrická procházka ve třech rozměrech). Musíme zafixovat dva směry, stále multinomické rozdělení, již přechodný jev. TODO příklad s hodem mincí a výpočtem u n, f n.3 Limitní věta Věta.4. Necht ξ je rekurentní neperiodický jev. Potom lim u µ µ < n = n 0 µ = Poznámka.5. µ značí střední dobu návratu ξ, viz.6. Pro nulový rekurentní jev je ET =. Věta.6. Necht ξ je rekurentní trvalý periodický jev s periodou λ. Potom λ lim u µ µ < λn = n 0 µ =.4 Asymptotické rozdělení četnosti rekurentních jevů Věta.7. Necht rekurentní jev ξ je trvalý. Označíme N n počet výskytů do času n a T (r) dobu čekání na r-tý výskyt ξ. Potom jevy [N n r] a [T (r) n], r n < jsou ekvivalentní. Předpokládejme dále, že rozdělení dob prvních návratů má konečnou střední hodnotu ET = µ a konečný rozptyl vart = σ. Potom N n N ( n µ, nσ µ ) a platí 3 ( T (r) ) lim P rµ r σ r = Φ(y), y R r. T (r) = r i= T i. ET (r) = E( r i= T i) = r ET = rµ var(t (r) ) = var( ) = r vart = rσ 3. [N n r] = [T (r) n], r n < 4. Připomenutí - centrální limitní věta: Mějme X, X,... nezávislé náhodné proměnné s rozdělením EX = µ a rozptylem varx = σ <. ) Pak lim n P < x x Φ(x). ( n i= Xi nµ nσ 5. N n N ( n µ, nσ µ 3 ) - prý kouknu a vidím. EN n n µ (viz další věta) Rozptyl není jasný, musí se uhodnout. A ) 6. P (N n r) r Φ ( n rµ rσ n= 3

4 7. P (T (r) x) = P ( r i= T i rµ rσ x rµ ) ( ) x rµ xto Φ rσ rσ Věta.8. Necht rekurentní jev ξ je trvalý a nenulový. Potom pro n platí EN n n µ, kde µ je střední doba návratu..5 Rovnice obnovy Poznámka.9. Limitní věty předchozích odstavců lze považovat za speciální případy určité obecné věty, kterou lze formulovat analyticky bez použití pravděpodobnostních pojmů. Jak uvidíme, i tato obecná věta má pravděpodobnostní význam. Definice.30 (rovnice obnovy). Necht a 0, a,... a b 0, b,... jsou dvě posloupnosti takové, že a 0 = 0, a n [0, ], b n 0, n=0 b n <. Položme u n = b n + a 0 u n + a u n a n u 0, tj. Tento vztah se nazývá rovnicí obnovy. u n } = b n } + a n } u n } Poznámka.3. Platí U(x) = B(x) + A(x)U(x) U(x) = B(x) A(x). Definice.3. Posloupnost a n } nazveme periodickou, pokud existuje λ > tak, že n, λ n : a n = 0. Největší takové λ nazveme periodou. Věta.33. Necht posloupnost a n } je neperiodická. Potom platí:. Je-li n= a n <, potom n= u n <.. Je-li n= a n =, tzn. a n } lze považovat za rozdělení doby návratu nějakého trvalého neperiodického rekurentního jevu ξ, potom lim u n = n n=0 bn n= nan 0 n= na n < n= na n = 3. Je-li n= a n >, potom pro n je u n B(x) x n+ A (x), kde x < je jediný kořen rovnice A(x) =. Věta.34. Necht posloupnost a n } je periodická s periodou λ. Potom platí:. Je-li n= a n <, potom n= u n <.. Je-li µ =, potom lim n u n = Je-li µ <, pak n= a n =, tj. a n } lze považovat za rozdělení doby návratu nějakého trvalého periodického rekurentního jevu ξ. Potom pro 0 j < λ platí a lim u nλ+j = λ k=0 b kλ+j n µ lim n n n k=0 u ν = b k µ ν= TODO výklad, poznámky k celé sekci 4

5 Markovovy řetězce Příklad. (Motivace). Máme rubikovu kostku, náhodně s ní otáčíme. Jak dlouho bude trvat, než se vrátíme do sestaveného stavu? Mohu náhodné otáčení stěnami rubikovy kostky popsat jako náhodnou procházku? Pokud ano, po jaké struktuře? 6 stěn, lze točit tam a zpět možností. Celkem konečně mnoho stavů, každý má sousedů. P E... E n E E n 0 p i,j = P (přechod E i E j ) na každém řádku bude /. E i jsou všechny stavy RK. Jsou průchody stavem E rekurentním jevem? ano. Zajímá nás E(E i E ). Definice. (Markovův řetězec). Posloupnost pokusů, z nichž každý má tu samou konečnou nebo spočetnou množinu možných výsledků E, E,..., nazveme Markovovým řetězcem (MŘ), jestliže pravděpodobnost každé konečné posloupnosti výsledků (pokusů nultého až n-tého) je dána vztahem P (E j0,..., E jn ) = a j0 p j0,j p j,j... p jn,j n kde a k (k N) jsou pravděpodobnosti výsledků nultého pokusu a p j,k (j, k N) je pro všechny pokusy stejná podmíněná pravděpodobnost výsledku E k za podmínky výsledku E j v pokuse předchozím (P (E j E k ) = P (E k E j )). Značení.3. MŘ budeme popisovat (P, a), kde P = (p i,j) je čtvercová matice s (podmíněnými) pravděpodobnostmi přechodu (prvního řádu) p i,j = P (E i E j ) a a = (a i ) je počáteční rozdělení pravděpodobností. Poznámka.4. Všimněte si, že P je stochastická matice, tedy platí i : j p i,j =. Je dobré si vždy namalovat graf MŘ... Příklad.5 (malá/velká). E i bude značit stav mojí kapsy. X i = +...p...q, E E i+...p i = E i...q. P bude nekonečná matice: P = q 0 p q 0 p Začínáme vždy ve stavu E 0, takže a = (..., 0,..., 0, }} =a 0, 0,..., 0,...) Příklad.6 (náhodná procházka s pohlcující bariérou). Podobně jako v předchozím případě, s tím rozdílem, že při dosažení krajního stavu v něm zůstanu. 5

6 Příklad.7 (náhodná procházka s odrážející bariérou). Podobně jako v předchozím případě, s tím rozdílem, že namísto přechodu do krajního stavu zůstávám na místě. Příklad.8 (sběratel kupónů). Příklad.9 (Ehrenfestův myšlený pokus). Příklad.0 (volby). Příklad. (ALOHA protokol). 6