Markovovsk n hodn procesy U Markovovsk ho n hodn ho proces nez vis dal v voj na zp sobu, jak se proces dostal do sou asn ho stavu. Plat 8 t <:::<t n P [x n (t n )jx (t ) ::: x n; (t n; )] = P [x n (t n )jx n; (t n; )] O Markovovsk m et zci mluv me, pokud je mno ina as t nejv e spo- etn. N hodn proces (t) je vlastn posloupnost n hodn ch veli in f n g, kde n = :::. Markovovsk et zec s nejv e spo etn m po tem stav (MRS) - n jsou diskr tn n hodn veli iny Pravd podobnost P ( = k = k ::: n = k n )=P (k k ::: k n; ) P (k n jk ::: k n; )= = P (k k ::: k n; ) P (k n jk n; )=:::= p () k p () k k p (2) k k 2 ::: k n;k n kde p (l) k i k j je pravd podobnost p echodu ze stavu k i v l ; kroku do stavu k j v l-t m kroku. Pro pravd podobnost j-t ho stavu v n-t m kroku plat j j = 8n kde S je mno ina v ech stav n hodn ho et zce s nejv e spo etn m po- tem stav (MRS). Pro pravd podobnosti p echodu ze stavu i v kroku n ; plat = 8n 8i 2S Ozna me pro m<n Plat P ( n = jj m = i) =p (m n) p (m n) ; matice p echodu j = i2s p (m) i p (m n) 8j 2S 8m <N
a d le P k (m) m k(m+) m+ = p (m) k m p (m+) k m k m+ = k ::: k m;2s p () k p () k k p (m) k m;k m p (m+) k m k m+ Denice { k me, e Markov v et zec se spo etn m po tem stav je homogenn, jestli e pravd podobnost p echodu nez vis na kroku n. Pak pro matice p echodu plat =(p )=P p (m m+n) =(p (n)) = P(n) =P n P. Nech je homogenn MRS se 3 stavy (-,, ) takov, e z hodnoty p ejdu s pravd podobnost p =:5 na nebo ;, z se stejn mi pravd podobnostmi na a azhodnoty ; na ; a. Pak matice p echodu jsou P = =2 =2 =2 =2 =2 =2 Obecn pro libovoln n je P(n) = =3 =3 =3 =3 =3 =3 =3 =3 =3 P(2) = =2 =4 =4 =4 =2 =4 =4 =4 =2! + n [ + (;) B n =3]=2 (;) n+ =3 ::: 2 @ (;) n+ =3 2(;) n =3 ::: ;[ ; (;) n =3]=2 (;) n+ =3 ::: Prvn z matic je tedy limitou pro n!.a byl v choz stav jak koliv, po dostate n dlouh dob je pravd podobnost ka d ho stavu =3. Klasikace stav HMRS Def. Stav i 2S homogenn ho Markovova et zce s nejv e spo etn m po- tem stav je nepodstatn pr v tehdy, pokud 9 stav j 2S a n p irozen takov, e p (n) > az rove p ji (m) =pro 8m 2N. Def. Podstatn stavy i j 2S jsou sousledn, pokud9 m n 2N takov, e p (n) > ^ p ji (m) >. 2
Pozn. Souslednost denuje ekvivalenci na mno in podstatn ch stav. Dva podstatn stavy jsou ekvivalentn, pokud jsou sousledn. Mno inu stav i 2S lze rozd lit na t dy S () { t da nepodstatn ch stav S (i) { i =, 2, :::{ t dy sousledn ch podstatn ch stav Def. Jestli e n kter t da S (i) i > obsahuje pouze stav, pak se tento stav naz v absorp n. Def. Ozna me f (n) pravd podobnost, e po n kroc ch p ejde HMRS ze stavu i poprv do stavu j f (n) =P ( n = j n; 6= j ::: 6= jj = i) Ozna me N minim ln dobu p echodu z stavu i do stavu j, tj. N = min n> takov ch, e f (n) >. Ozna me F celkovou pravd podobnost p echodu ze stavu i do stavu j. Ta je d na vztahem F = n= f (n) Ozna me f j (n) =f jj (n) a F j = F jj. Def. Stav HMRS je trval, pokudf j F j <. =.Stavjep echodn, pokud Def. Stav HMRS je periodick, pokud 9 nejv t spole n d litel d j > v ech n takov ch, e p jj (n) >. (opak neperiodick ). Pro trval stav je P j = n= Pro p echodn stav je p jj (n) = F j = P j +P j Def. Stav HMRS je nulov, pokud lim n! p jj (n) =(opak nenulov ). Def. Trval nenulov neperiodick stav HMRS je ergodick. Def. HMRS je nerozlo iteln, pokud je prostor S roven jedin t d podstatn ch vz jemn sousledn ch stav. 3
V ta o solidarit U nerozlo iteln ho HMRS jsou v echny stavy t ho typu. (Pokud je stav trval, 8 jsou trval pokud je stav periodick s periodou d, pak jsou 8 periodick s periodou d pokud je nulov, pak jsou 8 nulov. Fin ln pravd podobnosti (pro kone n po et stav ) Def. Jestli e 9 lim n! p (n) =p j nez visl na i, pak p j jsou n ln pravd podobnosti. Plat p (n +)= r r k= j= p ik (n)p kj n! ;! p j = p (n) = n! ;! r j= r k= p j = p k p kj Pozn. Vektor (p k ) je vlastn dkov (pro n soben zleva) vektor matice p echodu (p ) s vlastn m slem =. Pozn. Matice p echodu P(n) m 8jj. V ta Markovova Jestli e 9 n 2N takov, e P(n) =(p (n)) m 8 prvky nenulov p (n) >, pak9 n ln pravd podobnosti p j. V ta Pro homogenn Markov v et zec s kone n m po tem r stav kladn n ln pravd podobnosti p p 2 ::: p r existuj pr v tehdy, kdy je nerozlo iteln a neperiodick. V ta Nech je d n nerozlo iteln homogenn Markov v et zec s kone n m po tem stav. Je-li stav j 2S ergodick, pak jeho n ln pravd podobnost p j je rovna p evr cen hodnot st edn doby. n vratu syst mu do stavu j p j = P m= mf j (m) = m j 4
P klad Nech HMRS m matici p echodu P = =2 =2 =2 =2 =2 =2 =2 =2 Jedn se o proces periodick s periodou d =2aproto neexistuj n ln pravd podobnosti p j. P esto =je vlastn m slem matice p echodu P. P klad Nech HMRS m matici p echodu P = =3 =3 =3 2=3 =3 Tento proces m n ln pravd podobnosti p = p 2 =a p 3 =.Stav3je absorp n m stavem, stavy a 2 jsou nepodstatn. Markovovy procesy se spo etn m po tem stav (MPS) asov osa je spojit, p edpokl d me t 2h ). Pravd podobnost, e syst m je ve stavu j 2S v aset, jep j (t) p j (t) p j (t) = Pro s<tje P ( = j tj = i s)=p (s t) p (s t) = Vlastnosti p j (t) = i2s p i (s) p (s t) p (s t) = k2s p (s u) ik p (u t) kj Def. MPS je homogenn, kdy pro 8i j 2S apro 8s t s<tje p (s t) z visl pouze na rozd lu as t ; s (p (s t) = p (u = t ; s)). 5
P edpoklad Nech pravd podobnosti p (t) jsou spojit pro t>, nech lim t! + p ii (t) =a lim t! + p (t) =pro i 6= j. Denujeme p ii () = a p () = pro i 6= j. V ta Pokud plat p edpoklad, pak pro 8 i j 2S, i 6= j existuje kone n derivace p p (t) () = lim t! + t = q Tak derivace p ii v existuje, ale nemus b t kone n ;p ; p ii (t) ii () = lim t! + t = ;q ii = q i Matice Q =(q ) je matice intenzit p echodu. Def. Denujeme derivace pravd podobnosti p echodu p p (t + s) ; p (t) (t) = lim s! + s Kolmogorovovy rovnice Pro derivace pravd podobnosti p echodu plat p (t) = k2s p ik (t) q kj = k2s q ik p kj (t) Def. HMPS je regul rn (konzervativn ), pokud pro 8i 2S plat j6=i q = ;q ii < 6