8 as e studu: 9 mut Cíl: Sezámíte se se záladím omy z teore áodýc roces, Marovovým rocesy, rocesy rst a zá Nauíte se osovat vícestavové systémy omocí ravdodobostí ecod a ravdodobostí stav VÝKLAD 8 Náodé rocesy Náodým (stocastcým) rocesem azveme zobrazeí, teré aždé odot X t Promá t má ve vtš íad výzam asu adí áodou velu ( ) t T Realzací áodéo rocesu rozumíme orétí ozorováí áodéo rocesu, t ž x t eáodou fuc, a zaíme ( ) Dle ovay možy T rozlšueme: áodé rocesy se sotým asem (áodé fuce) T e reálý terval, áodé rocesy s dsrétím asem (áodé oslouost) T e reálá dsrétí moža Hodota X ( t) vyadue stav ozorovaéo obetu v ase t Dle ovay áodé vely X ( t) rozlšueme: áodé rocesy se sotým stavy - X ( t) e sotá, áodé rocesy s dsrétím stavy - X ( t) e dsrétí Náodý roces { X ( t) se sotým asem a s dsrétím stavy,,, obvyle azýváme ítací roces, rotože zazameává oet aýc událostí v ase Hodota X ( t) a edstavue oet daýc událostí v tervalu (, t a vzdáleost edotlvýc oamž událostí od oátu t sou áodé vely 99
8 Possov roces Pblžme s yí Possov roces ao ílad ítacío rocesu, terý se velm asto vysytue v alacíc (aílad v teor romadé obsluy) Nec { ( t) X e ítací roces Nec avíc latí: X ( ), dély terval mez výsyty sledovaé událost sou ezávslé áodé vely s exoecálím rozdleím s ustotou λx λe ro x >, f ( x) ro x, de λ > e arametr (tzv tezta omogeío Possoova rocesu) Pa teto roces azveme omogeím Possoovým rocesem, emž ( t) Possoovo rozdleí s arametrem λ t, tedy P ( X ( t) ) Stedí oet výsyt událost v tervalu ( λt) λt oet výsyt sledovaé událost za edotu asu! e,,, X má, t e rove λ t Parametr tedy udává stedí Protože tervaly mez edotlvým výsyty událostí sou ezávslé, zalost oamž rvíc výsyt eovlvue edov doby eáí a další výsyt událost Taé suteost, že sledovaá událost už o urtou dobu eastala, emí ravdodobost eío výsytu v dalším tervalu Píladem Possoova rocesu by mol být roces { X ( t), de ( t) oruc aéo zaízeí v asovém tervalu, t X udává oet ešeý ílad Zdro záeí vysílá v rmru muls za seudy, emž mulsy tvoí Possov roces Jaá e ravdodobost, že v aždém z t terval o délce 5 seud (s, 5s), (5s, s),, (s, 5s) budou regstrováy emé 4 mulsy?
, soteme z rovce λ arametr λ, 5 Pro t 5 a EX 5 Pro ravdodobost, že bem edoo tervalu dode regstrac aleso 4 muls, latí Protože EX ( t) λt zísáme ( ),5 5, 5 P ( ( ) ) X 5 4,5 e! 4,5 a ledaá ravdodobost ro všec t terval e ta rova odot,5 e 4!,5 5 83 Marovv roces Nebude-l uvedeo a, { ( t) a dsrétí možou stav {,,, } ezáorým ísly) Proces { ( t) X bude ozaovat áodý roces se sotým asem I (stavy sou ro edoducost ozaey celým X azveme Marovovým rocesem, slue-l tzv marovsou vlastost: ro lbovolá t < t < < t < t τ a,,,, I latí: P ( X ( ) X ( t) X ( t ),, X ( t ) ) P X ( τ ) X ( t) ( ), τ Pravdodobost a ravé stra uvedeé rovost azýváme ravdodobost ecodu Je-l tedy t ítomý oamž, otom cováí Marova rocesu v lbovolém budoucím oamžu τ t závsí ouze a ítomém stavu a ol a stavec edcozíc Marovv roces se azývá omogeí, oud ravdodobost ecodu z edcozío výladu ezávsí a odotác t a, ale ouze a ec rozdílu Používáme a zaeí oz ( ) ( t) P X ( τ ) X ( t) τ Tedy v omogeím rocesu závseí ravdodobost ecodu ouze a rozdílu asovýc oamž a sou avíc varatí v osuutí v ase Pro τ t a dostaeme ( ) ro, ro
Pro os rozdleí Marovova rocesu v ase t budeme v dalším textu užívat P ravdodobostec ( ) oz ( t) P( X ( t) ),,,,,,,,, se mluví o oáteím rozdleí Marovova rocesu P velém t e obvyle Marovv roces stablzovaý a ídí se stacoárím rozdleím se stacoárím ravdodobostm t ( t) π lm,,,, Jedoducým íladem omogeío Marovova rocesu by mol být omogeí Possov roces z edcozío íladu Poáteí rozdleí by mlo tvar ( ), ( ) ro,, a ro ravdodobost ecodu by latlo ( ) { }, N, V omogeím Marovov rocesu latí ( t + t ) ( t ) ( t ), t t,,,,,, ( t) ( ) ( t),, t,,,, Prví rovce se azývá Camaova-Kolmogorovova rovce ( ) λ λ Prosetví Kolmogorovovy dferecálí rovce ec ro omogeí Marovv roces latí edolady: e! ro exstuí lmty exstuí lmty q q ( ) lm,,,,, + ( ) lm,,,,,,, + 3 ro evé e overgece v v bod steomrá Pa ro ravdodobost ecodu latí ' ( t) ( t) a ro ravdodobost rozdleí rocesu latí q, t >,,,,, ' ( t) ( t) q, t >,,,,
V dalším textu budeme oužívat zaeí o ( ) argumetu, ro terou latí, teré se užívá ro lbovolou fuc lm ( ) f Hodoty q,,,,,, z osledí defce azýváme tezty ecodu ze stavu do stavu a dále latí 84 Pílady ( ) + q o( ), ( ) q o( ) +, + Possov roces Už víme, že v tomto íad ( t) V tervalu ( t t + ) X udává oet výsyt sledovaé vely v tervalu, t,, de e ladé íslo blízé ule, astae ezávsle a otu výsyt do asu t sledovaá událost ráv edou s ravdodobostí + o( ) λ, více ež edou s ravdodobostí o ( ), eastae a edou s ravdodobostí λ + o( ) Tedy ravdodobost ecodu se rovaí a ( ) λ o( ) ( ) o( ) +,, + λ + ( ) o( ), > + Vdíme tedy, že ravdodobost edoo výsytu událost v rátém tervalu e úmrá tezt rocesu a délce tervalu Dalším zštím e suteost, že ravdodobost dvou ebo více výsyt událostí lesá ule s lesaící délou tervalu, a to rycle ež e déla tervalu Dle výsled z mulé atoly a soteme q ( ) λ + o( ) λ + o( ) lm lm lm λ, + + +, + ( ) λ + o( ) q, + lm lm λ, + + 3
a ( ) o( ) q lm lm, > + + + Protože logcy emže astat stuace, že by byl oet výsyt událost v tervalu ež oet výsyt v tervalu q ro <, t vtší,t +, oložíme ( ) ro < Odtud a máme Nyí s ž mžeme asat Kolmogorovovy dferecálí rovce Protože ro evé e q eulové ouze ro a, latí: ' ' ( t) λ( t) ( t) λ ( t) λ ( t),,,,3, Protože taé ožadueme X ( ), edeíšeme s oáteí odmíy: ešeí dferecálíc rovc: ( ), ( ),,,3, ' ( t) + λ ( t), ( ) t ce, c R a z oáteí odmíy lye, že λt c ešeím úloy e tedy fuce ( t) e λt Obecé ešeí rovce má tvar ( ) ' λt ( t) + λ( t) λe, ( ) λt ešeím íslušé omogeí rovce e fuce ( ) t ce, c R Obecé ešeí alezeme omocí varace ostaty Dosazeím do rovce tedy dostaeme ' c λt λt λt λt ( t) e λc( t) e + λc( t) e λe Odtud lye c ' ( t) λ a roto ( t) t + c ~ c ešeím úloy e ta fuce t ( t) λte λ c λ ~, c ~ R Z oáteí odmíy lye, že ' λt ( t) + λ( t) λ te, ( ) λt ešeím íslušé omogeí rovce e ot ( t) ce, c R Obecé ešeí ' alezeme omocí varace ostaty Po dosazeí do rovce obdržíme c ( t) λ t, 4
a roto ( t) t c λ + c~, c ~ R Z oáteí odmíy zovu lye, že c ~ ešeím λ t λ t e úloy e fuce ( ) t Výše uvedeým ostuem zísáme ešeí ve tvaru Vdíme tedy, že vela ( t) ( t) ( t) t λ λ! e,,,, X má Possoovo rozdleí s arametrem λ t Ja sme ž zmíl, λ má zde výzam stedío otu výsyt událost za edotu asu íslo λ budeme azývat teztou Possoova rocesu Díy vzáemé ezávslost X ( t ) a ( t ) X t a t velm od sebe vzdáleýc mžeme sát ( ) π lm Nyí vydeme z Camaovy-Kolmogorovovy rovce: ( + ) ( ) ( ) + ( ) ( ) a ecme : Tedy ( ) + ( ) π π π ( ( )) π ( ) π, o vydleí a ecodem dostaeme π q π q,,,, Toto e soustava leáríc rovc, terou musí slovat ravdodobost π, oud taové exstuí Pravdodobost π,,,, se azývaí stacoárí ravdodobost Possoovým rocesem modelueme velm asto oet oruc a daém zaízeí bem urtéo asovéo tervalu 5
Proces rstu a záu Proces rstu a záu e omogeí Marovv roces { ( t) Vela ( t) bem tervalu ( t t + ) X se stavy,,, X udává etost souboru (a mroorgasm, osob, ) v ase t, emž,, de e ladé íslo blízé ule, se soubor, terý v ase t obsaue obet, mže zvtšt ráv o ede obet s ravdodobostí o( ) λ,,,, + zmešt ráv o ede obet s ravdodobostí o( ) µ,,,, zmešt ebo zvtšt o více ež ede obet s ravdodobostí o ( ), + ezmešt a ezvtšt s ravdodobostí λ µ o( ) Itezty ecodu sou a rovy a + ( ) λ µ + o( ) λ µ + o( ) lm,, + ( ) λ + o( ) q, + lm lm λ, + +, ( ) µ + o( ) q, lm lm µ, + + q lm lm λ µ + + + ( ) o( ) q lm lm, > + ebo < + + λ +o() -(λ N +µ N )+o() λ +o() -(λ +µ )+o () -λ +o() λ N- +o() λ J- +o() -µ J +o() N- N J- J µ +o() µ +o() µ N +o() µ J +o() 6
Stacoárí ravdodobost π,,,, oud exstuí, sou dáy soustavou rovc λ πµ λ + µ π λ + π + µ + π, ( ) π,,, Tedy π µ π λ π + µ + π λ,,, a dále a Odtud π µ π λ π µ π λ π µ,, π λ a roto latí reuretí vzta λ π π µ Oaovaým užtím této rovost dostaeme λ π π µ Protože musí latt vzta π, obdržíme rovost odtud a tedy oe λ λ π, + π + π + µ µ + λ π µ λ π + µ 7
Mže se stát, že bude ada ve výše uvedeé rovost dvergovat, tedy π a π N Toto astae aílad, oud λ > µ N Za taovýcto odmíe ebude exstovat ustáleý stav a soubor eustále oroste Neoomeme ešt omeout, že Possov roces e secálím íadem rocesu rstu a záu ( µ ro všeca ) 85 Marovovy etzce Obdobou Marovovýc roces v dsrétím ase sou Marovovy etzce Nec I ozaue možu {,,, } Náodá oslouost { :,,, } Marovv etzec, oud latí P ( X X, X X ) P( X X ) +,, + X se azývá ro lbovolá,,,,, I (marovsá vlastost) Poud ravdodobost ecodu ezávseí a, azveme Marovv etzec omogeím a íšeme ( X X ) P + Pravdodobostm ecodu vyššíc ád v omogeím Marovov etzc rozumíme ( ) P( X X ) +,,,, V omogeím Marovov etzc latí (tzv Camaovy-Kolmogorovovy rovce) ( + ) ( ) ( ) Tedy ravdodobost, že systém ešel ze stavu do aéo mezstavu es r ecod a z mezstavu se dostal do ocovéo stavu v ( r) ecodec mez stavy, e vyádea vztaem Secál ro latí ( ) ( r) ( r), ( ),, a 8
a ro latí ( ) Mme Marovv etzec s m možým stavy matc P { } m ravdodobostí ecodu Vlastost matce P: P e tvercová matce,, m m, souet rv v aždém ádu matce e edotový Protože ( r ) latí ( ) (, )-tý rve matce ( ) ( ) obasl sme ásleduící tvrzeí def azveme matcí P, 3 (, )-tý rve matce P V omogeím Marovov etzc latí ( ) P P,,,,, 3 P P, Stav Marovova etzce e dosažtelý ze stavu, oud ro aé N { } ( ) > latí Je-l aždý stav etzce dosažtelý z aždéo stavu, azveme etzec ereduovatelým Stav e erodcý s erodou d >, oud ( ) > e ro d, d, 3d,, emž íslo d e emeší íslo s touto vlastostí Je-l d, e stav aerodcý Pro aždý stav defume ravdodobost ( ) ecodec mez stavy, tedy f f ( ) [ x x ro,,, x ], že rví ávrat do stavu astává o, Nyí defume ravdodobost, že se systém o ouští stavu do zovu vrátí, rovostí ( ) f f 9
Je-l dále f <, azývá se stav trazetí, a e-l f, azveme stav reuretím Stavy a solu omuuí, oud e dosažtelý z a aoa e dosažtelý z Píšeme ve smyslu evvalece s tmto vlastostm: ro aždý stav, ( ) ( ), [ ] ( ) 3 ( ) a ( ) Stav azveme absorbuící, oud ž systém (o vstoueí do tooto stavu) v tomto stavu zstae až do oce, t Absorbuící stav e evvaletí (ve výše uvedeém smyslu) ouze sám se sebou a e secálím íadem reuretío stavu Nyí se budeme zabývat oeým Marovovým etzc s reuretím a trazetím stavy Nec tedy má Marovv etzec m stav, z cž rvíc r stav e reuretíc a dalšíc m r stav e trazetíc, emž reuretí stavy tvoí edu tídu evvalece C a trazetí druou Ozame dále T možu trazetíc stav a T možu reuretíc stav Pa matce ravdodobostí ecodu má tvar P ( m m) P R ( r r ) ( r ( m r )) (( m r ) r ) ( m r ) ( m r ) Q( ) Matce P e matcí ravdodobostí ecod mez reuretím stavy Protože latí tvrzeí ( e reuretí a ) ( e reuretí), emže systém o vstuu do reuretío stavu oustt reuretí tídu a máme ta aravo od P ulovou matc Matce R e matcí ravdodobostí ecodu z trazetío stavu do reuretío a matce Q zaí matc ravdodobostí ecodu mez trazetím stavy P studu tcto Marovovýc etzc se budeme tát zeméa a tyto otázy: Zaíá-l etzec v trazetím stavu, aý e rmrý oet ávštv trazetío stavu, ež se oe systém dostae do reuretío stavu? Jaý e a roztyl otu ávštv trazetío stavu? Jaý e rmrý oet ávštv trazetíc stav otebý ouští trazetí tídy oáteím trazetím stavu? Jaý e roztyl otu ávštv trazetíc stav oáteím trazetím stavu, ež se systém dostae do reuretío stavu? Matc M daou edsem ( I ) M Q
azveme fudametálí matcí Dá se uázat, že ( ) I Q exstue a latí ( ) Q I + Q + Q + I Q Nec N ozaue áodou velu rerezetuící oet ávštv trazetío stavu T ( oáteím trazetím stavu T ) ed vstuem etzce do reuretío stavu oz Ozame dále µ EN Pa ro aždé, T latí µ M, de µ ozaue matc s rvy µ,, r +, r +,, m Ozame Nec Var( ) N M D oz µ r+, r+ µ r+, r+ oz, M µ µ m, m σ zaí roztyl otu ávštv trazetío stavu oáteím trazetím stavu ed vstuem do reuretío stavu Pa latí ( M D I ) M σ M,, T Dále zame N áodou velu rerezetuící celový oet avštíveýc trazetíc stav oáteím trazetím stavu ed vstuem do reuretío, t N Pa EN E N EN µ T T T N T Zame oz M µ latost vztau ρ, ρ T M e tedy sloucový vetor, a oz M ρ µ T Dá se dále uázat ( N ) ( M I ) M ρ M Var, T, ρ
Var N e roztyl celovéo otu avštíveýc trazetíc stav oáteím trazetím stavu do ouští trazetí tídy stav de ( ) Nec f ( ) zaí ravdodobost, že oáteím trazetím stavu vstouí etzec do reuretío stavu v rocíc Ozame dále T celový oet avštíveýc trazetíc stav ed rvím vstuem do reuretío stavu oáteím trazetím C P T f, T, T Pravdodobost, že etzec vstouí do stavu, t ( ) ( ) reuretío stavu, a vyádíme ao f f ( ) Platí ásleduící tvrzeí: Daz: Víme, že F F ( ) f ( ), f ( ) Q R V matcovém zásu a F a F MR ( ) a ( ) f ( ) f f, T C T, T V matcovém zásu a máme F ( ) R a ( ) QF( ) F Tedy Dále F ( ) Q R ( ) R + Q R ( I + Q + Q + ) R MR F F ešeý ílad Máme zadáu matc ravdodobostí ecodu P tístavovéo systému,8, P,5,5 Tetí stav e absorbuící ( 33 ) a rví a druý stav sou trazetí Nalezte:
rmrý oet ávštv trazetíc stav oáteím stavu ed vstuem do absorbuícío stavu 3, rmrý oet ávštv stavu oáteím stavu ed vstuem do absorbuícío stavu Submatce matce P vyaduící ravdodobost ecodu mez trazetím stavy má tvar,8, Q,5 Protože fudametálí matc M soteme ao verzí matc matc [ I Q],, 5 M,5, latí Víme, že rvy µ fudametálí matce M sou rmré oty ávštv trazetío stavu oáteím trazetím stavu ed vstuem do reuretío stavu Odtud rmrý oet ávštv trazetíc stav oáteím stavu e dá soutem µ V ašem íad, ledáme-l ešeí T rvío úolu, máme µ 7 Odov a druý úol e ž edoducá Hledáme vlast µ a to e rovo Pravdodobost osuící rozdleí Marovova etzce s m možým stavy v ase ozame ( ) P( X ),,,,m V omogeím Marovov rocesu latí Jestlže ozaíme vetory ~ oz ( ) ( ) ( ),,,, P ( ) ( ( ), ( ),, ( ) ) a P( ) ( ( ), ( ),, ( ) ) m ~ oz, m 3
a, s využtím vztau ( ) Nyí oložme P P, mžeme dle edcozí vty sát ~ ~ P ( ) P( ) P ~ Je-l matce P regulárí, exstue lm P( ) Ozaíme-l a tuto lmtu Y, musí ro latt Y YP Y azýváme vetorem stacoáríc ravdodobostí Vdíme, že Y ezávsí a oáteím rozdleí ravdodobost Marovova etzce Protože ás velm asto zaímá vetor rozdleí ravdodobost o rocíc P ~ ( ), e uté vyoítat matc rcy výotu Algebracý ístu P, což emusí být vždy edoducé Uážeme s yí záladí Matce P ádu m m Má-l matce P m rzýc vlastíc ísel,,, m, a exstue regulárí matce R taová, že P RDR, emž D e dagoálí matce maící a dagoále ostu vlastí ísla matce P a -tý slouec matce R e tvoe vlastím vetorem íslušým vlastímu íslu Dále latí rovost P RD R Protože D e dagoálí, D se soítá sado ešeý ílad Systém má matc ravdodobostí ecodu,5,5 P,75,5 ~ P Nalezte P ~ ( ) oáteím rozdleí ( ) ( ; ) λ vyoteme vlastí ísla λ, 9797, λ, 97 Pro vlastí vetor v ešící rovost,5t [ λ I P] v o latí v ; t, t R { } Aby orma vetoru v byla,4797 edotová, zvolíme t, 693 a tedy v (,76;,693) Steým zsobem zísáme druý vlastí vetor v (,5653;,849 ) Máme tedy Nerve alezeme vlastí ísla matce P Z rovost det [ I P],9797 D,,97 Soteme dále verzí matc,76 R,693,5653,849 4
,836,579 R,77,734 Platí tedy P,76,693,5653,849,9797,97,836,77,579,734 ~ ~ P P P dooítáme a ze vztau ( ) ( ) ~ P 97 ( ) (,633,9797,3967,97 ;,434,9797 +,435, ) Pístu Z-trasformace ~ ~ ~ ~ + Protože latí sled rovostí P( + ) P( ) P P( ) P P P( )P Z-trasformace sát Odtud dostáváme a dále Porováím se vztaem ( ) ( ) ~ ~ { P( ) } P( ) Z ~ Z z { P( ) }P ~ ~ { P( ) }[ I zp] P( ) Z ~ ~ { P( ) } P( )[ I zp] Z ~ ~ P P P zstíme, že { P } [ I zp] Z, mžeme s užtím Taže P obdržíme omocí zté Z-trasformace matce [ zp] I 5
Srutí atoly 8 Náodým (stocastcým) rocesem azveme zobrazeí, teré aždé odot X t Promá t má ve vtš íad výzam asu adí áodou velu ( ) t T Realzací áodéo rocesu rozumíme orétí ozorováí áodéo rocesu, t ž x t eáodou fuc, a zaíme ( ) Dle ovay možy T rozlšueme: áodé rocesy se sotým asem (áodé fuce), áodé rocesy s dsrétím asem (áodé oslouost) Hodota X ( t) vyadue stav ozorovaéo obetu v ase t Dle ovay áodé vely X ( t) rozlšueme: áodé rocesy se sotým stavy - X ( t) e sotá, áodé rocesy s dsrétím stavy - X ( t) e dsrétí Náodý roces { ( t) X se sotým asem a s dsrétím stavy,,, obvyle azýváme ítací roces, rotože zazameává oet aýc událostí v ase Nec { ( t) X ( ), X e ítací roces Nec avíc latí: dély terval mez výsyty sledovaé událost sou ezávslé áodé vely s exoecálím rozdleím s ustotou λx λe ro x >, f ( x) ro x, de λ > e arametr (tzv tezta omogeío Possoova rocesu) Pa teto roces azveme omogeím Possoovým rocesem, emž ( t) Possoovo rozdleí s arametrem λ t Proces { ( t) X má X azveme Marovovým rocesem, slue-l tzv marovsou vlastost: ro lbovolá t < t < < t < t τ a,,,, I latí: P ( X ( ) X ( t) X ( t ),, X ( t ) ) P X ( τ ) X ( t) ( ) τ, 6
V omogeím Marovov rocesu latí, t t,,,,,, ( t + t ) ( t ) ( t ) ( t) ( ) ( t),, t,,,, Prví rovce se azývá Camaova-Kolmogorovova rovce Proces rstu a záu e omogeí Marovv roces { ( t) X se stavy,,, Nec I ozaue možu {,,, } Náodá oslouost { :,,, } Marovv etzec, oud latí P ( X X, X X ) P( X X ) +,, + X se azývá ro lbovolá,,,,, I (marovsá vlastost) Otázy 8 Vysvtlete oem áodý roces a ošte tyy áodýc roces Defute Possov roces 3 Defute Marovv roces 4 Co sou to rocesy rstu a záu? 5 Odvote stacoárí ravdodobost (ravdodobost stav) 6 Vysvtlete oem Marovv etzec 7 Vysvtlete omy: ereduovatelý etzec, erodcý stav, aerodcý stav, trazetí stav, reuretí stav, absorbuící stav 8 K emu slouží fudametálí matce? 7