Složité systémy řízení

Transkript

1

2 VYSOKÁ ŠKOLA BAŇSKÁ - ECHNICKÁ UNIVERZIA OSRAVA Faula srojní Složié sysémy řízení I. Díl: Regulace sousav s náhodnými poruchami ing. Jiří ůma, CSc. Prosinec 997

3 Leoroval: Doc. RNDr. Jaroslav Marl Ing. Jiří ůma, CSc. ISBN

4 Obsah Náhodné procesy a jejich charaerisiy. Úvod.... Zálady eorie pravděpodobnosi.... Operace s jevy.... Pravděpodobnos Relaivní čenos a pravděpodobnos Axiomaicá definice pravděpodobnosi Podmíněná pravděpodobnos Náhodné veličiny a jejich záladní charaerisiy Disribuční funce a husoa pravděpodobnosi Číselné charaerisiy náhodných veličin Přílady ypů rozdělení pravděpodobnosi Rovnoměrné rozdělení pravděpodobnosi Normální rozdělení pravděpodobnosi Odhady paramerů náhodných veličin ransformace náhodných veličin Lineární ransformace Nelineární ransformace....6 Dvojrozměrné a vícerozměrné náhodné veličiny Disribuční funce a husoa vícerozměrné náhodné veličiny Marginální rozdělení Číselné charaerisiy vícerozměrných náhodných veličin Charaerisiy souču náhodných veličin Cenrální liminí věa Charaerisiy náhodných procesů ypy náhodných procesů Sřední hodnoa a rozpyl sacionárních a ergodicých procesů Cenrované náhodné procesy Auoorelační funce Vzájemná orelační funce Vzájemná orelační funce nezávislých náhodných procesů Auoorelační funce souču dvou nezávislých náhodných procesů Auoorelační funce speciálních náhodných procesů Bílý šum Obecný elegrafní signál Harmonicá funce Použií Marovových řeězců popisu náhodných procesů Násroje popisu náhodných procesů Marovovými řeězci Auoorelační funce Marovova řeězce Charaerisiy náhodných procesů ve frevenční oblasi Fourierova ransformace Výonová sperální husoa Rozpyl náhodného procesu Výonová sperální husoa bílého šumu Křížové sperum Nepřímý výpoče orelačních funcí Výpoče speer...4 i

5 3.8. Výpoče orelačních funcí Přílad hodnocení časového průběhu náhodné veličiny Průchod náhodného procesu lineární dynamicou sousavou Záladní vlasnosi lineárního dynamicé sousavy Auoorelační funce výsupu a vzájemná orelační funce vsupu a výsupu sousavy Výonová sperální husoa výsupu sousavy a řížové sperum vsupu a výsupu sousavy Rozpyl náhodného procesu na výsupu lineární dynamicé sousavy...5 Idenifiace 4. Paramericé modely náhodných procesů a regulovaných sousav Modely sacionárních náhodných procesů Model ypu AR (auoregresní model) Model ypu MA (model s louzavým průměrem) Model ypu ARMA Sperum náhodného procesu ypu ARMA Modely nesacionárních náhodných procesů Paramericé modely regulovaných sousav Model ypu ARX (auoregresní model s dalším vsupem) Model ypu ARMAX (auoregresní model s louzavým průměrem model a s dalším vsupem) Osaní modely Přehled modelů náhodných procesů a regulovaných sousav Idenifiace modelů náhodných procesů a sousav Jednorázová idenifiace paramerů modelu Meody odhadu paramerů Simulace a záladní charaerisiy pro neparamericou idenifiaci Paramericé meody idenifiace Výběr sruury modelu a hodnocení výsledu idenifiace Průběžná idenifiace paramerů modelu Průběžné odhadování paramerů regresního modelu Reurzivní výpoče paramerů regulované sousavy meodou nejmenších čverců Reurzivní výpoče rozpylu chyby modelu regulované sousavy Směrové zapomínání Odmocninový filr a U-D filr Vlasnosi algorimů průběžné idenifiace v prosředí MALABu Popis algorimů průběžné idenifiace v MALABu...79 Opimální řízení 6. Kvadraicé rierium řízení Jednoroové a víceroové vadraicé rierium Účinnos řízení Opimální predice disréních sacionárních náhodných procesů Jednoroová predice, model ARMA prvého řádu Dvouroová predice, model ARMA prvého řádu Predice na obecný poče roů, model ARMA obecného řádu Sruurálně opimální řízení Řízení sousavy s modelem ypu ARMAX prvního řádu...96 ii

6 8. Řízení sousavy s modelem ypu ARX prvního řádu Řízení sousavy s modelem ypu ARMAX obecného řádu Řízení sousavy s modelem ypu ARX a jedním roem dopravního zpoždění Řízení inegrační sousavy s poruchou působící na vsupu Přílad návrhu saisicy opimální regulace Cilivos saisicy opimálního řízení na změnu paramerů sousavy Subopimální řízení fázově neminimálních regulovaných sousav Paramericy opimální řízení Disréní regulační obvody Analyicý výpoče inegrálu Numericý výpoče inegrálu Výpočení aspey Porovnání saisicy opimální a subopimální regulace Spojié regulační obvody Analyicý výpoče inegrálu Numericý výpoče inegrálu Výpočové aspey...43 Přílohy: A: Výpoče inegrálů omplexních funcí 45 B: Maice, veory a řešení sousavy přeurčených a nedourčených rovnic 46 C: Meoda maximální věrohodnosi pro odhad paramerů 49 iii

7 Předmluva ao sripa se sysemaicy zabývají regulačními obvody, na eré působí náhodné poruchy. Maemaicý apará je možné označi za lasicý. Východisem analýzy jsou poznay eorie pravděpodobnosi a zvlášě pa eorie náhodných procesů. Násrojem popisu vlasnosí regulovaných sousav jsou maemaicé modely ve formě diferenciální nebo diferenční rovnice. Kriériem pro návrh reguláoru a jeho seřízení je vadraicé rierium řízení. Výsledem analýzy a synézy je výpoče účinu regulace s přímými eonomicými efey. eorie se omezuje jen na lineární regulační obvody. Její přednosí je o, že uvažuje příomnos náhodných poruch a doáže prediova saisicé charaerisiy účinu regulace ve vzahu e sruuře a paramerům reguláoru. aovými výsosně praicými výsledy se zaím jiné přísupy analýze a synéze, založené napřílad na fuzzy množinách, vyáza nemohou. Přes snahu rozvíje další přísupy analýze a synéze regulačních obvodů, prezenované módně jao moderní, lze vrdi, že lasicá eorie regulace, erá je založena na lineárních modelech a vadraicém rieriu řízení, se dosud nevyčerpala. Osaně sripa FE ČVU uo oblas nazývají Moderní eorie řízení []. Její další rozvoj je podmíněn eoreicou přípravou uživaelů a jejich ochoou seznámi se důladně s regulovanou sousavou a všemi faory, eré její sav a chování ovlivňují. Poud o není předem racionálně vyloučeno, je vhodnější spoléha se na významný informační obsah měřených veličin oproi umělé alulaci s jejich fuzzy významem a degradaci aproximaivního dynamicého modelu regulované sousavy na soubor něolia pravidel sesavených na záladě usých informací od provozních experů. Je rovněž ráozraé zaláda regulaci pouze na výpočení mohunosi a apaciě paměi počíačů. Čení odborných článů z oblasi lasicé eorie řízení je velmi obížné, proože maemaicý apará je přehledný časo jen specialisům maemaiům. Učební ex obsahuje poznay, eré nelze věsna do výuy jednoho semesru. Je vša oncipován a, aby předsavoval příruču pro zájemce v siuacích, dy se seají s prosředím, ve erém budou všechny dále popsané předpolady o regulované sousavě a cílech řízení auální. Kniha předpoládá znalosi záladů eorie řízení a idenifiace, eré se přednášejí na srojní faulě, [5,5,6,33,4-43,46]. Kapioly o eorii pravděpodobnosi a náhodných procesech se opírají především o dříve vydané vysoošolsé učebnice [,,6,7,9,3,3,3]. Hlavním zdrojem pro eno učební ex v apiolách, eré se zabývají paramericou a sruurální opimalizací regulačních obvodů s náhodnými poruchami podle vadraicého rieria je Asrömova niha [4]. Množsví poznaů lze čerpa z prací pracovníů ÚIA Aademie věd Česé republiy, např. J. Kárný, J. Böhm a jiní, vedených dříve V. Peerou [,3,4,7-9] nebo z dalších prací, eré jsou uvedeny v lierauře. Vlasní publiace auora se zabývají řešením praicých úloh regulace [36-39], z nichž něeré jsou použiy jao přílady. K řešení příladů jsou používány oolboxy SIMULINK a Sysem Idenificaion programového sysému MALAB. eno dois srip obsahuje řadu oprav vzorců, eré byly bohužel v prvním vydání uvedeny chybně. Věšina chyb v prvním vydání srip vznila z mylného úsporného zápisu sloupcových veorů ve varu ransponovaného řádového veoru, ve erém byla navíc vyznačena ranspozice aé na levé sraně vzorce. V omo vydání jsou yo chyby odsraněny.

8 Náhodné procesy a jejich charaerisiy. Úvod Při vysvělení pojmu náhodné (cizím slovem sochasicé) procesy lze vycháze z poznaelnosi jejich budoucího vývoje v daném časovém oamžiu, j. obvyle v příomnosi. Proiladem náhodným procesům jsou procesy deerminisicé (česy předurčené), eré probíhají v analyzovaných dynamicých sysémech. Společnou vlasnosí deerminisicých procesů je o, že jejich časový průběh je dán maemaicými funcemi, eré jsou řešením sousavy diferenciálních nebo diferenčních rovnic popisujících analyzovaný dynamicý sysém a vycházejících z daných počáečních podmíne, což je velmi dobře známo z předměu maemaicé analýzy. Jen naivní pozorovael může vrdi, že za všech oolnosí lze vždy výchozí údaje, j. počáeční podmíny, podrobně urči a všechny vzahy popsa ve formě diferenciálních rovnic se známými paramery. Časo z důvodů echnicých omezení nelze zmíněné počáeční podmíny přesně a vyčerpávajícím způsobem urči nebo přes sále rosoucí výon počíačů nelze numericy řeši rozsáhlý soubor diferenciálních rovnic. Výsledný časový průběh sledovaného procesu je proo a složiou maemaicou funcí, že se jeví vnějšímu pozorovaeli jao náhodný. Jeho onréní vývoj nelze přesně, j. bez chyb, předvída. yo úvahy lze doumenova nejen na hrací osce, ale aé na vývoji mnoha poruchových veličin, eré vsupují do regulačních obvodů. Rozumný pozorovael nemusí rva na absoluní přesnosi (j. nulové chybě) předpovědi vývoje sledovaného procesu, ale spoojí se s jeho exrapolací do budoucnosi s přípusnou přesnosí, erá plyne z praicých pořeb nebo jen málo převyšuje chybu měření. K éo exrapolaci je zapořebí znalosi něerých záladních charaerisi náhodných procesů. V éo apiole budou něeré z ěcho charaerisi blíže popsány. Nejprve budou zopaovány zálady eorie pravděpodobnosi.. Zálady eorie pravděpodobnosi V éo apiole jsou sručně zopaovány podle [7] zálady eorie pravděpodobnosi. Pro podrobnější seznámení lze doporuči něerou příruču, např. [,,6,9,3,3].. Operace s jevy eorie pravděpodobnosi se zabývá náhodnými jevy. Jevy se označují velými písmeny lainsé abecedy, např. A, B,... Jev A impliuje jev B (nebo A má za následe jev B), jesliže jev B nasane vždy, dyž nasane jev A. Zápis ohoo vzahu je A B. Dva jevy jsou si rovny, jesliže A B a současně B A. Jev, erý nasane po aždé realizaci náhodného pousu se nazývá jisým jevem a značí se Ω. Jev, erý nenasane nidy, je nemožný jev. eno jev se označuje. Sjednocení jevů. Sjednocení (nebo souče) jevů A i, i,... je jev, erý nasane právě ehdy, dyž nasane aspoň jede z jevů A i, i,... eno jev se označuje A A. i Průni jevů. Průni jevů A i, i,... je jev, erý nasane, právě ehdy, dyž nasanou současně všechny jevy A i, i,... eno jev se označuje A Ai. Disjunní jevy. Jesliže průni jevů A a B, j. A B, je nemožný jev, pa yo jevy se označují za disjunní. Pro disjunní jevy plaí A B. i i

9 Komplemenární (doplňový nebo opačný) jev. Komplemenárním jevem jevu A je jev, erý nasane jen dyž nenasane jev A. eno jev se označuje A. Elemenární jev. Jev A je elemenární, jesliže neexisují jevy různé od ohoo jevu aové, že jejich sjednocení je jev A. Elemenární jev je nejjednodušší výslede náhodného pousu. Prosor elemenárních jevů. ímo prosorem se rozumí množina všech elemenárních jevů, eré mohou nasa jao výslede náhodného pousu. Prosorem elemenárních jevů může bý: množina reálných čísel nebo něerá jejich čás, výsledem pousu je jedno (reálné) číslo; v omo případě je pozorována (reálná) náhodná veličina množina -ic reálných čísel (množina -složových reálných veorů nebo eulidovsý prosor a nebo něerá jeho čás); v omo případě je pozorován náhodný veor nebo - rozměrná náhodná veličina množina všech posloupnosí { X i } ; pa jde o pozorování náhodné nebo sochasicé i posloupnosi nebo aé sochasicého procesu s disréním časem prosor funcí X na inervalu < < ; pa jde o pozorování náhodného nebo sochasicého procesu se spojiým časem.. Pravděpodobnos.. Relaivní čenos a pravděpodobnos Relaivní čenos. Je o podíl poču napřílad poču pousů n(a), při erých nasal jev A, celovému poču pousů n n( A) h( A). (-) n Relaivní čenosi navzájem disjunních jevů se sčíají. Suečnos, že relaivní čenosi se s rosoucím počem pousů usalují, se nazývá saisicá sabilia relaivních čenosí. Je přirozené přijmou liminí hodnou čenosi za míru počenosi příslušného jevu a nazva ji pravděpodobnosí ohoo jevu. eorie pravděpodobnosi jao vědní disciplína je vybudována na axiomaicých záladech, eré uvedený praicý poznae respeují... Axiomaicá definice pravděpodobnosi Pravděpodobnos náhodného jevu A se značí P{ A }. Vlasnosi pravděpodobnosi lze axiomaicy definova následujícím způsobem. Pravděpodobnos je nezáporné reálné číslo nejvýše rovno jedné, proo P{ A},.. Pravděpodobnos sjednocení onečného nebo spočeného poču vzájemně disjunních jevů je dána vzorcem P{ } P{ } i i i A A. 3. Pravděpodobnos jisého jevu je rovna jedné, P{ Ω }. Z uvedených ří axiomů lze odvodi řadu dalších vlasnosí náhodných jevů: 4. Jesliže jev A impliuje jev B ( A B), pa P{ A} P{ B}. 5. Pravděpodobnos opačného jevu A jevu A je rovna P{ } P{ } i A A. 3

10 6. Pravděpodobnos nemožného jevu je rovna nule, P{ }. 7. Pravděpodobnosí sjednocení jevů A B je dána P{ A B} P{ A} + P{ B} P{ A B}...3 Podmíněná pravděpodobnos Podmíněná pravděpodobnos jevu A podmíněná jevem B (j. suečnosí, že jev B nasal) je definována jao podíl P{ A B} P{ AB}. (-) P{ B} Pro pravděpodobnos průniu dvou jevů proo plaí P{ A B} P{ A} P{ BA} P{ B} P{ AB}, (-3) de P{ AB } je podmíněna pravděpodobnos jevu A za předpoladu, že nasal jev B a P{ BA } je podmíněna pravděpodobnos jevu B za předpoladu, že nasal jev A. Nezávislos jevů. Jevy A a B jsou nezávislé, jesliže plaí P{ A B} P{ A} P{ B}. Je-li P{ B } >, pa P{ AB} P{ A} a podobně pro P{ A } > plaí P{ BA} P{ B}. Jina řečeno, pravděpodobnos jednoho jevu nezávisí na om, zda druhý jev nasal. Věa o úplné pravděpodobnosi. Nechť B i, i,..., n jsou navzájem disjunní jevy, přičemž { } P B > i n P i { i} n,,..., a P{ B i} i. Dále nechť A je libovolný jev, jehož pravděpodobnos AB podmíněná jevem B i je pro aždé i známa. Pravděpodobnos jevu A je pa rovna n { A} { AB } { B } P P P i i i. (-4).3 Náhodné veličiny a jejich záladní charaerisiy Něeré náhodné pousy mají za výslede jev, erý přísluší prosoru elemenárních jevů ve varu množiny reálných čísel nebo něerá její podmnožiny. Výslede náhodného pousu, daný reálným číslem, je hodnoou veličiny ξ, erá se nazývá náhodnou veličinou. Náhodné veličiny jsou pojmenovávány nejčasěji malými řecými písmeny. Konréní hodnoa, zv. realizace náhodné proměnné, se označuje lainou..3. Disribuční funce a husoa pravděpodobnosi Disribuční funce. Disribuční funci náhodné veličiny ξ nazveme reálnou funcí Fx definovanou pro aždé reálné x vzahem { } Fx Pξ x. (-5) Pro zdůraznění příslušnosi náhodné veličině se jménem ξ lze použí indexu F ( x) ξ. Disribuční funce libovolné náhodné veličiny má yo vlasnosi:. Pro aždé reálné x plaí Fx.. Pro aždé reálné x < x je Fx Fx, j. je nelesající. 4

11 3. Plaí že, lim Fx F( ) a lim Fx F( + ). x x + 4. Disribuční funce je zprava spojiá a má nejvýše spočeně mnoho bodů nespojiosi. Px< ξ x Fx Fx. 5. Plaí Rozdělení disréního a spojiého ypu. V apliacích se lze sea s náhodnými veličinami dvojího ypu, a o se spojiými a disréními náhodnými veličinami. Disréní náhodná veličina může nabýva jen hodno z nějaé onečné nebo spočené (jednolivé hodnoy lze opaři celočíselným indexem) množiny { x x },,.... Spojiá náhodná veličina může nabýva všech hodno z určiého inervalu. Rozdělení disréního ypu. Disribuční funce náhodné veličiny disréní je dáno Fx Pξ x j. (-6) { } x x j Rozdělení spojiého ypu. Náhodná veličina má rozdělení spojiého ypu exisuje-li nezáporná reálná funce f ( x ) aová, že pro všechna reálná x se dá disribuční funce Fx vyjádři ve varu x Fx fd, < x<+. (-7) Funce f ( x ) se nazývá husoa pravděpodobnosi (nebo sručněji husoa) náhodné veličiny. Ve všech bodech, de exisuje derivace disribuční funce, je df( x) f ( x). dx (-8) Ve vzahu pravděpodobnosi příslušnosi náhodné veličiny určiému inervalu hodno lze význam husoy pravděpodobnosi demonsrova přibližným vzahem, erý označuje elemen pravděpodobnosi P{ x< x+ x} f ( x) x+ O( x) de funce O( x) je řádově menší než x, j. aová funce, že lim ( ) ξ, (-9) x O x x. Husoa rozdělení pravděpodobnosi má následující záladní vlasnosi. lim f ( x), lim f ( x) (-) x + x +. f ( x) dx. (-) Pro disréní náhodnou veličinu lze definova husou pravděpodobnosi s pomocí Diracovy funce δ( x ), j. f ( x) piδ ( xxi), (-) de { } i P ξ xi pi. Jesliže disréní náhodná proměnná nabývá jen jediné hodnoy ξ a, j. ve suečnosi je o onsana, pa její husoa rozdělení je přímo Diracova funce f ( x) δ ( x a). (-3) 5

12 Na závěr éo apioly je uveden na obr. přílad husoy pravděpodobnosi pro spojiou a disréní náhodnou veličinu. Disribuční funce se zísá inegrací husoy pravděpodobnosi. Pro spojiou náhodnou veličinu je výsledem spojiý průběh disribuční funce, zaímco u disréní náhodné veličiny se bude jedna o funci schodoviou. Obr.. Husoa pravděpodobnosi spojié (vlevo) a disréní (vpravo) náhodné veličiny.3. Číselné charaerisiy náhodných veličin Sřední hodnoa náhodné veličiny. Nejdůležiější charaerisiou náhodné veličiny je sřední hodnoa (nědy je nazývána očeávaná hodnoa nebo maemaicá naděje). Definice sřední hodnoy spojié náhodné veličiny ξ se opírá o husou rozdělení pravděpodobnosi f ( x ) a disréní náhodné veličiny o pravděpodobnosi p, i i,,.... Plaí E{ } x f ( x) dx, µ E{ ξ} µ ξ + i x i p i. (-4) de symbol E {}. předsavuje operáor se jménem veličiny nebo funce uvniř složených závore. V posledních vzorcích je výraz vlevo pro spojiou náhodnou veličinu a výraz vpravo pro disréní náhodnou veličinu. U spojié náhodné veličiny má sřední hodnoa význam saicého momenu plochy husoy pravděpodobnosi a u disréní náhodné veličiny je o vážený průměr všech možných hodno s váhami shodnými s jejich pravděpodobnosí výsyu. Počáeční a cenrální momen náhodné veličiny. Pomocí operáoru sřední hodnoy lze definova aé další charaerisiy náhodných signálů. Obecný vzorec pro počáeční saisicé momeny -ého řádu spojié a disréní náhodné veličiny, de je přirozené číslo, je následující { ξ }, { } M E x f x dx + M E ξ x p. (-5) Sřední hodnoa je počáeční saisicý momen prvního řádu, µ M. Cenrální momen spojié a disréní náhodné veličiny -ého řádu je dán vzorci + {( ξ µ ) } ( µ ), m E x f x dx i { } ( i ) i m E ξ µ x µ p (-6) Rozpyl (disperze) náhodné veličiny. Cenrální momen náhodné veličiny druhého řádu, m, se nazývá rozpyl. Jeho definice s použiím operáoru sřední hodnoy je následující i i i 6

13 { } { } + { } D ξ σ m E ξ E ξ xµ f x dx, (-7) { } { } { } ( i ) D ξ σ m E ξ E ξ x µ p. (-8) Mezi rozpylem a počáečními momeny prvního a druhého řádu plaí { } i D ξ m M M σ µ. (-9).4 Přílady ypů rozdělení pravděpodobnosi Disribuční funce a husoa pravděpodobnosi jsou reálné funce proměnné x. yo funce jsou dány svým ypem a případně aé paramery. ypů rozdělení je velmi mnoho. V éo příloze jsou pouze dva přílady, a o rovnoměrné a normální rozdělení..4. Rovnoměrné rozdělení pravděpodobnosi Rovnoměrné rozdělení pravděpodobnosi má husou a disribuční funci definovanou následujícími vzorci, x < a, x a, b x a f ( x) b a Fx, a x b (-) x a, b b a, x > b de a < b určují rajní body inervalu možných hodno náhodné veličiny a předsavují paramery rozdělení. Na obr. jsou grafy husoy a disribuční funce rovnoměrného rozdělení. i Obr.. Husoa a disribuční funce rovnoměrného rozdělení Sřední hodnoa rovnoměrně rozdělené náhodné veličiny se vypoče prosým dosazením do definičního vzorce + b b x µ E{ ξ} x f ( x) dx + b a dx x a b, (-) b a a a j. sřední hodnoa je arimeicým průměrem rajních hodno. Rozpyl se vypoče podobným posupem, a o 7

14 + a b D{ ξ} σ ( x µ ) f ( x) dx x + b a 3 b b a dx a b b a x + b a 3 Rovnoměrné rozdělení je modelem pro časo se vysyující náhodné veličiny. Vyšší programovací jazyy obvyle obsahují funci, erá uo veličinu generuje. Je řeba připomenou, že výsledem volání éo funce je pseudonáhodné číslo jehož relaivní čenosi z dílčích inervalů pouze aproximují eoreicé rovnoměrné rozdělení..4. Normální rozdělení pravděpodobnosi Jiný název ohoo rozdělení je Gausssovo. oo rozdělení má dva paramery, a o svou sřední hodnou µ a rozpyl σ. Paramery ohoo rozdělení jsou na rozdíl od rovnoměrného rozdělení přímo záladní charaerisiy normálního rozdělení. Husoa pravděpodobnosi náhodné veličiny s normálním rozdělením je dána vzahem ( x ) f ( x) µ exp, < x <+. (-) σ π σ Disribuční funce je dána inegrálem uvedené husoy. Na rozdíl od rovnoměrného rozdělení nelze naléz jao výslede inegrace husoy elemenární funci. V lierauře lze vša naléz disribuční funce ve varu neonečné řady. Proo jsou hodnoy éo funce s názvem pravděpodobnosní inegrál nebo Laplaceův inegrál a nebo inegrál chyb Φ x x x exp dx (-3) π jen abelovány, a o pro normalizovanou náhodnou veličinu, j. pro µ a σ. Pravděpodobnosní inegrál lze aproximova napřílad čásí následující řady Φ x x x x + x (-4) π var funční závislosi husoy pravděpodobnosi na veličině x je zvonoviý a předsavuje známou Gaussovou řivu. Exrém éo řivy je pro x µ a jeho velios je nepřímo úměrná směrodané odchylce σ, j. f ( µ ) σ π. Vliv rozpylu na var funční závislosi demonsruje obr. 3. a. Obr. 3. Husoa normálního rozdělení, vliv rozpylu Husoa a disribuční funce normálního rozdělení pro µ a σ je v grafech na obr. 4. 8

15 Obr. 4. Husoa a disribuční funce normálního rozdělení Sřední hodnoa normálně rozdělené náhodné veličiny se vypoče prosým dosazením do definičního vzorce. Proože výslede výpoču je předem znám, jde jen o jeho verifiaci. Plaí ( x µ ) + + µ µ { ξ} y+ y E x exp σ π σ dx exp dy σ π σ + µ + + y y y exp dy µ + µ σ π σ exp dy σ π σ.4.3 Odhady paramerů rozdělení náhodných veličin (-5) Číselné charaerisiy náhodných veličin se vypočíají na záladě znalosi ypu rozdělení a veliosi jejich paramerů. Problém znalosi paramerů se zaím s mlčením přecházel. Časo jediný přísupný způsob jejich určení jsou změřená daa, j. vždy onečný soubor realizací náhodné veličiny, erý se nazývá náhodný výběr. eno náhodný výběr, erý má úsřední význam v maemaicé saisice, předsavuje posloupnos nezávislých a sejně rozdělených náhodných veličin X, X,..., X n, de N je rozsah výběru. Z náhodného výběru se vypoče výběrový průměr i N X X N i (-6) i a výběrový rozpyl i N m ( Xi X), (-7) N i přičemž m se nazývá výběrová směrodaná odchyla. Pro výhodnější liminí vlasnosi se používá aé veličina i N S ( Xi X). (-8) N i Výběrový průměr a výběrový rozpyl jsou náhodné veličiny, pro eré lze spočía aé jejich číselné charaerisiy, napřílad sřední hodnou nebo rozpyl. Nechť rozdělení veličin z výběru má sřední hodnou µ a rozpyl σ. Je žádoucí, aby sřední hodnoa výběrového průměru byla shodná se sřední hodnoou veličin výběru, j. E{ X } µ. éo vlasnosi výběrové charaerisiy se říá nesranný (nebo nevychýlený nebo anglicy unbiased) odhad příslušného parameru. Jesliže sřední hodnoa výběrového průměru není rovna sřední hodnoě náhodné veličiny, pa se odhad označuje jao vychýlený (anglicy biased) nebo že není 9

16 nesranný. Lze doáza, že právě S je nesranný odhad rozpylu, j. E{ S } σ. Další výhodnou vlasnosí je o, že rozpyl odhadu charaerisi se s rosoucím rozsahem výběru D X σ N. snižuje. Lze doáza, že napřílad plaí { } Při označení odhadu jao vychýleného nebo nesranného není podsaný rozsah výběru. Odhad paramerů rozdělení pravděpodobnosi je na rozsahu výběru přirozeně závislý. Jesliže odhad onverguje pro N + e suečné hodnoě parameru, pa se aový odhad nazývá onzisenní. Odhad edy nemusí bý napřílad nesranný, přesože je onzisenní. Výběrové charaerisiy X a m, související s dříve definovanými momeny, jsou rovny přímo zv. bodovým odhadům paramerů µ a σ normálního rozdělení. ao meoda výpoču bodových odhadů paramerů se opírá o výpoče výběrového průměru a rozpylu. Pro odhad paramerů exisují aé další meody, ze erých lze zmíni napřílad meodu maximální věrohodnosi.

17 .5 ransformace náhodných veličin.5. Lineární ransformace Nechť jsou známy sřední hodnoa a rozpyl náhodné veličiny ξ a nechť je ao náhodná veličina lineárně ransformována podle vzahu η ξ + q, de, q jsou onsany, na náhodnou veličinu η. Lze doáza, že sřední hodnoa a rozpyl náhodné veličiny η jsou následující + { η} { ξ } { ξ} E E + q x+ q fξ x dx E + q, (-9) { } { } { } { } ( { }) D η E η E η E ξ+ q E ξ+ q { ξ µ } { ( ξ µ ) } {( ξ µ ) } { ξ} E + q q E E D Lineární ransformace podle následujícího vzorce Ξ ξ D { ξ } { ξ} E. (-3), (-3) ve erém D{ ξ} a q E{ } D{ } ξ ξ, se nazývá se normalizace. Náhodná veličina s obecnou sřední hodnoou a rozpylem se převede na náhodnou veličinu s nulovou sřední hodnoou a jednoovým rozpylem, j. plaí E{ Ξ } a D{ Ξ }. Lineární ransformace nezmění funční průběh husoy pravděpodobnosi..5. Nelineární ransformace Nelineární ransformace na rozdíl od lineární ransformace funční průběh husoy pravděpodobnosi ovlivní. Nechť napřílad výchozí náhodná veličina ξ je ransformována na Ξϕ ξ s inverzním varem ξ ϕ ( Ξ ) ψ( Ξ ), pa z rovnosi veličinu Ξ funcí pravděpodobnosí elemenů f ξ x dx f Ξ ( y) dy vyplývá fξ y f ξ ψ y ( y) dψ dy. (-3) ransformační vzorec je planý jen pro jednoznačný průběh inverzní funce ξ ψ( Ξ ). Pro mnohoznačnou funční závislos je řeba definiční obor veličiny rozděli na něoli úseů s jednoznačnými průběhy ξ ψ( Ξ ), pro aždý úse ransformova zvlášť a dílčí výsledy sečís. Nelineární ransformace má význam pro generování náhodných veličin se zadanou husoou pravděpodobnosi z jiné náhodné veličiny s jinou husoou pravděpodobnosi, erou je schopen generáor náhodných čísel vyváře.

18 Přílad: Nechť je generována náhodná veličina rovnoměrně rozdělená náhodná veličina na inervalu od do. uo náhodnou veličinu je řeba ransformova na veličinu s normálním rozdělením o sřední hodnoě nula a směrodané odchylce rovné jedné. Husoy pravděpodobnosi výchozí a ransformované veličiny jsou následující, x, y f ( x) ξ, fξ ( y) exp. (-33) x, π Řešení: Pro hodnoy náhodné veličiny ξ z inervalu od do plaí ψ exp y d y π dy. (-34) ransformační funce se ψ( y ) zísá inegrací předchozí diferenciální rovnice y exp y dy + C ψ( y), (-35) π ve eré je inegrační onsana C a ransformační funce má var pravděpodobnosního inegrálu, j. ψ( y) Φ ( y). Výsledu ohoo příladu lze použí pro návrh generáoru náhodných čísel s normálním rozdělením..6 Dvojrozměrné a vícerozměrné veličiny.6. Disribuční funce a husoa vícerozměrné náhodné veličiny Výše uvedené vzahy se ýaly jednorozměrné náhodné veličiny. Vícerozměrnou náhodnou veličinu lze považova za veor, označený napřílad ξ, jehož složy, ξ, ξ,..., ξ, n jsou jednorozměrné náhodné veličiny. Disribuční funce éo vícerozměrné náhodné veličiny je definována vzahem { } Fξ, ξ,..., ξn x, x,..., xn P ξ x, ξ x,..., ξn xn, (-36) podle erého se jedná o pravděpodobnos průniu celem n dílčích jevů, a o ξ x, ξ x,..., ξn xn. Disribuční funce vícerozměrné náhodné veličiny má obdobné jao jednorozměrná náhodná veličina:. Pro aždou n-ici x x x n Fx, x,..., x n. Fx, x,..., je nelesající funce aždé své proměnné.,,..., plaí. ( x n ) 3. Fξ,... ξn( x,...,,..., xn). 4. ( + + ). F ξ,..., ξ,..., Náhodná proměnná ξ, ξ,..., ξn má rozdělení spojiého ypu, exisuje-li nezáporná fξ,..., ξn x,..., xn aová, že pro všechna reálná x,..., x n plaí reálná funce

19 + + Fξ,..., ξ x,..., xn... f ξ,..., ξ,..., n d... dn (-37) Reálná funce f ( x x ) ξ ξn n,...,,..., se nazývá husoa pravděpodobnosi (sručněji husoa) nebo sdružená husoa pravděpodobnosi vícerozměrné náhodné veličiny ξ, ξ,..., ξn. V bodech, de exisuje derivace, plaí (,..., ) f x x ξ,..., ξn.6. Marginální rozdělení n (,..., ) n Fξ,..., ξn x xn. (-38) x... x n Pro další výlad bude uvažována dvourozměrná náhodná veličina. Kromě sdruženého rozdělení může bý předměem zájmu rozdělení jednolivých náhodných veličin. oo rozdělení se nazývá marginální. Jesliže Fξξ ( x x) disribuční funce Fξ ( x ) veličiny ξ dána vzahem Fξξ ( x ) Fξ ( x) Podobně pro marginální disribuční funci F ( x ) F ( + x ) F ( x ), je sdružená disribuční funce veličin ξ, ξ, pa je marginální,+. (-39) ξξ ξ ξ veličiny ξ plaí,. (-4) Pro rozměr náhodné veličiny věší než dvě je graficá reprezenace inervalů hodno náhodné veličiny obížná. Názorně lze vša demonsrova dvourozměrnou náhodnou veličinu a její husou, ja je zřejmé z obr. 5. Obr. 5. Dvourozměrná husoa pravděpodobnosi 3

20 Objem ělesa s body, eré mají jednolivé souřadnice v rovině xx menší souřadnice než jsou souřadnice bodu ( X X ), a eré je omezeno rovinou xx f x, x, určuje velios dvourozměrné disribuční funce. Inegrační oblas voří v omo případě jeden vadran roviny xx se sředem v bodě ( X, X). Pro jiné vymezení oblasi hodno náhodných veličin se při výpoču pravděpodobnosi jejich výsyu posupuje shodně, j. vypoče se objem ělesa nad příslušnou oblasí s omezením plochou f( x x ),. a plochou Pro rozlad pravděpodobnosi dvojrozměrné veličiny na výraz obsahující pravděpodobnosi jednorozměrných veličin lze uží obecného pravidla o pravděpodobnosi průniu jevů {, } [ ] { } { } { } { ξ } ( ξ )( ξ ) P ξ x ξ x P ξ x P ξ x ξ x P x P x x, (-4) s podmíněnými pravděpodobnosmi dílčích jevů, ze erého plyne, že disribuční funci dvojrozměrné veličiny lze vyjádři jao součin marginální disribuční funce a podmíněné disribuční funce (, ) Fξξ x x Fξ x F x x F x F x x ξ ξ x ξ ξξ x. (-4) Podobné vzahy plaí pro husoy (, ) fξ ξ x x fξ x f x x f x f x x ξ ξ x ξ ξξ x. (-43) Jesliže jsou jednolivé složy popisované dvourozměrné náhodné veličiny vzájemně nezávislé, pa plaí x x, F x F x x, F x x F x, ξ ξξ ξ ξ ξ f x f x x f x x f x ξ ξξ x ξ ξ x ξ (-44) a proo (, ), (, ) F x x F x F x f x x f x f x. (-45) ξξ ξ ξ ξξ ξ ξ.6.3 Číselné charaerisiy vícerozměrných náhodných veličin Pro vícerozměrné náhodné veličiny jsou definovány aé momeny. Počáeční momen i j + -ého řádu je dán vzahem i j i j { ξξ } ξ ξ M E x x f x, x dx dx. (-46) ij + + Praicý význam má jen cenrální momen druhého řádu m. Jeho definice s použiím operáoru sřední hodnoy je následující + + {} m E ξ µ ξ µ x µ x µ f x, x dx dx, (-47) ξξ 4

21 de sřední hodnoy dílčích slože jsou vypočeny pomocí marginálních huso pravděpodobnosi + { } ξ { } ξ µ E ξ x f x dx, µ E ξ x f x dx. (-48) Lze doáza, že pro nezávislé náhodné veličiny je počáeční momen m. K hodnocení souvislosi obou slože dvourozměrné náhodné veličiny, j. jejich vzájemnou saisicou vazbu, se používá oeficien orelace ρ ξξ + m m m, (-49) de momeny druhého řádu m a m lze rovněž urči pomocí marginálních huso pravděpodobnosi Přílad: + { ξ } ( µ ) { ξ } ( µ ξ ) ξ m D x f x dx, m D x f x dx.(-5) Nechť mezi složami dvourozměrné náhodné veličiny plaí ξ onsany. Určee oeficien orelace! Řešení: + ξ + q, de,q jsou Marginální husou pravděpodobnosi náhodné veličiny ξ lze označi f ( x ) ξ. Podmíněná husoa pravděpodobnosi náhodné veličiny ξ za podmíny, že plaí ξ x je následující ( ) f x x δ x x q ξ ξ. (-5) x Ve vzorci byla použia Diracova funce, proože první složa ξ je známá (ja vyplývá z podmíny) a druhá složa přesává bý proo náhodnou veličinou. Ja bylo již dříve uvedeno, pro deerminisicé veličiny je vhodným modelem jejich husoy pravděpodobnosi Diracova funce, proože je mimo deerminisicou hodnou nulová. Dvourozměrnou husou pravděpodobnosi lze proo vyjádři ve varu (, ) ( ( + )) fξ ξ x x fξ x f x x f x x x q ξ ξ ξ δ. (-5) Podle vzorce pro cenrální momen m plaí + + x ( µ )( µ ) m x x f x f x x dx dx ξ ξ ξ x + + ( µ )( µ ) ξ δ x x f x x x + q dx dx 5

22 + ( µ )( µ ) ξ x x + q f x dx + q x x + + µ x dx ( µ ) ( µ ) µ fξ + + q + + µ x f x dx x ( µ ) ξ ( µ ) µ fξ σ + σ, x dx (-53) de σ m je rozpyl náhodné veličiny ξ. Náhodná veličina ξ vznine lineární ransformací náhodné veličiny ξ, proo její rozpyl je σ σ m. Koeficien orelace je edy následující ρ ξξ m σ σ m m σσ σ σ. (-54) Výslede závisí na znaménu oeficienu, pro ladnou hodnou je oeficien orelace + a pro zápornou hodnou Charaerisiy souču náhodných veličin ξξ,. Na záladě znalosi éo husoy je řeba vypočía husou rozdělení souču jednolivých slože dvourozměrné náhodné veličiny, j. náhodné veličiny η ξ + ξ. Disribuční funce náhodné veličiny η vyplývá z příslušné pravděpodobnosi výsyu menší hodnoy souču než je proměnná z Nechť dvourozměrná náhodná veličina má husou pravděpodobnosi f ( x x ) Fξ + ξ z P + z fξ ξ x, x dxdx. (-55) zx { ξ ξ } + Husoa rozdělení pravděpodobnosi souču náhodných veličin je dána derivací disribuční + df ξ+ ξ z f ( z) ξ+ ξ fξ + ξ( x zx) dx dz,. (-56) Jesliže jednolivé složy souču budou vzájemně nezávislé, pa husoa jejich souču bude dána onvolucí jejich slože + ( ) ( ) f z f x, z x dx f x f z x dx. (-57) ξ+ ξ ξ+ ξ ξ ξ + Ja lze doáza, sřední hodnoa a rozpyl souču zmíněných náhodných veličin pro obecnou husou pravděpodobnosi je následující { η} { ξ } + { ξ } { η} { ξ } + { ξ } + ρ { ξ } { ξ } E E E, (-58) D D D D D. (-59) ξξ 6

23 Pro nezávislé náhodné veličiny, j. ρ ξξ rozpylů. Přílad:, je rozpyl jejich souču roven souču jejich Určee husou pravděpodobnosi souču náhodných veličin τ i i, de τ i, i,,..., jsou nezávislé náhodné veličiny s exponenciálním rozdělením, j. s husoou pravděpodobnosi f ( ) ( ) λexp λ pro a f ( ) pro <. Řešení: Ze vzorce pro souče nezávislých náhodných veličin vyplývá vzah mezi husoou pravděpodobnosi souču a dílčích náhodných veličin, j. mezi f ( ) a f ( ) plaí f ( ) f ( τ) f ( τ) dτ. (-6) + Poslední vzorec předsavuje onvoluci originálů z Laplaceovy ransformace. Pro Laplaceovu ransformaci posloupnosi funcí f ( ),,,... je zřejmé, že obraz L{ f } se bude od obrazu L{ f } liši o součiniel L{ f ( ) } L{ ( ) } ( s ) λexp λ λ + λ, proo L f ( ) λ s+ λ. Podle abule Laplaceovy ransformace plyne { } ( ) f ( ) λ λ exp λ. (-6) (! ) Disribuční funce příslušná husoě f ( ) je F( ) ( ) exp λ a pro disribuční funci, erá přísluší husoě f ( ) plaí ( ) ( ) ( ) F ( ) ( ) d ( ) λ λ λ λ λ + d ( ) λ λ λ! exp exp exp!! ( λ) exp( λ) + F ( ) +! ( λ) F ( ) F ( ) ( ) + exp λ (-6)! Poslední vzah předsavuje reurzivní vzorec, podle erého s rosoucím lesá pravděpodobnos oho, aby souče výše uvedených náhodných veličin byl menší než je časový inerval dély. Poznáma: Shodou oolnosí následující výraz je Poissonův vzorec ( λ) P ( ) ( ) exp λ, (-63)! udávající pravděpodobnos oho, že poče výše popsaných inervalů s náhodnou délou s husoou rozdělení f ( ) ( ) λ exp λ lze za sebou umísi do časového inervalu dély. K omu lze ješě doda, že paramer λ má význam převrácené hodnoy sřední dély zmíněných inervalů 7

24 + + f ( ) d ( ) λexp λ d. (-64) λ.6.5 Cenrální liminí věa V předchozím odsavci byla určena husoa, sřední hodnoa a rozpyl souču dvou náhodných veličin bez omezení jejích vlasnosí. zv. cenrální liminí věa ze zabývá problémem vlasnosí souču vzájemně nezávislých náhodných veličin o obecném poču n, j. n ξ i i. Věšina jevů v různých přírodních a echnicých sysémech je oiž ovlivněna velým počem vzájemně nezávislých dílčích činielů, eré adiivně působí na něerý uazael jejich průběhu, jehož rozdělení pravděpodobnosi je řeba zjisi. Pro velá n lze za dosi obecných podmíne aproximova rozdělené souču náhodných veličin rozdělením normálním. ímo normálním rozdělením jao asympoicým rozdělením se zabývají cenrální liminí věy. Nejprve je předpoládáno, že rozdělení a paramery dílčích náhodných veličin souču jsou shodné, a proo aé jejich sřední hodnoa a rozpyl jsou shodné. V omo případě sřední hodnoa a rozpyl souču podle výše uvedených vzorců jsou dány vzahy n n n n E ξi E{ ξ i} nµ i, D ξi D{ ξi} nσ i i. (-65) i Lze doáza, že pro n onverguje rozdělení souču normálnímu rozdělení, což má důležiý praicý význam, proože onvergence je poměrně rychlá, a proo lze uvés f ( x) σ ( x nµ ) exp n π nσ. (-66) Napřílad generáor náhodných čísel s normálním rozdělením může sčía jen čísel s rovnoměrným rozdělením a rozdělení souču ěcho čísel se je praicy blíží normálnímu rozdělení. Pro rovnoměrné rozdělení pravděpodobnosi náhodné veličiny v inervalu nula až jedna je sřední hodnoa ohoo souču rovna šesi a rozpyl roven jedné. Normalizované rozdělení lze edy zísa pouhým odečením šesy od zmíněného souču náhodných veličin. Generování náhodného čísla z uvedeného inervalu paří mezi záladní funce mnoha programovacích jazyů. Je řeba si všimnou, že inerval hodno je omezen na ± 6σ. Vlasnosmi souču náhodných veličin se zabývalo mnoho maemaiů za obecnějších podmíne ve srovnání s ěmi, eré byly výše uvedeny ve velmi zjednodušené verzi. V něerých případech normálnímu rozdělení onvergují aé součy veličin s různým rozdělením a paramery. Avša uázalo se aé, že za určiých podmíne může souče onvergova jinému rozdělení. 8

25 3. Charaerisiy náhodných procesů V éo apiole je popsána eorie náhodných procesů. Zájemce se může dovědě podsaně více ze speciální odborné lieraury [,,6,3,3]. Ke sudiu jsou zapořebí rovněž zálady eorie signálů [7,4]. Především je sousředěn zájem na vyhodnocení orelační funce a výonové sperální husoy náhodných procesů a jejich změny průchodem lineárními dynamicými sousavami. 3. ypy náhodných procesů Ja bylo uvedeno v úvodní apiole, sochasicé (náhodné) procesy lze rozděli na sochasicé procesy se spojiým časem a sochasicé procesy s disréním časem. Sochasicý proces s disréním časem je nazýván aé sochasicou posloupnosí. Oba ypy náhodných procesů modelují reálný svě. Z důvodu echnicých možnosí záznamu sochasicých procesů jsou procesy se spojiým časem vzorovány, nejčasěji onsanní vzorovací periodou, což předsavuje jejich převod na náhodné posloupnosi. Obr. 6. Rozdělení časových průběhů náhodných procesů K pojmenování sochasicého procesu se rovněž používá řecé písmeno a samozřejmě v zápisu funce je obsažena nezávisle proměnná, erou je čas. Pro náhodné procesy se spojiým časem se používá označení ξ( ), zaímco pro náhodné procesy s disréním časem se čas umísťuje do indexu řecého písmena, j. ξ. Konréní záznam časového průběhu sochasicého procesu se nazývá realizace. K pojmenování realizace se používá laina, j. napřílad x, resp. x. Veličiny s indexem mohou označova rovněž vzory náhodného procesu se spojiým časem. Rozdíl v pojmenování náhodného procesu a jeho realizace vša není srině dodržován. Obr. 7. Čyři realizace náhodného procesu Supina realizací náhodného procesu ve zvoleném časovém oamžiu předsavuje supinu realizací jedné náhodné veličiny. V určiém časovém oamžiu, napřílad, 9

26 předsavuje proo náhodná funce náhodnou veličinu, j. ξ( ). Přílad se čyřmi realizacemi náhodného procesu je uveden na obr. 7. Pro uo náhodnou veličinu ξ( ) s husoou rozdělení f ( x ξ, ) lze vypočía výběrové charaerisiy a z nich pa odhadnou sřední hodnou µ ( ), rozpyl ( ) a další. Samozřejmě yo charaerisiy jsou obecně funcemi času, což σ je zdůrazněno v zápise husoy pravděpodobnosi. Pro dva časové oamžiy, jmenoviě a, se jedná o dvě náhodné veličiny s určiou husoou pravděpodobnosi f ( x x ),,,. Pro ξ ξ yo náhodné veličiny se lze zajíma napřílad o oeficien orelace. Husoa pravděpodobnosi dvourozměrné náhodné veličiny je obecně funcí zmíněných dvou časových oamžiů. Pro praxi má zvlášní význam případ, dy uvedené záladní číselné charaerisiy, j. sřední hodnoa a rozpyl, na čase nezávisí a oeficien orelace je funcí jen rozdílu. o znamená, že pro husoy pravděpodobnosí plaí f x f x (, ), f ( x, x,, ) f ( x, x, ) ξ ξ. (3-) ξ ξ ξ ξ Náhodné procesy s ěmio vlasnosmi se nazývají sacionární. Naproi omu v případě závislosi uvedených charaerisi na čase se jedná o náhodné procesy nesacionární. V eorii se rozlišují srině a slabě sacionární procesy. Pro slabě sacionární procesy plaí výše uvedená podmína pro dvourozměrné rozdělení. Srině sacionární procesy mají shodná aé vícerozměrná rozdělení pro různá posunuí v čase. Souběžný záznam něolia realizací náhodného procesu není příliš praicý, a proo uo supinu realizací mohou za určiých podmíne nahradi různé úsey jedné časové realizace. ao operace bude bez vlivu na výslede výpoču záladních číselných charaerisi pro procesy sacionární. Pro yo procesy je jejich sřední hodnoa nezávislá na čase. Ja je zřejmé z obr. 8, přílad na obr. 7 byl vyvořen rozdělením jedné realizace náhodného procesu na čyři úsey, a proo jednolivé realizace z následujícího obrázu na sebe plynule navazují. Obr. 8. Realizace sacionárního náhodného procesu Podle popsaného posupu je edy ve suečnosi výpoče sřední hodnoy ze supiny realizací nahrazen průměrem časových vzorů. Podobně lze vypočía rozpyl a další záladní charaerisiy jednorozměrné náhodné veličiny. Obecně je při omo posupu nahrazen výpoče charaerisi ze supiny realizací charaerisiami časového průběhu. ao záměna je možná u zv. ergodicých procesů.

27 Obr. 9. Rozdělení ypů náhodných procesů Náhodné procesy lze edy děli na sacionární a nesacionární a nebo na ergodicé a neergodicé. Je zřejmé, že procesy ergodicé a sacionární procesy mají určié společné vlasnosi. Disuse jejich případných rozdílů je snad vhodným émaem pro specialisy, maemaiy. Praicý inženýr vša může něco užiečného spočía jen pro zv. sacionární ergodicé procesy, a proo yo procesy budou předměem analýz celého ohoo učebního exu. 3. Sřední hodnoa a rozpyl sacionárních a ergodicých procesů Sřední hodnoa z jediné realizace ergodicého náhodného procesu se spojiým časem se vypoče podle vzorce µ E{ x( ) } lim x d. (3-) + Rozpyl ergodicého náhodného procesu lze vypočía z časového průběhu podle následujícího vzorce σ Dx { } lim ( x µ ) d. (3-3) + Pro náhodné procesy s disréním časem se ve vzorcích změní inegrály na sumy, proo K µ E{ x} lim K x, σ Dx { } lim ( x µ ). (3-4) K + K K + K 3.. Cenrované náhodné procesy Při vyhodnocování náhodných procesů je používáno cenrování, což znamená úpravu realizace procesu x na cenrovaný proces x podle následujícího vzorce x x E x. (3-5) { } eno signál má nulovou sřední hodnoou. 3.3 Auoorelační funce Sřední hodnoa a rozpyl jsou charaerisiami prvního řádu. V éo apiole budou definovány charaerisiy náhodných signálů druhého řádu, a o orelační funce, erá je ve suečnosi počáečním momenem druhého řádu m dvojrozměrné náhodné veličiny. Jesliže je hodnocena závislos hodno jednoho náhodného procesu ve dvou různých časových oamžicích, pa se jedná o auoorelační funci (auo-correlaion funcion - ACF). V případě hodnocení závislosi dvou náhodných procesů ve dvou různých časových oamžicích, jedná

28 se o řížovou (vzájemnou) orelační funce. Podobně jao u definice sřední hodnoy lze vyjí při definici auoorelační funce z husoy rozdělení pravděpodobnosi. Plaí ξ ξ + + { } Rξ ξ, E xxfξ ξ x, x,, dxdx, (3-6) de f ( x x ) ξ η,,, předsavuje dvourozměrnou husou rozdělení pravděpodobnosi dvou vzájemně odlišných časových oamžicích. Podmínou sacionariy náhodných procesů byla závislos husoy pravděpodobnosi na vzájemném posunu časových oamžiů a. Auoorelační funce sacionárního procesu je proo funcí vzájemného posunuí τ mezi zmíněnými časovými oamžiy, R ( ) R ( ) R τ ξ ξ, ξ ξ. oo ξ ξ posunuí nebo aé časový inerval mezi časovými oamžiy a má v angličině označení lag a užívá se v poisu grafů orelačních funcí, eré jsou prezenovány MALABem. Pro ergodicé náhodné procesy lze auoorelační funci vypočía ze sřední hodnoy součinu dvou vzájemně shodných avša v čase posunuých realizací náhodného procesu. Proože jde o realizaci x, index auoorelační funce je xx, j. { } R E x( ) x( ) xx τ + τ lim x x+ τ d. (3-7) + U ohoo vzorce je předpoládáno, že náhodný proces je definován pro čas od do +. Pro ergodicé náhodné procesy s disréním časem se ve vzorci změní inegrál na sumu, proo K R xx τ lim xx + τ. (3-8) K + K Auoorelační funce náhodného procesu s disréním časem je rovněž disréní. V posledním vzorci je posunuí τ celé číslo. Auoorelační funce obecného náhodného procesu je sudá, R R xx τ xx τ. Auoorelační funce cenrovaného náhodného procesu souvisí s auoorelační funcí necenrovaného procesu podle vzorce ( ) R x x τ lim x µ x+ τ µ d Rxx τ µ, (3-9) + ja je zřejmé z obr.. Pro auoorelační funci cenrovaných náhodných procesů se užívá rovněž označení ovarianční funce.

29 Obr.. Auoorelační funce obecného náhodného procesu Pro nulové posunuí je auoorelační funce cenrovaného náhodného procesu shodná s jeho rozpylem, σ, proože R x x x R x x lim x d. (3-) + Obecně plaí, že R R xx xx τ, což lze doáza výpočem sřední hodnoy výrazu ( x x ( + τ) ) x( ) + x( + τ) xx ( + τ). Levá srana rovnice je jao druhá mocnina nezáporná, a proo je její sřední hodnoa aé nezáporná. Sřední hodnoa pravé srany vede na výraz, erý má bý nezáporný, a proo E{ x ( ) } + E{ x ( + τ) } E{ x( ) x( + τ) }, (3-) R R xx xx τ. Pro orelační funci cenrovaného náhodného procesu se definuje zv. normovaná auoorelační nebo přesněji ovarianční funce R x x τ ρ ( τ) x x, (3-) σ erá nabývá pro nulové posunuí hodnoy jedna. Hodnoy normované auoorelační funce mají význam orelačních oeficienů mezi vzájemně posunuými hodnoami náhodného procesu. Je zřejmé. že čím jsou časově vzdálenější hodnoy vzorů náhodného procesu, ím je menší jejich vzájemná souvislos a edy v absoluní hodnoě i oeficien orelace. Náhodné procesy lze zaznamena po vzorování s periodou ve varu onečné posloupnosi jeho časově evidisanních vzorů, j. x, i i,,..., N. Auoorelační funci lze v omo případě vyhodnoi jen pro vzájemné posunuí, eré je celočíselným násobem periody vzorování, j. eoreicy pro τ,, ±, ±,..., N. Inegrál pro výpoče časové sřední hodnoy se změní na sumu a pro součiniel je řeba respeova poče sčíanců v sumě. Vzorec pro odhad auoorelační funce zv. přímou meodou je následující N $Rxx( ) xx i i+. (3-3) N i eno odhad je vša vychýlený (biased), proože jeho sřední hodnoa je E R $ N R. (3-4) { xx} xx 3

30 Pouze pro je odhad nesranný. Vychýlení odhadu rose s rosoucím, a proo se výpoče omezuje jen pro < N. Korece vychýlení spočívá v násobení orečním faorem N ( N ). Přímá meoda byla po zavedení rychlé Fourierovy ransformace nahrazena efeivnějším posupem, což bude popsáno v dalších apiolách. 3.4 Vzájemná orelační funce Obecná definice vzájemné orelační funce (cross-correlaion funcion - CCF) se ýá dvou náhodných procesů ξ( ) a η( ), j. ξ η + + { } R E xy f x y dxdy ξ η,,, ξ η,, (3-5) de f ( x y ) ξ η,,, je dvourozměrná husoa pravděpodobnosi. Pro sacionární náhodné procesy závisí husoa pravděpodobnosi na rozdílu časů a, proo vzájemná orelační funce sacionárního procesu je funcí vzájemného posunuí mezi uvedenými časovými oamžiy, R, R R. (3-6) τ ξ η ξ η ξ η Vzájemná orelační funce ergodicých náhodných procesů je závislá jen na rozdílu časových oamžiů a jao vzájemná orelační funce sacionárních signálů. Ergodicia znamená možnos použií sřední hodnoy součinu x y+ ( τ ) v čase výpoču auoorelační funce { } R E x y xy τ + τ lim x y+ τ d. (3-7) + Vzájemná orelační funce není sudá a její maximum nemusí bý pro nulové posunuí, τ. Posunuí pro maximum řížové orelační funce předsavuje dopravní zpoždění mezi oběma náhodnými procesy. Pro vzájemnou orelační funci cenrovaných náhodných procesů se používá rovněž označení řížová ovarianční funce. V definici vzájemné orelační funce ergodicých náhodných procesů s disréním časem se nahradí inegrál sumou a posunuí je celým číslem. V indexu vzájemné orelační funce je pořadí náhodných procesů xy. Pro opačné pořadí yx lze odvodi { } { } R E x y xy τ + τ E y x τ Ryx τ, (3-8) de čas byl nahrazen časem τ. Ja již bylo uvedeno, lze náhodné procesy zaznamena jao onečné posloupnosi vzorovaných hodno xi, yi, i,,..., N. Vzájemnou orelační funci lze v omo případě aé vyhodnoi jen pro vzájemné posunuí, eré je celočíselným násobem periody vzorování, j. eoreicy pro τ,, ±, ±,..., N. Vzorec pro odhad vzájemné orelační funce zmíněnou přímou meodou je následující 4

31 N $Rxy( ) xy i i+. (3-9) N i eno vzorec se rovněž používá odhadu vzájemné orelační funce vzorovaných signálů. O nesrannosi odhadu lze uvés oéž jao pro odhad auoorelační funce. Z důvodu přesnosi odhadu je velios posunuí omezena na < N Vzájemná orelační funce nezávislých náhodných procesů Husou pravděpodobnosi nezávislých náhodných veličin rozloži na součin dvou dílčích huso, j. f ( xy,, ) f ( x) f ( y ξ η,, ξ, η ). Z éo vlasnosi lze odvodi, že vzájemná orelační funce nezávislých náhodných procesů je dána součinem jejich sředních hodno R ( ) E ξ( ) η( ) x f x y f y dy dx ξ η,, ξ, η + + { } { ξ } { η } E E (3-) Pro sacionární cenrované nezávislé náhodné procesy, j. s nulovými sředními hodnoami, je vzájemná orelační funce rovna nule, R ( ) x y. Náhodné procesy s onsanní nebo nulovou vzájemnou orelační funcí se aé nazývají neoherenní Auoorelační funce souču dvou nezávislých náhodných procesů Vlasnos vzájemné orelační funce nezávislých náhodných procesů umožňuje sanovi auoorelační funci souču dvou nezávislých náhodných procesů ξ( ) + η( ). {( ξ η )( ξ η)} { ξ ξ } { ξ } { η } { ξ } { η } { η η } (, ξ ξ ) η( ) η( )(, ) { ξ} { η} { ξ} { η, } (, ) R +, + E + + ξ η ξ η E + E E + E E + E R + R + E E + E E Jesliže oba náhodné procesy jsou cenrovány, j. ξ {, } { η(, )} (3-) E E, pa auoorelační funce souču dvou nezávislých cenrovaných sacionárních procesů je rovna souču jejich dílčích orelačních funcí R R R ξ+ η, ξ+ ητ ξξτ + ηη τ. (3-) 5

32 3.5 Auoorelační funce speciálních náhodných procesů 3.5. Bílý šum Náhodný signál se zvlášními vlasnosmi je bílý šum (whie noise). Přesože eno signál je jen maemaicá absrace, je možné pomocí něj modelova náhodné chyby, jejichž záladní charaerisiou je úplná nahodilos a žádná orelace mezi vzájemně časově posunuými hodnoami. Další uplanění má při popisu přenosových vlasnosí lineárních dynamicých sysémů. Bílý šum e s nulovou sřední hodnoou a se spojiým časem má následující auoorelační funci R E{ ee } ee τ + τ σ eδ τ, (3-3) de σ e má význam rozpylu bílého šumu a δ( ) je Diracova funce. Ja bude uázáno dále, sperum bílého šumu má onsanní úroveň pro všechny frevence. Vzorovaný náhodný proces s vlasnosmi bílého šumu má nulovou sřední hodnou a v definici auoorelační funce neužívá Diracovy funce, ale onečnou hodnou pro nulové posunuí, erá je rovna rozpylu vzorovaných hodno bílého šumu σe Ree( ) E{ ee i i },, + (3-4),. Rozdíl v definicích je zřejmý z obr.. Obr.. Auoorelační funce bílého šumu u spojiého a disréního náhodného procesu Definice bílého šumu se neopírá o určié rozdělení pravděpodobnosi. Požadave na yp rozdělení je edy dodaečný. Jesliže je jeho rozdělení normální, pa eno náhodný proces se nazývá gaussovsý bílý šum. Na obr. jsou dva průběhy realizací 5 vzorů bílého šumu s rovnoměrným a normálním rozdělením pravděpodobnosi. Na horním grafu je bílý šum s rovnoměrným rozdělením v inervalu od -,5 do +,5 a na spodním obrázu je cenrovaný gaussovsý bílý šum s rozpylem rovným jedné. Supnice obou grafů jsou rozdílné. Gaussovsý bílý šum se pohybuje v hranicích ± 3σ s pravděpodobnosí 97,3%. V časovém průběhu náhodného šumu se obvyle umuluje množsví dílčích vlivů, a proo pro jeho jednolivé hodnoy, náhodné veličiny, je nejpřirozenější normální rozdělení pravděpodobnosi. 6