Základy Aplikované Statistiky

Transkript

1 Základy Aplikované Statistiky Ivan Nagy 19. íjna 2008 Obsah 1 Úvod Popis programu BStat Systém Data spojená se systémem P íklady systém Apriorní informace Model Jak se model konstruuje Jaká je neur itost v modelu P íklady model M ení s chybami Po²kozená koruna Regresní dynamický model Diskrétní dynamický model Podmín ná hp jako model Odhadování Odhad pomocí hp Odhad pomocí statistik Spojitý normální model Diskrétní model Optimální bodový odhad podle kvadratického kriteria

2 4 P edpov Jednokroková p edpov Vícekroková p edpov Bodová p edpov P íklad bodové p edpov di pro spojitý model P íklad bodové p edpov di pro diskrétní model Dodatek Predikce s obecným regresním modelem se známými parametry Náznak predikce s neznámými parametry pro korunu ízení Dynamické programování P íklady ízení ízení se spojitým modelem ízení s diskrétním modelem Dopravní p íklady Simulace, odhad a predikce kolon v k iºovatce Simulace a ízení kolon v k iºovatce

3 1 Úvod 1.1 Popis programu BStat 1.2 Systém Systém je to, o co se zajímáme, co sledujeme s cílem poznání a ovliv ování. Pro poznání je t eba m it data, ovliv ování se d je prost ednictvím ízení. Systém sledujeme v diskrétním ase t, kde τ = t T, τ je spojitý as a T je perioda vzorkování. Abychom blíºe osv tlili pojem systém, budeme uvaºovat následující p íklad: Sledujeme ízenou k iºovatku podle obrázku Auta p ijíºd jí jen vodorovn nebo svisle (ºádné odbo ování). Zleva sledujeme intenzitu vjezdu. Ta je st ídav zadrºována a propu²t na podle barev na SSZ a vyjíºdí do pravého ramene. Zde je vyhrazen úsek o délce 1km a v n m je sledován po et automobil, tj. hustota výjezdového proudu. Systém sledujeme v diskrétním ase, nap kaºdých 5 minut. Veli iny, které na tomto systému sledujeme, jsou intenzita vjezdu, zelená a hustota výjezdu. Hodnoty t chto veli in m íme (ur ujeme) v kaºdé period vzorkování (5 minut). Systém, který se ale v ase m ní, sledujeme pr b ºn. Z tohoto hlediska lze v kaºdém okamºiku vzorkování kaºdé veli in p i adit náhodnou veli inu. Vývoj takové veli iny je popsán posloupností náhodných veli in (náhodným procesem) a nam ené hodnoty jsou realizace t chto náhodných veli in (posloupnost nam ených hodnot je realizací náhodného procesu). Na sledovaném systému nás zajímá výstupní veli ina hustota výjezdu. Tato výstupní veli ina bude jist záviset jak na vstupní veli in intenzita vstupu, tak na ízení délka zelené. Tento vztah ale nebude úpln jednoduchý, protoºe vstupní intenzita se uplatní jen v p ípad, kdy ve vstupním rameni nebude trvale kolona, pr jezd automobil, zejména v za átku zelené, bude ovlivn n reakcí idi, pokud bude úsek ve výstupním rameni kde m íme hustotu dosti dlouhý, bude na hustotu mít vliv i situace v p edchozích periodách vzorkování, m ení intenzit vjezdu a samotný pohyb aut p es k iºovatku bude zatíºen poruchami. 3

4 Z uvaºovaného p íkladu je patrné, jaký je ná² pohled na sytém. Systém je realita, na které pozorujeme hodnoty denovaných veli in. Mezi t mito veli inami p edpokládáme nebo vyvozujeme ur ité vztahy. Tyto vztahy popisujeme matematickými rovnicemi mezi uvaºovanými veli inami. Tomuto matematickému popisu íkáme model. Je z ejmé, ºe mezi systémem a modelem je podstatný rozdíl. Model m ºe být více nebo mén podobný systému, nikdy ale nebude totoºný. 1.3 Data spojená se systémem V p edchozím odstavci jsme zmínili data, m ená na systému. Nyní se na n podíváme blíºe. Na následujícím obrázku je nazna en systém (obdélník) a do n ho vstupující nebo vystupující veli iny (²ipky). e v u S x y Tyto veli iny je moºno rozd lit na vstupní u - je to, co zadáváme a ím systém ovliv ujeme, výstupní y - je to, co sledujeme (modelujeme) a co v t²inou chceme ovliv ovat a co m ºeme m it, externí v - je to, co systém ovliv uje, co m ºeme m it ale nem ºeme m nit, stavové x - je to, ím vysv tlujeme vnit ní chování systému mající vliv na výstup, ale co nelze m it, parametry θ - odráºí vnit ní vztahy veli in systému - jejich existenci jenom p edpokládáme nebo pomocí nich vztahy vysv tlujeme (jsou neznámé a mají charakter náhodné veli iny). S daty denovanými na systému je spojeno následující zna ení: y t je výstup v ase t (a podobn i pro ostatní veli iny), d t jsou data v ase t (v t²inou d t = [y t, u t ] je datová dvojice výstup, vstup), d(t) jsou v²echna data od po átku m ení, v etn apriorních, d(0) apriorní data (získaná p ed za átkem standardního m ení - apriorní data). Konkatinace dat: d(t) = [y t, u t, d(t 1) ] kaºdý vyzná, jak umí). (data budou bu vektor nebo mnoºina - a se v tom 4

5 1.4 P íklady systém Ukáºeme n kolik reálných p ípad práv zavedeného pojmu systém. 1. Sledujeme rychlost projíºd jících automobil na jednom pevném míst dané komunikace. Systém: rychlosti automobil. Data: zm ené rychlosti. Systém je bez ízení a pro silnici s omezenou rychlostí a bez saturací lze p edpokládat, ºe okamºité hodnoty rychlosti nezávisí na minulosti. Lze jej tedy jen poznávat - ur it jedno pevné rozd lení rychlostí, platné pro v²echny okamºiky. Jedná se o ne ízený statický systém. 2. Sledujeme vývoj intenzity dopravního proudu v jednom daném míst komunikace. Systém: intenzita dopravního proudu v závislosti na jejích minulých hodnotách. Data: m ené intenzity. Systém je op t bez ízení, ale protoºe v intenzit je ur itá setrva nost (dynamika), generuje intenzitu v závislosti na hodnotách star²ích intenzit. Jedná se o ne ízený dynamický systém. 3. Sledujeme obsazenost na strategickém detektoru v rameni ízené k iºovatky. Systém: obsazenost na detektoru ve vztahu k zelené na SSZ ( ím krat²í zelená, tím del²í kolona a v t²í obsazenost - p i konstantním vjezdu). Data: obsazenost, délka zelené. Systém je ízený a dynamický (auta sen nevypa í jen tak). 4. V dob saturace sledujeme délku kolony v rameni ízené k iºovatky a chceme ji ídit na p edepsanou hodnotu. Systém: délka kolony a její souvislost se vstupní intenzitou a délkou zelené na SSZ. Data: délka kolony, vstupní intenzita, délka zelené. Systém je ízený a dynamický (kolona je, jaká byla, plus to co p ijelo, minus to co odjelo). Kolona je stav, protoºe ji nelze m it ani jednodu²e z m ení dopo ítat. 5. Sledujeme k iºovatku tvaru T a zajímáme se o pom ry odbo ení doprava a doleva. Systém: procenta odbo ení. Data: po et aut odbo ující doprava a doleva, pom r se dopo ítá. Systém je ne ízený, statický s diskrétními veli inami (auto odbo í bu doprava nebo doleva). 6. Sledujeme dv kolony v sousedních ramenech ízené k iºovatky, p i emº hodnoty kolon jsou: ºádná, mala, velká a hodnoty zelené jsou: krátká a dlouhá (v obou fázích) Systém: délky kolon, jejich souvislosti a vliv, který na n má délka zelené. Data: délky kolon, délka zelené (p i konstantních vjezdech). Systém je ízený, dynamický, diskrétní - v²echny uvaºované veli iny jsou diskrétní. 5

6 1.5 Apriorní informace P i praktických aplikacích úloh, ke kterým sm ujeme (odhad, predikce a ízení) je moºno a také nutno zajistit, aby se vyuºila ve²kerá informace o systému, která je k dispozici je²t p ed za átkem standardního sb ru dat (tj. je²t p ed asem t = 1). Zdrojem této informace m ºe být expertní znalost odborník, kte í se systémem d íve pracovali nebo jej dokonce ídili, apriorní data, která byla na systému nam ena p ed za átkem sb ru dat, fyzikální principy, na kterých systém pracuje (fyzikální model systému). Ve²kerou takto získanou informaci je t eba p evést do formy, která je pro zamý²lené algoritmy srozumitelná. Tou je apriorní hustota pravd podobnosti pro odhadované parametry nebo stavy (bude pozd ji). Tento p evod v²ak není zcela triviální, i kdyº pro n j existuje ada metod. Kaºdopádn, pokud apriorní informace není, nebo nejsme schopni ji rozumn vytvo it, rovnom rné rozd lení simuluje po áte ní neznalost a parametry jsou pak po ítány jen na základ informace, získané z m ených dat. P íklad: Uvaºujme pokus, p i n mº sledujeme, jak v k iºovatce automobily odbo ují doprava nebo doleva. Sledovaná veli ina je pom r odbo ení doprava. Tuto sledovanou veli inu m ºeme snadno odhadovat tak, ºe po ítáme, kolik aut odbo ilo doprava (ozna íme V 1 ) a kolik doleva (ozna íme V 2 ). Toto je statistika pro ná² odhad (ozna íme V = [V 1, V 2 ], kterou lze pr b ºn p epo ítávat podle vzorce V t = V t 1 + [δ(x t ; 1), δ(x t ; 0)], kde x t je auto projíºd jící v ase t; x t = 1 znamená ºe odbo ilo doprava a x t = 0 je odbo ení doleva. Tato rekurze za íná s n jakým vektorem V 0, který bychom p irozen denovali jako nulový vektor. Výsledný odhad pom ru odbo ení doprava α se spo te jako α = V 1 V 1 + V 2. Pro po áte ní statistiku rovnu nule a zm ená data: 0, 1, 0, 0, 1, 1, 1 budou odhady rovny 0, 0.5, 0.33, 0.25, 0.4, 0.5, Pokud máme d vod p edem p edpokládat, ºe skute ný parametr α je n kde kolem 0.5, m ºeme nastavit po áte ní statistiku t eba V 0 = [5, 5]. Odhady potom budou 0.45, 0.5, 0.46, 0.43, 0.47, 0.5, Porovnáním obou výsledk je vid t, ºe odhady jsou mnohem klidn j²í. Pokud je skute n skute ný parametr α roven 0.5, pak ná² zásah výrazn pomohl. Pokud není, zanesli jsme do odhadu fale²nou informaci, která jen pomalu vymizí! Poznámka: ƒastým trikem, jak p evést expertní informaci do apriorní hp je její p evod do datové podoby a potom jiº standardn do apriorní hp (a to p edb ºnou identikací z apriorních dat). Tato metoda se nazývá metodou ktivních dat, kdy se um le generují data, která spl ují na²e poºadavky nebo p edstavy. Tato data se pouºijí pro p edb ºnou (apriorní) identikaci a vtisknou do ní na²e apriorní znalosti. 6

7 2 Model Model je matematickým popisem sledovaného systému. Poskytuje popis modelované veli iny v závislosti na dal²ích veli inách systému. Tyto veli iny jsou náhodné, proto není moºno moºno popis o ekávat p esný, ale jen jako pravd podobnostní rozd lení. K tomu p istupuje i skute nost, ºe sám matematický popis nemusí v²echny funkce systému vystihovat dostate n (tzv. chyby modelování), coº do n ho vná²í dal²í neur itost. Veli iny, podílející se na popisu modelované veli iny jsou trojího druhu: m itelné veli iny - vstup, výstup, m ená porucha (náhodné veli iny, jejichº realizace jsme schopni m it), nem itelné veli iny - stav, nem ená porucha, ²um (nelze m it; stav a poruchu lze p edpovídat, ²um nelze; stav má vlastní dynamiku), parametry - nem ené neznámé náhodné veli iny, vyjad ující kvantitativní vztahy mezi veli inami (kvalitativním vyjád ením vztah je struktura modelu). 2.1 Jak se model konstruuje P i konstrukci modelu je t eba ur it dva prvky: strukturu a parametry: Struktura modelu je dána výb rem veli in do regresního vektoru a denuje existenci vazeb mezi modelovanou veli inou a jinými veli inami - v t²inou vstupem a hodnotami kone ného po tu zpoºd ných veli in (maximální zpoºd ní v modelované veli in ur uje ád modelu). Systém m ºe být nejr zn j²í povahy. Existuje v n m ada vazeb a vliv, v t²inou s adou nelinearit. Proto je jeho struktura vºdy jen lep²í nebo hor²í aproximací, která bere v úvahu i otázku linearity a rozumné jednoduchosti. Vodítkem pro její ur ení mohou být fyzikální zákonitosti v systému, zdravý rozum a zku²enost. Kaºdopádn, ur ená struktura m ºe být lep²ím nebo hor²ím základem pro model. Ten se ale stane popisem systému aº tehdy, kdyº ur íme parametry. Ty lze jen výjime n ur it p ímo, proto se odhadují v procesu identikace z dat, m ených na systému. Parametry modelu Volba parametr p i dané struktu e ztotoº uje model s p íslu²ným systémem. Pod tímto ztotoºn ním máme na mysli, ºe pro stejné vstupy budou hodnoty výstupu p edpovídané z modelu blízké skute ným hodnotám výstupu systému. P itom je t eba mít na mysli, ºe parametry modelu mohou být více nebo mén jen na²í p edstavou - nap íklad systémy s rozloºenými parametry (chemické kolony apod.) v bec ºádné parametry, jak my je uvaºujeme, nemají. D leºitá je shoda p edpov di z modelu s realitou. Velmi d leºité v bayesovské statistice je ale to, ºe m ºeme uplatnit na²e apriorní v domosti nebo p edstavy o hodnotách na²ich parametr. Tato tzv. apriorní informace se m ºe týkat bu toho, ºe tu²íme, jaké hodnoty by parametry m ly mít, nebo naopak toho, jaké hodnoty nesmí mít. Ob tyto znalosti lze do procesu identikace vnutit, a to dokonce s p edem ur enou váhou (d leºitostí). O zdrojích apriorní informace viz Kapitola

8 2.2 Jaká je neur itost v modelu Podstatným rysem p edvád ných model je to, ºe popisují systém p i neur itosti. Pod neur itosti si kaºdý v t²inou p edstaví n jakou poruchovou veli inu, kterou nejsme schopni m it ani p edpovídat a která ovliv uje výstup systému. To je samoz ejm jeden z moºných zdroj neur itosti. T chto zdroj je ale více. Jsou to: Chyba ve struktu e modelu. Tato chyba je vºdy více nebo mén p ítomna a zp sobuje, ºe ani p i dokonalé identikaci není úplná shoda modelu se systémem. Chyba v parametrech modelu. I p i dobré struktu e lze získat nedostate ný model, nap. jestliºe dat pro identikaci bylo p íli² málo, nebo informace v nich obsaºená byla nedostate ná. Poruchové veli iny v systému. Jedná se o ²umy. Model navíc p edpokládá, ºe ²umy jsou nezávislé na veli inách obsaºených v regresním vektoru. Pokud jsme ²umy podcenili a poºadovaná nezávislost je naru²ena, p istupuje zde i porucha ve struktu e - ²umy m ly být modelovány a jejich dynamika se zanedbala. Neznámé, odhadované veli iny (stavy, externí veli iny). N kdy se m ºe stát, ºe prakticky jisté ná² modelovaný výstup závisí na veli inách, které v²ak nem ºeme p ímo m it a jejich hodnoty musíme odhadovat. To vná²í do do modelu dal²í neur itost. 2.3 P íklady model M ení s chybami Nejjednodu²²í model pro spojité náhodné veli iny je zadán následující rovnicí y t = k + e t. Jedná se nap. o opakované m ení ur itého rozm ru s chybami m ení. y t je nam ená hodnota v ase t, k je skute ný neznámý rozm r a e t je chyba m ení v ase t. P edpokládáme, ºe rozd lení ²umu je známé (normální s nulovou st ední hodnotou a známým rozptylem). Jestliºe bychom znali k, pak rovnice p edstavuje transformaci (translaci) hp ²umu e na výstup y. Jestliºe k neznáme, vstupuje do hry odhadování (viz Kapitola 3). Co tedy tento model ur uje, je podmín ná hp f (y t k), která je stejná jako f (e t ), ale posunutá e st ední hodnot do k. Jedná se o podmín nou hp, protoºe jen p i znalosti k dává popis výstupu y t. V systému BStat lze pro simulaci takového modelu pouºít m-le Ex11sim.m Po²kozená koruna Nejjednodu²²í diskrétní model je model po²kozené koruny, tj. koruny, kde rub (y t = 0) padá s danou pravd podobností p a líc (y t = 1) s dopl kovou pravd podobností(1 p). Tento model má alternativní rozd lení a jeho hp je f (y t p) = p yt (1 p) 1 yt, y t {0, 1}, p (0, 1). (1) Model je op t zadám podmín nou hp, protoºe bez znalosti p jej nelze pouºít. Jedná se o statický diskrétní model. 8

9 2.3.3 Regresní dynamický model Modely tohoto typu jsou dynamické, to znamená, ºe asový vývoj jejich výstupu není skokový, ale podléhá ur ité dynamice. My se omezíme na modely, jejichº dynamický vývoj je ur en diferen ní rovnicí, a tedy vývoj jejich výstupu je dán jako tlumená nebo netlumená sm s exponenciál, sin a cosin p ípadn mocnin asu - viz e²ení diferenciálních a diferen ních rovnic. Autoregresní model Nejjednodu²²ím dynamickým modelem uvedeného typu je ne ízený autoregresní model 1. ádu. Tento model popisuje odezn ní po áte ní podmínky y 0 = η, za p ítomnosti poruchy e t, kde e t N ( 0, σ 2). Jeho rovnice je y t = ay t 1 + e t a denuje hp f ( y t y t 1, a, σ 2), protoºe jen p i znalosti veli in v podmínce lze z rovnice po ítat realizace výstup y t. ízený dynamický model Proti p edchozímu modelu jsme zde p idali ízení. Model tedy nepopisuje jen odezn ní po áte ní podmínky ale jeho výstup m ºe být ovládán ídící veli inou u t - samoz ejm ne p ímo, ale p es dynamiku modelu. Jeho rovnice je y t = bu t + ay t 1 + e t a hp f ( y t u t, y t 1, b, a, σ 2). Obecný regresní model Budeme-li nyní p idávat na pravé stran modelu dal²í zpoºd né veli iny a jim odpovídající parametry, dojdeme k obecnému dynamickému regresnímu modelu ur itého ádu (po et zpoºd ných modelovaných veli in). Rovnici modelu lze zapsat takto kde ψ t = [u t, y t 1, u t 1,, y t n, u t n, 1] je regresní vektor a y t = ψ tθ + e t, (2) θ = [b 0, a 1, b 1,, a n, b n, k] je vektor parametr, se azený tak, aby odpovídal po adí veli in v regresním vektoru. k je konstanta modelu, které v regresním vektoru odpovídá jedni ka, e t je náhodná veli ina s nulovou st ední hodnotou, konstantním rozptylem σ 2, která je nezávislá na veli inách v regresním vektoru. 9

10 2.3.4 Diskrétní dynamický model Diskrétní modely nelze dob e popsat rovnicí regresního typu, protoºe p i násobení a s ítání bychom vybo ili z povolené mnoºiny hodnot výstupu. P i jejich popisu budeme proto postupovat podobn jako p i popisu hodu po²kozenou mincí (1). Vyuºijeme toho, ºe diskrétní systém se m ºe vyskytovat jen v kone ném po tu stav, daných v²emi moºnými kombinacemi hodnot sledovaných veli in, a t mto stav m p ímo p i adíme jejich pravd podobnosti. Tak dostaneme model p ímo jako podmín nou hp f (y t ψ t, θ), kde y t ψ t jsou sledované veli iny a θ je tenzor pravd podobností stav, tj. r zných kombinaci vektoru y t ψ t. Prvky parametru θ budeme zna it θ yt ψ t. Hodnoty diskrétních veli in, pro jednotnost, ozna íme p irozenými ísly 1, 2, 3,... Autoregrese Ne ízený dynamický diskrétní model bude mít tvar f (y t y t 1, θ) = θ yt y t 1. Parametr θ má v tomto p ípad tvar matice, nap. pro y {1, 2} [ θ1 1 θ θ yt yt 1 = 2 1 θ 1 2 θ 2 2 ] = [ ]. V²imn me si, ºe sou ty v ádcích musí být vºdy 1. Jestliºe minule nastalo y t 1 pak nyní musí nastat jedna z moºností - y t = 1 nebo y t = 2. Jiná moºnost není, proto sou et jejich pravd podobností musí být jedna. ízená koruna s pam tí Budeme sledovat p edchozí model a p idáme je²t ízení u t. M ºeme si p edstavit hod fale²nou korunou, kde pam y t 1 je dána výsledkem minulého jodu (nap. rozváºení koruny zne i²t ním jedné strany) a ízení u t je dáno stranou, kterou je koruna poloºena na dla p ed hodem. Model bude f (y t ψ t, θ) = θ yt ψ t, kde ψ t = [u t, y t 1 ]. Struktura parametru θ bude následující θ yt ψt t = 1 y t = 2 ψ t = [1, 1] θ 1 11 θ 2 11 ψ t = [1, 2] θ 1 12 θ 2 12 ψ t = [2, 1] θ 1 21 θ 2 21 ψ t = [2, 2] θ 1 22 θ 2 22 kde θ i jk 0 a i θ i jk = 1. Na tento model lze pohlíºet jako na ty i modely, pro ty i r zné koruny. Kaºdá koruna je ur ena regresním vektorem ψ t = [u t, y t 1 ] a její parametry jsou v ádcích matice θ. 10

11 2.4 Podmín ná hp jako model Z p edchozího p ehledu základních typ diskrétních model plyne, ºe model je zadán jako podmín ná hustota pravd podobnosti f (y t ψ t, θ). Na tuto hp lze pohlíºet jako na schéma, které ur uje modelovanou veli inu (to, co je p ed svislítkem) a veli iny, na kterých modelovaná veli ina závisí (to, co je za svislítkem). To ale není v²e. Jedná se skute n o model - coº je n co, co ur uje modelovanou veli inu a závislost na jiných veli inách. Protoºe modelovaná veli ina y t je náhodná veli ina, lze ji ur it pouze jako její pravd podobnostní rozd lení. Tento tvar modelu dostaneme i v p ípad spojitých model. Sledujeme li rovnici modelu vidíme na pravé stran len ψ tθ, coº je konstanta a e t, coº je náhodná veli ina, daná svým rozd lením. Rovnice tedy ur uje rozd lení y t jako transformaci (translaci) rozd lení ²umu e t. Jedná se o podmín né rozd lení, protoºe jen v p ípad znalosti podmínky lze model pouºít. 3 Odhadování 3.1 Odhad pomocí hp Základem je Bayes v vzorec f (θ d (t)) f (y t ψ t, θ) f (θ d (t 1)) (3) ve kterém vystupují dva druhy hp f (y t ψ t, θ), coº je hp modelu, f (θ d (t 1)) resp. f (θ d (t)), coº je aposteriorní hp z minulého resp. sou asného okamºiku. Tento vzorec ur uje vývoj aposteriorní hp od tzv. apriorní hp f (θ d (0)) = f (θ)do které je postupn s pomocí hp modelu p edávána informace z dat. Poznámka: Vztah (3) dostaneme aplikací Bayesova vzorce. P i tom jsme vyuºili skute nost, ºe model sytému nezávisí na datech star²ích neº je jeho ád (tj. závisí jen na datech obsaºených v regresním vektoru), a dále jsme vyuºili tzv. p irozené podmínky ízení, které íkají, ºe jestliºe po ítáme ízení u t i odhady parametru θ pouze ze star²ích dat d(t 1), pak platí f (θ, u t d (t 1)) = f (θ d (t 1)) f (u t d (t 1)), (4) tedy ízení a parametry jsou podmín n nezávislé. Odtud: f (θ u t, d (t 1)) = f (θ d (t 1)). Uvedená rekurze provádí p epo et mezi funkcemi - její p ímá realizace není moºná. Proto je t eba p ejít k ur ité parametrizaci hp a funkcionální rekurzi p evést na algebraickou pro statistiky. 11

12 3.2 Odhad pomocí statistik Spojitý normální model V tomto odstavci se budeme zabývat modelem pro spojité veli iny s normálním rozd lením hp, coº je tzv. regresní model (viz kapitola Modely). Jeho tvar je: diferen ní rovnice + ²um. Tento tvar regresního modelu dále upravíme tak, aby byl vhodný pro odhad. Poznámka: Podíváme-li se na obecný Bayes v vztah vidíme, ºe v kaºdém kroku je nová aposteriorní hp dána sou inem modelu a staré aposteriorní hp. Bude-li tvar modelu a aposteriorní hp nekompatibilní, budou mít sou iny stále sloºit j²í tvar. Proto musíme pro apriorní hp nalézt tzv. kompatibilní tvar tak, aby sloºitost sou in nenar stala. f (y t ψ, θ) = { 1 exp 1 ( ) } 2 2πσ 2 2σ 2 y t ψ tθ kde θ je vektor parametr a ψ je regresní vektor. Nyní si v²imneme kvadrátu v exponentu ( ) 2 [ y t ψ tθ = 1, θ ] [ y t ψ t ] [yt, ψ ] [ 1 θ ] = [ 1, θ ] D t [ 1 θ ] kde D t se nazývá datová matice. Podle tohoto vzoru budeme konstruovat apriorní hp { f (θ) exp 1 ( [ ])} 1 2σ 2 [ 1, θ] V 0 θ kde V 0 je informa ní matice apriorní hp parametr. Dosazením do Bayesova vzorce dostáváme aposteriorní hp v analogickém tvaru { f (θ d (t)) exp 1 ( [ ])} 1 2σ 2 [ 1, θ] V t θ [ yt kde V = V t 1 + D t = V t 1 + ψ t ] [ ] y t, ψ t. P íklad: Pro regresní model 1. ádu y t = a 1 y t 1 + b 0 u t + e t zde je: vektor parametr θ = [a 1, b 0 ] a regresní vektor [y t 1, u t ]. P epo et statistiky Po áte ní (apriorní) informa ní matice V 0 bude 3x3 a pokud nemáme ºádnou apriorní informaci, m la by být nulová. Z d vodu stability pr b ºného odhadu se v t²inou volí jako diagonální s velmi malou diagonálou, asi tak

13 Update statistiky m ºe probíhat bu postupn on-line nebo najednou o-line. [ ] yt [yt V t = V t 1 +, ψ ] nebo V t = V 0 + [ ] N yi [ ] y i, ψ i ψ t On-line p epo et má tu výhodu, ºe lze d lat pr b ºné odhady parametr. Výpo et bodových odhad Pro výpo et bodových odhad rozd líme informa ní matici takto V t = [ Vy V yψ V yψ V ψ ] i=1 ψ i kde V y je (1 1), V yψ je (n 1) a V ψ je (n n) matice. Bodové odhady regresních koecient pak jsou ˆθ = V 1 ψ V yψ. D kaz: Provedeme pro bodové odhady po ítané metodou ML (maximum likelihood). Tato metoda vede na jednoduchý výpo et a pro symetrické rozd lení aposteriorní hp - coº je v tomto p ípad známého rozptylu spln no - dává stejný výsledek jako podmín ná st ední hodnota, která je optimálním bayesovským bodovým odhadem (pro kvadratické kriterium optimality - bude dále). Pro nulové po áte ní podmínky je aposteriorní hp rovna v rohodnostní funkci, a tedy hledáme její maximum: { ˆθ = arg max exp 1 ( [ 1, θ ] [ ])} 1 [ θ 2σ 2 V t = arg min 1, θ ] [ ] [ ] Vy V yψ 1 θ θ V yψ V ψ θ [ Vy V [ 1, θ] yψ V yψ V ψ ] [ 1 θ ] St ední hodnota - dopln ním exponentu na tverec v θ Struktura p íkladu: = V y 2V yψ θ+θ V ψ θ derivace 2V yψ +2V ψ θ = 0 ˆθ = (V ψ ) 1 V yψ Pro daný p íklad platí V y = y 2 i, V yψ = [ ] yi y i 1, V yi u ψ = i [ ] y 2 i 1 yi 1 u i yi 1 u i u 2 i Diskrétní model Zde ukáºeme, jak p evést obecnou odhadovací rekurzi (Bayes v vzorec) na rekurzi algebraickou pro obecný diskrétní model. Nejd íve vyjád íme formáln model v tzv. sou inovém tvaru f (y t ψ t, θ) = θ yt ψ t = y ψ θ δ(y ψ;yt ψt) y ψ 13

14 Apriorní hp volíme tak, aby sou in na pravé stran Bayesova vzorce z stal v uzav eném tvaru, tedy f (θ d (0)) = y ψ θ V y ψ;0 1 y ψ Potom rekurze probíhá podle vzorce V t = V t 1 + δ (y ψ; y t ψ t ) t.j. V yt ψ t;t = V yt ψ t;t s po áte ní maticí V 0. P íklad: Pro ízenou korunu s pam tí (pam = co padlo minule, ízení = jak je poloºena p i hodu) závisí y t na y t 1 a u t. Regresní vektor tedy bude ψ t = [y t 1, u t ]. Model lze zapsat v maticovém taru f (y t y t 1, u t ) y t = 0 x t = 1 [y t 1, u t ] = [0, 0] θ 0 00 θ 1 00 [y t 1, u t ] = [0, 1] θ 0 01 θ 1 01 [y t 1, u t ] = [1, 0] θ 0 10 θ 1 10 [y t 1, u t ] = [1, 1] θ 0 11 θ 1 11 Z n ho je patrná struktura modelu. Sou inový tvar bude f (y t, y t 1, u t ) = θ δ(y;yt)δ(y1;y t 1)δ(u;u t) y y1,u = y=0,1 y1=0,1 u=0,1 = θ δ(0;yt)δ(0;y t 1)δ(0;u t) 0 00 θ δ(1;yt)δ(0;y t 1)δ(0;u t) 1 00 θ δ(0;yt)δ(0;y t 1)δ(1;u t) 0 01 = θ yt y t 1,u t Apriorní hp f (θ d (0)) = [y y1,u] θ V y y1,u;0 1 y y1,u, kde matice V 0 má stejnou strukturu jako matice θ v modelu. Její prvky jsou apriorní statistiky pro odhad. Aktualizace této matice p i pr b ºné akumulaci informace z m ených data probíhá takto: θ Podle aktuální kongurace vektoru [y t y t 1, u t ] zjistíme, který prvek matice V je aktuální. K aktuálnímu prvku p i teme jedni ku. Pozn.: kaºdému prvku odpovídá jeden stav systému, my po ítáme kolikrát který stav nastal. Bodové odhady prvk parametru θ se vypo tou tak, ºe odpovídající prvek matice V t se vyd lí sou tem v²ech prvk v témºe ádku. 14

15 D kaz: D kaz provedeme pro oby ejnou korunu, protoºe na ízenou korunu s pam tí lze pohlíºet jako na ty i oby ejné koruny, vybírané podle vedlej²í okolnosti, kterou je aktuální kongurace regresního vektoru ψ t = [y t y t 1, u t ]. D kaz tedy provedeme pro obecnou okolnost. V p ípad oby ejné koruny bude informa ní matice V t jedno ádková a aposteriorní hp bude f (θ d (t)) = y θ Vy;t 1 y = θ V 0;t 1 (1 θ) V 1;t 1. Bodový odhad podle bayesovských princip je podmín ná st ední hodnota ˆθ t = E [θ d (t)]. Tento výpo et pot ebuje znalost teorie kolem beta a gama funkcí, proto budeme rad²i po ítat bodový odhad metodou MAP (maximum posterior probability), coº je prakticky metoda ML (maximum likelihood) aº na p idanou apriorní hustotu. Tento odhad vyjde nepatrn jinak. Abychom dostali stejný výsledek, musíme zahrnout jedni ku v exponentu aposteriorni hp do matice V. Optimální odhad dostaneme jako argument maxima aposteriorní hp. Derivujeme (pro p ehlednost vynecháme as t) [ θ V 0 (1 θ) V 1] = V0 θ V 0 1 (1 θ) V 1 θ V 0 V 1 (1 θ) V 1 1 = 0 V 0 (1 θ) = θv 1 ˆθ = V 0 V 0 + V Optimální bodový odhad podle kvadratického kriteria Odhadujeme neznámý parametr θ na základ m ených dat a apriorní informace obsaºených v d (t). Optimální odhad ˆθ má minimalizovat kriterium = min ˆθ = min E ˆθ { E [ ( min E θ ˆθ ) ] 2 d (t) ˆθ [ ( = min E θ E [θ d (t)] + E [θ d (t)] ˆθ ) ] 2 d (t) = ˆθ [ ( (θ E [θ d (t)]) 2 2 (θ E [θ d (t)]) E [θ d (t)] ˆθ ) ( + E [θ d (t)] ˆθ ) ] 2 d (t) = [ ] [ ( (θ E [θ d (t)]) 2 d (t) 2E (θ E [θ d (t)]) E [θ d (t)] ˆθ ) ] [ ( d (t) + E E [θ d (t)] ˆθ ) ]} 2 d (t) První len je rozptyl parametru θ, který p edpokládáme konstantní. Prost ední len se rovná nule a pro minimalizaci zbývá pouze poslední len. Ten nem ºe být záporný a jeho minimální hodnoty 0 dosáhneme práv volbou ˆθ = E [θ d (t)]. 4 P edpov P edpov je první ze dvou d leºitých praktických úloh, kterou se zde budeme zabývat. Druhá úloha bude následovat a je jí ízení. Úloha predikce po ítá rozd lení budoucí modelované veli iny na základ dat, dostupných v sou asném asovém okamºiku (tj. sou asných a star²ích dat, ne parametr ). Pokud chceme predikci ur it jako íslo, hovo íme o bodové predikci. Struktura úlohy predikce bude patrná ze základního vzorce, který za chvíli odvodíme. 15

16 4.1 Jednokroková p edpov Známé parametry modelu P i jednokrokové p edpov di odhadujeme p í²tí modelovanou veli inu (výstup). Tato úloha je triviální v p ípad známých parametr modelu soustavy. e²í ji p ímo tento model f (y t u t, d (t 1)) = f (y t ψ t ). Poznámka: Pokud parametry neznáme, ale pouºijeme jejich bodové odhady, je situace stejná. Neznámé parametry modelu V p ípad neznámých parametr modelu je situace trochu komplikovan j²í. Do úlohy je t eba za adit i odhad neznámých parametr. Napí²eme si hp predikce (tzv. prediktivní hp) a budeme se snaºit ji vyjád it pomocí známých hp. f (y t u t, d (t 1)) = f (y t, θ u t, d (t 1)) dθ = f (y t ψ t, θ) f (θ d (t 1)) dθ. P i úpravách jsme vyuºili následující skute nosti P idali jsme a ihned vyintegrovali (marginalizace) veli inu θ. Pouºili jsme et zové pravidlo - rozvoj sdruºené hp. V modelu jsme vynechali data star²í, neº je jeho pam - z stal jen regresní vektor ψ t. V poslední hp jsme podle p irozených podmínek ízení vynechali u t. V²echny integrály jsou ur ité a obor integrace je oborem hodnot p íslu²né náhodné veli iny, p es kterou integrujeme. Podívejme se nyní na význam pravé strany p edchozího vztahu. První hp je model se známými parametry. Ten p edpokládáme, ºe máme v ruce. Dal²í hp popisuje neznámé parametry. Tu p ímo neznáme, ale postupn ji odhadujeme (viz Odhadování) z po áte ní apriorní hp. Vzore ek funguje zhruba takto: Chceme dosadit do modelu, ale neznáme p esnou hodnotu parametr. Vezmeme tedy v²echny moºné hodnoty a jejich pravd podobnosti a postupn je dosazujeme do modelu, váºíme odpovídajícími pravd podobnostmi a po ítáme váºený pr m r. Vývoj hp neznámého objektu pomocí Bayesova vzorce a práv popsané vyuºití vypo tené hp ve form úplné pravd podobnosti tvo í základní principy bayesovského p ístupu k neúplné znalosti. 4.2 Vícekroková p edpov V p edchozím odstavci jsme odhadovali modelovanou veli inu pro p í²tí asový okamºik vzorkování. Pro p edpov jsme tedy m li k dispozici v²echna data - neur itost byla zp sobena jen ²umem (nebo nep esnou znalostí parametr ). Pokud je na²ím cílem p edpovídat dále neº na p í²tí krok, mluvíme o vícekrokové predikci. Tou se budeme zabývat zde. 16

17 Vícekroková predikce je ur ena následující podmín nou hp..... = f (y t+ϑ u t+ϑ, u t+ϑ 1,, u t+1, d(t)) = f (y t+ϑ ψ t+ϑ, θ) f (y t+ϑ 1 ψ t+ϑ 1, θ) f (y t+1 ψ t+1, θ) f (θ d(t)) d(y t+ϑ 1, t+1, θ), kde integrace je mnohonásobná a (doufejme ºe) intuitvn správn pochopená. Rozklad vzorce jsme provedli tak, ºe jsme p idali a ihned vyintegrovali prom nné, které nám chyb li, tj. y t+ϑ 1 aº y t+1 a θ. Dále jsme pouºili et zové pravidlo a fakt, ºe model nezávisí na veli inách star²ích, neº je ád (tj. obsaºených v regresním vektoru). Nakonec u hp parametr jsme je²t vyuºili p irozené podmínky ízení (v podmínce vynechali u t+1 ) - viz (4). Provedený rozklad je velmi názorný a dob e ukazuje, co se vlastn d je. Jednotlivé modely p edstavují jednokrokové predikce (za sebou), a to tak, jako bychom znali parametry. Otázka neznámých parametr se e²í na konci, stejn jako v p ípad jednokrokové predikce s neznámými parametry. Berou se v²echny moºné hodnoty parametr a za výsledek se bere váºený pr m r. 4.3 Bodová p edpov Pokud je p edpov na²ím kone ným cílem, budeme asi hledat ne hustotu pravd podobnosti a íselný odhad - bodovou predikci. Tou je (viz Kapitola 3.3 o odhadování), podmín ná st ední hodnota, tedy E [y t+ϑ d (t)] = y t+ϑ f (y t+ϑ u t+ϑ, u t+ϑ 1,, u t+1, d(t)) dy t+ϑ pro ϑ = 1, 2, Konkrétní výpo et ud láme na jednoduchém p íklad P íklad bodové p edpov di pro spojitý model Uvaºujme regresní model 1. ádu se známými parametry a 1 = a a normálním ²umem s rozptylem σ 2. y t = ay t 1 + e t Budeme po ítat dvoukrokovou p edpov f (y t+2 d (t)) a její bodovou variantu. Budeme postupovat podle obecného vzorce (kde ov²em zmizí hp parametr a integrace p es parametry - v na²em p ípad jsou parametry známé, jejich hp je Dirac v impulz a integrace znamená prosté dosazení jejich hodnot). Abychom dostali poºadovanou prediktivní hp, doplníme a integrujeme chyb jící výstup y t+1. Dostaneme f (y t+2 d (t)) = f (y t+2 ψ t+2, θ) f (y t+1 ψ t+1, θ) dy t+1, (5) coº je integrál ze sou inu model. Hp modelu má tvar { f (y t+1 ψ t+1, θ) exp 1 } 2σ 2 (y t+1 ay t ) 2 17

18 pro as t + 1 a podobn pro as t + 2. Vynechali jsme konstantu a proto pí²eme (úm rnost). Dosadíme vý²e a obdrºíme (odvození viz Poznámka 1) { 1 f (y t+1 d (t)) exp 2σ 2 (a 2 + 1) ( yt+2 a 2 y t ) 2 }, (6) coº je nenormované normální rozd lení, se st ední hodnotou a 2 y t a rozptylem σ 2 ( a ). Bodová predikce ŷ t+2 tedy je ŷ t+2 = E [y t+2 d (t)] = a 2 y t. Poznámka 1: Nazna íme postup úprav od (5) k (6). Budeme si v²ímat jen exponent, bez násobku 1/σ 2. Pro normální rozd lení je to kvadratický dvoj len, kde první len ur uje náhodnou veli inu, pak následuje minus, a pak je st ední hodnota. Vynásobením dvou normálních hp dostaneme sdruºenou normální hp, která má v exponentu sou et kvadratických dvoj len. Na²ím úkolem je tuto sdruºenou hp integrovat podle jedné prom nné. Budeme postupovat podle následujícího schematu f(a, b)da = f(a b)f(b)da = f (a b) db.f (a) = f (a), ve kterém jsme sdruºenou hp rozloºili na podmín nou a marginální, marginální vytkneme z integrálu a integrál z podmín né (jako z kaºdé hp) je 1. Integrál se tedy rovná marginální hp (pozor: správn normované!). V terminech exponent tento postup znamená: umocnit dvoj leny, vybrat prom nnou p es kterou integrujeme, doplnit na tverec v této prom nné a upravit normalizace. Dopln ný dvoj len zmizí a jako exponent (po dopln ní v²eho, co jsme v exponentech vynechali) výsledné hp vezmeme zbytek po dopln ní na tverec. Konkrétn tedy bude (y t+2 ay t+1 ) 2 + (y t+1 ay t ) 2 = y 2 t+2 2ay t+2 y t+1 + y 2 t+1 + y 2 t+1 2ay t+1 y t + y 2 t a dopl ujeme v prom nné y t+1. Dostaneme ( a ) { y 2 t+1 2y t+1 a (y t+2 + y t ) a a2 (y t+2 + y t ) 2 (a 2 + 1) 2 } a2 (y t+2 + y t ) 2 a y 2 t+2 + a 2 y 2 t. První len je exponent podmín né hp, která po integraci zmizí. Z stane jen zbytek, který je ( yt+2 a 2 ) 2 y t a Odtud je parné, ºe výsledné normální rozd lení má st ední hodnotu a rozptyl (tam je²t musíme vrátit σ 2 ) tak, jak jsme uvedli. 18

19 Poznámka 2: Tento jednoduchý p ípad, kde se zachovává normální rozd lení, lze e²it i pomocí modelu v tvaru rovnice. Platí y t+1 = ay t + e t+1 ; y t+2 = ay t+1 + e t+2 = a 2 y t + ae t+1 + e t+2 St ední hodnota je E [y t+2 d (t)] = E [ a 2 y t + ae t+1 + e t+2 d (t) ] = a 2 y t a rozptyl D [y t+2 d (t)] = D [y t+2 ] = D [ a 2 y t + ae t+1 + e t+2 ] = D [aet+1 ] + D [e t+2 ] = ( a ) σ 2. To je stejný výsledek, který jsme obdrºeli p es hp. Cvi ení 1. Ur ete dvoukrokovou predikci pro regresní model y t = bu t + ay t 1 + e t se známými parametry a, b, σ 2. Pro odvození pouºijte model v tvaru rovnice. 2. Ur ete dvoukrokovou predikci s modelem y t = ψ tθ + e t se známými parametry. Odvo te v hp [ dopln ním na tverec. Návod: rozepi²te ψ t = y t, ϕ t 1] P íklad bodové p edpov di pro diskrétní model Budeme sledovat p edchozí p íklad (autoregrese prvního ádu), ale pro diskrétní veli iny. M ºeme si p edstavit, ºe v jednom rameni ne ízené k iºovatky sledujeme tvorbu kolony v závislosti na minulém pozorování. Hodnoty délky kolony volíme takto: 0 - kolona není, 1 - kolona je. Ozna íme-li délku kolony v ase t jako y t, pak platí y t {0, 1}. Model systému bude f (y t y t 1, θ) = θ yt y t 1, kde θ yt y t 1 jsou pravd podobnosti, ºe po minulém stavu kolony y t 1 nastane stav y t. Parametr θ je pevná tabulka (matice), ze které se pouze vybírají odpovídající prvky (viz...). Po ítáme dvoukrokovou predikci f (y t+2 d (t)) podle vztahu (5), jen integraci musíme nahradit sumací. Po dosazení modelu dostáváme f (y t+2 d (t)) = y t+1 θ yt+2 y t+1 θ yt+1 y t. Podíváme-li se d kladn a vezmeme-li v úvahu, ºe výrazy za sumací jsou prvky matice θ, tento vztah neznamená nic jiného, neº násobení násobení této matice sama sebou. Dvoukroková prediktivní hp je tedy op t tabulka (matice), druhá mocnina (matice) modelu. Tato tabulka je indexovaná y t+2, y t. Pro volbu po áte ní podmínky y t vybíráme konkrétní ádek této matice, coº jsou pravd podobnosti p echodu y t y t+2. Jako bodovou predikci m ºeme zvolit index s maximální hodnotou pravd podobnost. 19

20 Pro konkrétní ísla dostaneme: θ = [ ], y t = 0, Prediktivní hp f (y t+2 d (t)) = θ 2 = [ ]. Pro zvolené y t = 0 jsou pravd podobnosti v prvním ádku, tj. P (y t+2 = 0) = 0.51 a P (y t+2 = 1) = 0.49 Bodová predikce je tedy ŷ t+2 = 0. Pokud nevyºadujeme, aby bodová predikce byla z oboru hodnot y, bude její hodnota dána jako podmín ná st ední hodnota, ŷ t+2 = =0.49. Poznámka: Uvedený proces predikce lze v tomto jednoduchém p ípad znázornit pomocí grafu: t t+1 t+2 kde as se pohybuje zleva doprava. V kaºdém asovém okamºiku existují dva stavy (svislé krouºky s hodnotami 0 a 1. ipky znázor ují p echody mezi stavy a ísla u ²ipek jejich pravd podobnosti. Tak nap. ze stavu 0 do stavu 0 se dostaneme bu rovn a rovn, nebo dolu a nahoru. Tomu odpovídá pravd podobnost = 0.51, coº odpovídá p edchozímu výsledku (prvek 1,1 v matici predik ní hp). 20

21 4.4 Dodatek Predikce s obecným regresním modelem se známými parametry odvození pro y t = ψ tθ + e t Náznak predikce s neznámými parametry pro korunu ukázat, jak se musí vzít v úvahu v²echny moºnosti vývoje 5 ízení Nejd leºit j²í úlohou je úloha ovliv ování systému, tj. ízení. P i této úloze volíme ídící veli inu u t tak, abychom dosáhli poºadovaného chování systému, nebo se tomuto chování alespo co nejvíce p iblíºili. Chceme-li se co nejvíce p iblíºit, musíme denovat ur ité kriterium kvality chování systému a ízení volit tak, abychom dosáhli optimální hodnoty kriteria (maximum nebo minimum, podle formulace kritéria). Budeme tedy po ítat optimální ízení. Pro ízení uvaºujeme následující situaci: Jsme v ase t a chceme systém ídit κ krok dop edu, tedy od asu t + 1 do asu t + κ. Na celém tomto intervalu poºadujeme aby ízení bylo optimální podle zvoleného kriteria. Poznámka: Poºadovat optimalitu pouze pro jeden krok ízení je nebezpe né. Takovýto optimální ídící algoritmus m ºe generovat ídící zásahy, které jsou sice v daném kroku nejlep²í, ale jsou velmi nevýhodné pro dal²í ízení. Dokonce mohou vést k nestabilnímu chování soustavy. 5.1 Dynamické programování Pro odvození algoritmu syntézy ízení pouºijeme princip dynamického programování, které provádí minimalizaci kriteria ízení odzadu. tj. od asu t + κ proti sm ru asu. P i této postupné mimimalizaci se pro kaºdý krok ur uje p edpis pro optimální ízení, závisející na minulých datech. Protoºe ale minimalizaci provádíme od konce, pot ebná data je²t neznáme. Musíme si proto p edpisy pro ízení jen schovávat. Jakmile dojdeme k prvnímu asovému okamºiku horizontu ízení, tj. k asu t + 1, jiº pot ebná data známe a m ºeme íseln ur it u t+1. Toto aplikujeme a získáme y t+1. Máme tedy data aº do t + 1 a m ºeme po ítat u t+2. A tak dále, pro celý horizont ízení. Pro jednodu²²í po ítání a asté pouºití v praxi budeme uvaºovat sou tové kriterium, které je sestaveno z díl ích ztrát na horizontu ízení kde m ºe být nap. λ τ = y 2 τ +ωu 2 τ. Λ κ = t+κ τ=t+1 λ τ, 21

22 e²ením úlohy syntézy ízení s kriteriem Λ κ na Kone ném horizontu je následující rekurze φ τ = min E [ λ τ + φ u τ τ+1 u τ, d(τ 1) ] pro τ = t + κ, t + κ 1,, t + 1 s po áte ní podmínkou φ t+κ+1 = 0. P edpis pro optimální ízení dostáváme p i kaºdé minimalizaci. Poznámka: Uvedenou rekurzi budeme demonstrovat pro t = 0 a na horizontu délky 3. Penaliza ní funkce budou λ 1, λ 2, λ 3 a po áte ní data d(t). ƒas 3: φ 3 = E[λ 3 u 3, d(2)], φ 3 = min u 3 φ 3 u 3 ƒas 2: ƒas 1: φ 2 = E[λ 2 + φ 3 u 2, d(1)], φ 1 = E[λ 1 + φ 2 u 1, d(0)], φ 2 = min u 2 φ 2 u 2 φ 1 = min u 1 φ 1 u 1 Poslední ízení u 1 = u 1 závisí na datech d(0) které jiº jsou k dispozici. Pouºijeme je a dostaneme y 1, máme tedy d(1). Vypo teme u 2 a s jeho pouºitím dostaneme y 2, a tedy d(2). Nakonec vypo teme u 3 a dostaneme y 3. Hodnoty u 1, u 2 a u 3 jsou optimálním ízením na intervalu 1, 2, P íklady ízení ízení se spojitým modelem Ukáºeme vyuºití Dynamického programování pro syntézu ízení se spojitým regresním modelem f(y t ψ t, θ). Pro jednoduchost budeme uvaºovat 1. ád modelu, tedy ψ t = [y t 1, u t ] a θ = [a, b], rozptyl ²umu je σ 2. Kriterium optimality je s kvadratickou penaliza ní funkcí Syntézu ízení op t ukáºeme na horizontu 3. n h (yt 2 + λu 2 t ). t=1 22

23 Poznámka: Opakovan budeme pot ebovat po ítat st ední hodnotu E[y 2 τ y τ 1, u τ ] = D[y τ y τ 1, u τ ] + (E[y τ y τ 1, u τ ]) 2 = σ 2 + (ψ τ θ) 2 = σ 2 + (ay τ 1 + bu τ ) 2 ƒas 3: Nejprve provedeme "výjime ný" krok pro poslední as, ve kterém nep echází ºádný zbytek po minimalizaci z p edchozího kroku. [ φ 3 = E[y3 2 + λu 2 3 u 3, d(2)] = σ 2 + (ay 2 + bu 3 ) 2 + λu 2 3 = (λ + b 2 ) u 3 + ab ] 2 λ + b 2 y 2 + λa2 λ + b 2 y2 2 + σ 2 u 3 = ab λ + b 2 y 2, φ 3 = R 3 y2 2 + S 3 σ 2, R 3 = λa2 λ + b 2, S 3 = 1 ƒas 2: Dále budeme pokra ovat jiº se zbytkem, který jsme se snaºili zapsat v co nejobecn j²ím tvaru. Doufáme, ºe tvar minimalizované ásti kriteria, který dostaneme na za átku 2. kroku bude stejný jako výraz na za átku 1. kroku, jen s posunutými indexy. doplníme na tverec φ 2 = E[y λu φ 3 u 2, d(1)] = E[(1 + R 3 )y λu S 3 σ 2 u 2, d(1)] = = (1 + R 3 )(ay 1 + bu 2 ) 2 + λu (S 3 + (1 + R 3 ))σ 2 = (1 + R 3 )a 2 y (1 + R 3 )aby 1 u 2 + (1 + R 3 )b 2 u λu S 2 σ 2 = = (A 2 + λ)u B 2 y 1 u 2 + C 2 y S 2 σ 2 = [ = (A 2 + λ) u 2 + B ] 2 ( ) 2 A 2 + λ y 1 + C 2 B2 2 y1 2 + S 2 σ 2 A 2 + λ a dostaneme u 2 = B 2 A 2 + λ y 2, φ 2 = R 2 y S 2 σ 2 ƒas 1: Pokra ujeme v dal²ím kroku φ 1 = E [ y λu φ 2 u 1, d(0) ] = E[(1 + R 2 )y λu S 2 σ 2 u 1, d(0)] Tento výraz je, aº na posun index, identický s odpovídajícím výrazem pro as 2. Rekurze je tedy uzav ena a m ºeme psát algoritmus pro libovoln dlouhý horizont 23

24 Algoritmus 1. Start: R nh +1 = 0, S nh +1 = 1 2. For t = n h downto 1 do 3. end (a) A t = (1 + R t+1 )b 2, (b) B t = (1 + R t+1 )ab, (c) C t = (1 + R t+1 )a 2, (d) S t = [(1 + R t+1 ) + S t+1 ], (e) R t = C t B2 t A t+λ, (f) u t = Bt A t+λ y t 1. Realizace ízení za íná od kroku 1 a postupuje ve sm ru asu ízení s diskrétním modelem Nyní budeme aplikovat Dynamické programování na diskrétní model... a kriterium λ dané tabulkou f(y t u t, y t 1 ) = θ yt u t,y t 1 λ yt ut,y t 1 y t = 1 y t = 2 [u t, y t 1 ] = [1, 1] λ 1 1,1 λ 2 1,1 [u t, y t 1 ] = [1, 2] λ 1 1,2 λ 2 1,2 [u t, y t 1 ] = [2, 1] λ 1 2,1 λ 2 2,1 [u t, y t 1 ] = [2, 2] λ 1 2,2 λ 2 2,2 Ukáºeme op t ízení na horizontu 3. ƒas 3: φ 3 = E[λ y3 u 3,y 2 u 3, d(2)] = y 3 λ y3 u 3,y 2 θ y3 u 3,y 2 ƒas 2: u 3 = arg min u 3 φ 3 = fce(y 2 ) φ 3 = φ 3 (u 3, y 2 ) = fce(y 2 ) φ 2 = E[(λ y2 u 2,y 1 + φ 3) u 2, d(1)] = y 2 (λ y2 u 2,y 1 + φ 3)θ y2 u 2,y 1 ƒas 1: u 2 = arg min u 2 φ 2 = fce(y 1 ) φ 2 = φ 2 (u 2, y 1 ) = fce(y 1 ) φ 1 = E[(φ y1 u 1,y 0 + φ 2) u 1, d(0)] = y 1 (λ y1 u 1,y 0 + φ 2)θ y1 u 1,y 0 24

25 u 1 = arg min u 1 φ 1 = fce(y 0 ) φ 1 = φ 1 (u 1, y 0 ) = fce(y 0 ) V ase 1 je k dispozici y 0. Lze tedy vypo ítat u 1, generovat y 1 a sestavit data d(1) = {y 1, u 1, d(0)}. Atd. sm rem nahoru. Konkrétn viz úloha Ex53con. Je²t podrobn ji: St ední hodnota φ 3 = λ 1 u3,y 2 θ 1 u3,y 2 + λ 2 u3,y 2 θ 2 u3,y 2, coº je funkce u 3 a y 2. Minimalizace u = { λ 1 1,y2 θ 1 1,y2 + λ 2 1,y2 θ 2 1,y2 λ 1 2,y2 θ 1 2,y2 + λ 2 2,y2 θ 2 2,y2 Tento p edpis je závislý na y 2, které v okamºiku výpo tu (tj. po kroku 0) je²t neznáme. Nicmén m ºeme zapsat zbytek po minimalizaci A tak dále dol a pak zase nahoru. φ 3 = λ 1 u 3,y 2 θ 1 u 3,y 2 + λ 2 u 3,y 2 θ 2 u 3,y 2 6 Dopravní p íklady 6.1 Simulace, odhad a predikce kolon v k iºovatce Sledovaná soustava Uvaºujeme jedno rameno ízené k iºovatky S z I x y do kterého vjíºdí proud vozidel s intenzitou I. Vzhledem k sv telné signalizaci s pom rem zelené z se v k iºovatce vytvá í kolona o délce x. Auta z kolony vyjíºd jí p es SSZ se saturovaným tokem S a vyjíºd jí z k iºovatky s intenzitou y. K iºovatka je pr jezdná jen v p ímých sm rech. 25

26 Pro velikost kolony x t platí x t = x t 1 + I t Sz t, (7) tedy kolona naroste o to co p ijelo a zmen²í se o to co projelo na zelenou. Pr jezd k iºovatkou je y t = Sz t. (8) To platí, jestliºe kolona JE (tj. kdyº na konci zelené je²t z stanou auta, která neprojela). V p ípad, ºe kolona NENÍ, je situace triviální - kolona je nula x t = 0 (9) a pr jezd je roven vjezdu y t = I t. (10) Simulace Pro simulaci délky kolony v jednom rameni ízené k iºovatky pouºijeme uvedené vztahy takto 1. Zm íme vjezd I t (vezmeme z pr b hu intenzit z reálných dat) 2. Ur íme, zda kolona je nebo není. K tomu slouºí následující nerovnost x t 1 + I t > Sz t. Je-li nerovnost spln na, kolona JE, není-li spln na, kolona NENÍ. 3. V p ípad, ºe kolona JE, pouºijeme vztahy (7) a (8), jestliºe není, platí (9) a (10). P i simulaci zvolíme konstantní pom r zelené z t = z. Model Pro odhad pouºijeme regresní model. P itom vezmeme v úvahu fyzikální podstatu simulovaného systému: 1. ád, externí porucha, ízení. Model zvolíme ve tvaru x t = ax t 1 + bz + ci t + k + e t = ψ tθ + e t, (11) kde ψ t = [x t 1, z, I t, 1] a θ = [a, b, c, k]. Jestliºe p edpokládáme, ºe e t N ( 0, σ 2), pak model je popsán podmín nou hp f ( ) x t ψ t, θ = N ( ax t 1 + bz + ci t + k, σ 2). 26

27 Odhad Pro odhad platí kde roz²í ený regresní vektor d je V t = V t 1 + dd d = [x t, x t 1, z, I t, 1]. Matici V rozd líme na V y, V yf, V f a bodový odhad je ˆθ t = V 1 f V yf. P edpov Pro p edpov budeme uvaºovat model (11) se známými parametry (tj. s dosazenými bodovými odhady z dat aº do asu t). V tomto p ípad lze bodovou predikci po ítat p ímo z rovnice modelu tak, ºe rovnici postupn dosazujeme (bez ²umu). Pro jednoduchost dále uvaºujeme konstantní pom r zelené z t = z a na intervalu predikce konstantní intenzity, rovny naposledy nam eným hodnotám I t. Pro bodové predikce tedy platí x t = ax t 1 + bz + ci t + k x t+1 = ax t + bz + ci t + k = a 2 x t 1 + (a + 1) (bz + ci t + k) x t+2 = ax t+1 + bz + ci t + k = a 3 x t 1 + ( a 2 + a + 1 ) (bz + ci t + k) Platí: a k 1 + a k a + 1 = ( a k 1 ) / (a 1), a tedy Program Hlavní program pro simulaci, odhad a predikci je x t+k 1 = a k x t 1 + ak 1 a 1 (bz + ci t + k). Popis jednotlivých p íkaz je uveden p ímo v programu. Hlavní program vyuºívá proceduru v konkrétním asovém okamºiku. armsim pro p epo et délek kolon v rameni a výpo et pr jezdu 6.2 Simulace a ízení kolon v k iºovatce Sledovaná soustava Uvaºujeme dv ramena sv teln ízené k iºovatky 27

28 y2 I1 x1 S1 S2 z x2 y1 I2 ve kterých se vlivem vjezdových intenzit I 1, I 2 a sv telnému ízení z tvo í kolony s délkami x 1 a x 2. Model soustavy Na²ím cílem bude ídit tak, aby délky kolon byly stejné. Proto zavedeme nové veli iny q t = x 1;t + x 2;t a i t = I 1;t + I 2;t a diskretizaci: q {1, 2, 3}, (rozdíl kolon záporný, nulový, kladný); i {1, 2}(vstupy stejné, r zné); z {1, 2}( ízení 1, 2). ízení budeme po ítat na pro n krok dop edu od sou asnosti (jsme v ase t a chceme ídit od t + 1 aº do t + n). V budoucích okamºicích jsou pro nás neznámy jak délky kolon, tak i vstupní intenzity. Proto je musíme modelovat v závislosti na relevantních veli inách. Model bude f (q t, i t q t 1, i t 1, z t ) = f (q t q t 1, i i 1, z z ) f (i t i t 1 ) kde v druhé hp jsme v podmínce vynechali q t 1 a z t, protoºe na nich i t nezávisí. První hp na pravé stran je zadána maticí 12 x 3 a druhá maticí 2 x 2. ízení Kriterium ω qt,it q t 1,i t 1,z t rozm ry 12 x 6. pro penalizaci jednotlivých stav zadáme op t ve form tabulky, a to s Syntéza ízení se provede postupnou minimalizací od konce intervalu, t.j. sekven ní minimalizací funkce V t = E [ ω + Vt+1 q ] t 1, i t 1, z t (12) 28

29 Postup minimalizace je nejlépe patrný z programu: Model kolon f (q t q t 1, i t 1, z t ) je matice 12 x 3 Vt = min V t z z t. (13) t thq=[ % x %%%%%%%%%%%% q1 i1 z % % % % % % % % % % % % ]; Model intenzity f (i t i t 1 ) je matice 2 x 2 thi=[ % i % 1 2 %%%%%%%% i1 5 2 % % 2 ]; Výsledný model f (q t, i t q t 1, i t 1, z t ) (matice 12 x 6) dostaneme násobením obou áste ných model podle vzorce x t,i t f (q t q t 1, i t 1, z t ) f (i t i t 1 ). Program je následující for q1=1:3 for i1=1:2 for z=1:2 j=1+(z-1)+2*(i1-1)+4*(q1-1); % po adí v ádku for q=1:3 for i=1:2 k=1+(q-1)+3*(i-1); % po adí ve sloupci th(j,k)=thq(j,q)*thi(i1,i); end end end end end 29

30 Penaliza ní funkce ω qt,i t q t 1,i t 1,z t je matice 12 x 6 om=[ % x % i %%%%%%%%%%%%%%%%%% q1 i1 z % % % % % % % % % % % % ]; V kriteriu p i azujeme kaºdému stavu q t, i t q t 1, i t 1, z t penalizaci, t.j. pokutu za to, ºe nastal. V na²em p ípad se snaºíme dosáhnout toho, aby kolony byly stejn dlouhé (tj. stav m s rozdílem kolon p i azujeme velké pokuty). P i minimalizaci postupujeme podle rovnice (12) a optimální ízení získáme p i minimalizaci (13). Odpovídající ást programu je 1 V{n+1}=zeros(12,6); mt=[]; it=[]; % poslední V 2 for i=n:-1:1 % výpo et odzadu 3 V{i}=sum(((om+V{i+1}).*th)')'; % st ední hodnota 4 V2=reshape(V{i},2,6); 5 [mm,ii]=min(v2); % minimalizace 6 it=[it ii']; % pamatování ízení 7 V{i}=ones(12,1)*mm; % zbytek do dal²ího kroku minimalizace 8 end Celý výpo et probíhá v cyklu od konce intervalu ízení sm rem k sou asnému okamºiku. V p íkazu 1 je denována koncová statistika V a její po áte ní hodnota je nastavena na nulu. V p íkazu 3 se provádí st ední hodnota sou tu kriteria a minimalizované statistiky z minulého kroku podle vztahu ( ) ωqt,i t q t 1,i t 1,z t + V 1 xt,it θqt,i t q t 1,i t 1,z t x t,i t kde V 1 qt 1,i t 1 je sloupec, který vznikl jako zbytek po st edování a minimalizaci z minulého kroku t + 1. Tady jsme st edovali p es q t+1 a i t+1 a minimalizovali pro z t+1, tj po ítali z t+1 jako funkci dosud neznámých q t+1 a i t+1, a to pro kaºdou kombinaci q t+1 a i t+1 zvlá². Tedy nap íklad, po st edování dostaneme 30