Pokro ilé statistické metody

Transkript

1 Pokro ilé statistické metody p edná²ky pro doktorandy Obsah 1 Úvodní hodina 2 2 Model a simulace Regresní model Kategorický model Logistický model Stavový model Poznámka Odhad Bayes v vzorec Exponenciální model Regresní model Kategorický model Predikce Regresní model Kategorický model ízení Regresní model Kategorický model Adaptace 19 7 Model sm si a jeho odhad Model Odhad Klasikace klasická a s modelem sm si 28 1

2 9 Stavový model a ltrace Známé parametry modelu S neznalostí parametr modelu Testy hypotéz Aplikace Prediction of trac ow intensity (regression model) Estimation of queue length (discrete model) Classication of road elements safety (logistic model) Testing of safety of road elements in urban trac network Estimation of error in a guess about length of time a interval Psaní v Lyxu 45 1 Úvodní hodina Web: a Doktorské studium Dohody 1. Je mi jedno, jestli n kdo chodí na p edná²ky nebo studuje doma. Nakonec to musí um t! A to jak trochu teorii tak i pouºití v konkrétním p ípad. 2. B hem p edná²ek si m ºete vymý²let podle libosti - co chcete, jak to chcete, víc teorie nebo pouºití, procházet programy Známku dostanete za zpracovanou aplikaci - bu vlastní (téma disertace) nebo vymy²lenou. Nejlépe s reálnými daty nebo alespo se simulovanými. Práci musíte odevzdat na papí e v profesionální úrovni (to není buzerace ale p íprava na disertaci). Práce by m la demonstrovat n kterou z úloh, kterými se budeme zabývat. Doporu uji LYX: Programy UxyCo.. x=model y=úloha Co=typ úlohy model 1 spojitý 2 diskrétní 3 logistický 4 stavový 5 sm sový úloha 1 simulace 2 odhad 3 predikce 4 ízení 2

3 Seznam program progel.pdf - popis úloh ScIntro.sce - inicializace programu ve Scilabu U11sim.sce - simulace s regresním modelem U11simN.sce - simulace s MIMO regresním modelem U12est.sce - odhad regresního modelu ze statistik U12estB.sce - odhad regresního modelu LS U12estN.sce - odhad MIMO regresního modelu U13pre.sce - predikce s regresním modelem U14reg.sce - ízení s regresním modelem U21sim.sce - simulace s kategorickým modelem U22est.sce - odhad s kategorickým modelem U23pre.sce - predikce s kategorickým modelem U24reg.sce - ízení s kategorickým modelem U31sim.sce - simulace s logistickým modelem U41sim.sce - simulace se stavovým modelem U42est.sce - odhad stavu U51simM.sce - simulace s modelem sm si U52estM.sce - odhad modelu sm si 2 Model a simulace Modelem nazýváme podmín nou hp modelované veli iny v závislosti na vysv tlujících veli inách a parametrech f (y t ψ t, Θ) (2.1) kde y t je modelovaná veli ina, ψ t je regresní vektor, který obsahuje veli iny, na kterých y t závisí (bývají tam i zpoºd né veli iny) a Θ jsou parametry modelu. Model m ºe být bu statický nebo dynamický (ψ t obsahuje zpoºd né hodnoty výstupu). Statický model - p edstavuje pravd podobnostní (hustota realizací) kope ek se st edem ve st ední hodnot a ²í kou danou kovarian ní maticí - význam prvk. Hodí se pro systémy, které se nevyvíjejí v ase. Dynamický model - centra kope k jsou závislá na zpoºd ných datech; kope ky se v datovém prostoru pohybují. Modelem také nazýváme v²echno to, co hustotu (2.1) denuje. M ºe to být rovnice nebo tabulka. 3

4 2.1 Regresní model Je denován rovnicí kde. y t = θ ψ t + e t Vícerozm rný model [ ] [ ] [ ] y1;t a11 a = 12 y1;t 1 + y 2;t a 21 a 22 y 2;t 1 [ a11 a = 12 b 1 k 1 a 21 a 22 b 2 k 2 [ ] a 11 a 12 b 1 k 1 a 21 a 22 b 2 k 2 [ b1 b 2 ] u t + y 1;t 1 y 2;t 1 u t 1 ] kde vektor s daty se nazývá roz²í ený regresní vektor Ψ = Statický model P íklad Model spot eby automobilu y 1;t y 2;t y 3;t = k k k 3 k 1 k 2 k 3 + y 1;t y 2;t y 3;t 1 [ k1 k 2 ] + + [ e1;t e 2;t y 1;t y 2;t y 1;t 1 y 2;t 1 u t 1 e 1;t e 2;t e 3;t } {{ } Ψ t = [ y t, ψ t]. = e 1;t e 2;t e 3;t ] [ e1;t [ e1;t e 2;t ] ] = e 2;t Na testovacím aut m íme spot ebu, rychlost, moment motoru a p ír stky nadmo ské vý²ky. Chceme sestavit model spot eby v závislosti na zbylých veli inách. Podle odhadu bude tento systém dynamický - okamºitá spot eba bude záviset na minulé a dal²ích veli inách. Model tedy bude: y t - spot eba, v t - rychlost, m t - moment, n t - p ír stek nadmo ské vý²ky. y t = ay 1t 1 + a 2 v t + a 3 m t + a 4 n t + k + e t Simulace s jednorozm rným regresním modelem je p edvedena v následujícím programu 4

5 // Simulation o f s c a l a r r e g r e s s i o n model o f order n // clc, c l e a r, c l o s e // c l e a r a l l [ u, t, n]= f i l e ( ) ; // f i n d working d i r e c t o r y c h d i r ( dirname (n ( 1 ) ) ) ; // s e t working d i r e c t o r y // g e n e r a t i o n o f r e g r e s s i o n v e c t o r d e f f ( ' ps=genpsi ( t, n, y, u ) ', ' ps =[y ( t (1:n ) ), u( t (0:n ) ) 1 ] ', ' c ' ) nd=100; // number o f data generated // model setup ord =2; // model order tha =[ ] ; // reg. c o e f. a thb =[ ]; // reg. c o e f. b thk= 1; // constant cv =.1; // n o i s e variance // model input g e n e r a t i o n ut (1)=1; j =1; f o r i =2:nd i f rand ( 1, 1, ' u ') >.85, j=rand ( 1, 1, ' n ' ) ; ut =[ ut j ] ; yt=z e r o s (1, nd ) ; th =[ tha ( 1 : ord ) thb ( 1 : ( ord +1)) thk ] ; // r e g r e s s i o n c o e f f i c i e n t s // time l o o p // ============================================ f o r t=(ord +1):nd // time loop ps=genpsi ( t, ord, yt, ut ) ; // r e g r e s s i o n v e c t o r yt ( t)=ps th '+cv rand ( 1, 1, ' n ' ) ; // model s i m u l a t i o n // o f time l o o p ==================================== // Results s =1:nd ; p l o t ( s, yt ( s ), s, ut ( s ) ) leg ( ' output ', ' input ' ) ; t i t l e ( ' Simulation with r e g r e s s i o n model ' ) s e t ( gca ( ), ' data_bounds ', [ 1 nd min ( [ yt, ut ]).1 max ( [ yt, ut ] ) +. 1 ] ) 2.2 Kategorický model coº je dynamická tabulka. f (y t ψ t, Θ) = Θ yt ψ t 5

6 P íklad Klasikace nehod na lehké a t ºké. V ur ité oblasti zaznamenáváme nehody y t (0=lehké, 1=t ºké) a n které veli iny, které je doprovázejí. Konkrétn to jsou: teplota x 1;t (1=pod nulou, 2=nad nulou) a sv tlo x 2;t (1=dobré, 2=²ero, 3=tma). Jsou jen diskrétní veli iny. Model bude [x 1, x 2 ] y = 0 y = 1 1,1 θ 0 11 θ ,2 θ 0 12 θ ,3 θ 0 13 θ ,1 θ 0 21 θ ,2 θ 0 22 θ ,3 θ 0 23 θ 1 23 Simulace s jednoduchým modelem y {1, 2}, u {1, 2} je v následujícím programu // Simulation o f c a t e g o r i c a l model f ( y ( t ) u( t ), y ( t 1)) with y, u=1,2 // clc, c l e a r, c l o s e // c l e a r a l l [ u, t, n]= f i l e ( ) ; // f i n d working d i r e c t o r y c h d i r ( dirname (n ( 1 ) ) ) ; // s e t working d i r e c t o r y getd ( ) ; nd =200; // number o f data th =[.9. 1 // model parameter ] ; ut=f i x (2 rand (1, nd, ' u ' ) ) + 1 ; // gen. o f random input zt=ones (1, nd ) ; f o r t =2: nd // time l o o p ==================================== j=psi2row ( [ ut ( t ), zt ( t 1 ) ], [ 2, 2 ] ) ; // row in parameter t a b l e zt ( t)=sum( rand ( 1, 1, ' u') >cumsum( th ( j, : ) ) ) + 1 ; // g e n e r a t i o n o f y // o f time l o o p ==================================== // Results s =1:nd ; p l o t ( s, zt ( s ), '. ', s, ut ( s ), '. : ' ) leg ( ' output ', ' input ' ) ; s e t ( gca ( ), ' data_bounds ', [ 1 nd ] ) t i t l e " Simulation with c a t e g o r i c a l model" 6

7 2.3 Logistický model Ozna íme p 0 = P (y t = 0 ψ t ) a p 1 = P (y t = 1 ψ t ) (platí p 0 = 1 p 1 ). Pro y t {0, 1} ln p 1 p 0 = θ ψ t + e t Pro y t {0, 1,, n} podobn p i = P (y t = i ψ t ) Kde p i = P (y t = i ψ t, θ), i Invertovaný model Pro θ i ψ t = z i;t je p i = ln p 1 p 0 = θ 1ψ t + e t ln p 2 p 0 = θ 2ψ t + e t ln p n p 0 = θ nψ t + e t exp {z i;t } 1 + j exp {z, i = 1, 2,, n j;t} p 0 = j exp {z j;t} P íklad Klasikace nehod na lehké a t ºké. V ur ité oblasti zaznamenáváme nehody y t (0=lehké, 1=t ºké) a n které veli iny, které je doprovázejí. Konkrétn to jsou: teplota x 1;t (ve o C) a sv tlo x 2;t (1=dobré, 2=²ero, 3=tma). Pro model bude výstup y t, regresní vektor x t = [1, x 1;t, x 2;t ] = [1, teplota, sv tlo] t 2.4 Stavový model Pro nem itelnou veli inu (stav) x t je x t = Mx t 1 + Nu t + F + w t y t = Ax t + Bu t + G + v t 7

8 P íklad Filtrace veli iny m ené se ²umem. M íme za²um nou veli inu y t = x t + v t a chceme z ní vytáhnout istý signál x t. x t = x t 1 + w t y t = x t + v t Stavová rovnice je náhodná procházka - x t se m ºe m nit libovoln (o dynamice jejího vývoje nic nevíme) ale jeho zm ny jsou malé - nemohou být v t²í, neº amplituda ²umu w t která je dána jeho rozptylem. Výstupní rovnice íká, ºe v m eném signálu je istý signál + ²um a velikost toho ²umu je dána rozptylem v t. rozptyly w t a v t (které musíme zadat) ur ují, co jsou zm ny signálu x t a co je dáno ²umem se kterým signál m íme. Jednoduchý program simulace se stavovým modelem je v následujícím programu // Simulation with state space model // x ( t +1) = Mx( t ) + Nu( t ) +w( t ) // y ( t ) = Ay( t ) // clc, c l e a r, c l o s e // c l e a r a l l [ u, t, n]= f i l e ( ) ; // f i n d working d i r e c t o r y c h d i r ( dirname (n ( 1 ) ) ) ; // s e t working d i r e c t o r y [ [ nd=200; // number o f s t e p s M=[.8. 1 // state space model parameters ] ; N= [. 2 ; 1 ] ; A=[0 1 ] ; rw =[ // s t a t e n o i c e covariance ] ; x =[5; 3]; // i n i t i a l s t a t e f o r t =2: nd // time l o o p ==================================== u=rand ( 1, 1, ' n ' ) ; // input y=a x ; // output x=m x+n u+rw rand ( 2, 1, ' n ' ) ; // s t a t e ut ( t)=u ; // s t o r yt ( t)=y ; // the xt ( :, t)=x ; // v a r i a b l e s // o f time l o o p ==================================== // Results s e t ( s c f ( 1 ), ' p o s i t i o n ', [ ] ) subplot ( ), p l o t ( xt ' ) 8

9 t i t l e " Simulatrd s t a t e " subplot ( ), p l o t ( [ yt ut ] ) t i t l e " Simulatrd output and input " 2.5 Poznámka Diskrétní veli iny je vhodné kódovat bez mezer, nap. 1, 2, 3,... Spojité veli iny je moºno pouºít tak, jak jsou, nebo je ²kálovat, tj. ode íst pr m r a d lit sm rodatnou odchylkou x = x x. s kálování má ten význam, ºe prostor, na kterém se veli iny vyskytují je p ibliºn znám (nap. p i po áte ním rozmís ování komponent modelu sm si). 3 Odhad Vytvo ení modelu se skládá ze dvou ástí: 1. Návrh struktury modelu (s neznámými parametry). 2. Odhad neznámých parametr z dat. Odhad sám má také n kolik ástí: 1. Konstrukce apriorních statistik. 2. Pr b ºný odhad z m ených dat. 3. Validace modelu (v t²inou podle chyby predikce). Poznámka 1. Konstrukci apriorních dat (tzv inicializaci odhadu) nejlépe provedeme z apriorních dat, tj. dat, m ených je²t p ed za átkem odhadování. Takových dat je v t²inou k dispozici velké mnoºství, protoºe daný systém jiº existoval a n jak fungoval. Pokud taková data nejsou, nebo chceme do inicializace zavést novou, expertní znalost, m ºeme pouºít tzv metodu ktivních regresních vektor. P i ní si expert p edstaví systém v n mº tato vlastnost dominuje a ur í jaká data tuto skute nost nejlépe vyjad ují. Z t chto dat se potom sestaví n kolik nezávislých regresích vektoru, které se pouºijí jako apriorní data D leºité je si také uv domit, ºe apriorní znalost m ºe být vyjád ena s r znou silou. Ta odpovídá tomu, z kolika regresních vektor (skute ných nebi ktivních) byla získána. Nejlépe je to vid t na korun : rub 1, líc 1 nebo rub 100, líc V t²inou je apriorní informace slabá a hlavní podíl mají data. P i ²patných datech nebo jejich malém mnoºství to m ºe být i naopak - dominuje apriorní (expertní) znalost a data je je potvrzují nebo korigují. 1 Regresních vektor musí být tolik, aby proces odhadu byl regulární. 9

10 3.1 Bayes v vzorec Pr b ºný odhad z dat se ídí Bayesovým vzorcem kde fungují p irozené podmínky ízení. f (Θ d (t)) f (y t ψ t, Θ) f (Θ d (t 1)) Tento vzorec prakticky funguje na statistikách pro konkrétní rozd lení modelu a k n mu konjugovanou hp pro parametry. 3.2 Exponenciální model Postup p i konstrukci algoritmu odhadování ukáºeme na modelu s exponenciálním rozd lením Model f (y t a) = a exp { ay t } Sou in Aposteriorní { } t t f (y τ a) = a t exp a y τ τ=1 τ=1 f (a y (t)) a κt exp { as t } P epo et statistik kde κ 0, S 0 jsou apriorní statistiky. Bodový odhad dostaneme nap. jako maximum likelihood. κ t = κ t S t = S t 1 + y t â t = κ t S t 3.3 Regresní model Podle Bayese Model Aposteriorní f (y t ψ t, Θ) = 1 { exp 1 [ 2πr 2r [ 1, θ ] Ψ t Ψ 1 t θ ( ) κt { 1 f (Θ d (t)) exp 1 [ 1 r 2r [ 1, θ ] V t θ ]} ]} 10

11 P epo et statistik Bodové odhady Poznámka V t = V t 1 + Ψ t Ψ t κ t = κ t ˆθ t = V 1 ψ V yψ a ˆr t = V y V yψ V 1 ψ V yψ κ t P i výpo tu bodových odhad se po ítá inverze matice V ψ která na za átku odhadu nemusí být regulární. V tomto p ípad se doporu uje inicializovat matici V 0 ne jako matici nul, ale jako diagonální matici s velmi malou diagonálo (10 8 ). Úlohu demonstruje následující program // Estimation o f s c a l a r r e g r e s s i o n model o f order n // clc, c l e a r, c l o s e // c l e a r a l l [ u, t, n]= f i l e ( ) ; // f i n d working d i r e c t o r y c h d i r ( dirname (n ( 1 ) ) ) ; // s e t working d i r e c t o r y [ [ d e f f ( ' ps=genpsi ( t, n, y, u ) ', ' ps =[y ( t (1:n ) ), u( t (0:n ) ) 1 ] ', ' c ' ) load datat11. dat Sim yt=sim. Cy. yt ; ut=sim. Cy. ut ; ord=sim. Cy. ord ; th=sim. Cy. th ; nd=length ( yt ) ; npsi =2 ord +3; V=1e 8 eye ( npsi, npsi ) ; f o r t=(ord +1):nd Ps=[ yt ( t ) genpsi ( t, ord, yt, ut ) ] ' ; V=V+Ps Ps ' ; the=inv (V( 2 : $, 2 : $ ) ) V( 2 : $, 1 ) ; disp ( ' Simulated parmeters ' ) disp ( th ) disp ( ' Estimated parmeters ' ) disp ( the ' ) i f length ( th)==length ( the ) bar ( [ th ' the ] ) t i t l e ( ' Simulated and estimated parameters ' ) 11

12 Nejmen²í tverce y 1 = a 1 y 0 + bu 1 + k + e 1 y 2 = a 1 y 1 + bu 2 + k + e 2 y t = a 1 y t 1 + bu t + k + e t kde Potom Y = y 1 y 2 y t, X = Y = Xθ + E y 0 u 1 1 y 1 u 2 1 y t 1 u t 1 ˆθ t = (X X) 1 X Y = ψ 1 ψ 2 ψ t Ŷ = X ˆθ t ( ) ˆr t = var Y Ŷ kde Y Ŷ je chyba predikce. Postup je ilustrován v p íklad // Estimation o f s c a l a r r e g r e s s i o n model o f order 2 by LS // clc, c l e a r, c l o s e // c l e a r a l l [ u, t, n]= f i l e ( ) ; // f i n d working d i r e c t o r y c h d i r ( dirname (n ( 1 ) ) ) ; // s e t working d i r e c t o r y [ [ // d e f f ( ' ps=genpsi ( t, n, y, u ) ', ' ps =[y ( t (1:n ) ), u( t (0:n ) ) 1 ] ', ' c ' ) // how the r e g r e s s i o n v e c t or i s organized in the s i m u l a t i o n // s p e c i f i c a l l y ps = [ y ( t ) y ( t 1) u( t ) u( t 1) u( t 2) 1 ] load datat11. dat Sim // l o a s s i m u l a t i o n yt=sim. Cy. yt ; // output ut=sim. Cy. ut ; // input ord=sim. Cy. ord ; // order th=sim. Cy. th ; // simulated parameters nd=length ( yt ) ; // data length s =3:nd ; // a c t u a l time s1 =2:nd 1; // once delayed time s2 =1:nd 2; // twice delayed time Y=yt ( s ) ' ; // output X=[ yt ( s1 ) ; yt ( s2 ) ; ut ( s ) ; ut ( s1 ) ; ut ( s2 ) ; ones (1, length ( s ) ) ] ' ; 12

13 // g e r e s s i o n v e c t o r s the=inv (X' X) X' Y; // l e a s t squares // Results disp ( ' Simulated parmeters ' ) disp ( th ) disp ( ' Estimated parmeters ' ) disp ( the ' ) i f length ( th)==length ( the ) bar ( [ th ' the ] ) t i t l e ( ' Simulated and estimated parameters ' ) 3.4 Kategorický model Koruna y t {0, 1}. Model kde p 1 = p, p 2 = 1 p. Aposteriorní kde V t = [V 1;t, V 2;t ] je statistika. P epo et statistiky f (y t p) = p yt 1 p1 yt 2, f (p d (t)) p V1;t 1 p V2;t 2 V 1;t = V 1;t pro y t = 1 (rub) V 2;t = V 2;t pro y t = 2 (líc) Odhad ˆp t = [V 1;t, V 2;t ] V 1;t + V 2;t (normalizace) Obecn V obecném p ípad dynamického modelu ve tvaru tabulky je p epo et statistiky V t = V t 1 + yt ψ t kde V t je statistika ve stejné form jako parametr, y ψ je matice nul s jedni kou na pozici y ψ. Odhad ˆθ t je statistika normalizovaná tak, aby sou ty prvk v ádcích byly jedna. Postup je demonstrován v následujícím p íklad 13

14 // Estimation o f c a t e g o r i c a l model f ( y ( t ) u( t ), y ( t 1)) with y, u=1,2 // clc, c l e a r, c l o s e // c l e a r a l l [ u, t, n]= f i l e ( ) ; // f i n d working d i r e c t o r y c h d i r ( dirname (n ( 1 ) ) ) ; // s e t working d i r e c t o r y getd ( ) ; load datat12. dat Sim // load s i m u l a t i o zt=sim. Cz. zt ; // e x t r a c t i o n o f vars ut=sim. Cz. ut ; th=sim. Cz. th ; nd=length ( zt ) ; // number o f data V=z e r o s ( 4, 2 ) ; // s t a t i s t i c s f o r t =2:nd // time loop j=psi2row ( [ ut ( t ), zt ( t 1 ) ], [ 2, 2 ] ) ; // row in parameter t a b l e V( j, zt ( t ))=V( j, zt ( t ))+1; // g e n e r a t i o n o f y the=fnorm (V, 2 ) ; // point e s t i m a t e s ( normalization o f rows o f V) // Results bar ( [ th ( :, 1 ) the ( :, 1 ) ] ) t i t l e ( ' Simulated and estimated parameters ( f i r s t column ) ' ) leg ( ' simulated ', ' estimated ' ) ; 4 Predikce Základní úlohy, e²ené s odhadnutým modelem jsou predikce a ízení. Predikce výstupu je odhad budoucího výstupu se znalostí dat do sou asnosti. Protoºe budoucí výstup je neznámý, je popsán prediktivní hp f (y t+k d (t)) kde k 1. Pro k = 1 mluvíme o jednokrokové p edpov di, kterou realizuje sám model se známými parametry. Pokud parametry neznáme, pak úloha predikce zahrnuje i odhad f (y t+1 d (t)) = f (y t+1 ψ t+1, Θ) f (Θ d (t)) dθ. (4.1) Pro k > 1 (nap. k = 3) jde o vícekrokovou predikci. Pro známe parametry je f (y t+3 d (t)) = f (y t+3 ψ t+3 ) f (y t+2 ψ t+2 ) f (y t+1 ψ t+1 ) dy t+2 dy t+1. Pokud jsou parametry neznámé, bude f (y t+3 d (t)) = f (y t+3 ψ t+3, Θ) f (y t+2 ψ t+2, Θ) f (y t+1 ψ t+1, Θ) dy t+2 dy t+1 f (Θ d (t)) dθ. } {{ } f(y t+3 d(t) t íkrokový prediktor) (4.2) 14

15 a srv. (4.1) a (4.2). Prakticky v t²inou predikujeme s bodovými odhady. 4.1 Regresní model Pro známé parametry, nebo jejich bodové odhady a bodovou predikci pouºijeme postupné dosazování rovnice regresního modelu, nap. y t = ay t 1 + bu t + k + e t, kde e t = 0 kde ˆ ozna uje bodovou predikci. Úlohu ilustruje následující program ŷ t = ay t 1 + bu t + k ŷ t+1 = aŷ t + bu t+1 + k ŷ t+2 = aŷ t+1 + bu t+2 + k // P r e d i c t i o n with s c a l a r r e g r e s s i o n model o f order n // clc, c l e a r, c l o s e // c l e a r a l l [ u, t, n]= f i l e ( ) ; // f i n d working d i r e c t o r y c h d i r ( dirname (n ( 1 ) ) ) ; // s e t working d i r e c t o r y d e f f ( ' ps=genpsi ( t, n, y, u ) ', ' ps =[y ( t (1:n ) ), u( t (0:n ) ) 1 ] ', ' c ' ) load datat11. dat Sim // load simulace // e x t r a c t i o n o f v a r i a b l e s from s t r u c t u r e Sim yt=sim. Cy. yt ; // output ut=sim. Cy. ut ; // input th=sim. Cy. th ; // reg. c o e f f i c i e n t s cv=sim. Cy. cv ; // n o i s e c ovariance ord=sim. Cy. ord ; // model order np=5; // # o f p r e d i c t i o n s t e p s (1= p r e d i c t i o n from the model ) nd=length ( yt ) ; yp=z e r o s (1, nd ) ; f o r t=(ord +1):( nd np+1) // tome loop ====================== y i=yt ( 1 : ( t 1)); // old data ( at time t ) f o r j =0:(np 1) // loop o f p r e d i c t i o n ps=genpsi ( t+j, ord, yi, ut ) ; // r e g r e s s i o n v ector y i ( t+j )=ps th ' ; // a u x i l i a r y p r e d i c t i o n // within the i n t e r v a l yp ( t+np 1)=yi ( t+np 1); // f i n a l p r e d i c t i o n f o r t+np // o f time l o o p =================================== // Results s=(ord +1):( nd np ) ; 15

16 p l o t ( s, yt ( s ), s, yp ( s ) ) leg ( ' output ', ' p r e d i c t i o n ' ) ; t i t l e " P r e d i c t i o n with r e g r e s s i o n model" 4.2 Kategorický model Jednokroková predikce se známými parametry (nebo jejich bodovými odhady) je dána modelem, nap. f (y t y t 1 ) y t = 1 y t = 2 y t = 3 y t 1 = y t 1 = y t 1 = y f (y t y t 1 = 1) bude jako hp dána prvním ádkem, tj. t f (y t 1) odhad bude to y t, které má nejv t²í pravd podobnost - tj. ŷ t = 2. a bodový Vícekroková prediktivní hp se dá jednodu²e spo ítat jen pro tvercový model (který jsme práv uvedli). Ozna íme-li matici v tabulce modelu jako T, pak model prediktivní tabulky pro k krokovou predikci bude T k. A op t, pro konkrétní hodnotu v podmínce vybereme p íslu²ný ádek a v n m maximální prvek. Jemu odpovídá bodová k-kroková predikce. 5 ízení Optimální ízení po ítá ídící veli inu tak, aby se minimalizovalo zadané kriterium J = y 2 t + ωu 2 t nebo J = (y t s t ) 2 + ω (u t u t 1 ) 2 nebo V prvém p ípad ídíme na nulu a penalizujeme celé u t. Pokud ustálené y není nula, z stává regula ní odchylka. V druhém p ípad ídíme na ºádanou veli inu a penalizujeme p ír stky u t. Tady regula ní odchylka nez stává. Pro ízení p edpokládáme model se známými parametry nebo s dosazenými bodovými odhady z externí identikace. P edpis pro ídící veli iny na intervalu ízení dostaneme postupnou minimalizací st ední hodnoty kriteria odzadu, proti sm ru asu. Kdyº dojdeme na za átek intervalu máme k dispozici data pro vy íslení prvního ízení. To aplikujeme a zm íme první výstup soustavy. Tím máme k dispozici data pro vy íslení dal²ího ízení a tak postupujeme ve sm ru asu a ídíme. Pro výpo et ídícího zákona (odzadu) i jeho aplikaci (ve sm ru asu) jsou odvozeny algoritmy. 5.1 Regresní model Nejd íve vyjád íme regresní model ve stavovém tvaru. Potom po ítáme ídící zákon na celém intervalu ízení a nakonec ízení pr b ºn aplikujeme. Situaci demonstruje následující program 16

17 // CONTROL WITH DYNAMIC REG. MODEL WITH CONSTANT // m u l t i v a r i a t e input and output // c o n t r o l with s e t p o i n t // p e n a l i z a t i o n o f input increments // r e c e d i n g horizon in c o n t r o l // clc, c l e a r, c l o s e // c l e a r a l l [ u, t, n]= f i l e ( ) ; // f i n d working d i r e c t o r y c h d i r ( dirname (n ( 1 ) ) ) ; // s e t working d i r e c t o r y getd ( ) ; // load f u n c t i o n s from c urrent d i r rand ( ' seed ', 2 ) ; // s e t seed f o r random generator // S e t t i n g the task ni =150; // length o f p r i o r e s t i m a t i o n nd=200; // length o f c o n t r o l // S e t t i n g the s i m u l a t i o n Sim. Cy. ord =2; // model order Sim. Cy. th ( 1 ). a =[.3.2;.05.3]; // a1 Sim. Cy. th ( 2 ). a =[.1.1; ]; // a2 Sim. Cy. thb0 =[1.4; ]; // b0 Sim. Cy. th ( 1 ). b =[.1 0 ; 0. 2 ] ; // b1 Sim. Cy. th ( 2 ). b =[.1 0 ; 0. 1 ] ; // b2 Sim. Cy. thk =[1; 1]; // k ( const ) Sim. Cy. sd =.5; // n o i s e stdev ord=sim. Cy. ord ; ny=s i z e ( Sim. Cy. th ( 1 ). a, 1 ) ; // dimension o f y nu=s i z e ( Sim. Cy. th ( 1 ). b,2)/(1+ ord ) ; // and u th=sim. Cy. thb0 ; f o r i =1: ord // parameters > v e c tor th th =[ th Sim. Cy. th ( i ). a Sim. Cy. th ( i ). b ] ; th =[ th Sim. Cy. thk ] ; k=sim. Cy. thk ; sd=sim. Cy. sd ; // S e t t i n g the c o n t r o l Con. Cy. nh=3; // length o f c o n t r o l i n t e r v a l Con. Cy.om=1; // penalty : y ( t )^2 Con. Cy. l a =.01; // penalty : (u( t) u( t 1))^2 nh=con. Cy. nh ; // conversion to s t a t e model [XX,XX,XX, nx, ny, nu]= r e g 2 s t ( th, ord ) ; // p e n a l i z a t i o n matrices 17

18 Om=z e r o s ( nx, nx ) ; Om( 1 : ny, 1 : ny)=con. Cy.om eye ( ny, ny ) ; // output nn=ny+nu ; f o r i =1:nu // input increment Om( ( ny+i ), ( ny+i ))=Con. Cy. l a ; // ( only f o r ord>1!! ) Om( ( ny+i+nn ), ( ny+i+nn))=con. Cy. l a ; Om( ( ny+i ), ( ny+i+nn))= Con. Cy. l a ; Om( ( ny+i+nn ), ( ny+i ))= Con. Cy. l a ; // s e t p o i n t g e n e r a t i o n stp=genstp ( ny, nd, [ 3 ; 5 ], [. 9 5 ;. 9 2 ], [ 5 ; 1 0 ] ) ; // TIME LOOP f o r adaptive c o n t r o l ========================= S=l i s t ( ) ; y=z e r o s ( ny, nd ) ; y ( :, 1 : 2 ) = [ ; 10 10]; u=z e r o s (nu, nd ) ; R= eye ( nx, nx ) ; // r e g u l a r i z a t i o n f o r i n v e r s i o n f o r t=(ord +2):( nd nh ) // STATE CONSTRUCTION [M,N,A, nx, ny, nu]= r e g 2 s t ( th, ord ) ; // GENERATION OF CONTROL LAW ON INTERVAL f o r i=nh: 1:1 Om( 1 : ny, $)= stp ( :, t+i 1); Om( $, 1 : ny)= stp ( :, t+i 1) '; Om( $, $)=stp ( :, t+i 1) ' stp ( :, t+i 1); T=R+Om; A=N' T N; B=N' T M; C=M' T M; S( t)=inv (A) B; R=C S( t ) ' A S( t ) ; // GENERATION OF OPTIMAL CONTROL ( only one step ) x=genph ( ord, t, y, u ) ; // c o n s t r u c t i o n o f s t a t e u ( :, t)= S( t ) x ; // input e v a l u a t i o n y ( :, t)=th [ u ( :, t ) ; x]+ sd rand ( ny, 1, ' norm ' ) ; // new output // o f time l o o p ======================================== // Results s e t ( s c f ( 1 ), ' p o s i t i o n ', [ ] ) s =1:(nd nh ) ; // f i r s t output subplot (211) p l o t ( s, y (1, s ), s, u (1, s ), ' ', s, stp (1, s ), 'm. ', ' markersize ', 2 ) leg ( ' output ', ' input ', ' s e t p o i n t ', 4 ) ; t i t l e " Adaptive c o n t r o l with r e g r e s s i o n model" // second output subplot (212) 18

19 p l o t ( s, y (2, s ), s, u (2, s ), ' ', s, stp (2, s ), ' c. ', ' markersize ', 2 ) // s e t ( g c f ( ), ' p o s i t i o n ', [ ] ) leg ( ' output ', ' input ', ' s e t p o i n t ', 1 ) ; 5.2 Kategorický model Postup je moºno nalézt v textu k STS. 6 Adaptace Jak u predikce, tak i p i ízení jsme p edpokládali model se známými parametry. V adaptivní verzi, tedy pro neznámé parametry, tyto úlohy nemají v optimální podob spo itatelné e²ení. Proto se e²í suboptimáln, nej ast ji tak, ºe se odhad provádí paraleln a v úloze se vyuºívají bodové odhady parametr tak, jak by to byly známé parametry. Postup je následující 1. Vezmeme existující bodové odhady parametr a s nimi provedeme úlohu na celém budoucím intervalu: (a) predikujeme na poºadovaný po et krok, (b) provedeme celou syntézu ízení na ur eném intervalu. 2. P i predikci si zapamatujeme predikovanou hodnotu, p i ízení aplikujeme jedinou ak ní veli inu pro sou asný asový okamºik. 3. Zm íme nová data. 4. P epo teme statistiky a ud láme nové bodové odhady parametr. Postup p i predikci je obsaºen v programu // P r e d i c t i o n with s c a l a r r e g r e s s i o n model o f order n // clc, c l e a r, c l o s e // c l e a r a l l [ u, t, n]= f i l e ( ) ; // f i n d working d i r e c t o r y c h d i r ( dirname (n ( 1 ) ) ) ; // s e t working d i r e c t o r y d e f f ( ' ps=genpsi ( t, n, y, u ) ', ' ps =[y ( t (1:n ) ), u( t (0:n ) ) 1 ] ', ' c ' ) load datat11. dat Sim // Data prom s i m u l a t i o n yt=sim. Cy. yt ; ut=sim. Cy. ut ; th=sim. Cy. th ; cv=sim. Cy. cv ; ord=sim. Cy. ord ; 19

20 // S e t t i n g the task np=5; // # o f p r e d i c t i o n s t e p s (1= p r e d i c t i o n from the model ) orde =2; nd=length ( yt ) ; yp=z e r o s (1, nd ) ; V=1e 5 eye ( 7, 7 ) ; ka=0; // Time l o o p =============================================== f o r t=(orde +1):( nd np+1) // ESTIMATION ps=genpsi ( t, orde, yt, ut ) ; // r e g r e s s i o n v e c t o r Ps=[ yt ( t ) ps ] ' ; // exted reg. vec. V=V+Ps Ps ' ; // update o f V Vp=V( 2 : $, 2 : $ ) ; Vyp=V( 2 : $, 1 ) ; // p a r t i t i o n o i n g o f V the=inv (Vp) Vyp ; // point e s t i m a t e s // P r e d i c t i o n y i=yt ( 1 : ( t 1)); // old data ( at time t ) f o r j =0:(np 1) // loop o f p r e d i c t i o n ps=genpsi ( t+j, orde, yi, ut ) ; y i ( t+j )=ps the ; // a u x i l i a r y p r e d i c t i o n yp ( t+np 1)=yi ( t+np 1); // f i n a l p r e d i c t i o n at t // o f time l o o p ==================================== // Results s=(orde +1):( nd np ) ; p l o t ( s, yt ( s ), s, yp ( s ) ) leg ( ' output ', ' p r e d i c t i o n ' ) ; Postup p i ízení ilustruje následující program (stejný, jako pro ízení se známými parametry, ale dopln ný adaptivitou) // ADAPTIVE CONTROL WITH DYNAMIC REG. MODEL WITH CONSTANT // m u l t i v a r i a t e input and output // c o n t r o l with s e t p o i n t // p e n a l i z a t i o n o f input increments // r e c e d i n g horizon in c o n t r o l clc, c l e a r, c l o s e // c l e a r a l l [ u, t, n]= f i l e ( ) ; // f i n d working d i r e c t o r y c h d i r ( dirname (n ( 1 ) ) ) ; // s e t working d i r e c t o r y getd ( ) ; // load f u n c t i o n s from c urrent d i r rand ( ' seed ', 2 ) ; // s e t seed f o r random generator // S e t t i n g the task 20

21 ni =150; // length o f p r i o r e s t i m a t i o n nd=200; // length o f c o n t r o l I_typU=2; // type o f input 1=noise, 2=sin, 3=jumps I_adapt =1; // adaptive c o n t r o l 1=yes, 0=no, // S e t t i n g the s i m u l a t i o n Sim. Cy. ord =2; // model order Sim. Cy. th ( 1 ). a =[.3.2;.05.3]; // a1 Sim. Cy. th ( 2 ). a =[.1.1; ]; // a2 Sim. Cy. thb0 =[1.4; ]; // b0 Sim. Cy. th ( 1 ). b =[.1 0 ; 0. 2 ] ; // b1 Sim. Cy. th ( 2 ). b =[.1 0 ; 0. 1 ] ; // b2 Sim. Cy. thk =[1; 1]; // k ( const ) Sim. Cy. sd =.5; // n o i s e stdev ord=sim. Cy. ord ; ny=s i z e ( Sim. Cy. th ( 1 ). a, 1 ) ; // dimension o f y nu=s i z e ( Sim. Cy. th ( 1 ). b,2)/(1+ ord ) ; // and u th=sim. Cy. thb0 ; f o r i =1: ord // parameters > v e c tor th th =[ th Sim. Cy. th ( i ). a Sim. Cy. th ( i ). b ] ; th =[ th Sim. Cy. thk ] ; k=sim. Cy. thk ; sd=sim. Cy. sd ; // S e t t i n g the c o n t r o l Con. Cy. nh=3; // length o f c o n t r o l i n t e r v a l Con. Cy.om=1; // penalty : y ( t )^2 Con. Cy. l a =.01; // penalty : (u( t) u( t 1))^2 nh=con. Cy. nh ; // conversion to s t a t e model [XX,XX,XX, nx, ny, nu]= r e g 2 s t ( th, ord ) ; // p e n a l i z a t i o n matrices Om=z e r o s ( nx, nx ) ; Om( 1 : ny, 1 : ny)=con. Cy.om eye ( ny, ny ) ; // output nn=ny+nu ; f o r i =1:nu // input increment Om( ( ny+i ), ( ny+i ))=Con. Cy. l a ; // ( only f o r ord>1!! ) Om( ( ny+i+nn ), ( ny+i+nn))=con. Cy. l a ; Om( ( ny+i ), ( ny+i+nn))= Con. Cy. l a ; Om( ( ny+i+nn ), ( ny+i ))= Con. Cy. l a ; // s e t p o i n t g e n e r a t i o n stp=genstp ( ny, nd, [ 3 ; 5 ], [. 9 5 ;. 9 2 ], [ 5 ; 1 0 ] ) ; 21

22 // Prior e s t i m a t i o n with s e l e c t e d input s i g n a l y i=z e r o s ( ny, ni ) ; s e l e c t I_typU case 1, ui=rand (nu, ni, ' norm ' ) ; case 2, ui =[ s i n ( 2 0 ( 1 : ni )/ ni ) ; cos ( 2 0 ( 1 : ni )/ ni ) ] ; case 3, ui=s i g n ( [ s i n ( 2 0 ( 1 : ni )/ ni ) ; cos ( 2 0 ( 1 : ni )/ ni ) ] ) ; V=z e r o s ( nx+ny+nu, nx+ny+nu ) ; f o r i =(ord +1): ni ps=genps ( ord, i, yi, ui ) ; y i ( :, i )=th ps + sd rand ( ny, 1, ' norm ' ) ; Ps=[ y i ( :, i ) ; ps ] ; V=V+Ps Ps ' ; // p r i o r information matrix theta=v2thn (V/ ni, ny ) ; // p r i o r parameters // TIME LOOP f o r adaptive c o n t r o l ========================= S=l i s t ( ) ; y=z e r o s ( ny, nd ) ; y ( :, 1 : 2 ) = [ ; 10 10]; u=z e r o s (nu, nd ) ; R= eye ( nx, nx ) ; // r e g u l a r i z a t i o n f o r i n v e r s i o n f o r t=(ord +2):( nd nh ) // ESTIMATION i f I_adapt==1 ps=genps ( ord, t 1,y, u ) ; Ps=[y ( :, t 1); ps ] ; V=V+Ps Ps ' ; theta=v2thn (V/( t+ni ), ny ) ; // current e s t i m a t e s e l s e i f I_adapt==0 theta=th ' ; // known parameters e l s e // p r i o r pt. e s t i m a t e s are used [M,N,A, nx, ny, nu]= r e g 2 s t ( theta ', ord ) ; // GENERATION OF CONTROL LAW ON INTERVAL f o r i=nh: 1:1 Om( 1 : ny, $)= stp ( :, t+i 1); Om( $, 1 : ny)= stp ( :, t+i 1) '; Om( $, $)=stp ( :, t+i 1) ' stp ( :, t+i 1); T=R+Om; A=N' T N; B=N' T M; C=M' T M; S( t)=inv (A) B; R=C S( t ) ' A S( t ) ; // GENERATION OF OPTIMAL CONTROL ( only one step ) x=genph ( ord, t, y, u ) ; // c o n s t r u c t i o n o f s t a t e 22

23 u ( :, t)= S( t ) x ; // input e v a l u a t i o n y ( :, t)=th [ u ( :, t ) ; x]+ sd rand ( ny, 1, ' norm ' ) ; // new output // o f time l o o p ======================================== // Results s e t ( s c f ( 1 ), ' p o s i t i o n ', [ ] ) s =1:(nd nh ) ; // f i r s t output subplot (211) p l o t ( s, y (1, s ), s, u (1, s ), ' ', s, stp (1, s ), 'm. ', ' markersize ', 2 ) leg ( ' output ', ' input ', ' s e t p o i n t ', 4 ) ; t i t l e " Adaptive c o n t r o l with r e g r e s s i o n model" // second output subplot (212) p l o t ( s, y (2, s ), s, u (2, s ), ' ', s, stp (2, s ), ' c. ', ' markersize ', 2 ) // s e t ( g c f ( ), ' p o s i t i o n ', [ ] ) leg ( ' output ', ' input ', ' s e t p o i n t ', 1 ) ; 7 Model sm si a jeho odhad 7.1 Model Model sm si tvo í mnoºina komponent (regresních nebo jiných model ) a model ukazovátka - jeho výstupem je diskrétní veli ina indikující v kaºdém ase aktivní komponentu. P íklad Budeme uvaºovat sm s s dv ma statickými komponentami a statickým modelem ukazovátka (tj. hodnota ukazovátka nezávisí na minulé hodnot ) a dvourozm rným výstupem. Komponenta 1 - f 1 (y t k) [ y1;t ] [ 8 = y 2;t 1 ] [ ] e1;t + e 2;t Komponenta 2 - f 2 (y t k) [ y1;t ] [ 0 = y 2;t 5 ] [ ] e1;t + e 2;t Model ukazovátka f (c t α) = α ct c t 1 2 α ct Co to znamená (nap. v simulaci) Jedna statická komponenta simuluje kope ek. Dv budou tedy simulovat dva kope ky se st edy [8, 1] a [0, 5]. Jejich ²í ky jsou stejné; ob mají jednotkovou kovarian ní matici. Mnoºství bod 23

24 v kope cích je dáno pravd podobností, se kterou model ukazovátka generuje 1 nebo 2. Tady je to 0.2 a 0.8. Následuje program a obrázek. // Simulation o f a simple mixture // clc, c l e a r, c l o s e // c l e a r a l l [ u, t, n]= f i l e ( ) ; // f i n d working d i r e c t o r y c h d i r ( dirname (n ( 1 ) ) ) ; // s e t working d i r e c t o r y nd=500; // number o f s t e p s th =[8 1 ; 0 5 ] ' ; // pars o f components ( in columns ) a l =[.2. 8 ] ; // pars o f p o i n t e r model f o r t =1: nd // time l o o p ================================ c=sum( rand ( 1, 1, ' u') >cumsum( a l ))+1; // p o i n t e r g e n e r a t i o n y=th ( :, c)+rand ( 2, 1, ' n ' ) ; // output ct ( t)=c ; // s t o r i n g yt ( :, t)=y ; // o f v a r i a b l e s // o f time l o o p =================================== // Results s c f ( 1 ) ; p l o t ( yt ( 1, : ), yt ( 2, : ), '. ' ) t i t l e " Simulation with a simple mixture " save simple. dat ct yt 7.2 Odhad U modelu sm si odhadujeme 24

25 1. parametry v²ech komponent (θ, r, resp. β), 2. parametry modelu ukazovátka (α), 3. hodnoty ukazovátka. Bez odhadu aktivní komponenty (hodnoty ukazovátka) by ne²ly odhadovat parametry. Je pot eba, aby data p icházející z daného pracovního módu systému (komponenty systému) ²la k odpovídající komponent modelu a ne ke v²em komponentám - to by se komponenty jen p etahovaly sem tam. Proto je výsledný algoritmus odhadu následující. 1. Zm íme nová data. 2. Odhadneme ukazovátko (a) ur íme blízkost dat ke komponentám (b) spo teme váhový vektor w jako sou in blízkosti a pravd podobnosti komponent. 3. P epo teme statistiky v²ech parametr s váºenými daty. 4. Ur íme bodové odhady parametr. Komentá 1. Jasné. 2. Blízkost se spo te tak, ºe se do modelu komponenty dosadí existující bodové odhady parametr (tj. odhady z minulého kroku) a nov zm ená data. Tuto hodnotu pak nazýváme blízkost dat k dané komponent. Pravd podobnosti komponent jsou dány prvky parametru α. Tato pravd podobnost je úm rná po tu p ípad, kdy byla v minulosti daná komponenta aktivní. Sou in blízkosti a pravd podobnosti dá váhy komponent - pravd podobnosti aktivit jednotlivých komponent. Pro výpo et vah w jsou zapot ebí bodové odhady parametr z minulého kroku (nebo apriorní). 3. P epo et statistik se provádí stejn jako p i odhadu samostatného modelu, jen data, která do p epo tu vstupují se násobí vahou komponenty. 4. Bodové odhady komponent i modelu ukazovátka se po ítají stejn, jako u samostatných model. Bodové odhady jsou p ipraveny pro výpo ty v dal²ím kroku. Pro ná² p íklad bude: Komponenty jsou Gaussovky s regresním vektorem Ψ t = [y 1;t, y 2;t, 1] a tedy kaºdá z nich bude mít statistiku ve tvaru V i;t = V 11 V 12 V 13 [ V 21 V 22 V 23 Vy [2x2] V = yψ [2x1] V V 31 V 32 V yψ [1x2] V y 33 ] 25

26 i = 1, 2 a [i x j] ozna uje dimenzi sub-matice. P epo et statistik je i = 1, 2. Bodový odhad i = 1, 2. κ i;t = [κ 1, κ 2 ] V i;t = V i;t 1 + w i Ψ t Ψ t ˆθ i = V 1 ψ V yψ κ i;t = κ i;t 1 + w i ˆr i = V y ˆθV yψ κ i Ukazovátko c t je diskrétní náhodný proces s dv ma hodnotami c t {1, 2}. Model ukazovátka je kategorický statický model pro binární veli inu Statistika má stejný tvar jako model c t 1 2 f (c t α) α 1 α 2 c t 1 2 ν t ν 1 ν 2 P epo et statistiky i = 1, 2. Bodový odhad ν i;t = ν i;t 1 + w i ˆα t = [ν 1;t, ν 2;t ] νi;t Odhad ukazovátka realizujeme tak, ºe dosadíme do Gaussovek (po ítáme pod logaritmem) a násobíme odhadem α. Postup odhadu ilustruje následující program // Estimation o f a simple mixture // clc, c l e a r, c l o s e, c l o s e // c l e a r a l l [ u, t, n]= f i l e ( ) ; // f i n d working d i r e c t o r y c h d i r ( dirname (n ( 1 ) ) ) ; // s e t working d i r e c t o r y getd ( ) ; load simple. dat ct yt // load o f data ( from SimpleMixSim ) nd=max( s i z e ( yt ) ) ; // length o f data nu=rand ( 2, 1, ' u ' ) ; // pointer model s t a t i s t i c s a l=nu/sum( nu ) ; // pointer model parameter 26

27 V=l i s t ( ) ; the=l i s t ( ) ; cve=l i s t ( ) ; the ( 1 ) = [ 6 ; 2 ] ; // in s i m u l a t i o n was 8,1 i n i t i a l the ( 2 ) = [ 1 ; 3 ] ; // in s i m u l a t i o n was 0,5 parameters f o r j =1:2 V( j )=[ the ( j ) ; 1 ] [ the ( j ) ; 1 ] ' ; // i n i t i a l i n f. matrix cve ( j )=.1 eye ( 2, 2 ) ; // i n i t i a l n o i s e covariance ka=rand ( 1, 2, ' u ' ) ; // data counter f o r t =1: nd // time l o o p =================================== // computation o f weights f o r j =1:2 [ xxx,ml( j )]=GaussN ( yt ( :, t ), the ( j ), cve ( j ) ) ; // proximity mp=ml max(ml) ; // n ormalization m=exp (mp) ; // exponent w=m. a l ; w=w/sum(w) ; // component weights wt ( :, t)=w; // s t o r e // recomputation o f s t a t i s t i c s Ps=[ yt ( :, t ) ; 1 ] ; f o r j =1:2 V( j )=V( j )+w( j ) Ps Ps ' ; ka ( j )=ka ( j )+w( j ) ; // point e s t i m a t e s the ( j )=( inv (V( j ) ( 3, 3 ) ) V( j ) ( 3, 1 : 2 ) ) ' ; i f t >50 // in the beginning, cve i s f i x e d cve ( j )=(V( j ) ( 1 : 2, 1 : 2 ) the ( j ) V( j ) ( 3, 1 : 2 ) ) / ka ( j ) ; nu=nu+w; // pointer model s t a t i s t i c s a l=nu/sum( nu ) ; // and parameter th1 ( :, t)=the ( 1 ) ; // s t o r f o r th2 ( :, t)=the ( 2 ) ; // p l o t // Results s c f ( 1 ) ; p l o t (wt ' ) s e t ( s c f ( 2 ), ' p o s i t i o n ', [ ] ) subplot ( ), p l o t ( th1 ' ) subplot ( ), p l o t ( th2 ' ) save estim. dat 27

28 8 Klasikace klasická a s modelem sm si K-means DB-scan Hierarchická Logistická Sm sová U ení Odhad modelu sm si komponent se provádí ve dvou krocích (i) klasikace, (ii) odhad. Klasikace je tedy sou ástí odhadu. M ºe probíhat standardním zp sobem: pro fázi u ení pouºijeme u ící mnoºinu dat, která pracuje s u itelem (tedy známe správné aktuální t ídy, tj. hodnoty ukazovátka). P i tom provádíme ob fáze odhadu - klasikaci i odhadování. Testování Po vy erpání u ící mnoºiny dat (bez znalosti aktuálních t íd) aktuální t ídy odhadujeme. Tady provádíme jen klasikaci (konstrukci váhového vektoru w t bez následného p epo tu statistik a bodových odhad ). Pro odhad aktuální t ídy v ase t vyuºijeme váhový vektor w t - odhadnutá t ída je dána indexem u maximálního prvku váhového vektoru. Do-u ování Pokud se i nadále, t eba jen ob as, dozvíme, která t ída byla skute n aktuální, m ºeme klasika ní algoritmus p iu it - pro známou aktuální t ídu provedeme i p epo et statistik a nová bodové odhady parametr. Postup ilustruje následující program 28

29 // Testing o f a simple mixture // connected with simplemixsim. s c e and simplemixest. s c e // data f o r t e s t i n g are a l s o from simplemixsim // clc, c l e a r, c l o s e, c l o s e // c l e a r a l l [ u, t, n]= f i l e ( ) ; // f i n d working d i r e c t o r y c h d i r ( dirname (n ( 1 ) ) ) ; // s e t working d i r e c t o r y getd ( ) ; mode ( 0 ) load estim. dat // load r e s u l t s o f l e a r n i n g load simple2. dat yt ct // load data f o r t e s t i n g f o r t =1: nd // time l o o p =================================== // computation o f weights f o r j =1:2 [ xxx,ml( j )]=GaussN ( yt ( :, t ), the ( j ), cve ( j ) ) ; // proximity mp=ml max(ml) ; // n ormalization m=exp (mp) ; // exponent w=m. a l ; w=w/sum(w) ; // component weights wt ( :, t)=w; // s t o r e // Results [ xxx, ce ]=max(wt, ' r ' ) ; ce=ce ' ; // point e s t i m a t e s o f p o i n t e r wrong=sum( ct~=ce ) // number o f wrong d l a s s i f i c a t i o n s s =1:100; s e t ( s c f ( 1 ), ' p o s i t i o n ', [ ] ) p l o t ( s, ct ( s ), ' or ', ' markersize ', 1 4 ) p l o t ( s, ce ( s ), '. b ', ' markersize ', 1 0 ) s e t ( gca ( ), ' data_bounds ', [ 1 max( s ) min ( ct ).2 max( ct ) +. 2 ] ) t i t l e ' Testing o f simple mixture estimation ' 29

30 9 Stavový model a ltrace Stavový model má tvar f (x t x t 1, u t ) x t = Mx t 1 + Nu t + F + w t f (y t x t, u t ) y t = Ax t + Bu t + G + v t Odhad stavu f (x t 1 d (t 1)) }{{} f (x t d (t)) predikce d t={y t,u t} {}}{ }{{} filtrace f (x t+1 d (t)) f (x t d (t 1)) = f (x t x t 1, u t ) f (x t 1 d (t 1)) dx t 1 predikce x f (x t d (t)) f (y t x t, u t ) f (x t d (t 1)) ltrace x f (y t u t, d (t 1)) = f (y t x t, u t ) f (x t d (t 1)) dx t predikce y Pro normální rozd lení dostaneme Kalman v ltr, tj. rekurzi pro statistiky. Zadání ve Scilabu [xt,rx,yp]=kalman(xt,yt,ut,m,n,f,a,b,g,rw,rv,rx) R x kovariance odhadu stavu (po áte ní hodnota 10 3 eye(n x, n x ) R v kovariance ²umu modelu pro výstup v t = y t Ax t Bu t G R w kovariance ²umu modelu pro stav w t = x t+1 Mx t Nu t F Na po áte ních hodnotách R v a R w velmi záleºí a není v bec jednoduché je správn odhadnout. 9.1 Známé parametry modelu P íklad - ltrace ²umu M íme za²um ný signál y t a chceme získat istý signál x t. - m ení je istý signál + ²um y t = x t + v t - pro vývoj istého signálu p ipustíme jen zm ny w t, co je víc, p ipisujeme ²umu x t+1 = x t + w t Kovariance se musí volit tak ²ikovn, aby dovolily vývoj stavu, ale separovaly od n j ²um. Program 30

31 // F i l t e r i n g o f n o i s e by Kalman f i l t e r // clc, c l e a r, c l o s e // c l e a r a l l [ u, t, n]= f i l e ( ) ; // f i n d working d i r e c t o r y c h d i r ( dirname (n ( 1 ) ) ) ; // s e t working d i r e c t o r y mode ( 0 ) // w r i t e v alues i f no ; getd ( ) // Simulation i =0; f o r t =0:.1:2 % pi i=i +1; x (1, i )=5 cos ( t ) ; // pure s i g n a l x (2, i )=2 s i n ( t ) ; // ( e l l i p s e ) x=[1. 4 ; 0 1 ] x ; // rotated e l l i p s e nd=s i z e ( x, 2 ) ; // length o f the s i g n a l yt=x+.5 rand (2, nd, ' n ' ) ; // noisy s i g n a l // F i l t r a t i o n xt (:,1)= z e r o s ( 2, 1 ) ; // i n i t i a l s t a t e estimate Rw=.08 eye ( 2, 2 ) ; // s t a t e model n o i s e Rv=1 eye ( 2, 2 ) ; // output model n o i s e Rx=1000 eye ( 2, 2 ) ; // n o i s e o f s t s t e estimate A=eye ( 2, 2 ) ; // matrices C=eye ( 2, 2 ) ; // o f s t a t e F = [ 0 ; 0 ] ; // model f o r t =1:nd // Kalman f i l t r a t i o n [ xt ( :, t +1),yp ( :, t ),Rx ] =... KFilt ( xt ( :, t ), yt ( :, t ),A,C, F,Rw, Rv, Rx ) ; // Results s c f ( 1 ) ; p l o t ( x ( 1, : ), x ( 2, : ), ' g. ' ) p l o t ( yt ( 1, : ), yt ( 2, : ), ' r. ' ) p l o t ( xt ( 1, : ), xt ( 2, : ), ' b ' ) a Kalman v ltr f u n c t i o n [ xt, yp, Rx, ey]= KFilt ( xt, yt,a,c, F,Rw, Rv, Rx) // [ xt, yp, Rx, ey]= KFilt ( xt, yt,a,c, F,Rw, Rv, Rx) // Kalman f i l e t r f o r the state space model in the f o l l o w i n g form // xt = A xt + F // yp = C xt //... f i r s t compute p r e d i c t i o n and then f i l t r a t i o n, i. e. // t 1 t 1 > t t 1 > t t // xt s t a t e estimate 31

32 // yp p r e d i c t e d output // Ry output covariance // ey p r e d i c t i o n e r r o r // Rx s t a t e c ovariance matrix // yt data sample // A,C, F model parameters // Rw s t a t e covariance // Rv output covariance // i e i n d i c a t o r i e =0 => only s t a t e p r e d i c t i o n i s computed // // P r e d i c t i o n xt=a xt+f ; // time updt o f s t a t e Rx=Rw+A Rx A' ; // time updt o f s t a t e covariance // F i l t r a t i o n yp=c xt ; // data p r e d i c t i o n Ry=Rv+C Rx C ' ; // output p r e d i c t i o n covariance Ryy=Ry+1e 8 eye (Ry ) ; Rx=Rx Rx C' inv (Ryy) C Rx ; // data updt o f s t a t e covariance ey=yt yp ; // p r e d i c t i o n e r r o r KG=Rx C' inv (Rv ) ; // Kalman gain xt=xt+kg ey ; // data updt o f s t a t e function 9.2 S neznalostí parametr modelu Roz²í ení stavu Jestliºe n který parametr modelu není znám, povaºujeme ho za neznámou veli inu a p idáme ho k ostatním neznámým veli inám, ke stavu. Nap. máme model pro dvourozm rný stav x t = [x 1;t, x 2;t ] a skalární výstup y t x t = [ a a y t = [0.2, 0.8] x t ] [ 1 x t ] u t + w t kde a neznáme. Za adíme jej do neznámých veli in x t. Denujeme nový stav z t z 1;t = x 1;t z 2;t = x 2;t z 3;t = a Model pak bude mít tvar (bez ²umu, který je v tuto chvíli nezajímavý) z t = z 3;t z 3;t 1 1 z 1;t 1 1 z 2;t u t z 3;t

33 y t = [0.2, 0.8, 0] z t 1 Vidíme, ºe výsledný model je nelineární - stavy jsou v sou inu. Proto musíme linearizovat. Model má tvar z t = g (z t 1 ) + Nu t y t = Az t Linearizace Linearizaci provedeme tak, ºe nelineární ásti modelu nahradíme prvními dv ma leny Taylorova rozvoje. Rozvoj d láme v bod posledního odhadu 2 Pro rozvoj pot ebujeme hodnotu g v posledním odhadu ẑ t 1 g (ẑ t 1 ) = ẑ 3;t 1 ẑ 1;t 1 (1 ẑ 3;t 1 ) ẑ 2;t 1 ẑ 3;t 1 a derivaci (Hessovu matici) funkce g ve stejném bod ẑ t 1 g (ẑ t 1 ) = ẑ 3;t 1 0 ẑ 1;t ẑ 3;t 1 ẑ 2;t Linearizovaný model stavu bude a po úprav kde a F = z t = g (ẑ t 1 ) + g (ẑ t 1 ) (z t 1 ẑ t 1 ) + Nu t z t = g (ẑ t 1 ) z t 1 + Nu t + g (ẑ t 1 ) g (ẑ t 1 ) ẑ t 1 }{{}}{{} M F M = ẑ 3;t 1 ẑ 1;t 1 (1 ẑ 3;t 1 ) ẑ 2;t 1 ẑ 3;t 1 ẑ 3;t 1 0 ẑ 1;t ẑ 3;t 1 ẑ 2;t ẑ 3;t 1 0 ẑ 1;t ẑ 3;t 1 ẑ 2;t ẑ 1;t 1 ẑ 2;t 1 ẑ 3;t 1 2 Musíme si uv domit, ºe model je vztah mezi prom nnými x t 1 a x t. Taylor v rozvoj d láme pro nelineární funkci g (x) v ur itém pevném bod ˆx. Hodnotu funkce pak vyjad ujeme v okolí tohoto bodu, který vyjád íme jako g (x). = ˆx + g (x ˆx). Za pevný bod volíme vºdy poslední odhad stavu ˆx t 1 stavu x t 1. V²imn me si, ºe stále jde jen o pravou stranu modelu! šádné x t do hry p i rozvoji nevstupuje. 33

34 10 Testy hypotéz Bayesovské testování Testujeme hypotézy o tom, který model nejlépe popisuje daný datový vzorek. Máme n hypotéz H i, i = 1, 2,, n a kaºdá z nich specikuje sv j vlastní model jako kandidáta na nejlep²í popis dat. Modely mohou být 1. r zné i co do struktury, 2. strukturou stejné, ale li²ící se (a) hodnotami parametr, (b) mnoºinami p ípustných parametr. Toto obecné pojetí bylo navrºeno Dr. Peterkou a má následující podobu: Máme n hypotéz H i a datový vzorek d (t). Po ítáme pravd podobnosti f (H i d (t)) pro i = 1, 2,, n. Jako vít znou hypotézu vezmeme tu, která má tuto pravd podobnost maximální. Pravd podobnosti po ítáme takto f (H i d (t)) f (d (t) H i ) f (H i ) }{{} prior První hp na pravé stran je hp datového vzorku (za p edpokladu H i ), kterou chceme popsat modelem podle H i, tedy f (d (t) H i ) = f (d (t), Θ H i ) dθ = = f i (d (t) Θ i ) f (Θ i ) dθ i }{{} prior kde f i ozna uje model podle hypotézy H i se svými parametry Θ i, f (Θ i ) je apriorní hp pro Θ i, který specikuje i-tý model, a to bu hodnotou ˆΘ, ( pak f (Θ i ) = δ Θ ˆΘ ) nebo intervalem, ve kterém parametr leºí. V prvém p ípad jednodu²e hodnotu parametru dosadíme, ve druhém musíme provést nazna enou integraci. Poznámka Specikací modelu a jeho parametr se hypotéza vy erpala a uº ji v podmínce nemusíme psát. První hp vpravo je likelihood L t (Θ i ) pro parametr Θ i který se spo te jako sou in model t L t (Θ i ) = f i (d t ψ t, Θ i ) τ=1 Hledané pravd podobnosti tedy jsou f (H i d (t)) L t (Θ i ) f (Θ i ) dθ i f (H i ) obecn (10.1) 34

35 L t ( ˆΘi ) f (H i ) pro pevné Θ i (10.2) Pro alternativní model a n (1 a) nd n pro a (0, 1) je podíl, n je po et jedni ek a nd n je po et dvojek, je postup tetování ilustrován v následujícím programu // Testing o f a proportion model // clc, c l e a r, c l o s e, c l o s e // c l e a r a l l [ u, t, n]= f i l e ( ) ; // f i n d working d i r e c t o r y c h d i r ( dirname (n ( 1 ) ) ) ; // s e t working d i r e c t o r y nd =200; // number o f data a =.5; // true proportion data a0 =.3; // t e s t e d proportion dt=(rand (1, nd)>a )+1; // data na=sum( dt ==1); // No o f 1 B0=beta ( na 1,nd na 1); // beta f u n c t i o n Bi=distfun_betacdf ( a0, na 1,nd na 1); // i n c. beta f c b1=b0 Bi // f o r < int_0 : a0 ( Lik ) b3=b0 (1 Bi ) ; // f o r > int_a0 : 1 ( Lik ) P(1)=b1 /(3 a0 ) ; // prob. f o r < P(2)= a0^na (1 a0 )^(nd na ) / 3 ; // prob. f o r = P(3)=b3/(3 (1 a0 ) ) ; // prob. f o r > Ph=P/sum(P ) ; // normalizing // RESULTS disp (Ph ', ' P r o b a b i l i t i e s o f hypotheses ' ) Test hypotéz pomocí sm sí Podíváme-li se na vztahy (10.1) a 10.2 zjistíme, ºe pro modely dané pevnými parametry, se nápadn podobají klasikaci v odhadu sm si. Na rozdíl od odhadu sm si tady ale z stávají parametry konstantní, neodhadují se. Tedy co se pr b ºn odhaduje jsou hypotézy (jako ukazovátko) a parametr ukazovátka α, coº je vektor stacionárních pravd podobností jednotlivých hypotéz, tedy f (H i d (τ)), pro τ = 1, 2,, t. Finální α je tedy hp f (H i d (t)) podle které testujeme. Algoritmus je nejlépe patrný z programu // Hypotheses with t h r e e s t a t i c normal models // clc, c l e a r, c l o s e, c l o s e // c l e a r a l l [ u, t, n]= f i l e ( ) ; // f i n d working d i r e c t o r y c h d i r ( dirname (n ( 1 ) ) ) ; // s e t working d i r e c t o r y 35

36 nd =100; // Simulation f o r t =1:nd y ( :, t )=[3;5]+1 randn ( 2, 1 ) ; // I n i c i a l i z a t i o n H=fnorm ( [ ] ) ; th=l i s t ( ) ; th ( 1 ) = [ 2 ; 3 ] ; th ( 2 ) = [ 3 ; 4 ] ; th ( 3 ) = [ 3 ; 1 ] ; // hypotheses sd =.5; // P r o x i m i t i e s lp=ones ( 1, 3 ) ; f o r t =1:nd f o r i =1:3 lp ( i )= lp ( i )+GaussN ( y ( :, t ), th ( i ), sd ) ; // p r o b a b i l i t i e s in logarithm lp=lp max( lp ) ; // pre normalization p=exp ( lp ) ; // taking exponent ph=p. H; // proxim f (H) fh=ph/sum(ph ) ; // f i n a l n ormalization // Results disp ( fh, " P r o b a b i l i t i e s o f hypotheses ") 11 Aplikace Uvedeme n které jiº hotové aplikace. Sem by se postupn m ly p idávat dal²í Prediction of trac ow intensity (regression model) At a specic point of an urban trac network we measure intensities I t on magnetic detectors and green proportions G t on a light signalization. Our goal is to construct a model describing the future values of intensity in depence on the other measured variables. Solution From what has been said it follows, we are looking for the conditional pdf (model) f (I t+n I 1:t, G 1:t+n 1, P ) 36