VYSOKÉ UČENÍ TECHNICKÉ V BRNĚ Fakulta strojního inženýrství Ústav matematiky RNDr. Edita Kolářová Stochastické diferenciální rovnice v elektrotechnice Stochastic differential equations in electrotechnics Zkrácená verze Ph.D. Thesis Obor: Školitel: Oponenti: Matematické inženýrství prof. RNDr. Jan Franců, CSc. RNDr. Bohdan Maslowski, DrSc. doc. Ing. ubomír Brančík, CSc. Datum obhajoby:.11.6
KÍČOVÁ SOVA Wienerův proces, Itôův integrál, stochastické diferenciální rovnice, R elektrický obvod KEYWORDS Wiener process, Itô integral, stochastic differential equations, R electrical circuit MÍSTO UOŽENÍ DISERTAČNÍ PRÁCE Oddělení vědy a výzkumu FSI VUT v Brně, Technická, 616 69 Brno Edita Kolářová, 6 ISBN 8-14-333- ISSN 113-4198
OBSAH 1 ÚVOD 5 1.1 Cíle, přínos a popis práce............................ 6 TEORIE STOCHASTICKÝCH DIFERENCIÁNÍCH ROVNIC 7.1 Brownův pohyb a jeho vlastnosti......................... 7. Itôův integrál................................. 11.3 Stochastické diferenciální rovnice........................ 14.4 Numerické řešení stochastických diferenciálních rovnic............... 16 3 STOCHASTICKÉ DIFERENCIÁNÍ ROVNICE V EEKTROTECHNICE 18 3.1 Deterministický model R obvodu........................ 18 3. Stochastický model R obvodu......................... 18 ITERATURA 3 4 PUBIKACE AUTORKY 4 5 CV AUTORKY 5 6 ABSTRACT 6 3
1 ÚVOD Fyzikální jevy se obvykle modelují deterministicky, pomocí diferenciálních rovnic, které popisují průměrné chování systému. Pro úplnější informace o systému můžeme do modelu zahrnout náhodné vlivy. Tím vznikne nový matematický model, takzvaný stochastický. Takový model můžeme vytvořit bud přímo pro daný problém, nebo ho získat vhodnou úpravou klasického deterministického modelu. Během posledních 5 let se studium stochastických modelů vyvíjelo velmi intenzívně v řadě oborů. Vznikla potřeba uvažovat o náhodných vlivech také v inženýrských oborech. Jedna z technik stochastizace spočívá v tom, že v deterministickém matematickém modelu systému se jeden nebo více vstupních parametrů nahradí náhodnými procesy. Řešením výsledného modelu je opět náhodný proces. Uvažujme například obyčejnou diferenciální rovnici dx = a(t, x). dt Stochastickou verzi této rovnice můžeme získat přidáním dalšího členu b(t, X(t))ξ(t) do pravé strany rovnice d X(t) =a(t, X(t)) + b(t, X(t))ξ(t) dt kde symbol ξ(t) označuje stochastický proces nazývaný obvykle bílý šum. Řešením této rovnice bude náhodný proces X(t). Z matematického hlediska je tato rovnice problematická zejména proto, že bílý šum ξ(t) nemá spojité trajektorie. Je tedy potřeba tento model dále modifikovat. Vynásobme rovnici dt, dx(t) = a(t, X(t)) dt + b(t, X(t))ξ(t) dt a označme ξ(t) dt = dw (t). Tento člen budeme interpretovat jako přírůstek Wienerova procesu W (t). Tento proces, nazývaný také Brownův pohyb, hraje klíčovou roli ve stochastickém modelování. Dostali jsme se tak ke stochastické diferenciální rovnici dx(t) =a(t, X(t)) dt + b(t, X(t)) dw (t), kterou ve skutečnosti chápeme jako integrální rovnici X(t) =X(t )+ t a(s, X(s)) ds + t b(s, X(s)) dw (s). V tomto tvaru stochastické diferenciální rovnice jsou na pravé straně dva různé druhy integrálů. Prvním je klasický Riemannův integrál, druhým je stochastický integrál podle dw (t). Wienerův proces je sice spojitý ale má nekonečnou variaci, proto v tomto případě nemůže jít o Riemann-Stieltjesův integrál. 5
Stochastický integrál poprvé definoval Japonský matematik Itô ve 4-tých letech minulého století. Od něj pochází výše uvedený integrální tvar stochastické diferenciální rovnice, která se do té doby zkoumala jen heuristicky. Itô zavedl nový typ integrálu, Itôův stochastický integrál, a tím vybudoval matematický aparát pro studium stochastických diferenciálních rovnic. 1.1 CÍE, PŘÍNOS A POPIS PRÁCE Tato práce má dva hlavní cíle. Prvním cílem je vytvořit ucelený přehled Itôova stochastického kalkulu. Druhým cílem je využít tuto teorii na řešení problémů z inženýrské praxe, na stochastické modely elektrických R obvodů. Teorie stochastických diferenciálních rovnic je velice zajímavý, rychle se rozvíjející obor matematiky, který máširokou škálu aplikací takév inženýrské praxi. Studium matematické teorie stochastických diferenciálních rovnic předpokládá znalost mnoha oblastí matematiky, jako jsou pravděpodobnost, teorie míry, obyčejné diferenciální rovnice a funkcionální analýza. Jedním z našich cílů bylo shrnout teorii tak, aby byla čitelná a srozumitelná i pro studenty inženýrského studia. Základní studijní literaturou byla monografie Øksendal [1]. Tato monografie je sice úvodem do oboru, je ale hodně teoreticky orientována. Řada pojmů jepřístupnější vučebním textu Evans [4]. Konkrétní metody pro řešení stochastických diferenciálních rovnic jsou rozpracovány v monografii Arnold [1]. Tato kniha je nejvhodnější pro inženýrskou praxi, ale neobsahuje teoretické základy. Numerické metody jsme čerpali z knih Kloeden [7] a Cyganowski [3]. Druhá kapitola poskytuje úvod do teorie stochastických diferenciálních rovnic. Nejdříve zavedeme Brownův pohyb a ukážeme jeho konstrukci podle Ciesielskiho. Dále odvodíme jeho druhou variaci a další vlastnosti Brownova pohybu. Dalším krokem je zavedení stochastického integrálu. Naši pozornost soustředíme na Itôův kalkulus, ale ukážeme i rozdíl mezi Itôovým a Stratonovičovým přístupem. Uvedeme také pravidlo pro derivování složené funkce, Itôovu formuli a také podmínky pro existenci a jednoznačnost řešení tochastických diferenciálních rovnic. Na konci této kapitoly se zabýváme numerickými metodami pro stochastické diferenciální rovnice, které jsou pro aplikace v inženýrské praxi nezbytné. Pomocí těchto metod můžeme simulovat analytické řešení anebo získat řešení stochastické diferenciální rovnice, kde analytické řešení neumíme najít. Uvádíme dvě konkrétní metody, Eulerovu a Milsteinovu. Třetí kapitola se zabývá aplikacemi teorie na elektrické obvody. Ukážeme stochastizaci rovnice sériového elektrického R obvodu, kde se náhodný člen objeví bud na pravé straně rovnice nebo u některého z koeficientů. Uvažujeme také rovnici se dvěma náhodnými koeficienty. Ve všech případech odvodíme analytické řešení pomocí Itôovy formule. Najdeme intervaly, kde se s velkou pravděpodobnosti nacházejí trajektorie stochastického řešení. Numerické simulace jsou naprogramovány v jazyce C#. Jde o nový, objektově orientovaný jazyk systému MS.Network. Využíváme knihovnu inalg, která umožňuje vektorové programování a práci s maticemi. 6
Jedním z přínosů této práce je vytvoření co nejvíce vyváženého textu, který zpřístupňuje hlubokou matematickou teorii zájemcům o její aplikace, především inženýrům. Dalším přínosem je implementace numerických schémat pro řešení stochastických rovnic do jazyku C#. Hlavním přínosem práce je z matematického hlediska kompletní řešení R obvodu pomocí stochastického kalkulu. Našli jsme jak analytické, tak i numerické řešeni stochastického modelu obvodu se dvěma náhodnými parametry. Vyšetřili jsme statistické vlastnosti řešení a našli oblasti, kde se řešení nachází se zadanou pravděpodobností. Dosažené výsledky jsme ověřovali i experimentem na konkrétním příkladě R elektrického obvodu. Potvrdilo se, že naměřené hodnoty se nachází v intervalu získaném na základě teoretických výsledků. TEORIE STOCHASTICKÝCH DIFERENCIÁNÍCH ROVNIC.1 BROWNŮV POHYB A JEHO VASTNOSTI Brownův pohyb - matematický model pohybu částice v tekutině - je důležitým příkladem náhodného procesu, který hraje klíčovou roli v teorii stochastických diferenciálních rovnic. Matematická teorie Brownova pohybu byla započata Wienerem (r. 193), který rozložení pravděpodobnosti procesu Brownova pohybu chápal jako míru v prostoru spojitých funkcí. Proto se tento proces nazývá takéwienerův proces. Definice.1. Reálný stochastický proces W (t) na pravděpodobnostním prostoru (Ω, A,P) se nazývá Brownův pohyb nebo Wienerův proces, jestliže platí 1. W () = skoro všude,. W (t) W (s) má N(,t s) rozdělení prot s, 3. pro libovolná <t 1 <t <t n jsou přírůstky W (t 1 ),W(t ) W (t 1 ),W(t 3 ) W (t ),...,W(t n ) W (t n 1 ) vzájemně nezávislé náhodné veličiny, 4. trajektorie procesu W (t) jsou spojité s pravděpodobností 1. 4 4 6 8 1 - Trajektorie Brownova pohybu 7
Poznámka. Platí, že (i) E[W (t)] = pro t>. (ii) E[W (t)] = t. Poznámka. Wienerův proces představuje integrál toho, co se v praktických aplikacích nazývá bílým šumem. Věta.. Necht W (t) je Wienerův proces. Potom E[W (t)w (s)] = min{t, s} pro t, s. Konstrukci Brownova pohybu provedeme podle Z. Ciesielskiho. Nejprve se omezíme na t, 1. Definice.3. Pro t, 1 definujeme Haarovy funkce {h k ( )} k= takto: h (t) :=1 pro t, 1. { 1 pro t, 1 h 1 (t) := 1 pro t ( 1, 1 Pro n k< n+1,n=1,,...,definujeme n/ pro h k (t) := n/ pro jinde. k n t k n +1/ n n k n +1/ <t k n +1 n n Věta.4. Haarovy funkce tvoří úplný ortonormální systém v prostoru (, 1 ) - funkcí integrovatelných s kvadrátem na intervalu, 1. Definice.5. Pro k =1,,... definujeme k-tou Schauderovu funkci vztahem s k (t) := h k (s) ds pro t, 1. Poznámka. Grafy Schauderovy funkce mají tvar rovnoramenného trojúhelníku o výšce n 1, ležícího nad intervalem k n, k n +1 n. n 8 n 1 ----------------------- k n k n +1 n n
Věta.6. Necht {a k } k=1 je posloupnost reálných čísel, δ<1/anecht platí Potom řada a k = O(k δ ) pro k. a k s k (t) k=1 konverguje stejnoměrně pro t 1. Věta.7. Necht jsou {A k } k=1 nezávislé náhodné veličiny s rozdělením N(, 1). Potom pro skoro všechna ω platí, že A k = O( log k) pro k. Poznámka. Ztéto věty speciálně vyplývá, že posloupnost {A k } k=1 nezávislých N(, 1) náhodných veličin splňuje předpoklady věty.1.6. Věta.8. Pro s, t 1 je součet k=1 s k(s)s k (t) =min(s, t). Věta.9. Necht {A k } k=1 je posloupnost nezávislých náhodných veličin s rozdělením N(, 1), definovaných na daném pravděpodobnostním prostoru. Potom součet W (t, ω) := A k (ω)s k (t), t 1 k=1 konverguje stejnoměrně vtpros.v.ω. Navíc (i) W ( ) je Brownův pohyb a (ii) trajektorie procesu t W (t, ω) jsou spojité pros.v.ω. Věta.1. Existence Brownova pohybu. Necht (Ω, U, P) je pravděpodobnostní prostor na kterém je definováno spočetně mnoho nezávislých N(, 1) náhodných veličin {A n } n=1. Potom existuje jednorozměrný Brownův pohyb W ( ) definovaný pro ω Ω, t. Poznámka. Uvedeme příklad pravděpodobnostního prostoru na kterém je definováno spočetně mnoho nezávislých N(, 1) náhodných veličin. Necht Ω=prostor posloupnosti reálných čísel (x 1,x... ) }{{} ω Necht U je σ-algebra generovaná množinami typu A := {ω Ω a k <x k <b k,k=1,...,m; a k b k }. 9
Pro takové množiny A definujeme pravděpodobnost předpisem P (A) := m k=1 1 π bk a k e x dx. Tuto pravděpodobnost rozšířímenavšechny množiny z U a definujeme A n (ω) =x n pro ω =(x 1,x,... ). Potom {A n } n=1 jsou nezávislé N(, 1) náhodné veličiny. Věta.11. Necht je W (t) Brownův pohyb na prostoru (Ω, A,P). Potom proces (i) W (t + t) W (t ) je Brownův pohyb pro t >. (ii) cw(t/c ) je Brownův pohyb pro c>. Věta.1. Pro každé t platí, že trajektorie Brownova pohybu nemá skoro jistě derivaci v bodě t. Poznámka. Dá se dokázat i silnější tvrzení, že s pravděpodobností 1 nejsou trajektorie Brownova pohybu diferencovatelné vžádném bodě. Důkaz tohoto tvrzení pochází od Dvoretzky, Erdős a Kakutani, a je možné honajítv[8]. Věta.13. Necht je W (t) Brownův pohyb. Potom (i) E[W (t)] = t. (ii) E[W 4 (t)]=3t. Věta.14. (i) Necht W (t) je Brownův pohyb na intervalu,t a necht symbol δ n := { =t <t 1 <t n = t} značí dělení tohoto intervalu. Potom pro δ n := max k n 1 t k+1 t k platí n 1 ( W (tk+1 ) W (t k ) ) t k= ve smyslu kvadratických středů. Jinými slovy Brownův pohyb W (t) má kvadratickou variaci rovnu t. (ii) Trajektorie Brownova pohybu mají nakaždém intervalu nekonečnou variaci. Definice.15. n- rozměrným Brownovým pohybem se rozumí vektorový proces W(t) :=(W 1 (t),...,w n (t)) t jehož složky tvoří n vzájemně nezávislých Brownových pohybů. 1
. ITÔŮV INTEGRÁ Necht je W (t) Brownův pohyb na prostoru (Ω, A, P). Chceme definovat stochastický integrál T f(s, ω) dw (s, ω) pro vhodnou náhodnou funkci f(s, ω). Předpokládejme zatím, že f je spojitá vs pro každé ω Ω. Riemann-Stieltjesův integrál použít nemůžeme, protože proces W (t) nemá konečnou variaci. Příklad.1. Mějme interval,t, amějme dělení tohoto intervalu δ n := { =t <t 1 <t n = T }, δ n := max k n 1 t k+1 t k. Pro pevné λ 1 adělení δ n intervalu,t položme a definujme τ k := (1 λ)t k + λt k+1 (k =,...,n 1) R n = R n (δ n,λ,ω):= n 1 W (τ k,ω)(w (t k+1,ω) W (t k,ω)). k= To jsou odpovídající Riemannovy součty pro T W (s, ω) dw (s, ω). Pro jednoduchost zápisu vynechámeω a spočítámer = lim R n pro pevné λ apro lim δ n =. n n Nejdřív upravíme součin (zkráceně budeme psát ±A namísto +A A ) W (τ k )(W (t k+1 ) W (t k )) = W (τ k )W (t k+1 ) W (τ k )W (t k )= = W (τ k )W (t k+1 ) ± 1 W (τ k ) ± 1 W (t k ) ± 1 W (t k+1 )+W(τ k )W (t k )= = 1 [W (t k+1) W (τ k )] + 1 [W (τ k) W (t k )] + 1 [W (t k+1 ) W (t k )] Dále n 1 R n = W (τ k )(W (t k+1 ) W (t k )) = k= = 1 n 1 [W (t k+1 ) W (τ k )] + 1 n 1 [W (τ k ) W (t k )] + 1 n 1 [W (t k+1 ) W (t k )] k= k= k= 1 (1 λ)t + 1 λt + 1 (W (T ) W ()) = W (T ) Tato konvergence se rozumí ve smyslu kvadratických středů. +(λ 1 )T. 11
Poznámka. Tento příklad dobře ilustruje různé přístupy k stochastickému integrálu. Součet závisí na volbě λ. Zvolíme-li za λ =, dostaneme tzv. Itôův integrál T W dw = W (T ) pro λ =1/ dostaneme tzv. Stratonovičův integrál T, T W dw = W (T ). Definice.. Necht W (t) je Brownův pohyb na prostoru (Ω, A,P). Filtrace F = {F t,t } se nazývá historie Brownova pohybu, jestliže pro t> je F t σ-algebra generovaná náhodnými veličinami W (s, ω), s t. Definice.3. Necht je W (t, ω) Brownův pohyb na prostoru (Ω, A, P) a necht filtrace F značí historii Brownova pohybu. Říkáme, že proces {G(t, ω), t, )} je souhlasný sf, jestliže pro každé t je funkce ω G(t, ω) F t -měřitelná. Definice.4. Označme p (,T), T >, 1 p< prostor reálných procesů G(t, ω) na prostoru (Ω, A,P) takových, že (i) {G(t, ω), t,t)} je souhlasný sf, (ii) (t,[ ω) G(t, ω) je B F-měřitelná, kde B je Borelovská σ-algebra na,t), ] T (iii) E Gp (t, ω) dt <. Definice.5. Proces S (,T) se nazývá jednoduchá funkce, jestliže existuje dělení δ := { =t <t 1 <t m = T }, že S(t, ω) =S k (ω) pro t k t<t k+1 (k =,...,m 1). Definice.6. Necht S (,T) je jednoduchá funkce. Pak T S dw = m 1 k= se nazývá Itôův integrál funkce S na (,T). S k (ω)(w (t k+1,ω) W (t k,ω)) Věta.7. (Itôova izometrie) Necht S (,T) je jednoduchá, omezená funkce. Potom [ ( T ) ] [ T ] E S(t, ω) dw (t, ω) = E S (t, ω) dt. 1
Věta.8. Necht je G (,T). Potom existuje posloupnost jednoduchých funkcí S n (,T), taková, že [ T ] E (G(t, ω) S n (t, ω)) dt pro n. Definujeme Itôův integrál funkce G na (,T) předpisem T T G(t, ω) dw (t, ω) = lim S n (t, ω) dw (t, ω). n Tato limita existuje a nezávisí na volbě posloupnosti S n. Navíc platí Itôova izometrie [ ( T ) ] [ T ] E G(t, ω) dw (t, ω) = E G (t, ω) dt. Věta.9. Necht F, G (,T). Potom T 1. (ag+ bf) dw = a T G dw + b T [ ] T. E G dw = T 3. G dw je F T měřitelná. F dw pro a, b R Věta.1. Pro G (,T) označme I(t) := G(s, ω) dw (s, ω), t T. Potom (i.) I(t) je martingalem vzhledem k F t. (ii.) Existuje t-spojitá verze I(t). Definice.11. Necht je W (t) Brownův pohyb na prostoru (Ω, A,P) a necht X(t, ω) je stochastický proces na prostoru (Ω, A,P), t>. Říkáme, že X(t, ω) je Itôův proces, jestliže X(t, ω) =X(, ω)+ U(s, ω) ds + V (s, ω) dw (s, ω), kde U 1 (,t), V (,t) a X(,ω) je F měřitelná. Stručně říkáme, že X má stochastický diferenciál dx(t) = U dt + V dw (t). Věta.1. (Itôova formule) Necht X(t) má stochastický diferenciál na intervalu,t dx(t) =U dt + V dw (t). Necht g(t, x) :(, ) R R je dvakrát spojitě diferencovatelná funkce. Potom Y (t) =g(t, X(t)) 13
je také Itôův proces, a dy (t) = g g (t, X(t)) dt + t x (t, X(t)) dx(t)+1 kde (dx(t)) =(dx(t)) (dx(t)) se počítá podle pravidel g x (t, X(t))( dx(t)), dt dt = dt dw (t) = dw (t) dt =, dw (t) dw (t) = dt. Věta.13. (Multidimensionální Itôova formule) Necht W(t, ω) = (W 1 (t, ω),...,w M (t, ω)) označuje M-dimensionální Wienerův proces a necht stochastický proces X(t, ω) =(X 1 (t, ω),...,x N (t, ω)) je N-dimenzionální Itôův proces M dx(t, ω) =X(, ω)+ U(s, ω) ds + V j (s, ω) dw j (s, ω) kde U, V jsou vektorové funkce, jejichž složky splňují podmínky z definice.3.11. Necht g(t, x) :(, ) R N R P je dvakrát spojitě differencovatelná funkce. Potom Y(t) =g(t, X(t)) = (g 1 (t, X(t)),...,g P (t, X(t))) je stochastický proces, jehož k tá složka je dána rovnicí dy k = g k t (t, X) dt + g k (t, X) dx i + 1 g k (t, X)( dx i )( dx j ), x i i x i,j i x j kde dx i dx j se počítá podle pravidel j=1 dt dt = dt dw i = dw i dt =, dw i dw j = δ i,j dt..3 STOCHASTICKÉ DIFERENCIÁNÍ ROVNICE Uvažujme prostor (Ω, A,P) s neklesající soustavou σ-algeber F = {F t,t }, na kterém je definován Wienerův proces W (t) vzhledem k F. Předpokládejme, že každé F t obsahuje všechny P nulové množiny z A. Budeme se zabývat stochastickými diferenciálními rovnicemi na intervalu,t, <T <. Itôovou stochastickou diferenciální rovnici (Itô SDR) rozumíme rovnici dx(t) =A(t, X(t)) dt + B(t, X(t)) dw (t), X(t )=X kde funkce A :,T R R se nazývákoeficient driftu a funkce B :,T R R se nazývá difuzní koeficient. Itô SDR je ve skutečnosti integrální rovnice X(t) =X + A(s, X(s)) ds + B(s, X(s)) dw (s), t t kde první integrál je ebesgueův a druhý integrál je Itôův. 14
Když v stochastické diferenciální rovnici uvažujeme na místo Itôova integrálu Stratonovičův, dostaneme Stratonovičovu stochastickou diferenciální rovnici (Stratonovič SDR), kterou můžeme symbolicky zapsat takto: dx(t) =A(t, X(t)) dt + B(t, X(t)) dw (t), X(t )=X. Integrální interpretace této rovnice je X(t) =X + t A(s, X(s)) ds + t B(s, X(s)) dw (s), kde první integrál je ebesgueův a druhý integrál je Stratonovičův. Itô SDR a Stratonovič SDR se stejnými koeficienty nedají obecně stejná řešení. Platí však, že řešení X(t) Itô SDR X(t) =X + t A(s, X(s)) ds + splňuje modifikovanou Stratonovič SDR X(t) =X + t A(s, X(s)) ds + kde koeficient A(t, X(t)) = A(t, X(t)) 1 t t B(s, X(s)) dw (s), B(s, X(s)) dw (s), B(t, X(t)) B(t, x). x Definice.1. Necht W(t) =(W 1 (t),...,w M (t)) značí M-dimensionalní Wienerův proces a funkce A :,T R N R N, B :,T R N R N M jsou měřitelné. Říkáme, že na intervalu,t je proces X(t) =(X 1 (t),...,x N (t)) silným řešením stochastické diferenciální rovnice dx(t) =A(t, X(t)) dt + B(t, X(t)) dw(t), X() = X jestliže proces X(t) je souhlasný sf M aprovšechna t,t X(t) =X + A(s, X(s)) ds + B(s, X(s)) dw(s) s.v. Poznámka. Symbolem Ft M označujeme σ-algebru generovanou procesem {W(s) =(W 1 (s),...,w M (s)), s t}. Poznámka. Označme F X σ-algebru generovanou náhodnou veličinou X. Potom definujeme σ-algebru F M,X t jako nejmenší σ-algebru obsahující F X a F M t zároveň. 15
Věta.. Necht je T>, proces W(t) je M-dimensionální Wienerův proces a funkce A :,T R N R N, B :,T R N R N M jsou měřitelné, pro které platí: (i) Existuje konstanta K>taková, že (ii) A(t, x) A(t, y) + B(t, x) B(t, y) K x y pro každé t,t a x,y R N. Existuje konstanta >taková, že A(t, x) + B(t, x) (1 + x ) pro každé t,t a x R. (iii) X je F M,X -měřitelná náhodná veličina a E [ X ] <. Potom stochastická diferenciální rovnice dx(t) =A(t, X(t)) dt + B(t, X(t)) dw(t), X() = X má jednoznačné t-spojité silné řešení X(t), pro které [ T ] E X(t) dt <..4 NUMERICKÉ ŘEŠENÍ STOCHASTICKÝCH DIFERENCIÁNÍCH ROVNIC Při odvozovánínumerických metod pro řešenístochastických diferenciálních rovnic musíme dbát nato, aby naše metoda byla v souladu s definicí stochastického integrálu. Při hledání konkrétní trajektorie řešení danérovnice hledáme vždy řešení vzhledem k dané trajektorii Wienerova procesu, které generujeme pro každé řešení zvláště. V případě, kdy uvažujeme numerickou metodu s krokem n, přírůstky Wienerova procesu W n jsou N(, n ) Gaussovské náhodné veličiny, navzájem nezávislé. Numerická metoda nám určí aproximaci řešení v diskrétních časových hodnotách. Potřebujeme-li spojitou aproximaci řešení, použijeme interpolační metody. Abychom mohli posoudit kvalitu metody, musíme definovat příslušné kritérium, které bymělo vycházet z praktických požadavků na stochastickou numerickou metodu. Definice.1. Říkáme, že metoda má silný řád konvergence γ, jestliže platí: E[ X(T ) X (N T ) ] K T γ, kde X značí přesné řešení stochastické diferenciální rovnice, X (N T ) je příslušná aproximace v čase T, a = max n. n N T V mnoha praktických aplikacích dostaneme přesné řešení stochastické diferenciální rovnice které nelze vyjádřit pomocí analytických funkci, někdy dokonce ani neumíme přesné řešení najít. V takových případech potřebujeme co nejlépe aproximovat střední hodnotu a další momenty řešení. K tomuto účelu definujeme slabý řád konvergence. 16
Definice.. Říkáme, že metoda má slabý řád konvergence β, jestliže pro každý polynom g existuje konstanta K T taková, že platí: E[g(X(T ))] E[g(X (N T ))] K T β. Poznámka. Různou volbou polynomu dostaneme konvergenci různých momentů řešení. V případě g(x) =x dostaneme konvergenci středních hodnot, pro g(x) =x zase konvergenci rozptylů aproximací řešení. Stochastická Eulerova metoda Uvažujme Itôovu N-dimenzionální stochastickou diferenciální rovnici s M- dimenzionálním Wienerovým procesem na intervalu,t, T> dx(t) =A(t, X(t)) dt + B(t, X(t)) dw(t), X() = X, kde A a B jsou spojité vektorové funkce. Když tuto rovnici napíšeme po složkách, pak i-tá rovnice má tvar dx i (t) =A i (t, X(t)) dt + M B i,j (t, X(t)) dw j (t). Necht =t <t 1 < <t N = T,pakEulerova metoda pro i-tou složku rovnice je definováná předpisem: j=1 X n+1 i = X n i + A i (t n, X n ) n + M B i,j (t n, X n ) Wj n, kde n = t n+1 t n = n+1 t n ds a Wj n = W j (t n+1 ) W j (t n )= n+1 t n dw j (s). Stochastická Eulerova metoda má silný řád konvergence γ = 1 a slabý řád konvergence β =1. Stochastická Milsteinova metoda Přírůstky Wj n neposkytují dostatek informací o Wienerově procesu uvnitř intervalu (t n,t n+1 ). Když chceme vylepšit řád konvergence numerické metody musíme použit vícenásobné integrály dle W j (t). Příkladem takové metody je Milsteinova metoda. Definujeme Milsteinovu metodu pro i-tou složku N- dimenzionální Itôové stochastické diferenciální rovnice s M- dimenzionálním Wienerovým procesem na intervalu,t, T> předpisem: j=1 X n+1 i = X n i + A i (t n, X n ) n + + M j 1,j =1 M B i,j (t n, X n ) Wj n + j=1 (n+1 j 1 B i,j (t n, X n ) t n t n ) dw j1 (s) dw j (t) 17
kde n = t n+1 t n, Wj n j =1,...,M je operator = W j (t n+1 ) W j (t n )= n+1 t n dw j (s), apro N j = B i,j. x i i=1 Stochastická Milsteinova metoda má silný řád konvergence γ =1a slabý řád konvergence β =1. Poznámka. Při numerickém řešeníitôsdr s difuzním koeficientem B(t, x) =B(t) se shoduje Milsteinova metoda s Eulerovou metodou, tzn. pro rovnici s aditivním šumem má Eulerova metoda silný řád konvergence γ =1. 3 STOCHASTICKÉ DIFERENCIÁNÍ ROVNICE V EEKTROTECHNICE 3.1 DETERMINISTICKÝ MODE R OBVODU Uvažujme elektrický R obvod, kde rezistor a induktor jsou zapojeny sériově. Proud i(t) včase t vdaném obvodu vyhovuje obyčejné diferenciální rovnici i (t)+ri(t) =v(t), i() = i, kde R je odpor rezistoru, je indukčnost induktoru a v(t) značí napětí zdroje v čase t.řešení obvodu bude i(t) =i e Rt + 1 e R(s t) v(s) ds. Vpřípadě, kdy, R a v(t) =V jsou konstanty a i =, dostaneme řešení i(t) = V ( ) 1 e Rt. R 3. STOCHASTICKÝ MODE R OBVODU R obvod se stochastickým zdrojem Mějme elektrický R obvod, kde napětí na pravé straně může být ovlivněno náhodnými vlivy místo ideálního zdroje uvažujeme zdroj s vnitřním napětím v (t) =v(t)+ šum. Dosadíme-li v (t) do rovnice, dostaneme nový typ diferenciální rovnice, ve které se kromě deterministických prvků vyskytuje také náhodný člen. Aby se rovnice dala matematicky zkoumat, musíme nejdříve nějakým způsobem modelovat šum. Budeme se dívat na šum jako na stochastický proces ξ(t), který má nulovou střední hodnotu, 18
jednotkový rozptyl, je stacionární (rozdělení {ξ(t 1 + t),...,ξ(t k + t)} je nezávislé na volbě t) a pro s t jsou ξ(t) a ξ(s) nezávislá. Říkáme tomu bílý šum. Po dosazení αξ(t) za šum (α je konstanta) do rovnice dostaneme i (t)+ri(t) =v(t)+αξ(t), i() = i. Bílý šum není spojitý, tzn. proces ξ(t) nemá spojitou trajektorii, a nemá ani měřitelné trajektorie, je tedy potřeba najít lepší model. Po další úpravě a dosazení dw (t) za ξ(t) dt dostaneme stochastickou diferenciální rovnici ( 1 di(t) = v(t) R ) I(t) dt + α dw (t), I() = I. V této rovnici představuje proud náhodný proces a proto ho označujeme I(t), podobně počáteční podmínka může být náhodná veličina, proto označení I. Matematický model elektrického R obvodu se stochastickým zdrojem je stochastická diferenciální rovnice, kterou můžeme řešit pomocí Itôvy formule. Zvolíme si funkci g(t, I(t)) = e Rt I(t), a spočítáme její derivaci: dg(t, I(t)) = d v(t) = e Rt To nám v integrálním tvaru dá řešení ( ) R e Rt I(t) = e Rt Rtα dt + e I(t) dt + e Rt di(t) = dw (t). I(t) =e Rt I() + 1 e R(s t) v(s) ds + α e R(s t) dw (s). kde poslední člen je Itôův integrál. Řešení I(t) je stochastický proces a pro t>jeho střední hodnota je E[I(t)] = e Rt E[I ]+ 1 e R(s t) v(s) ds. Druhý moment D(t) =E[I(t) ] lze určitjakořešení obyčejné diferenciální rovnice ( D (t) = R ) D(t)+m(t) v(t) + α, D() = E[I ()], kde m(t) =E[I(t)]. 19
Příklad 3.1. Uvažujme R elektrický obvod, kde, R a v(t) =V jsou konstanty, I() =, α=1. V tomto případě platí, že řešení I(t) je Gaussův proces, tzn. pro každé t,t má I(t) rozdělení N(m(t),σ (t)), kde m(t) =E[I(t)] a σ (t) =E[I(t) ] m (t). Můžeme tedy spočítatvkaždém bodě t,že kde funkce P ( I(t) m(t) < 1.96 σ(t) =Φ(1.96) 1=.95, Φ(x) = 1 x e 1 s ds. π Známe-li tedy E[I(t) ] a m(t) =E[I(t)] můžeme předpovídat interval (m(t) ε, m(t) +ε) kde se s 95% pravděpodobností nacházejí trajektorie stochastického řešení. Druhý moment D(t) určíme jako řešení obyčejné diferenciální rovnice: D (t) = ( R ) D(t)+m(t) V α +, D() =. Na následujícím obrázku je ε-pás kolem střední hodnoty a několik trajektorií řešení. Tři trajektorie stochastického řešení spolu se střední hodnotou a intervalem 95% spolehlivosti
R obvod se stochastickým odporem Uvažujme ted R obvod, kde odpor může mít náhodné hodnoty. R = R + šum. Po podobných úpravách jako v předchozí kapitole dostaneme stochastickou diferenciální rovnici ( β je konstanta): di(t) = 1 (v(t) RI(t)) dt β I(t) dw (t), I() = I. V tomto případě bude řešení složitější. Musíme nejdřív vynásobit rovnici integračním faktorem a teprve potom použít Itôovu formuli. Tak nakonec získáme stochastické řešení elektrického R obvodu se náhodným odporem: I(t) =I() e R β t t β W (t) + 1 Řešení je stochastický proces jehož střední hodnota je v(s) e R β (s t)+ (s t)+ β (W (s) W (t)) ds. E[I(t)] = E[I ] e Rt + 1 e R(s t) v(s) ds. R obvod se stochastickým zdrojem i odporem Uvažujme ted případ, kdy jsou zdroj i odpor ovlivněny náhodnými jevy: v (t) =v(t)+ šum a zároveň R = R + šum. Stochastizaci obvodu provedeme podobně, jako v předchozích případech. Dostneme následující rovnici di(t) = 1 (v(t) RI(t)) dt β I(t) dw (t)+ α dw 1(t), s počáteční podmínkou I() = I. Při hledání řešení nejdřív zavedeme integrační faktor F (t) =e potom použijeme Itôovou formuly na výpočet derivace ( ( ) ) R β t+ d(f (t) I(t)) = d e t+ β W (t) I(t). ( R ) β t+ t+ β W (t) a Zvolíme si funkci g(t, x, y) :, ) R R, ( ( dg(t, W (t),i(t)) = d e R t+ β ( R β t+ g(t, x, y) :=e t+ β )y. x ) ) I(t) = d(f (t) I(t)) = t+ β W (t) 1
( ) R = F (t) + β β I(t) dt + F (t) β I(t) dw (t)+f (t) di(t)+ + 1 F (t)i(t)(dw }{{ (t)) } +F (t) β (dw (t) di(t)) = ( 1 +F (t) (( R = F (t) =dt + β ) I(t) dt + β ) I(t) dw (t) + (v(t) RI(t)) dt β I(t) dw (t)+ α ) dw 1(t) + ( 1 β +F (t) I(t) dt + β ( β ) ) I(t) dt = ( v(t) = F (t) dt + α ) dw 1(t). povedlo se vyeliminovat z pravé strany rovnice I(t). Odvodili jsme, že ( v(t) d(f (t) I(t)) = F (t) dt + α ) dw 1(t). Ztéto rovnice můžeme vyjádřit hledané řešení: F (t) I(t) F () I() = 1 v(s) F (s) ds + α F (s) dw 1 (t) F (t) I(t) =I() + 1 v(s) F (s) ds + α F (s) dw 1 (t) Tak jsme získali stochastické řešení elektrického R obvodu s náhodným zdrojem i odporem: I(t) =F (t) 1 I() + 1 v(s) F (t) 1 F (s) ds + α Po dosazení zaf (t) dostaneme stochastický proces F (t) 1 F (s) dw 1 (t). I(t) =I e R β t t β W(t) + + 1 + α v(s) e R β (s t)+ (s t)+ β (W (s) W (t)) e R β (s t)+ (s t)+ β (W (s) W (t)) ds+ dw 1 (s).
Pokud E[I ] <, střední hodnota E[I(t)] = m(t) je řešením obyčejné diferenciální rovnice m (t) = 1 (v(t) Rm(t)), m = E[I ]. Je snadné spočítat, že E[I(t)] = e Rt E[I ]+ 1 e R(s t) v(s) ds, pro t>. Když I() = I je konstanta, střední hodnota E[I(t)] = m(t) se opět shoduje s deterministickým řešením obvodu. Druhý moment D(t) =E[I(t) ] řeší obyčejnou diferenciální rovnici ( β D (t) = R ) kde m(t) =E[I(t)]. D(t)+m(t) v(t) + α, D = E[I ], Příklad 3.. Uvažujme R elektrický obvod, kde, R a v(t) =V jsou konstanty, I =,α=1,β=1. I v tomto případě můžeme spočítat m(t) =E[I(t)] a D(t) = E[I (t)] a z toho i σ (t) =E[I(t) ] m (t). Neplatí tuale,že řešení I(t) je Gaussův proces a proto nemůžeme tak dobře předpovídat interval (m(t) ε, m(t) +ε) kde se s velkou pravděpodobností nacházejí trajektorie stochastického řešení. Využijeme alespoň Čebyševovu nerovnost, ze které vyplývá, že pro každé t,t P ( I(t) m(t) < σ(t)).75 anebo také, že P ( I(t) m(t) < 3 σ(t)) 8 9 =.8. ITERATURA [1]. Arnold: Stochastic Differential Equations: Theory and Applications, John Wiley & Sons, 1974. [] J. Anděl: Matematická statistika, SNT, Praha, 1985 [3] S. Cyganowski, P. Kloeden, J. Ombach: From Elementary Probability to Stochastic Differential Equations with Maple, Springer-Verlag, [4]. Evans: An introduction to stochastic differential equations, notes for Mathematics 195 at UC Berkley, 1 [5] D. Halliday, R. Resnick, J. Walker: Fyzika, Část 3.- Elektřina a magnetizmus, VUT Brno, VUTIUM, 3
[6] Y. Kamarianakis, N. Frangos: Deterministic and stochastic differential equation modelling for electrical networks, HERCMA (Hellenic and European Research in Computational Mathematics) Conference, Athens University of Economics & Business, 1 [7] P. Kloeden, E. Platen, H. Schurz: Numerical Solution Of SDE Through Computer Experiments, Springer-Verlag, 1997 [8] P. Mandl: Stochastické integrály a jejich aplikace, Praha, 1976 [9] S. M. Steele: Stochastic Calculus and Financial Applications, Springer-Verlag New York Inc., 1 [1] B. Øksendal: Stochastic Differential Equations, An Introduction with Applications, Springer-Verlag, 1995 [11] Cs. Török: Visualization and Data Analysis in the MS.NET Framework, Communication of JINR, Dubna, 4, E1-4-136 [1] Cs. Török et al.: Professional Windows GUI Programming: Using C#, Chicago: Wrox Press Inc,, ISBN 1-8617-66-3 4 PUBIKACE AUTORKY Seznam publikací, které bezprostředně souvisejí s vyšetřovanou problematikou: 1. Kolářová E:Stochastic solution of electrical circuits,článek ve sborníku Mendel 3, 9th International Conference on Soft Computing, Brno, 3. Kolářová E:Stochastické řešení elektrických RC obvodů, Sborník z 1 semináře Moderní matematické metody v inženýrství, Ostrava, 3 3. Kolářová E: Solution of R electrical circuits with stochastic sources,. mezinárodní matematický workshop, článek ve sborníku konference, Brno, 3 4. Kolářová E: Stochastic models in electrotechnics, XXII. mezinárodní kolokvium ořízení osvojovacího procesu, článek na CD konference, Vyškov, 4 5. Kolářová E:Stochastic resistance in R electrical circuits, článek ve sborníku Mendel 4, 1th International Conference on Soft Computing, Brno, 4 6. Kolářová E:Řešení stochastických diferenciálních rovnic Eulerovou metodou,3. mezinárodní matematický workshop, článek ve sborníku konference, Brno, 4 7. Kolářová E, Fiala P: Modelling electrical networks by stochastic differential equations,článek ve sborníku Applied Electronics 5, Plzeň, 5 8. Kolářová E: On non-differentiability of the Wiener process, XXIII. mezinárodní kolokvium o řízení osvojovacího procesu, článek na CD konference, Brno, 5 9. Kolářová E:Modelling R electrical circuits by stochastic differential equations, článek ve sborníku IEEE konference s názvem EUROCON 5, Bělehrad, Srbsko a Černá hora, 5 1. Kolářová E:The multidimensional Itô formula in solving electrical networks by stochastic differential equations, XXIV. mezinárodní kolokvium o řízení osvojovacího procesu, článek na CD konference, Brno, 6 4
11. Kolářová E, Kubásek R: Modelling R circuits with noisy parameters,článek ve sborníku XXIX international conference on fundamentals of electrotechnics and circuit theory, IC-SPETO 6, Gliwice, Polsko, 6 1. Kolářová E:Numerical simulations of stochastic electrical circuits using C#, Conference of PhD students in computer science, Volume of extended abstracts, http://www.inf.u-szeged.hu/ cscs/abs6/cs.pdf, Szeged, Mad arsko, 6 13. Kolářová E:Statistical estimates of stochastic solutions of R electrical circuits, článek přijatý k publikaci do sborníku IEEE konference, ICIT 6, Bombay, Indie, 6 Seznam ostatních publikací: 1. Chrastinová M., Kolářová E. : MATEMATIKA, Přijímací zkoušky na vysoké školy, Brno,. Kolářová E: Vyučování matematiky v prvním semestru vysoké školy technické, článek ve sborníku CO-MAT-TECH, Trnava, 3. Kolářová E: Matematický seminář, Elektronické texty na FEKT VUT, Brno, 4. Kolářová E: Matematika - Sbírka úloh, Elektronické texty na FEKT VUT, Brno, 4 5 CV AUTORKY A. Osobní údaje: Jméno a příjmení: Edita Kolářová Bydliště: Křídlovická 78, Brno 63 e-mail: kolara@feec.vutbr.cz Datum narození:. června 1965 Stav: vdaná, mám dva syny B. Dosažené vzdělání: - 6 Doktorské studium Fakulta strojního inženýrství, VUT v Brně, obor Matematické inženýrství. 1983-1988 Matematicko - fyzikální fakulta Univerzity Karlovy, Praha, obor matematická analýza. 1979-1983 Gymnázium Velké Kapušany. C. Praxe: 1988-199 Strojní fakulta Technické Univerzity, Košice kurzy matematiky pro strojní a hutní inženýry. 199-1994 pobyt se svým manželem v USA, jeden semester jsem učila spolu s profesorem J. Conwayem předmět ineární algebra na Princetonské Univerzitě. 5
1995-1996 Strojní fakulta Technické Univerzity, Košice vedla jsem kurzy pro ekonomy. od 1999 FEKT VUT v Brně - kurzy matematiky v denním i kombinovaném studiu. D. Jazykové znalosti: 1. Anglický jazyk: dobře.. Německý jazyk: středně. 3. Ruský jazyk: středně. 4. Mad arský jazyk: výborně. 6 ABSTRACT Physical systems are usually described by deterministic models, in terms of differential equations. To obtain a more complete information about the system one may also consider stochastic effects. By incorporating random elements into the differential equations, we obtain a system of stochastic differential equations. This work deals with the Itô stochastic differential equations and shows an application of this theory to a problem in electrical engineering. First, we present a fast introduction to the theory of stochastic processes and stochastic differential equations. Special care is given to the Wiener process, which is fundamental in stochastic calculus. Then we derive the Itô formula and explain its use for computing solutions of stochastic differential equations. Some numerical schemes are also presented. We use them to generate an approximate sample path of stochastic solutions. In the second part we show an application of the Itô stochastic calculus to the problem of modelling inductor-resistor electrical circuits. The deterministic model of the circuit is replaced by a stochastic model by adding a noise term in both the source and the resistance. We obtain the analytic solution of the resulting stochastic differential equation using the multidimensional Itô formula. Statistical estimates of the stochastic solutions are then examined and confidence intervals are found for the trajectories of the solution. We used the programming language C#, a part of the new MS.NET platform, for numerical simulations. The results were verified in an experiment by measurements on inductor-resistor electrical circuits. 6