Numerická matematika



Podobné dokumenty
Numerická matematika

VYBRANÉ PARTIE Z NUMERICKÉ MATEMATIKY

FP - SEMINÁŘ Z NUMERICKÉ MATEMATIKY. Katedra matematiky a didaktiky matematiky Technická univerzita v Liberci

Interpolace, ortogonální polynomy, Gaussova kvadratura


Numerická matematika Písemky

Co je obsahem numerických metod?

stránkách přednášejícího.

Maticí typu (m, n), kde m, n jsou přirozená čísla, se rozumí soubor mn veličin a jk zapsaných do m řádků a n sloupců tvaru:

Kombinatorická minimalizace

a vlastních vektorů Příklad: Stanovte taková čísla λ, pro která má homogenní soustava Av = λv nenulové (A λ i I) v = 0.

Aplikovaná numerická matematika - ANM

Aproximace funkcí. x je systém m 1 jednoduchých, LN a dostatečně hladkých funkcí. x c m. g 1. g m. a 1. x a 2. x 2 a k. x k b 1. x b 2.

Připomenutí co je to soustava lineárních rovnic

Matematika B101MA1, B101MA2

1 0 0 u 22 u 23 l 31. l u11

úloh pro ODR jednokrokové metody

Čebyševovy aproximace

Numerické metody a statistika

Učební texty k státní bakalářské zkoušce Matematika Vlastní čísla a vlastní hodnoty. študenti MFF 15. augusta 2008

Numerické řešení diferenciálních rovnic

Numerická matematika 1

Numerické řešení nelineárních rovnic

15 Maticový a vektorový počet II

Četba: Texty o lineární algebře (odkazy na webových stránkách přednášejícího).

Numerické řešení soustav lineárních rovnic

Numerická stabilita algoritmů

Typy příkladů na písemnou část zkoušky 2NU a vzorová řešení (doc. Martišek 2017)

1 Polynomiální interpolace

Řešení nelineárních rovnic

Numerické řešení soustav lineárních rovnic

Primitivní funkce a Riemann uv integrál Lineární algebra Taylor uv polynom Extrémy funkcí více prom ˇenných Matematika III Matematika III Program

8 Matice a determinanty

Aplikovaná numerická matematika

10 Funkce více proměnných

maticeteorie 1. Matice A je typu 2 4, matice B je typu 4 3. Jakých rozměrů musí být matice X, aby se dala provést

Dnešní látka Opakování: normy vektorů a matic, podmíněnost matic Jacobiova iterační metoda Gaussova-Seidelova iterační metoda

0.1 Úvod do lineární algebry

VI. Maticový počet. VI.1. Základní operace s maticemi. Definice. Tabulku

DRN: Soustavy linárních rovnic numericky, norma

Vlastní čísla a vlastní vektory

Věta o dělení polynomů se zbytkem

Numerické metody lineární algebry

MATICE. a 11 a 12 a 1n a 21 a 22 a 2n A = = [a ij]

Integrace. Numerické metody 7. května FJFI ČVUT v Praze

Operace s maticemi. 19. února 2018

Všechno, co jste kdy chtěli vědět o maticích, ale báli jste se zeptat

2. Schurova věta. Petr Tichý. 3. října 2012

Kapitola 11: Lineární diferenciální rovnice 1/15

Základy maticového počtu Matice, determinant, definitnost

PŘEDNÁŠKA 2 POSLOUPNOSTI

Úlohy nejmenších čtverců

Matematická analýza pro informatiky I.

Lineární algebra : Násobení matic a inverzní matice

Matematika (CŽV Kadaň) aneb Úvod do lineární algebry Matice a soustavy rovnic

Arnoldiho a Lanczosova metoda

Podobnostní transformace

1 Mnohočleny a algebraické rovnice

Afinita je stručný název pro afinní transformaci prostoru, tj.vzájemně jednoznačné afinní zobrazení bodového prostoru A n na sebe.

Numerické metody a programování. Lekce 4

0.1 Úvod do lineární algebry

Pomocný text. Polynomy

s velmi malými čísly nevýhodou velký počet operací, proto je mnohdy postačující částečný výběr

Matematika 1 MA1. 2 Determinant. 3 Adjungovaná matice. 4 Cramerovo pravidlo. 11. přednáška ( ) Matematika 1 1 / 29

Numerické metody I. Jaro Normy vektorů a matic 1. 2 Nelineární rovnice Metoda bisekce (půlení intervalu) Iterační metody...

Faculty of Nuclear Sciences and Physical Engineering Czech Technical University in Prague

Státní závěrečná zkouška z oboru Matematika a její použití v přírodních vědách

1 Linearní prostory nad komplexními čísly

Lineární algebra : Násobení matic a inverzní matice

Numerické řešení nelineárních rovnic

V předchozí kapitole jsme podstatným způsobem rozšířili naši představu o tom, co je to číslo. Nadále jsou pro nás důležité především vlastnosti

Numerické metody a programování. Lekce 7

Přednáška 11, 12. prosince Část 5: derivace funkce

Otázky k ústní zkoušce, přehled témat A. Číselné řady

Jazyk matematiky Matematická logika Množinové operace Zobrazení Rozšířená číslená osa

5. Lokální, vázané a globální extrémy

Úlohy k přednášce NMAG 101 a 120: Lineární algebra a geometrie 1 a 2,

Numerické metody lineární algebry

Iterační metody řešení soustav lineárních rovnic. 27. prosince 2011

1. Matice a maticové operace. 1. Matice a maticové operace p. 1/35

5. Interpolace a aproximace funkcí

Vlastní čísla a vlastní vektory

Operace s maticemi

pouze u některých typů rovnic a v tomto textu se jím nebudeme až na

Faculty of Nuclear Sciences and Physical Engineering Czech Technical University in Prague

Četba: Texty o lineární algebře (odkazy na webových stránkách přednášejícího).

Vektorové podprostory, lineární nezávislost, báze, dimenze a souřadnice

12. Determinanty. 12. Determinanty p. 1/25

Součin matice A a čísla α definujeme jako matici αa = (d ij ) typu m n, kde d ij = αa ij pro libovolné indexy i, j.

Zdrojem většiny příkladů je sbírka úloh 1. cvičení ( ) 2. cvičení ( )

Posloupnosti a řady. 28. listopadu 2015

SOUSTAVY LINEÁRNÍCH ALGEBRAICKÝCH ROVNIC

1 Mnohočleny a algebraické rovnice

INTEGRÁLY S PARAMETREM

2. Matice, soustavy lineárních rovnic

Požadavky k písemné přijímací zkoušce z matematiky do navazujícího magisterského studia pro neučitelské obory

4. Trojúhelníkový rozklad p. 1/20

19 Hilbertovy prostory

Faculty of Nuclear Sciences and Physical Engineering Czech Technical University in Prague

Fakt. Každou soustavu n lineárních ODR řádů n i lze eliminací převést ekvivalentně na jednu lineární ODR

Transkript:

Numerická matematika Jiří Felcman Univerzita Karlova v Praze Matematicko-fyzikální fakulta KNM PRESS PRAHA 2009

iv

PŘEDMLUVA 1 přednáška 1 felcman@karlinmffcunicz Tel 22191 3392 KNMčdv442 2 Numerická matematika- anotace Obecná informatika(druh, program, ročník, obor: BI3IOI) 3 Požadavky ke zkoušce státnice(prospěl s vyznamenáním), souborná zkouška sylabus 4 Tituly PhD(projekt + angličtina) RNDr Mgr Bc 5 Studium v zahraničí- ERASMUS 6 Ceny udělované studentům 7 SVOČ 8 Hodnocení učitelů- srozumitelnost 9 Náhrada 1303 2009(Zahraničí) 0304 2009(HONOM 2009) 1004 2009(?Velký pátek?) 0105 2009(Svátek práce) 0805 2009(Den vítězství) 10 Zápočet: pátek 15 května 2009 11 Zkouška: pátek 15 května 2009(Ukončení výuky předmětů, které jsou uvedeny v doporučeném průběhu bakalářského studia pro 6 semestr) část písemná část ústní Práce je částí výzkumného projektu MSM 0021620839 financovaného MŠMT Děkuji panu Michalu Zerolovi, studentu Matematicko-fyzikální fakulty UK v Praze,kterýnapsalvL A TEXupřevážnoučásttohotoučebníhotextuapřispěl tak podstatnou měrou k jeho realizaci Praha, 11 února 2009 J F v

vi PŘEDMLUVA Numerická matematika MAI042p1aLS2008/2009 1 přednáška Reálné situace, modely, diskretizace, počítačová realizace(fólie) Náměty do cvičení: Zdroje chyb v numerické matematice 2 přednáška Aproximace funkcí, interpolace, aproximace pomoci metody nejmenších čtverců, Lagrangeova báze, existence a jednoznačnost Lagrangeova interpolačního polynomu, chyba Lagrangeovy interpolace Náměty do cvičení: Newtonova báze, monomiální báze, Vandermondova matice a determinant, vyčíslení Lagrangeova interpolačního polynomu v jediném bodě(aitkenovo-nevilleovo schéma), Hornerovo schéma, vyčíslení hodnoty derivace polynomu pomocí Hornerova schématu, počet operací při vyčíslení hodnoty polynomu 3 přednáška Přirozený kubický spline Náměty do cvičení: Konstrukce přirozeného kubického spline, řešitelnost soustavy rovnic pro momenty 4 přednáška Numerická integrace Náměty do cvičení: Symboly o(h) a O(h), substituce při výpočtu určitého integrálu(výpočet koeficientů N-C vzorců), odhad chyby N-C vzorců 5 přednáška Numerická integrace Náměty do cvičení: Rombergova kvadratura, ortogonální polynomy(důkazvěty213),konstrukceortogonálníchpolynomů p 0,p 1,p 2 na[ 1,1], vyjádření polynomu jako lineární kombinace ortogonálních polynomů 6 přednáška Metody řešení nelineárních rovnic Náměty do cvičení: půlení intervalu, metoda sečen, metoda tečen, metoda regula falsi, důkaz lemmatu 33 7 přednáška Metody řešení nelineárních rovnic Náměty do cvičení: důkaz konvergence metody postupných aproximací (věta 37), Newtonova metoda jako speciální případ věty o pevném bodě, Hornerovo schéma pro výpočet derivace,zápis algoritmu Hornerova schématu 8 přednáška Soustavy lineárních rovnic Náměty do cvičení: zápis algoritmu Gaußovy eliminace, počet operací Gaußovy eliminace, 9 přednáška Soustavy lineárních rovnic Náměty do cvičení: Gaußova eliminace jako LU rozklad, LU rozklad obecně, LU rozklad matice 44, číslo podmíněnosti při LU rozkladu 10 přednáška Iterační metody řešení soustav lineárních rovnic Náměty do cvičení: výpočet jedné iterace Gaußovy Seidelovy metody pro matici 44 11 přednáška Výpočet vlastních čísel matic

PŘEDMLUVA vii Náměty do cvičení: motivace výpočtu vlastních čísel matic, aplikace, metody výpočtu vlastních čísel, vlastní čísla symetrických matic, diagonalizovatelnost matic, různé varianty mocninné metody 12 přednáška Numerická integrace obyčejných diferenciálních rovnic Náměty do cvičení: Věta o existenci a jednoznačnosti řešení, soustavy obyčejných diferenciálních rovnic, Taylorův rozvoj funkce více proměnných, odvození Rungeovy Kuttovy metody 2 řádu 13 přednáška Gradientní metody Náměty do cvičení: pojem gradient funkce, motivace gradientních metod, odvození metody sdružených gradientů

OBSAH Úvod 1 1 Aproximace funkcí v IR 2 11 Lagrangeův interpolační polynom 4 111 Chyba Lagrangeovy interpolace 5 12 Kubický spline 6 121 Konstrukce přirozeného kubického spline 7 2 Numerická integrace funkcí 12 21 Newtonovy-Cotesovy vzorce 12 211 Složené Newtonovy Cotesovy vzorce 14 22 Rombergova kvadratura 14 23 Gaußova kvadratura 16 3 Metody řešení nelineárních rovnic 19 31 Newtonova metoda 19 311 Důkaz konvergence Newtonovy metody 20 312 Řád konvergence 23 32 Metoda postupných aproximací pro nelineární rovnice 24 33 Kořeny polynomu 24 331 Hornerovo schema 24 4 Soustavy lineárních rovnic 27 41 Podmíněnost matic 27 42 Gaußova eliminace 28 421 Pivotace 29 43 Gaußova eliminace jako faktorizační metoda 30 44 LU rozklad v obecném případě 32 441 Vliv zaokrouhlovacích chyb 34 45 Choleského rozklad 34 46 QR rozklad 35 5 Iterační metody řešení soustav lineárních rovnic 36 51 Klasické iterační metody 37 6 Výpočet vlastních čísel matic 43 61 Mocninná metoda 43 7 Numerická integrace obyčejných diferenciálních rovnic 45 71 Formulace problému 45 72 Jednokrokové metody 45 ix

x OBSAH 721 Metody typu Runge Kutta 47 8 Gradientní metody 50 81 Formulace problému 50 Bibliografie 51 Index 52

ÚVOD Numerická analýza: Studium algoritmů(jednoznačně definovaná konečná posloupnost aritmetických a logických operací) pro řešení problémů spojité matematiky LN Trefethen, Bulletin IMA 1993 Numerická matematika: realizace matematických modelů na počítači Fyzikální realita matematický model numerické řešení, tj realizace matematického modelu na počítači Validation(solving the right equations) verification(solving the equations right) Literatura k přednášce:(quarteroni et al, 2004),(Ueberhuber, 2000), (Segethová, 2000) Předpokládané znalosti: Rolleova věta, definice normy funkce, definice seminormy, vlastní čísla, báze lineárního vektorového prostoru, Taylorova věta 1

1 APROXIMACE FUNKCÍ V IR Jedna ze základních úloh numerické matematiky: aproximace dané funkce f jinou funkcí ϕ Zadání aproximované funkce- analyticky, nebo je k dispozici tabulkahodnot(x i,f i ),x i,f i IR,i=0,,n,n IN,f i = f(x i )(vizobr 101) tabulkahodnotderivacídourčitéhořáduvuzlech x i Pro funkci f definovanou na uzavřeném intervalu[a, b] uvažujeme dělení intervalu[a,b], a=x 0 < x 1, < x n = b,n Z + = {0,1,}anazývámeho sítí x i, i=0,nnazývámeuzly(ekvidistantní,je-li x i = a+ih,kde h IRje kroksítě) Poznámka 11 Pojem síť se používá obecně v N-rozměrném prostoru, viz např (Feistaueretal,2003,str185):LetΩ IR N beadomainif N=2,thenby Ω h wedenoteapolygonalapproximationofωthismeansthattheboundary Ω h ofω h consistsofafinitenumberofclosedsimplepiecewiselinearcurves For N=3,Ω h willdenoteapolyhedralapproximationofωfor N=3weset Ω h =ΩThesystem D h = {D i } i J,where J Z + = {0,1,}isanindexset and h >0,willbecalledafinitevolumemeshinΩ h,if D i, i J,areclosedline segmentsorclosedpolygonsorpolyhedrons,if N=1or N=2or3,respectively, with mutually disjoint interiors such that Ω h = i J D i Theelements D i D h arecalledfinitevolumestwofinitevolumes D i, D j D h areeitherdisjointortheirintersectionisformedbyacommonpartoftheir boundaries D i and D j If D i D j containsatleastonestraightsegmentora planemanifold,if N=2or3,respectively,thenwecall D i and D j neighbouring finite volumes(or simply neighbours) Požadavky na aproximující funkci ϕ (A) jednoduchý tvar, snadno vyčíslitelná polynom {1,x,x 2,x 3,} trigonometrickýpolynom {1,sin x,cos x,sin2x,cos2x,} racionální funkce exponenciálnífunkce ae bx 2

APROXIMACE FUNKCÍ V IR 3 5 4 3 2 1 0 1 2 3 4 5 Obr 101 Interpolační polynom nabývající v daných uzlech předepsaných hodnot 3 25 2 15 1 05 0 1 2 3 4 Obr 102 Proložení přímky třemi body(ve smyslu nejmenších čtverců) (B) ϕ (j) (x i )=f (j) (x i ), derivací v uzlech) (C) ϕ f malá,kde značínormu i=0,,n,j=0,,c i (rovnosthodnot,event Poznámka 12 Od požadavku(b) někdy upouštíme(proložit třemi body přímku-vizobr102) Nejčastější způsoby aproximace 1 Interpolace-kfunkci fsestrojímefunkci ϕzjistétřídy Msplňující(B) 2 Aproximace metodou nejmenších čtverců- k funkci f sestrojíme funkci ϕ z jisté třídy M splňující(b) ve smyslu nejmenších čtverců diskrétní případ

4 APROXIMACE FUNKCÍ V IR n ( w i f(xi ) ϕ(x i ) ) 2 =min i=0 ψ M i=0 n ( w i f(xi ) ψ(x i ) ) 2 kde w i >0,i=0,,njsouzadanáčísla,zvanáváhyNázev nejmenší čtverce je patrný z následujícího příkladu: Příklad13 Prodanéděleníintervalu[a,b]adanékladnéváhy w i uvažujme normu funkce f danou vztahem f := n ( w i f(xi ) ) 2 ϕ Msehledátak,že spojitý případ b a i=0 f ϕ 2 =min f ψ 2 ψ M w(x) ( f(x) ϕ(x) ) 2 dx=min ψ M b a w(x) ( f(x) ψ(x) ) 2 dx wjeváhováfunkce(skorovšudekladnáv[a,b], w L 2 (a,b)definice pojmu skorovšude aprostoru L 2 (a,b)viznapř(feistaueretal, 2003,strana)) 3 Čebyševova(stejnoměrná) aproximace- k funkci f sestrojíme funkci ϕ z jisté třídy M splňující max [a,b] ϕ(x) f(x) max ψ(x) f(x) [a,b] provšechnyfunkce ψ M,kde Mjezvolenámnožinafunkcí 11 Lagrangeův interpolační polynom Hledámepolynom L n stupněnejvýše n(píšeme L n Π n -prostorpolynomů stupně nejvýše n) takový že L n (x i )=f(x i ) i=0,,n, (111) x i -navzájemrůznéuzly,obecněneekvidistantnítakovýpolynomnazveme Lagranegeovým interpolačním polynomem Věta14 Nechť x 0,,x n jsounavzájemrůznéuzlypakexistujeprávějeden interpolačnípolynom L n Π n : L n (x i )=f(x i ) i=0,,n

Důkaz 1 Existence Uvažujme polynomy LAGRANGEŮV INTERPOLAČNÍ POLYNOM 5 l i (x)= (x x 0)(x x 1 )(x x i 1 )(x x i+1 )(x x n ) (x i x 0 )(x i x 1 )(x i x i 1 )(x i x i+1 )(x i x n ) (tzv Lagrangeovy polynomy) Platí α) l i (x) Π n, 1, i=j, β) l i (x j )=δ ij = (Kroneckerovo delta) 0, i j Položme n L n (x)= f(x i )l i (x) i=0 2 Jednoznačnost Nechť L 1 n,l 2 n Π n splňují(viz(111)) L 1 n(x i )=L 2 n(x i )=f(x i ) i=0,,n Potom L 1 n L 2 n Π n jepolynom,kterýmá(n+1)různýchkořenůpodle základnívětyalgebryje L 1 n L 2 nnulovýpolynom Poznámka 15 Položme Potom platí kde čárka označuje derivaci ω n+1 (x)=(x x 0 )(x x n ) l i (x)= 111 Chyba Lagrangeovy interpolace ω n+1 (x) (x x i ) ω n+1 (x i), Věta16 Nechť f C n+1 (I),kde Ijenejmenšíintervalobsahující x 0,,x n,x a x 0,,x n jsounavzájemrůznéuzly,nechť L n Π n jelagrangeůvinterpolačnípolynomprofunkci fpak ξ I f(x ) L n (x )= f(n+1) (ξ) ω n+1 (x ) (n+1)! (chybalagrangeovyinterpolacevbodě x )

6 APROXIMACE FUNKCÍ V IR Důkaz Pro x = x i jedůkazzřejmýpro x x i uvažujmefunkci: F(x)=f(x) L n (x) t ω n+1 (x) kde t IRPlatí: F(x i )=0 i=0,,n Pro vhodnou volbu t:= f(x ) L n (x ) ω n+1 (x ) (112) platí,že F(x )=0 F mátedy n+2nulovýchbodů(uzly x i abod x )Podle Rolleovy věty: F máaspoň n+1nulovýchbodů, F (n+1) máaspoň1nulovýbod,označmeho ξ F (n+1) (ξ)=0=f (n+1) (ξ) 0 t (n+1)! / ωn+1 (x ) (n+1)! kdejsmevyužilitoho,že(n+1)-níderivace L n jenulováa(n+1)-níderivace ω n+1 je(n+1)!dosadíme-liza tzevztahu(112),dostaneme f(x ) L n (x )= f(n+1) (ξ) ω n+1 (x ) (n+1)! Zkušební otázka 11! Chyba Lagrangeovy interpolace 12 Kubický spline 2 přednáška Definice17 Nechťjedánoděleníintervalu[a,b], a=x 0 < x 1 < < x n = b (x i navzájemrůzné)řekneme,žefunkce ϕ:[a,b] IRjekubickýspline,jestliže 1 ϕ jespojitá( C 2 [a,b]), 2 ϕ [xi,x i+1] jekubickýpolynom,pro i=0,1,,n 1 Poznámka 18 Spline- elastické pravítko používané při stavbě lodí Poznámka 19 Kubický spline je speciálním případem spline k-tého řádu pro k=3důvodemčastéhopoužitíkubickéhosplinejefakt,želidskéokojeschopné rozlišit ještě změny 2 derivace

KUBICKÝ SPLINE 7 Poznámka 110 Kubický spline dobře aproximuje funkci, která popisuje tvar s minimální energií Popíšeme-li tvar pružné laťky funkcí y = f(x), potom E(y)= b a y (x) [ 1+(y (x)) 2] 3/2 dx měří její ohybovou energii Lať se deformuje tak, že je tato energie minimální (Hamiltonůvprincip)Dáseukázat,žemezivšemifunkcemizC 2 [a,b]aproximuje kubickýspline ϕ:: ϕ(x i )=f(x i )velmidobřefunkci y,prokterousenabývá minima E(y):min y E(y)=E(y ) Věta111 Nechť f C 2 [a,b]pakprokaždýkubickýspline ϕsplňující platí ϕ(x i )=f(x i ), ϕ f, kde u 2 := i=0,,n, b a u (x) 2 dx, jestliže je splněna některá z následujících třech podmínek: (a) ϕ (a)= 0 = ϕ (b) (b) ϕ (a)=f (a) a ϕ (b)=f (b) (c) ϕ (a)=ϕ (b) a ϕ (a)=ϕ (b) (121) Poznámka 112 (Pozor, ve větě 111 neznačí normu, ale pouze seminormu vsobolevověprostoru H 2 (a,b),kteráseobvykleznačí H 2 (a,b),detailyviznapř (Feistaueretal,2003,page)) Důkaz Viz cvičení k přednášce Důsledek 113 Ve všech třech případech(a),(b),(c) je kubický spline určen jednoznačně 121 Konstrukce přirozeného kubického spline Značení: f i := f(x i ) i=0,,n, ϕ i := ϕ [xi,x i+1] i=0,,n 1, h i := x i+1 x i i=0,,n 1 Kubickýpolynom ϕ i jenaintervalu[x i,x i+1 ]určenčtyřmikoeficientypočet intervalůje n,celkemmámetedyprourčení ϕpočetstupňůvolnosti4npro tyto stupně volnosti sestavíme příslušné rovnice Počet neznámých 4 počet intervalů 4n Početrovnic ϕ(x i )=f(x i ),i=0,,n n+1 spojitost ϕvx i,i=1,,n 1 n 1 spojitost ϕ v x i,i=1,,n 1 n 1 spojitost ϕ v x i,i=1,,n 1 n 1 4n 2

8 APROXIMACE FUNKCÍ V IR Počet rovnic je o dvě menší než počet neznámých Doplníme je proto některou z podmínek(121),(a) (b) Uvažujme např podmínku(121),(a), tj podmínku nulových druhých derivací v krajních bodech Takový spline nazýváme přirozenýmkubickýmsplinemprourčenípřirozenéhokubickéhosplinuhledáme ϕ i ve vhodném tvaru Ukazuje se, že efektivní metoda není založena na vyjádření ϕ i (x)=a i x 3 + b i x 2 + c i x+d i (NEVHODNÉvizcvičení) ani na vyjádření ϕ i (x)=a i (x x i ) 3 +b i (x x i ) 2 +c i (x x i )+d i (MÉNĚVHODNÉvizcvičení) ale na vyjádření pomocí tzv momentů, což jsou hodnoty druhé derivace ϕ v uzlechoznačmeje M i : M i := ϕ (x i ), i=0,,n a předpokládejme, že tyto momenty známe Později ukážeme, jak je určit Platí ϕ i kubickýpolynom ϕ i parabola ϕ i přímka Z předpokladu spojitosti druhé derivace ϕ v uzlech dostáváme M i = ϕ i(x i ), M i+1 = ϕ i(x i+1 ) Jetedy ϕ i přímka,procházejícíbody(x i,m i )a(x i+1,m i+1 )(vizobr121) Integrací odvodíme ϕ i(x)= (x x i) M i+1 x i+1 x i + M i (x x i+1 ) x i x i+1, ϕ i(x)= M i h i (x x i+1 )+ M i+1 h i (x x i ) ϕ i(x)= M i 2h i (x x i+1 ) 2 + M i+1 2h i (x x i ) 2 + A i, ϕ i (x)= M i 6h i (x x i+1 ) 3 + M i+1 6h i (x x i ) 3 + A i (x x i )+B i (122) vhodný rozpis integrační konstanty

KUBICKÝ SPLINE 9 ϕ M i i M i+1 x i x i+1 Obr121 Přímka ϕ i Ve vyjádření ϕ i ve tvaru (122) nejprve určíme koeficienty A i,b i, i = 0,,n 1pomocímomentůapotomsestavímerovnicepromomentyVyužijeme k tomu podmínky ϕ i (x i )=f i, ϕ i (x i+1 )=f i+1, i=0,,n 1 (Dvěrovniceprodvěneznámé A i,b i, i=0,,n 1)Dostaneme ϕ i (x i )= M i 6 h2 i+ B i = f i, ϕ i (x i+1 )= M i+1 6 B i =f i M i 6 h2 i, h 2 i+ A i h i + f i M i 6 h2 i= f i+1, A i = f i+1 f i + M i M i+1 h i h i 6 Rovnice pro momenty sestavíme ekvivalentním vyjádřením podmínky spojitosti derivace kubického spline v uzlech: ϕ i 1(x i )=ϕ i(x i ), i=1,,n Připomeňmesitvar ϕ i resp ϕ i 1 ϕ i(x)= M i (x x i+1 ) 2 + M i+1 (x x i ) 2 + A i 2h i 2h i ϕ i 1(x)= M i 1 2h i 1 (x x i ) 2 + M i 2h i 1 (x x i 1 ) 2 + A i 1

10 APROXIMACE FUNKCÍ V IR Svyužitímvyjádřenípro A i,resp A i 1 pomocímomentůdostaneme ϕ i 1(x i )=0+ M i h 2 2h i 1+ f i f i 1 + M i 1 M i h i 1 i 1 h i 1 6 = M i h 2 2h i+0+ f i+1 f i + M i M i+1 h i = ϕ i h i 6 i(x i ) Protožekonstruujemepřirozenýkubickýspline,je M 0 = ϕ (x 0 )=0=ϕ (x n )= M n adostávámetak n 1rovnic(i = 1,,n 1)proneznámemomenty M 1,M 2,,M n 1 Tytorovnicelzepřepsatvetvaru ( 6 M hi 1 i 1+ h i 1 + h i 2 6 2 h ) i M i + h i 6 6 M i+1= f i f i 1 + f i+1 f i h i 1 h i } {{ } } {{ } h i 1 +h i g i 3 h i 1 Maticový zápis vede na soustavu s třídiagonální maticí h 0+h 1 h 1 3 6 h i 1 h i 1+h i h i 6 3 6 h n 2 6 h n 2+h n 1 3 M 1 M i 1 M i M i+1 M n 1 Zkušební otázka 12! Konstrukce přirozeného kubického spline = g 1 g i 1 g i g i+1 g n 1 Příklad 114 Pro ekvidistantní dělení s krokem h má matice soustavy tvar 4 1 h 1 4 1 6 1 4 Při vyšetřování řešitelnosti této soustavy lze využít následující definici a větu z algebry: Definice115 Řekněme,žematice Atypu n n,n 2jeostřediagonálně dominantní(odd), jestliže a ii > n j=1,j i a ij i=1,,n

KUBICKÝ SPLINE 11 Věta116 Nechť A IR nn jeoddpak Ajenesingulární Důkaz pomocí Geršgorinových kruhů, viz(quarteroni et al, 2004, str 184) Ajenesingulární deta 0 rovnicedet(a λi)=0nemákořen λ=0 nula není vlastním číslem matice A Nechť λ je vlastní číslo matice A Ax=λx y:= x x, x :=max x i i Ay= λy y i 1, i 0 :: y i0 =1 j i 0 a i0jy j + a i0i 0 y i0 = λy i0 j i0 a i0jy j = λ ai0i 0 y i0 λ a i0i 0 ai0j j i 0 (Geršgorinůvkruhostředu a i0i 0 apoloměru ai0j ) j i 0 Kdyby λ=0bylovlastnímčíslem a i0i 0 ai0j j i 0 SporsODD λ=0tedynenívlastníčísloamatice Ajenesingulární Matice soustavy rovnic pro momenty je ODD, soustava je tedy podle výše uvedené věty jednoznačně řešitelná a protože matice soustavy je třídiagonální, lze pro řešení použít např Gaußovu eliminaci

2 NUMERICKÁ INTEGRACE FUNKCÍ 3 přednáška Nechťjedánoděleníintervalu[a,b], a x 0 < x 1 < < x n b(x i navzájemrůzné)označme h=max i {0,,n 1} x i+1 x i Vzorec Cíl: I(f)= b a f(x)dx I h (f)= I h (f)= n α i f(x i ) i=0 n α i f(x i ) (201) senazývákvadraturníformule, α i jsoukoeficientykvadraturníformuleax i jsou uzly kvadraturní formule Motivace hledání aproximace určitého integrálu ve tvarulineárníkominacehodnotfunkce f vuzlech x i jezřejmáznásledujícího odstavce 21 Newtonovy-Cotesovy vzorce Prodané n IN uvažujmeekvidistantníděleníintervalu[a,b]skrokem h= b a n, x i = a+ih, i=0,,naproximujeme-lifunkci f Lagrangeovýminterpolačnímpolynomem L n prouzly x 0,,x n,lzeurčitýintegrálzfunkce f aproximovat následujícím způsobem: b a n f(x i ) i=0 b a f(x)dx b a i=0 L n (x)dx= l i(x) { }} { (x x 0 )(x x i 1 )(x x i+1 )(x x n ) (x i x 0 )(x i x i 1 )(x i x i+1 )(x i x n ) dx= i=0 b n l i (x)dx f(x i ) (211) a } {{ } α i Tento vzorec nazýváme pro ekvidistantní uzly Newtonův-Cotesův Pro výpočetkoeficientů α i použijemenásledujícísubstituci 12

NEWTONOVY-COTESOVY VZORCE 13 subst x=a+th x i = a+ih, h= b a n α i := b a n j=0,j i (x x j ) (x i x j ) dx= b a n n 0 n j=0,j i (t j) dt (212) (i j) ZkonstrukceLagrangeovyinterpolace L n funkce f Π n plyne,že L n (x)= f(x),atedyn-cvzorecjepřesnýpropolynomystupněnejvýšentonásvede k následující definici Definice21 Řekneme,žekvadraturníformule n i=0 α i f(x i )mářádpřesnosti m,jestliže m IN {0}jemaximálníčíslotakové,že b a p(x)dx= n α i p(x i ) p Π m (213) i=0 Zkušební otázka 21 Řád kvadraturní formule Lemma22 Je-likvadraturníformule n i=0 α i f(x i )symetrická,tjpro i= 0,,nplatí b x n i = x i a, α i = α n i, aje-lijejířád n, nsudé,pakjejejířád n+1 Lemma 23 Newtonův-Cotesův vzorec je symetrická kvadraturní formule Důsledek24 Pro nsudéjeřádn-cvzorce n+1 Zkušební otázka 22 Odvoďte Newtonův-Cotesův vzorec Lemma 25 (Odhad chyby lichoběžníkového pravidla) Nechť f C 2 [a,b]označme T h (f)n-cvzorecpro n=1(lichoběžníkové pravidlo)pak ξ [a,b],::(přiznačení I(f)= b a f(x)dx) I(f) T h (f)= f (ξ) 2 h3, h=(b a) (214) 6 Lemma 26 (Odhad chyby Simpsonova pravidla) Nechť f C 3 [a,b] Označme S h (f) N-C vzorec pro n = 2 (Simpsonovo pravidlo)pak ξ [a,b],:: I(f) S h (f)= h5 90 f (ξ), h= (b a) (215) 2

14 NUMERICKÁ INTEGRACE FUNKCÍ Definice 27 (zbytek kvadraturního vzorce) Rozdíl kde I(f)= b nazýváme zbytek kvadraturního vzorce E h (f)=i(f) I h (f), a f(x)dx, I h (f)= 211 Složené Newtonovy Cotesovy vzorce n α i f(x i ), Newtonovy Cotesovy vzorce lze také aplikovat tak, že interval[a, b] rozdělíme na mekvidistantníchsubintervalů[x i,x i+1 ]velikosti H anakaždémztěchto subintervalů použijeme Newtonův Cotesův vzorec pro n ekvidistantních uzlů x i = x i0 < < x in = x i+1 skrokem h x i = a+ih, H= b a m, i=0,m, x i j = x i + jh, h= H n I(f):= m 1 i=0 xi+1 x i m 1 f(x)dx Ih(f)= i i=0 i=0 m 1 i=0 j=0 m,n IN n α ij f(x ij )=: I h (f) Věta28 (složené N-C vzorce) Nechť f C n+1 [a,b] Pak pro složené N-C vzorce platí I(f) I h (f) ch n+1, (216) kde c >0jekonstantanezávislánah Důkaz plyne z odhadu chyby Lagrangeova interpolačního polynomu 22 Rombergova kvadratura Výpočet b f(x)dxpomocísloženéholichoběžníkovéhopravidlapro n+1uzlů a m=n, H= b a m, h=h Věta29 (Eulerova-MacLaurinova)Nechť f C 2N+2 [a,b], h= b a n, n IN Potomprosloženélichoběžníkovépravidlo(označmeho CT h (f))platí: CT h (f)=p(h 2 )+O(h 2N+2 ) (221) = I(f)+a 1 h 2 + a 2 h 4 + +a N h 2N + O(h 2N+2 ), (222) kde p Π N, p=p(t)=a 0 + a 1 t+ +a N t, a 0 = p(0)= b a f(x)dx=i(f)

Důkaz viz Stör Numerische Mathematik I ROMBERGOVA KVADRATURA 15 Rombergovakvadratura:konstruujemelineárníkombinacivzorců CT h (f)pro vhodné h tak, abychom získali vzorec, který je přesnější: CT h (f)=i(f)+a 1 h 2 + O(h 4 ) / 1 h 2 CT h(f)=i(f)+a 1 2 4 + O(h4 ) /4 4CT h(f) CT h (f) 2 3 = I(f)+O(h 4 ) link=i(f)+chyba (N=1) Vhodnou lineární kombinací vzorců, z nichž každý aproximuje integrál I(f) s chybou O(h 2 ), jsme tak odvodili vzorec, který aproximuje integrál I(f) s chybou O(h 4 )Zapředpokladudostatečnéhladkostifunkce f (vizeulerova MacLaurinova věta) můžeme tímto způsobem odvodit vzorec, který aproximuje integrál I(f)schybou O(h 2N+2 )Všimněmesinapř,jakourolihrajevtomto postupuvyčíslenílagrangeovainterpolačníhopolynomu L 2 prouzly h2, CT h zapsanéhovetvaru L 2 (0)+b 1 t+b 2 t 2 (předpoklá- ahodnoty CT h 4 dáme h <<1), CT h 2 16, h 2 4, h2 Euler MacLaurin Lagrange CT h (f)=i(f)+a 1 h 2 + a 2 h 4 + O(h 6 )=L 2 (0)+b 1 h 2 + b 2 h 4 (223) h CT h(f)= I(f)+a 2 1 2 4 + a 2 h4 16 + h 2 O(h6 ) = L 2 (0)+b 1 4 + b 2 (224) 16 h CT h(f)= I(f)+a 2 1 4 16 + a 2 h4 256 + h 2 O(h6 ) = L 2 (0)+b 1 16 + b h 4 2 (225) 256 link = I(f)+0+0+O(h 6 ) = L 2 (0)+0+0 (N=2) kde L 2 (t)= b 0 }{{} L 2(0) +b 1 t+b 2 t 2 jelagrangeůvinterpolačnípolynomprotabulku h 0 2 16 link CT h 4 (f) CT h 2 h 2 4 h 2 (f) CT h (f) Závěr: L 2 (0)aproximuje b a f(x)dxschybou O(h6 )Přikonstrukci L 2 (0)se jedná o tzv Richardsonovu extrapolaci Uvedený postup lze provést až do řádu 2N+2prouzly( h 2 i ) 2 ahodnoty CT h 2 i, i=0,,n,pomocínichžkonstruujeme L N Problém: Vyčíslení Lagrangeova interpolačního polynomu v jediném bodě (zde konkrétně v 0) aniž bychom Lagrangeův interpolační polynom sestavovali Zde nepotřebujeme tvar Lagrangeova interpolačního polynomu, ale pouze jeho hodnotu v jediném bodě K tomu se používá Aitkenovo Nevilleovo schéma h 4

16 NUMERICKÁ INTEGRACE FUNKCÍ Zkušební otázka 23! Odvoďte Rombergův kvadraturní vzorec, který aproximuje hodnotu b a f(x)dxschybou O(h4 )Vysvětlete význam Lagrangeova interpolačního polynomu při konstrukci Rombergova kvadraturního vzorce 23 Gaußova kvadratura 4 přednáška Víme,žeN-Cvzorcemajířádaspoň n(pro nsudédokonceaspoň n+1) Jakéhořádumůžebýtformuletypu n i=0 α if(x i )?Uvažujmeprodanédělení intervalu[a,b], a x 0 < < x n bkvadraturníformuli I h (f)= n α i f(x i ) (231) i=0 Lemma 210 (Řád kvadraturní formule) Řád kvadraturní formule(231) je nejvýše2n+1 Důkaz Uvažujmepolynom p(x)= n i=0 (x x i) 2 Π 2n+2 Tentopolynomje nezápornáfunkcenaintervalu[a,b]aplatíproněho b a p(x) >0 Kvadraturní formule typu(231) dává pro tento polynom n α i p(x i )=0 i=0 Propolynom pnenítedykvadraturníformule(231)přesnáajejířádjetedy nejvýše2n+1 Gaußova kvadratura je způsob konstrukce vzorce n i=0 α if(x i ), který je přesný pro všechny polynomy stupně nejvýše 2n + 1 Definice 211 (skalární součin polynomů) Skalární součin v C[a, b] je definován (u,v)= b Definice 212 Množina normovaných polynomů a u(x)v(x) dx (232) Π n = {p Π n ; p(x)=x n + a n 1 x n 1 + +a 0 } (233) Myšlenka konstrukce Gaußovy kvadratury: x i (uzly): kořenypolynomu p n+1 zmnožinyortogonálníchpolynomů {p 0,p 1,,p n+1 }, b α i (koeficienty): určíme tak, aby a q(x)dx = n i=0 α iq(x i ) q Π 2n+1

GAUßOVA KVADRATURA 17 Věta213 (Ortogonálnípolynomy)Existujíjednoznačněurčenépolynomy p i, pro které platí 1 p i Π i, i IN {0}, (p i,p j )=0, i j, (pozn p 0 (x)=1) 2 Kořeny x 0,,x n polynomu p n+1, n IN {0},jsoureálné,jednoduché aležív(a,b) 3 p 0 (x 0 ) p 0 (x 1 ) p 0 (x n ) p 1 (x 0 ) p 1 (x 1 ) p 1 (x n ) A= p n (x 0 ) p n (x 1 ) p n (x n ) je nesingulární Důkaz viz cvičení k přednášce Svyužitímortogonálníchpolynomů p 0,,p n+1 akořenů x i polynomu p n+1 určímekoeficienty α i Gaußovykvadraturníformuletak,abyplatilo: b a q(x)dx= n α i q(x i ), q Π 2n+1 (234) i=0 Ktomuvyjádřímepolynom qvetvaru q(x)=r(x)p n+1 (x)+s(x), r,s Π n, (dělenípolynomu qpolynomem p n+1 )apolynomy r(x),s(x) Π n vyjádříme jako lineární kombinaci ortogonálních polynomů(existence takového vyjádření viz cvičení k přednášce), specielně nechť s(x)= n γ j p j (x) Nazákladětohotovyjádřenímávýraznalevéstraněv(234)tvar j=0 = b a b a b q(x)dx= r(x)p n+1 (x)dx+ a } {{ } =0 n γ j p j (x)dx= j=0 b a n j=0 γ j b a s(x) dx =1 { }} { p 0 (x) p j (x)dx

18 NUMERICKÁ INTEGRACE FUNKCÍ = n b b b γ j p 0 (x)p j (x)dx=γ 0 p 0 (x)p 0 (x)dx=γ 0 dx j=0 a Levástranav(234)jetedyrovna a γ 0 (b a) Pravá strana v(234) má na základě výše uvedených vyjádření tvar n n n α i [r(x i )p n+1 (x i ) +s(x i )]= α i γ j p j (x i ) } {{ } i=0 i=0 j=0 =0 Vidíme, že levou a pravou stranu v(234) lze tedy vyjádřit jako lineární kombinacíjistýchvýrazůskoeficienty γ j γ 0 (b a)+ γ 1 0 + +γ n 0 n n n = γ 0 p 0 (x i )α i + γ 1 p 1 (x i )α i + +γ n p n (x i )α i i=0 i=0 Porovnánímvýrazůukoeficientů γ j nalevéapravéstranědostanemerovnice prourčeníhledanýchkoeficientů α i : n i=0 p 0(x i )α i = (b a) p 0 (x 0 ) p 0 (x n ) n i=0 p 1(x i )α i = 0 p 1 (x 0 ) p 1 (x n ) n i=0 p n(x i )α i = 0 p n (x 0 ) p n (x n ) i=0 a α 0 α 1 α n = b a 0 Zhlediskastabilityjevýhodné,žekoeficienty α i Gaußovakvadraturního vzorce n i=0 α if(x i )jsoukladné Věta214 (pozitivita α i ) Koeficienty α i Gaußova kvadraturního vzorce jsou kladné Důkaz Položme: 0 < p k (x)= b a n i=0,i k (x x i ) 2 Π 2n n p k (x)dx= α i p k (x i )=α k p k (x k ) } {{ } i=0 >0 α k kladné k=0,1,,n Zkušební otázka 24! Odvoďte Gaußův kvadraturní vzorec řádu 2n + 1 na intervalu[a, b] Odvoďte Gaußův kvadraturní vzorec řádu 3 na intervalu[ 1, 1] (uvažujteortogonálnípolynomy {1,x,x 2 1 3 } 0

3 METODY ŘEŠENÍ NELINEÁRNÍCH ROVNIC Nechť je dáno nelineární zobrazení 5 přednáška F:IR N IR N Hledáme α:: F(α)=0 Metody pro řešení výše uvedené úlohy jsou většinou iterační Cíl je generovat posloupnost {x (k) }takovou,želim x (k) = α,kde F(α)=0 31 Newtonova metoda Problém F(x)=0nahradímeposloupnostílineárníchproblémů L k (x)=0, L k : IR N IR N,k=0,1,,takových,žejejichřešenítvoříposloupnostkonvergující křešeníproblému F(x)=0 α x k+1,kde L k (x k+1 )=0 Nechť x (0) jedáno(pozdějiukážeme,jakhovolit)prodanouaprixamaci x (k) uvažujeme L k (x)jakolineárníčásttaylorovarozvojezobrazení Fvbodě x (k) IR N (J(x)značíJakobihomaticizobrazeníFvbodě x): F(x)=F(x (k) )+J(x (k) )(x x (k) ) +O( x x (k) 2 ) } {{ } L k (x) (za předpokladu dostatečné hladkosti zobrazení F) Nelineární problém nahradíme problémem lineárním {F(x)=0} {F(x (k) )+J(x (k) )(x x (k) ) =0(311) } {{ } L k (x) řešení αnelinpb aproximujemeřešením x (k+1) linpb (312) α x (k+1) := x (k) J 1 (x (k) )F(x (k) )(313) Vzorecv(313),kterýmjedefinována(k+1)-níaproximace x (k+1) řešení nelineárního problému je formální, ve skutečnosti se inverzní matice nepočítá a algoritmus má následující dva kroky: Algoritmus: 19

20 METODY ŘEŠENÍ NELINEÁRNÍCH ROVNIC 1 J(x (k) )(x x k ) } {{ } δx (k) = F(x(k) )-řešímelineárníúlohupro δx(k) 2 x (k+1) := x (k) + δx (k) -provedemeupdatepředchozíaproximace Pro N = 1(nelineární skalární rovnice pro jednu neznámou) má Newtonova metoda názorný geometrický význam Nelineární funkci f(x) nahradíme lineárnífunkcí(přímkou),kterájetečnoukegrafufunkce f vbodě(x (k),f(x (k) ) (mátedysměrnici f (x (k) )aprocházíbodem(x (k),f(x (k) ))Vtomtopřípaděse Newtonova metoda nazývá metodou tečen N=1: x (k+1) = x (k) f(x(k) ) f (x (k) ), x(0) dáno, f (x (k) ) 0 Zkušební otázka 31! Odvoďte Newtonovu metodu pro soustavy nelineárních rovnic a její algoritmizaci Popište algoritmus v případě jedné skalární rovnice Způsob,jaknahraditfunkci f přímkouprocházejícíbodem(x (k),f(x (k) )) není jediný Další možnosti jsou metoda sečen, jednobodová metoda sečen nebo metoda regula falsi(viz cvičení k přednášce) Poznámka 31 Newtonova metoda je speciálním případem náhrady funkce f lineární funkcí l k (x):= f(x (k) )+(x x (k) )q k, kdesměrnice q k sevolí q k := f (x (k) ) 311 Důkaz konvergence Newtonovy metody Věta32 (KonvergenceNewtonovymetodyprosoustavy)Nechť F C(D),D IR N konvexní,otevřenámnožina,kteráobsahuje α:: F(α)=0Nechť J 1 (α), nechť R >0,c >0,L >0: J 1 (α) c, J(x) J(y) } {{ } L x y } {{ } maticová norma vekt norma x,y B(α,R), kde B(α,R)jekouleostředu αapoloměru RPotom r, x (0) B(α,r), posloupnost 313 je jednoznačně definována a konverguje k α a platí Motivace: N=1 α x (k+1) α cl x (k) 2 (314) x (k+1) = x (k) f(x(k) ) f (x (k) ) Newtonova metoda

Z Taylorova rozvoje dostáváme: NEWTONOVA METODA 21 f(α)=f(x (k) )+f (x (k) )(α x (k) )+ f (ξ)(α x (k) ) 2 2 Zajímánáschyba(α x (k+1) )Chcemeukázat,že α x (k+1) 0Odečtením α od obou stran vzorce pro Newtonovu metodu získáme vyjádření α x (k+1) = α x (k) + f(x(k) ) f (x (k) ) Úpravou Taylorova rozvoje(uvědomíme-li si, že f(α) = 0) dostaneme 0= f(x(k) ) f (x (k) ) +(α x(k) )+ f (ξ)(α x (k) ) 2 2 f (x (k) ) Z předchozích dvou rovnic snadno nahlédneme, že platí α x (k+1) = f (ξ)(α x (k) ) 2 2 f (x (k) ) Předpokládejme nyní, že existuje konstanta c taková, že podíl derivací na pravé straně předchozího výrazu lze odhadnout f (ξ) 2 f (x (k) ) < c ξ x(k) Potom dostaneme ( α x (k+1) α c x (k) 2 ) c c α x (k 1) 2 2 = 1 c ( ) c α x (k 1) 4 1 c ( ) c α x (0) 2 k+1 Pravástranakonvergujeknulepro k + zapředpokladu c α x (0) <1,tjjestližeje x (0) dostatečněblízkokα Pro důkaz konvergence Newtonovy metody pro jednu skalární rovnici jsme tedy využili tyto předpoklady 1 x (0) dostatečněblízko α, 2 f omezenáshora 1 3 f omezenáshora(tjpředpokládáme f (α) 0), které korespondují s předpoklady Věty 32 Jak, to je patrné z následujícího důkazu

22 METODY ŘEŠENÍ NELINEÁRNÍCH ROVNIC Důkaz věty32 x (0) zvolímevb(α,r),kde ručímetak,aby J 1 (x (0) )existovala(jinýmislovy, x (0) volímedostatečněblízko α)ktomuvyužijemenásledující tvrzení z algebry: Lemma 33 Důkaz viz cvičení k přednášce Definujme matici A <1 (I A) 1 existujeaplatí (I A) 1 1 1 A A:= I J 1 (α)j(x (0) ) kde x (0) zvolímetak(blízko α),aby A <1,konkrétnězvolíme x (0) tak,aby A 1 2 K tomu využijeme předpoklady Věty 32 týkající se odhadu inverze Jacobiho matice v bodě α a lipschitzovskosti Jacobiho matice: A { }} { I J 1 (α)j(x (0) ) = J 1 (α)(j(α) J(x (0) )) cl α x (0) (315) x (0) zvolímetak,abyposlednívýrazv(315) 1 2 Tímdostávámepodmínku na x (0) : α x (0) 1 α cl azároveň x (0) R( platnost podmínky lipschitzovskosti) Pro r dostáváme ( ) 1 r:=min 2cL,R Vmnožine B(α,r)existujepodlevýšeuvedenéhotvrzenízalgebry J 1 (x (0) ) Toplynezevztahů (I A)=J 1 (α)j(x 0 ), (I A) 1 = J 1 (x (0) )J(α) Lze tedy spočítat první iteraci Newtonovy metody a odhadnout její chybu: α x (1) = α x (0) + J ( 1) (x (0) )F(x (0) ) Úpravou Taylorova rozvoje(uvědomíme-li si, že F(α) = 0) dostaneme 0=F(α)=F(x (0) )+J(x (0) )(α x (0) )+ zbytek, 0=J 1 (x (0) )F(x (0) )+(α x (0) )+J 1 (x (0) )zbytek

NEWTONOVA METODA 23 S využitím odhadu zbytku Taylorova rozvoje dostaneme odhad zbytku { }} { α x (1) J 1 (x (0) 1 α ) 2 L x (0) 2 a důkaz dokončíme pomocí odhadu normy inverzní matice J 1 (x (0) ) = J ( 1) (x (0) } {{ )J(α) J ( 1) 1 (α) c 2c } 1 A (I A) }{{} 1 1 2 Pro odhad chyby máme tedy vztah α x (1) α cl x (0) 2 ( ) = cl α x (0) α x (0), } {{ } 1 2 z něhož plyne dále indukcí konvergence Newtonovy metody Zkušební otázka 32 Dokažte větu o konvergenci Newtonovy metody Poznámka 34 Modifikace Newtonovy metody: Jacobihomaticeseneměnípro p 2kroků nepřesné řešení soustavy lin rovnic vyčísleníjacobihomaticepomocídiferencí f (x) f(x+h) f(x) h 312 Řádkonvergence 6 přednáška Definice 35 (řád konvergence iterační metody pro řešení F(x) = 0) Řekneme, žeposloupnost {x (k) }generovanánumerickoumetodoukonvergujekαsřádem p 1,pokud c >0 α x (k+1) α x (k) p c k k 0 V takovém případě se numerická metoda nazývá řádu p Věta 32 říká, že Newtonova metoda je kvadraticky konvergentní, α x (k+1) α cl x (k) 2, pokudje x (0) dostatečněblízko αapokudje J(α)nesingulární

24 METODY ŘEŠENÍ NELINEÁRNÍCH ROVNIC 32 Metoda postupných aproximací pro nelineární rovnice Metoda postupných aproximací je založena na faktu, že pro dané zobrazení F: M IR N IR N jevždymožnétransformovatproblém F(x)=0naekvivalentní problém x φ(x)=0,kdepomocnáfunkce φjevolenatak,aby φ(α)=αprávě když F(α)=0Nalezenínulovýchbodůzobrazení Fsetakpřevedenanalezení pevného bodu zobrazení φ, které se realizuje pomocí následujícího algoritmu: Dáno x (0), x (k+1) := φ(x (k) ), k 0 Definice36 (kontrahujícízobrazení)řekneme,žezobrazení G:D IR N IR n jekontrahujícína D 0 D,jestliže L <1:: G(x) G(y) L x y x,y D 0 Věta37 (větaopevnémbodě)nechť G:D IR N IR N kontrahujícína uzavřenémnožině D 0 D, G(x) D 0 x D 0 Pak Gmáprávějedenpevný bodtentobodjelimitouposloupnosti x (k+1) = φ(x (k) ), x (0) D 0 libovolné Důkaz jednoznačnost, existence(cauchyovská posloupnost, spojitost G), viz cvičení k přednášce Poznámka 38 Newtonova metoda jako speciální případ věty o pevném bodě (Viz cvičení k přednášce) 33 Kořeny polynomu Nalezení lokalizace kořenů v C aproximace kořenů Věta 39(Descartes) Počet kladných kořenů(včetně násobnosti) polynomu p n (α)=a 0 +a 1 x+ +a n x n jerovenpočtuznaménkovýchzměnvposloupnosti a 0,a 1,,a n,nebojeosudéčíslomenší Věta 310(Cauchy) Kořeny polynomu leží v kruhu { Γ= z C; z 1+η,η= max 0 k n 1 Poznámka311 1 η:translaceazměnasouřadnic 331 Hornerovoschema V dalším budeme potřebovat vyčíslení hodnoty polynomu v daném bodě x Vyčíslení polynomu: 1 neefektivní r=1; s=a 0 ; p n (x)=a 0 + a 1 x+ +a n x n a k a n }

for i=1to ndo r=r x; s=s+a i r; end for p n (x)=s,početnásobení2n 2 Hornerovo schéma s=a n ; for i=n 1downto0do s=s x+a i ; end for p n (x)=s,početnásobení n KOŘENY POLYNOMU 25 Poznámka312 ZapišmeHornerovoschémaprovyčíslení p n (z)takto: b n = a n ; for i=n 1downto0do b i = b i+1 z+ a i ; end for p n (z)=b 0 Ukážeme,žetentozápisjevhodnýprovyčísleníderivace p n (anásledně použijemenewtonovumetoduprourčeníkořene p n (x))prodělenípolynomu polynomem platí (a n x n +a n 1 x n 1 + +a 0 ):(x z)= a }{{} n x n 1 +(a n 1 + a n z)x n 2 + +b 1 +zbytek } {{ } b n b n 1 p n (x)=q n 1 (x;z)(x z)+b 0 kde q n 1 (x;z)=b n x n 1 + b n 1 x n 2 + +b 1 Je-li zkořen,pak b 0 =0 NyníapliklujemeNewtonovumetodupronalezeníkořenepolynomu p n Newtonovametoda: x (k+1) = x (k) Hornerovo sch { }} { p n (x (k) ) p n(x (k) ) } {{ } Hornerovo sch, x (0) dáno Vzorec, který dostaneme s využitím Hornerova schématu, se nazývá Newtonova- Hornerova metoda: x (k+1) = x (k) p n (x (k) ) q n 1 (x (k) ;x (k) ) Výraz ve jmenovateli dostaneme z následujících vztahů p n(x)=q n 1(x;z)(x z)+q n 1 (x;z),

26 METODY ŘEŠENÍ NELINEÁRNÍCH ROVNIC p n(z)=q n 1 (z;z), z:= x (k) Algoritmuspronalezeníkořenůpolynomu p n : for m=ndownto1do Najdikořen rpolynomu p m (Newtonovametoda) Vyčíslikoeficienty q m 1 (x;r)(pomocíhornerovaschematu) p m 1 := q m 1 end for Zkušební otázka 33 Odvoďte Newtonovu-Hornerovu metodu nalezení kořene polynomu Poznámka 313 Začít od kořene nejmenšího v absolutní hodnotě(kvůli zaokrouhlovacím chybám) Poznámka314 Restartovatalgoritmus,tjpoužítpůvodnípolynom(je-li r j aproximacekořene r j,jítzpětkp n (x)ahledatnovouaproximacisr (0) j = r j )

4 SOUSTAVY LINEÁRNÍCH ROVNIC Hledáme x IR N takové,že Ax=b, A IR NN, A-nesingulární Metody: přímé- konečný předem známý počet kroků pro nalezení řešení iterační- konstruujeme(nekonečnou) posloupnost vektorů konvergujících křešení 41 Podmíněnost matic Matice se nazývá dobře podmíněná, jestliže relativně malé změny v koeficientech způsobí relativně malé změny v řešení Matice se nazývá špatně podmíněná, jestliže relativně malé změny v koeficientech způsobí relativně velké změny v řešení Analýza zaokrouhlovacích chyb- chyby ve výpočtu se obvykle reprezentují chybami ve vstupních datech Vzhledem k zaokrouhlovacím chybám poskytuje numerická metoda přibližné řešení, které splňuje perturbovaný systém Numerická metoda poskytuje(přesné) řešení x + δx perturbovaného systému (A+δA)(x+δx)=b+δb δx lze( zhruba ) odhadnout následujícím způsobem x+δx=(a+δa) 1 (b+δb)=[a(i+ A 1 δa)] 1 (b+δb) =(I+ A 1 δa) } {{ } 1 A 1 (b+δb) nahradíme (I A 1 δa) (x+a 1 δb)=x+a 1 δb A 1 δax A 1 δaa 1 δb } {{ } motivace f(x)= 1 1+x =1+xf (0)+chyba=1+x( 1)+chyba ( ) 1 1+x 1 x δx = A 1 δb A 1 δax, δx A 1 δb + A 1 δa x, 27

28 SOUSTAVY LINEÁRNÍCH ROVNIC Závěr: δx x A 1 δb x A 1 A x δb x b + A 1 δa A A + A 1 δa A A δx x A ( A 1 δb } {{ } b + δa ) A číslo podmíněnosti K(A) Poznámka41 NejčastějipoužívanénormyvC N, x C N, A C NN x 1 = x i, i ( ) x 2 = x i 2 x p = ( x =max i i A =sup x 0 A 1 =max j A 2 = i x i p )1 p x i, ρ(a H A)= Euklidova, 1 p <, Ax x, a ij, }{{} i sloupcový součet ρ(aa H ), A H transponovanáakomplzdružená(hermitovská), ρ(b) největší v abs hodnotě vlastní číslo B(spektrální poloměr), A F = a ij 2 Frobeniova, i,j A =max i a ij řádkovýsoučet, j I F = N I =1, Ax A x AB A B sub-multiplikativita 42 Gaußova eliminace Cíl: Ax=b Ux=ˆb, Algoritmus 42 kde Ujehornítrojúhelníková

forsloupec j=1to n 1do najdi a pj 0, p {j,,n} if a pj =0 pthen STOP(singularita) else záměna p a j-tého řádku endif forřádek i=j+1to ndo l ij = aij a jj ; for k=j+1to ndo a ik = a ik l ij a jk ; end for b i = b i l ij b j ; end for end for GAUßOVA ELIMINACE 29 u ij, i j jsoupakposledníhodnoty a ij ˆbi jsoupakposledníhodnoty b i Počet operací v j-tém kroku celkem n (2+n)(n 1) Hledání a pj 0 n j+1 j=2 j= 2 n 1 n(n 1) Výpočet l ij n j j=1 j= 2 Výpočet a ik 2(n j) 2 2 n 1 j=1 j2 =2 2n3 3n 2 +n 6 Výpočet b i 2(n j) 2 n 1 j=1 Početoperacíprořešení Ux=ˆb: j=2 n(n 1) 2 Celkovýpočetoperací: 2 3 n3 + O(n 2 ) násobení sčítání (n+1)n 2 n(n 1) 2 Zkušební otázka 41 Zdůvodněte odhad počtu operací v Gaußově eliminaci 421 Pivotace Výpočet l ij = aij a jj valgoritmu42, a jj 0 Částečnápivotace a pj =max l=j,,n a lj (421) Úplnápivotace a pj =max l,m=j,,n a lm (422) Důvod: I když Guaßova eliminace je proveditelná bez záměny řádků a sloupců, mohoumaléhodnoty a jj způsobitvelkéchybyvřešení Příklad 42

30 SOUSTAVY LINEÁRNÍCH ROVNIC 6 1 x 1 7 8 6 1 x 2 15 8 6 1 x 3 = 15, 8 6 14 x 50 x GE= 1 1 1 3 10 7 Gaußova eliminace je numericky nestabilní Pivotace je podstatná pro stabilitu elim procesu Ani velké hodnoty pivotů však nejsou zárukou dostatečně přesného řešení Důvod: velké změny v koeficientech Náprava:škálování,dělení i-téhořádku d i = n j=1 a ij,aletotoděleníopět vnáší zaokrouhlovací chyby 43 Gaußova eliminace jako faktorizační metoda Ax=b LUx=b { Ux=ˆb, Lˆb=b 7 přednáška (431) Nechť P j jematice,kterávj-témkrokugaußovyeliminacerealizujezáměnu p-tého a j-tého řádku matice A v Algoritmu 42 j p 1 j 0 1 1 1 = p 1 0 1 anechť L j jematice,pomocínížseprovádínulováníprvků j-téhosloupcepod diagonálou 1 1 0 0 1 0 0 0 0 = l 43 1 0 0 0 0 0 l 53 1 0 0 0 0 0 l 63 1 0 0 0 0 0 Algoritmus Gaußovy eliminace lze maticově zapsat(ge s částeční pivotací): Označme L n 1 P n 1 L 1 P 1 A=U } {{ } M P= P n 1 P 1,

Potom GAUßOVA ELIMINACE JAKO FAKTORIZAČNÍ METODA 31 M= L n 1 P n 1 L 1 P 1 MA=U, MP 1 PA=U, PA=PM } {{ 1 } U, L PA=LU Lze-li provést Gaußovou eliminaci bez záměny řádků a sloupců, dostáváme A=LU (432) Věta43 Nechť A IR nn,aregulárnípakexistujepermutačnímatice P IR nn,nesingulární Ua Lsjedničkaminadiagonále:: PA=LU (433) Algoritmus Matici LvýšeuvedenoudostanemepomocíAlgoritmu42tak,že l ij uložíme do a ij,jejichžhodnotynejsouvgaußověeliminacipotřebaapřipivotacije zaměníme Řešeníúlohy Ax=bvetřechkrocích 1 PA=LU 2 PAx=L }{{} Ux= Pb ˆb Lˆb=Pb 3 Ux=ˆb Měřeníkvalityřešení: r=b A x-reziduum Věta 44 (Odhad rezidua)[prager/oettli] Nechť xjepřibližnéřešení Ax=b, r = b A xreziduumnechťjedáno 0 δa IR nn,0 δb IR n Pak xjepřesnéřešení Ã x= b, kde (434) Ã A δa, b b δb (posložkách) (435) právě když r δa x +δb (436) Důkaz (pouze )

32 SOUSTAVY LINEÁRNÍCH ROVNIC Nechť à x= b( xjepřesnéřešeníperturbovanéhosystému)aproperturbace platí odhad à A δa b b δb Ã=A+ A b=b+ b A δa b δb r = b A x = b b }{{} à x + A x b A x b δa x +δb 44 LU rozklad v obecném případě ( ) 1 2 A= 1 2 ( ) 0 1 A= 1 0 ( ) 0 1 A= 0 2! LUrozklad neexistuje LU rozklad LU není jednoznačný Přikonstrukci LUrozkladumatice A IR nn postupujemetak,žepostupně počítáme m-týřádekmatice Ua m-týsloupecmatice L, m=1,npříslušné vzorce odvodíme pomocí vzorce pro násobení matic a ij = A=LU, n l ik u kj k=1 Máme n 2 rovnicprourčeníneznámých l ij, i j a u ij, i j (prvkůdolní trojúhelníkové matice L a horní trojúhelníkové matice U) Počet neznámých je 2(1+n)n/2=n 2 + npředepíšemetedyhodnotyněkterýchprvků,například položíme diagonální prvky matice L rovny jedné Dostáváme následující vzorce pro m=1,,n:

LU ROZKLAD V OBECNÉM PŘÍPADĚ 33 m-týřádekmatice U, u mj, j m(křížkyoznačujíjižspočtenéhodnoty, počítáme prvek : j m = } {{ } A n a mj = k=1 1 1 m 1 1 1 1 } {{ } L m 1 l mk u kj = k=1 m-týsloupecmatice L, l im, i > m: m i = } {{ } A n a im = k=1 l mk u kj +1 u mj, u mj =, 1 1 1 i 1 1 1 } {{ } L m 1 l ik u km = k=1 l ik u km + l im u mm, l im = j } {{ } U m } {{ } U Zkušební otázka 42! Odvoďte vzorce pro konstrukci LU rozkladu matice A Věta45 Nechť A IR nn jeobecnámaticefaktorizace A=LUexistujeaje a 11 a 1k jednoznačná právě když všechny hlavní minory A, tj det, k= 1,,n 1jsounenulové a k1 Věta 46 Je-li matice řádkově nebo sloupcově diagonálně dominantní, tj n a ii a ij, (řádkově) (441) nebo a jj j=1,j i n i=1,i j a kk a ij, (sloupcově) (442) pak LU rozklad existuje Speciálně, je-li matice sloupcově diagonálně dominantní, je l ij 1 i,j=1,,n

34 SOUSTAVY LINEÁRNÍCH ROVNIC 441 Vliv zaokrouhlovacích chyb Uvažujeme-lizaokrouhlovacíchyby,faktorizačníprocesprodukujematiceˆL, Û takové, že ˆLÛ= A+δA (443) Lze odhadnout(viz(higham, 1989)) δa nu ˆL Û, 1 nu u= 1 2 ε M, (444) kde B = A znamenámatici n nsprvky b ij = a ij, C Dmávýznam c ij d ij (poprvcích), i,j = 1,naε M jenejmenšíčísločíslotakové,že 1+ε M >1(strojovéepsilon,roundoffunit)Z(444)jevidět(l ij = aij a jj,viz Gaußova eliminace), že přítomnost malých pivotů může způsobit neomezenost pravé strany a v důsledku toho ztrátu kontroly kontroly δa Je tedy vhodné najít odhad δa g(u) A }{{} vhodná funkce Příklad47 NechťˆL 0, ˆL Û 0,pak Û = ˆLÛ Odtud ˆL Û = ˆLÛ = A+δA A + δa A + nu ˆL Û 1 nu a z 444 dostáváme ( ˆL Û 1 nu ˆL Û ) A 1 nu ) 1 A ( 1 2nu 1 nu δa nu A (445) 1 2nu } {{ } g(u) Pivotace umožňuje obdržet odhad obdobný(445) pro libovolnou matici 45 Choleského rozklad Věta48 Prokaždousymetrickou,pozitivnědefinitní(x T Ax >0, x 0, x IR n )matici A IR nn existujeprávějednadolnítrojúhelníkovámatice Ls kladnými prvky na diagonále tak, že platí Důkaz indukcí A=L L T (451) Věta49 Nechť A IR nn jesymetrická,ostřediagdominantní( a ii > j i a ij ), a ii >0,pak Ajepozitivnědefinitní

46 QR rozklad QR ROZKLAD 35 Věta410 Kekaždénesingulárnímatici A IR nn existujeortogonálnímatice Q IR nn (QQ T = Q T Q=I)anesingulárníhornítrojúhelníková Rtaková,že A=Q R (461) Poznámka 411 Transformace, která(na rozdíl od LU) nezvyšuje číslo podmíněnosti(k(u) 4 n 1 K(PA))

5 ITERAČNÍ METODY ŘEŠENÍ SOUSTAV LINEÁRNÍCH ROVNIC 8 přednáška Hledáme x IR n :: A IR nn, b IR n,deta 0 Přímé metody(např Gaußova eliminace): pro libovolné plné matice početoperací O( 2 3 n3 ) Nevýhoda: Ax=b (501) a) nevyužívají informaci o struktuře matice(řídkost, blokově diagonální) b) nákladné, je-li n velké c) pro řídké matice mohou být nevhodné(zaplnění) Iterační metody formálně poskytují řešení po nekonečném počtu kroků vkaždémkrokupožadujívýpočetrezidua,výpočetnínáročnost O(n 2 ) mohou soupeřit s přímými metodami, je-li počet iterací k získání řešení s danou tolerancí nezávislý na n nebo menší než n používají se, stačí-li získat řešení pouze s určitou přesností(fyzika model matematický model) Ideaiteračníchmetod:konstrukce {x (k) } x= lim k x(k), kde xjeřešeníax=b (502) Poznámka51 Posloupnost x (0),x (1),,x (k),,jenekonečná,cílemjenalezenířešení x spředepsanoupřesností,tj x x (k) εotázkoujeurčení vhodnéhostoppingkriteria(napřomezenostrezidua b Ax (k) ε) Princip iteračních metod je na základě předchozích aproximací konstrukce nové aproximace takové, že x (k+1) = ϕ(x (k) ), resp x (k+1) = ϕ(x (k),x (k 1),,x (0) ) kde x je hledané řešení Požadavky: x (k+1) xpro k, 36

KLASICKÉ ITERAČNÍ METODY 37 rychlá konvergence snadné vyčíslení ϕ(méně operací než matice vektor, řádově O(n)) řešení s předepsanou přesností 51 Klasické iterační metody Idea:větaopevnémbodě Ax=b x=g(x) (511) Prodané x (0) seřešeníhledájakolimitaposloupnosti x (k+1) = G(x (k) ) 1 Richardsonova metoda x=x+b Ax, x=(i A) x+b, } {{ } B R x (k+1) = B R x (k) + b 2 Jacobiho metoda A=E+ D+ F, kde E je ostře dolní trojúhelníková, D je diagonální, F je ostře horní trojúhelníková Ax=b (E+ D+ F)x=b, Dx = (E+ F)x+b, 1 b, f J x = D 1 (E+ F) x+d } {{ } } {{ } B J x (k+1) = B J x (k) + f J 3 Gaußova Seidelova metoda Ax=b (D+ E)x+Fx=b, (D+ E)x = Fx+b, 1 b x = (D+ E) 1 F x+(d+ E) } {{ } } {{ } B GS x (k+1) = B GS x (k) + f GS f GS

38 ITERAČNÍ METODY ŘEŠENÍ SOUSTAV LINEÁRNÍCH ROVNIC Poznámka 52 Porovnejme způsob algoritmizace Jacobiho a Gaußovy- Seidelovy metody K tomu je třeba si nejprve uvědomit, že D 1 X= 1 a 11 1 a 22 1 D 1 a = 33 1 a nn, 1 1 1 1 1 1 a 11 a 11 a 11 a 11 a 11 a 11 1 1 1 1 1 1 a 22 a 22 a 22 a 22 a 22 a 22 1 1 1 1 1 1 a nn a nn a nn a nn a nn a nn Vyčíslení inverzní matice v Gaußově-Seidelově metodě se vyhneme následujícím způsobem Na základě vyjádření x (k+1) = (D+ E) 1 F x (k) +(D+ E) 1 b } {{ } } {{ } B GS f GS přepíšeme Gaußovu Seidelovu metodu ve tvaru (D+ E)x (k+1) = Fx (k) + b, Dx (k+1) = Ex (k+1) Fx (k) + b, x (k+1) = D 1 Ex (k+1) D 1 Fx (k) + D 1 b, tj x (k+1) = D 1 E x (k+1) D 1 F x (k) + D 1 b } {{ } f J, (512) x (k+1) = x (k+1) x (k)

KLASICKÉ ITERAČNÍ METODY 39 Při použití Jacobiho metody + f J x (k+1) = B J x (k) + f J, tj x k+1 = x k + f J, jetřebasipamatovatcelývektor x (k) provýpočetnovéiterace x (k+1) U metody Gaußovy-Seidelovy se v paměti počítače rezervuje místo pro jediný vektor x (k),najehožmístosepostupněukládajísložkyvektoru x (k+1) jak vyplývá z rozepsání po složkách vztahu(512): x (k+1) i n j=1 a ijx j = b i, i 1 j=1 a ijx j + a ii x i + n j=i+1 a ijx j = b i, a ii x i = i 1 j=1 a ijx j n j=i+1 a ijx j + b i, ( x (k+1) i = 1 a ii i 1 j=1 a ijx (k+1) j ) n j=i+1 a ijx (k) j + bi a ii Dostáváme tak algoritmus Gaußovy Seidelovy metody, který lze vyjádřit následujícím způsobem Vyjdeme z Jacobiho metody a spočtenou složku uložímedo x (k) i anásledněpočítáme x (k+1) i+1,i=1,,n x k+1 i+1 = 4 Metoda SOR(superrelaxační) Ax=(E+ D+ F)x=b, x (k+1) = D 1 Ex (k+1) D 1 Fx (k) + D 1 b, x (k+1) = x (k) + ω( x (k+1) x (k) ), x k + f J

40 ITERAČNÍ METODY ŘEŠENÍ SOUSTAV LINEÁRNÍCH ROVNIC x (k+1) =(1 ω)x (k) + ω x (k+1), x (k+1) = ωd 1 Ex (k+1) + [ (1 ω)i ωd 1 F ] x (k) + ωd 1 b, x (k+1) = ( D 1 ID+ ωd 1 E ) 1 [ (1 ω)d 1 ID ωd 1 F ] x (k) +(D 1 ID+ ωd 1 E) 1 ωd 1 b, x (k+1) =(D+ ωe) 1 [(1 ω)d ωf] } {{ } B SOR +(D+ ωe) 1 ωb } {{ } f SOR (k) x x (k+1) = B SOR x (k) + f SOR Pro výpočty pomocí výše uvedených metod se používá jejich zápis do složek: x (k+1) i = 1 i 1 n a ij x (k) j a ij x (k) j + b i, (Jacobi) a ii a ii x (k+1) i = 1 a ii x (k+1) i = 1 a ii i 1 j=1 j=1 i 1 a ij x (k+1) j j=1 x (k+1) i a ij x (k+1) j = x (k) i j=i+1 n j=i+1 a ij x (k) j + b i, a ii n j=i+1 + ω( x (k+1) i a ij x (k) j + b i, a ii x (k) i ) (Gauß Seidel) (SOR) Zkušební otázka 51! Odvoďte Jacobiho, Gaußovu Seidelovu a SOR metodu prořešeníúlohy Ax=bZapištejematicověarozepsanédosložekbezpoužití inverze matic Uvažujme iterační metodu x (k+1) = Bx (k) + f (513) Definice53 Řekneme,žeiteračnímetoda x (k+1) = Bx (k) + f jekonzistentní s Ax=b,jestliže x=bx+f, kde xjeřešeníúlohy Ax=b Ekvivalentně f=(i B)x=(I B)A 1 b

KLASICKÉ ITERAČNÍ METODY 41 Věta54 Nechť x (k+1) = Bx (k) + f jekonzistentnímetodapakposloupnost {x (k) }konvergujekx,kde x splňuje Ax = b,prolibovolné x (0),právěkdyž ρ(b)(spektrálnípoloměrmatice B, ρ(b)=max {λvlč B} λ )jemenšínež1 Důkaz x = Bx + f x (k+1) = Bx (k) + f (podmínkakonzistence), (iteračnímetoda), e (k+1) := x x (k+1) (chybav)(k+1)-níiteraci) Chybuvk-téiteracilzevyjádřitjakosoučin k-témocninymatice Bachyby počáteční aproximace Podle definice limity e (k) = Be (k 1) = B 2 e (k 2) = =B k e (0) x (k) x e (k) 0 Platí e (k) 0 B k e (0) 0 ρ(b) <1 Poslední ekvivalenci dokážeme na základě následující věty z algebry Vyhneme se tak klasickému důkazu pomocí převedení matice B na Jordanův kanonický tvar Lemma55 Nechť A C nn, ε > 0 Pak existuje konzistentní ( Ax A x )maticovánorma A,ε taková,že A A,ε ρ(a)+ε Pokračování v důkazu předchozí věty Nechť ρ(b) <1Potom ε:: ρ(b) <1 εadáleexistuje B,ε :: atedy B B,ε ρ(b)+ε <1 B k B,ε B k B,ε 0 Platí tedy e (k) = B k e (0) B k e (0) B k e (0) 0 Předpokládejme sporem, že ρ(b) > 1 Existuje tedy vlastní číslo λ matice B takové,že λ > 1Zvolmepočátečníaproximaci x (0) tak,že e (0) je vlastní vektor odpovídající vlastnímu číslu λ Potom e (k) = B k e (0) = λ k e (0) Vdůsledkutohotovztahu e (k) nekonvergujeknule(prodanouvolbu x (0) ), protože λ >1

42 ITERAČNÍ METODY ŘEŠENÍ SOUSTAV LINEÁRNÍCH ROVNIC Poznámka56 Lemma55jsmevyužiliprodůkazvztahu ρ(b) <1 B k 0 Obrácená implikace se dokáže snadno Pro důkaz konvergence výše uvedených klasických iteračních metod se využívá řada kritérií, která vycházejí z přímo z vlastností matice A Detaily viz cvičení k přednášce

6 VÝPOČET VLASTNÍCH ČÍSEL MATIC 9 přednáška A C nn Hledáme λ C:: x C n, x 0, Ax=λx (601) aplikace: kvantová mechanika, strukturální vibrace, analýza elektrických sítí, analýza numerických metod(výpočet optimálních parametrů relaxačních metod), analýza stability numerických metod pro řešení soustav obyčejných diferenciálních rovnic omezíme se na výpočet dominantního vlastního čísla 61 Mocninná metoda A C nn, Adiagonalizovatelná A=XΛX 1, X= x 1 C nn, x n x i vlastnívektory(ax i = λ i x i ), x i =1Nechť λ 1 > λ 2 λ 3 λ n, λ 1 mánásobnost1pak λ 1 nazvemedominantnímvlastnímčíslem Nechťjedáno q (0) C n, q (0) =1( := 2 -Euklidovská)Konstruujeme posloupnost vektorů q (k) = Aq(k 1) Aq (k 1) = = Ak q (0) Ak q (0) (odtudnázevmocninnámetoda) Je-li A diagonalizovatelná, má matice X za sloupce vlastní vektory matice A Tytovlastnívektoryjsoulineárněnezávisléatvoříbázi C n Lzetedypsát: q (0) = n α i x i, α i C, i=1,,n i=1 43

44 VÝPOČET VLASTNÍCH ČÍSEL MATIC Budemeuvažovattakové q (0),prokteré α 1 0Jinakbychomvdalšímpostupu narazilinaproblémdělenínuloudále Ax i = λ i x i pro i=1,,navytkneme-li α 1 λ k 1,dostaneme n q (k) i=1 = α iλ k i x i n i=1 α iλ k i x = α 1λ k 1(x 1 + y (k) ) i α1 λ k 1 x1 + y (k) kde( n i=1 α iλ k i x i= α 1 λ k 1(x 1 + α2λ2 α 1λ x k 2 + + αnλn 1 α 1λ x k n ) 1 n ( ) k y (k) α i λi = x i α i=2 1 avdůsledkupřepokladu,že λ 1 jedominantnívlastníčíslomatice Aa x i =1, n y (k) = ( ) k α i λi n x i α i=2 1 λ 1 k k α i λ 2 α i=2 1 λ 1 C λ 2 λ 1 } {{ } C Odtud dostáváme λ 1 y (k) 0 pro k Pro k setedysměr q (k) budeblížitsměru x 1 Orychlostikonvergence rozhodujepodíl λ 2 /λ 1 Uvažujme Aq (k) a q (k)h Aq (k) (x H = x T )Ukážeme,že q (k)h Aq (k) λ 1 pro k q (k)h = α 1λ k 1(x 1 + y (k) ) H α 1 λ k 1 x 1 + y (k), Aq(k) = α 1λ k 1(λ 1 x 1 + Ay (k) ) α 1 λ k 1 x 1 + y (k), q (k)h Aq (k) = (α 1λ k 1) 2 (λ 1 + x H 1 Ay (k) + λ 1 y (k)h x 1 + y (k)h Ay (k) ) α1 λ k 2 x1 1 + y (k) 2 λ 1, kdejsmevyužilitoho,že x H 1 x 1 =1 Zkušební otázka 61! Dokažte konvergenci mocninné metody pro výpočet dominantního vlastního čísla matice A Dáleukážeme,že q (k) x 1 Ktomuuvažujme Aq (k) λ 1 q (k) = α 1λ k 1(λ 1 x 1 +Ay (k) ) α1 λ k 1 x1 + y (k) α 1λ k 1(λ 1 x 1 +λ 1 y (k) ) α1 λ k 1 x1 + y (k) = α 1λ k 1(Ay (k) λ 1 y (k) ) α1 λ k 1 x1 + y (k) 0 vdůsledkutoho,že y (k) 0pro k