TEORIE MATIC. Tomáš Vondra

TEORIE MATIC Tomáš Vondra

2

Obsah 1 Opakování 5 1.1 Základní operace s maticemi..................... 5 1.2 Determinant matice......................... 7 1.2.1 Cauchyův-Binedův vzorec.................. 7 1.3 Stopa matice............................. 7 2 Podobnost matic, Jordanův tvar 9 3 Pozitivní matice a Frobeniova věta 29 3.1 Nezáporné pozitivní matice..................... 29 3.2 Nezáporné matice........................... 30 4 Metoda sdružených gradientů 33 4.1 Metoda největšího spádu....................... 34 4.2 Metoda sdružených gradientů.................... 36 4.3 Předpodmínění............................ 39 5 Normy matic 41 3

4 OBSAH

Kapitola 1 Opakování Definice 1.1. Matice je soubor m n čísel uspořádaných do m řádků a n sloupců. a 11 a 12 a 1n a 21 a 22 a 2n A =... a m1 a m2 a mn (1.1) Přitom a ik jsou reálná nebo komplexní čísla. Pro m = 1 resp. n = 1 se jedná o řádkový resp. sloupcový vektor a pro m = n se jedná o čtvercovou matici. Pokud a ik = a, potom se jedná o konstantní matici, pro a ik = 0, jedná se o matici nulovou a pro a ik = δ ik se jedná o matici jednotkovou (značíme E nebo I). Definice 1.2. Mějme matici A = (a ik ). Vyberme podmnožinu M = {i 1,..., i r } z množiny řádkových indexů {1,..., m} a dále podmnožinu N = {k 1,..., k s } z množiny sloupcových indexů {1,..., n}. Potom matici A(M, N) = a i1k 1 a i1k s.. a irk 1 a irk s (1.2) nazýváme podmaticí A (specielně pro po sobě jdoucí indexy se jedná o blok). Definice 1.3. Pokud je A čtvercová matice, potom podmatici A(M, M) nazýváme hlavní podmaticí. 1.1 Základní operace s maticemi 1. sčítání - matice musí mít stejné dimenze, potom ( i, j)(c ij = a ij + b ij ) 2. násobení číslem - α A = (αa ij ) i m,j n 5

6 KAPITOLA 1. OPAKOVÁNÍ 3. násobení matic - C = A B pokud A má dimenzi (m, n) a B má dimenzi (r, s) a r = n Pro násobení matic platí následující vlastnosti: 1. není komutativní A B B A 2. je asociativní A (B C) = (A B) C 3. je distributivní A (B + C) = A B + A C 4. existuje matice E tak že E A = A 5. existuje nulová matice Θ tak, že Θ A = A Θ = Θ Čtvercové matice s operací + tvoří grupu, ale čtvercové matice s operací grupu netvoří (musíme vyhodit singulární matice). Definice 1.4. Řekneme, že matice A je regulární právě když existuje matice B tak, že B A = A B 1. regulární matice - det(a) 0, h(a) = n 2. singulární matice - det(a) = 0, h(a) < n, tj. ( x θ)(ax = θ) Definice 1.5. Nechť matice A je matice typu m n, pak hodnost soustavy všech řádkových vektorů je rovna hodnosti soustavy všech sloupcových vektorů. Toto číslo se nazývá hodnost matice h(a). Mezi důležité regulární matice patří například 1. jednotková matice a její nenulové násobky 2. diagonální matice s a ii 0 3. trojúhelníková matice s a ii 0 4. permutační matice 5. Vandermontova matice 6. exp(a) (pro všechna A) Přičemž Vandermondova matice je pro a i a j pro i j definována takto a 0 1 a 1 1 a 2 1 a n 1 1. a 0 2 a 1 2 a 2 2 a n 1 2.. a 0 n a 1 n a 2 n a n 1 n (1.3) Regulární čtvercové matice s operací tvoří grupu a diagonální regulární čtvercové matice tvoří podgrupu. Platí že (M, +, ) je těleso právě tehdy když: 1. (M, +) je grupa 2. (M \ {0}, ) je grupa

1.2. DETERMINANT MATICE 7 1.2 Determinant matice Definice 1.6. Nechť A je čtvercová matice řádu n a p je permutace množiny ˆn. Potom determinant matice A definujeme takto: det(a) = p σ(p) a 1p(1) a 2p(2) a np(n) (1.4) (tj. sumace přes všechny permutace množiny ˆn). 1.2.1 Cauchyův-Binedův vzorec Mějme matice A(m, n), B(n, m), n m. Potom platí det(a B) = det(a(m, N i )) det(b(n i, M)) (1.5) N i kde M = {1,..., n} a N i je množina m čísel. 1.3 Stopa matice Definice 1.7. Nechť A je čtvercová matice řádu n. Pak číslo n i=1 a ii nazýváme stopou matice a značíme st(a), resp. Sp(A) nebo Tr(A). Tvrzení 1.8. Nechť jsou matice A, B čtvercové. Potom 1. Tr(AB) = Tr(BA). 2. Tr(ABC) = Tr(CAB) = Tr(BCA) Příklad 1.9. Rozhodněte, zda platí: Tr(ABC) = Tr(CBA) Řešení Aby měly úvahy vůbec nějaký smysl, musí odpovídat rozměry matic, tj. a 11 a 1n b 11 b 1r c 11 c 1k A B C =...... a n1 a nn b r1 b rr c k1 c kk takže nutně n = r, r = k. Stejně také c 11 c 1k b 11 b 1r a 11 a 1n C B A =...... c k1 c kk b r1 b rr a n1 a nn

8 KAPITOLA 1. OPAKOVÁNÍ a tedy nutně n = r, r = k. Aby tedy oba výrazy ABC, CBA měly smysl, musí platit n = r = k. Podívejme se nyní na součiny podrobněji. Po provedení násobení dostaneme n n A B C = (a ij b jk c kl ) Potom tedy ale platí C B A = Tr(A B C) = Tr(C B A) = k=1 j=1 ( n p=1 s=1 n ) n (a pt b sp c rs ) n i=1 k=1 j=1 n n r=1 p=1 s=1 il rt n (a ij b jk c ki ) n (a pr b sp c rs ) Avšak tyto dva výrazy se obecně nemusí rovnat (stačí si všimnout, které indexy se vždy rovnají v prvním a ne v druhém výrazu). Podívejme se například na matice řádu 2. ( a11 a A = 12 a 21 a 22 ), B = ( b11 b 12 b 21 b 22 ), C = ( ) c11 c 12 c 21 c 22 Tr(A B C) = a 11 b 11 c 11 + a 12 b 21 c 11 + a 11 b 12 c 21 + a 12 b 22 c 21 + a 21 b 11 c 12 + +a 22 b 21 c 12 + a 21 b 12 c 22 + a 22 b 22 c 22 Tr(C B A) = a 11 b 11 c 11 + a 11 b 21 c 12 + a 21 b 12 c 11 + a 21 b 22 c 12 + a 12 b 11 c 21 + +a 12 b 21 c 22 + a 22 b 12 c 21 + a 22 b 22 c 22

Kapitola 2 Podobnost matic, Jordanův tvar Mějme vektorový prostor V n. Nechť x V n a ɛ = {e 1, e 2,..., e n } je báze ve V n. Potom x ɛ značíme reprezentaci x v bázi ɛ (obecně platí x = ɛ x ɛ. Nechť nyní ɛ je jiná báze V n. Potom existuje matice P (tzv. matice přechodu) taková, že ẽ j = i P ij e i (2.1) x = ɛ x ɛ = ɛ x ɛ = ɛ P x ɛ (2.2) x ɛ = P x ɛ (2.3) Nechť A je čtvercová matice a nechť φ je lineární zobrazení definované takto: φ(e j ) = i a ij e i (2.4) Potom tj. φ(ɛ) = ɛ A (2.5) φ(x) = φ(ɛ x ɛ ) = ɛ A x ɛ (2.6) φ(x) ɛ = A x ɛ (2.7) P φ(x) ɛ = A P x ɛ (2.8) φ(x) ɛ = [P 1 A P] (2.9) Definice 2.1. Řekneme, že čtvercová matice B řádu n je podobná matici A pokud existuje regulární matice P taková, že platí B = P 1 A P. 9

10 KAPITOLA 2. PODOBNOST MATIC, JORDANŮV TVAR Příklad 2.2. Nechť B = ( ) 0 0 0 2 A = ( ) 1 1 1 1 P = ( 1 ) 1 1 1 Ověřte, že Řešení takže tvrzení platí. B = P 1 A P B = P 1 A P P B = A P ( ) ( ) 0 2 0 2 P B = A P = 0 2 0 2 Věta 2.3. Nechť platí, že matice B je podobná matici A (tj. A B). Pak 1. det(b) = det(a) 2. Tr(A) = Tr(B) Důkaz 1. det(b) = det(p 1 A P) = det(p 1 ) det(a) det(p) = det(a) 2. Tr(A) = i a ii Tr(B) = Tr(P 1 A P) = i = j,k Věta 2.4. Podobnost je: a jk i P 1 ij P ki = jk 1. reflexivní (A A, protože A E 1 A E) 2. symetrická (A B B A) 3. tranzitivní (A B B C A C) Důkaz 1. zřejmé 2. zřejmé j,k P 1 ij a jk P ki = a jk δ jk = j a jj 3. A B B = P 1 A P B C C = Q 1 A Q takže C = (Q 1 P 1 ) A (P Q)

11 Označme [A] třídu matic, které jsou podobné A a [B] třídu matic podobných B. Potom nutně [A] = [B], nebo [A] [B] = (plyne triviálně z tranzitivnosti relace podobnosti). Mohli bychom se zeptat, zda je matice A podobná nějaké diagonální matici, tj. zda do [A] nějaká diagonální matice patří. Odpověď na tuto otázku zní ne vždy. Existuje nicméně poměrně obecný tvar matice, tzv. matice Jordanova, a platí že ke každé matici A existuje Jordanova matice J tak, že A J. Jordanova matice je blokově diagonální, a její obecný tvar je J 1 0 J 2 J 3... (2.10) kde 0 J k λ 1 λ 1 J s = λ...... 1 λ (2.11) Definice 2.5. Řekneme, že x 0 je vlastním vektorem matice A, pokud existuje číslo λ takové, že Ax = λx. Číslo λ nazýváme vlastním číslem příslušným vektoru x. Vraťme se nyní k otázce, kdy je matice A podobná diagonální matici Λ. Dle definice by muselo platit Λ = P 1 A P tj. P Λ = A P a matice Λ by musela mít tvar λ 1 λ Λ = 2 Označme k-tý sloupec matice P jako p k a vyjádřeme rovnost PΛ = AP podrobněji. λ 1 λ PΛ = ( p 1, p 2,..., p k ) 2 = ( λ 1p 1, λ 2 p 2,..., λ k p k )... λk λ k AP = ( Ap 1, Ap 2,..., Ap k )

12 KAPITOLA 2. PODOBNOST MATIC, JORDANŮV TVAR takže nutně Ap j = λ j p j To však znamená, že jsme našli jak všechna vlastní čísla matice A, totiž soubor (λ 1,..., λ k ), tak i všechny vlastní vektory (p 1,..., p k ). Poznámka 2.6. Pokud je A podobná nějaké diagonální matici Λ, konkrétně A = P 1 ΛP, potom se na diagonále matice Λ vyskytují vlastní čísla matice A a matici P tvoří odpovídajícím způsobem setříděné vlastní vektory matice A. Věta 2.7. Nechť A je čtvercová matice řádu n. Potom číslo λ je vlastním číslem matice A právě tehdy, když je kořenem polynomu det(a λ E). Polynom P (λ) = det(a λ E) nazýváme charakteristickým polynomem matice A. Důkaz Matice A λ E je podle předpokladu singulární, takže det(a λ E) = 0 Existuje tedy nenulový vektor x takový, že Ax = λx, tj. (A λe)x = 0. Dle předpokladu det(a λ E) = 0, takže matice A λ E je singulární. Existuje tedy nenulový vektor x takový, že Ax = λx. Příklad 2.8. Nechť A = ( 1 2 ) 2 2 Potom ( 1 λ 2 ) 2 2 λ ( ) 1 λ 2 det = (1 λ)( 2 λ) 4 = 2 + λ + λ 2 4 = 2 2 λ Matice A je tedy podobná matici = (λ + 3)(λ 2) = 0 λ { 3; 2} B = ( ) 3 0 0 2 a platí Tr(A) = Tr(B) = 1. Spočtěme ještě vlastní vektory matice A: ( ) 1 λ = 3 (A + 3E)x = θ x = 2 λ = 2 (A 2E)x = θ x = ( ) 2 1 Věta 2.9. Nechť A B, pak charakteristický polynom matice A je roven charakteristickému polynomu matice B.

13 Důkaz det(b λe) = det(p 1 AP λe) = det(p 1 AP λp 1 E P) = = det[p 1 (A λe)p] = det(a λe) Poznámka 2.10. I když jsou pro pobodné matice vlastní čísla stejná, vektory stejné být nemusí! Příklad 2.11. Nechť A B, a nechť λ je jejich vlastní číslo. Dále nechť Ax = λx a B x = λ x. Potom B x = P 1 AP x = λ x a tudíž x = P x. AP x = λp x 1. Každá matice má alespoň jedno vlastní číslo a nejvýše n vlastních čísel (v oboru C). 2. Pokud uvažujeme násobnost vlastních čísel, pak je jich právě n. 3. V Jordanově tvaru má matice na diagonále všechna vlastní čísla, přičemž každé právě tolikrát, kolik je jeho násobnost. Pro trojúhelníkovou matici platí, že determinant je roven součinu prvků na diagonále, takže: kde k i je násobnost λ i. det(j λe) = (λ 1 λ) k1 (λ 2 λ) k2... Tvrzení 2.12. Vlastní vektory příslušné různým vlastním číslům jsou lineárně nezávislé. (důkaz indukcí) Definice 2.13. Nechť A je čtvercová matice, a nechť λ je její vlastní číslo. Potom charakteristickým podprostorem příslušným k vlastnímu číslu λ nazýváme podprostor N λ = {x V n Ax = λx} Poznámka 2.14. 1. N λ je skutečně vektorový prostor/podprostor. 2. N λ je invariantní vzhledem k násobení vektorů maticí A. Příklad 2.15. 1. A = 7 0 0 0 7 0 0 0 7 má jedno trojnásobné vlastní číslo λ = 7, takže (A λe) = Θ dim(n 7 ) = 3, N 7 = [(1, 0, 0), (0, 1, 0), (0, 0, 1)] λ

14 KAPITOLA 2. PODOBNOST MATIC, JORDANŮV TVAR 2. A = 7 1 0 0 7 0 0 0 7 má jedno trojnásobné vlastní číslo λ = 7, takže (A λe) = 0 1 0 0 0 0 0 0 0 dim(n 7 ) = 2, N 7 = [(1, 0, 0), (0, 0, 1)] λ 3. A = 7 1 0 0 7 1 0 0 7 má jedno trojnásobné vlastní číslo λ = 7, takže (A λe) = 0 1 0 0 0 1 0 0 0 dim(n 7 ) = 1, N 7 = [(1, 0, 0)] λ Věta 2.16. Nechť A je čtvercová řádu n. Potom dimenze prostoru N λ je nejvýše rovna násobnosti čísla λ jakožto kořene charakteristivkého polynomu matice A. Poznámka 2.17. 1. Pokud λ je vlastní číslo matice A, potom dim(n λ ) 1. 2. Každá metice je podobná nějaké Jordanově matici, ale nemusí být podobná nějaké matici diagonální. Věta 2.18. Nechť A je čtvercová matice řádu n. Pak následující výroky jsou ekvivalentní: 1. A je podobná diagonální matici 2. V prostoru C n existuje báze λ vlastních vektorů matice A. 3. Pro každé λ je dim(n λ ) rovna násobnosti λ jakožto kořene charakteristického polynomu. Důkaz Platí A Λ, potom tedy (1) (2), protože Λ = P 1 A P P Λ = A P a P je tvořena z vlastních vektorů matice A (viz výše). Protože P je regulární matice, jsou její sloupce LN, a tvoří tedy bázi prostoru C n.

15 (2) (3): Označme jako n j násobnost vlastního čísla λ j, dim(n λj ) označme jako ñ j, a h(a) jako n. Víme, že existuje báze z vlastních vektorů matice A, takže k ñ j = n j=1 a n j ñ j (viz. předchozí věta). Potom ale nutně n j = ñ j (3) (2): Nechť x je vlastní vektor příslušný k λ. V každém N λ vytvoříme bázi, čímž dostaneme n LN vektorů, které jsou navíc vlastními vektory. Tím jsme však důkaz dokončili. Poznámka 2.19. Postup pro vytvoření Λ a P pokud A Λ, kde Λ je diagonální matice 1. Nalezneme charakteristický polynom a jeho kořeny (i s násobnostmi). 2. Ověříme, zda jde dim(n λ ) rovna násobnosti vlastního čísla λ jako kořene polynomu (tj. hledáme řešení (A λe)x = θ, x θ 3. Vytvoříme Λ a P. Poznámka 2.20. dim(n λ ) = k h(a λe) = n k Věta 2.21. Nechť A je řádu n a nechť charakteristický polynom matice A má n různých kořenů. Pak A je podobná diagonální matici. Důkaz(triviálně) Existuje n LN vlastních vektorů a n různých vlastních čísel. Z konstrukce matic Λ a P je diagonálnost matice zřejmá. Definice 2.22. Nechť A je řádu n a nechť λ je její vlastní číslo. Konečnou posloupnost různých vektorů a 1, a 2,..., a k nazveme řetězcem příslušným k vlastnímu číslu λ, pokud platí (A λe)a 1 = 0 (A λe)a k = a k 1 pro k > 1 Příklad 2.23. Nechť 7 1 0 0 7 1 (A λe) = 0 1 0 0 0 1 0 0 7 0 0 0 potom vektory tvoří řetězec délky 3 p 1 = 0 0 p 2 = 1 0 1 0 p 3 = 1 0 0

16 KAPITOLA 2. PODOBNOST MATIC, JORDANŮV TVAR Věta 2.24. Nechť A je čtvercová matice řádu n, a nechť p 1,..., p k je řetězec příslušný k vlastnímu číslu λ. Potom p 1,..., p k jsou LN. Důkaz(indukcí) 1. p 1 je LN protože p 1 0 2. sporem: Nechť je p 1,..., p k LZ. Potom tedy existuje netriviální kombinace k j=1 c jp j = 0. Potom ale (A λe)( k c j p j ) = 0 j=1 Dle předpokladu ale pro k 1 platí, že p 2,..., p k je LN, a tudíž c 2 = = c k = 0. Zároveň ale musí platit c 1 = 0 (aby k j=1 c jp j = 0). To je však spor s existencí netriviální nulové lineární kombinace. Věta 2.25. Nechť A je čtvercová matice řádu n a nechť λ je její vlastní číslo. Pak vektor x C n je k-tým členem řetězce příslušným k vlastnímu číslu λ právě tehdy, když platí 1. (A λe) k x = 0 2. a přitom (A λe) k 1 x 0 Důkaz 1. Máme řetězec p 1,..., p k 1, x(= p k ). Potom (A λe)x = p k 1 (A λe) 2 x = p k 2 (A λe) 3 x = p k 3. (A λe) k 1 x = p 1 (A λe) k x = 0 2. Vektor x tvoří řetězec příslušný k λ, protože (A λe) k 1 x, (A λe) k 2 x,..., (A λe)x, x tvoří řetězec příslušný k λ. Definice 2.26. Nλ k = {x C n (A λe) k x = 0} Poznámka 2.27. 1. N λ = {x C n (A λe)x = 0}

17 2. W λ λ N 1 λ N 2 λ N k λ 3. Nechť p 1,..., p k je řetězec příslušný k λ. Potom p 1, p 2,..., p k N k λ p 1 N 1 λ, N 2 λ,..., N k λ a 2 N 2 λ,..., N k λ. a k N k λ Věta 2.28. Nechť A je matice řádu n a λ její vlastní číslo, které má násobnost j. Pak v prostoru N j λ existuje báze z řetězců příslušných k λ. (bez důkazu) Věta 2.29. Nechť A je matice řádu n a λ její vlastní číslo s násobností j. Potom dim(n j λ ) = j. (bez důkazu) Poznámka 2.30. 1. To neznamená, že existuje řetězec délky k! 2. LN řetězců existuje právě tolik kolik existuje LN vlastních vektorů (včetně řetězců délky 1). 3. Nechť k vlastnímu číslu λ přísluší k vlastních vektorů, a nechť dim(n λ ) = k dim(n 2 λ) = k + l dim(n 3 λ) = k + l + m. přičemž nutně musí platit (l k). Potom l řetězců má délku alespoň 2, m řetězců má délku alepoň 3, atd. 4. Nechť má vlastní číslo λ násobnost k. Potom v prostoru Nλ k z řetězců příslušných k λ, takže dim(nλ k) = k. existuje báze Věta 2.31. Nechť A je matice řádu n a λ 1, λ 2,..., λ k její vlastní čísla s násobnostmi j 1,..., j k. Potom C n = N j1 λ 1 N j2 λ 2... N j k λ k Důkaz Důkaz je důsledkem předchozích tvrzení. Stačí pouze dokázat, že řetězce příslušné k různým vlastním číslům jsou LN. Poznámka 2.32. 1. Počet řetězců, které tvoří bázi v N j λ je roven dim(n j λ ) (neboli počtu LN vlastních vektorů příslušných k λ).

18 KAPITOLA 2. PODOBNOST MATIC, JORDANŮV TVAR 2. Počet řetězců, které mají délku 2 je dim(n 2 λ ) dim(n 1 λ ). 3. Počet řetězců s délkou 3 je dim(n 3 λ ) dim(n 2 λ ). 4. Nechť λ je vlastní číslo matice A a nechť j je jeho násobnost. Pokud dim(n k 1 λ ) j a dim(nλ k ) = j, potom k je délka nejdelšího řetězce. Věta 2.33. Jordanova věta: Nechť A je čtvercová matice řádu n. Potom A je podobná Jordanově matici J A. Matice J A je určena jednoznačně až na pořadí bloků. Přitom: 1. na diagonále každého bloku je vlastní číslo matice A 2. počet bloků, které mají na diagonále vlastní číslo λ je roven dim(n λ ) a součet řádů těchto bloků je roven násobnosti λ jakožto kořene charakteristického polynomu. Důkaz Důkaz provedeme ve dvou krocích: (1) zkonstruujeme matice J A a Q a (2) ověříme že platí QJ A = AQ 1. Nalezneme báze všech prostorů N j1 λ 1,..., N j k λ k, a z báze každého prostoru postupně vyjmeme řetězce s maximální délkou. Q = q 1, q 2,..., q k, λ ) ) ) ((q 1 (q 2 (q k,,...,,... ) λ 1 λ...... 1 λ J A = kde je znázorněn blok řádu k 2. Nyní tedy ověřme, že Q J A = A Q. Pro první sloupec A Q dostaneme (A Q) 1 = A Q 1 ale zároveň víme, že matice Q se skládá z vlastních vektorů matice A, takže A q 1 = λq 1. Podívejme se nyní na první sloupec matice Q J A. Triviálně platí (čtenář si jistě rád dokáže sám...), že (Q J A ) 1 = λq 1

19 Nyní se podívejme na další sloupce. Stejnou úvahou jako v předchozím odstavci dostaneme rovnost A q k = λq k. Podívejme se tedy na (Q J A ) 1 : přitom ale platí (Q J A ) k = λq k + q k 1 takže (A λe)q k = q k 1 Aq k = λq k + q k 1 (Q J A ) k = Aq k Poznámka 2.34. poznámky k důkazu Jordanovy věty 1. V C n existuje báze z řetězců. Nechť tedy {p 1, p 2,..., p n } je tato báze. 2. (konstrukce J, Q) Vezmeme jedno vlastní číslo λ a jemu příslušný řetězec (např. λ p 1, p 2, p 3 ), do J umístíme blok odpovídající λ a do Q umístíme řetězec. J = λ 1 λ 1 λ... Q = p 1 p 2 p 3 poté vezmeme další vlastní číslo a příslušný řetězec a celý postup opakujeme. 3. Jednoznačnost J plyne z jednoznačnosti délek odpovídajících řetězců v bázi {p 1,..., p n }. 4. Jednoznačnost délek řetězců plyne z jednoznačnosti dimenzí N k λ. 5. Ukážeme J A A, tj. J = Q 1 AQ. Matice Q je regulární ({p 1,..., p n } je báze C n, takže stačí ověřit QJ A = AQ. To provádíme po sloupcích: (a) k-tý sloupec AQ { λp AQ k = k pokud je p k vektor příslušný k λ(1) λp k + p k 1 pokud je p k prvkem řetězce s indexem > 1(2)

20 KAPITOLA 2. PODOBNOST MATIC, JORDANŮV TVAR (b) k-tý sloupec J pro případ (1): (λ je na k-tém řádku) (c) k-tý sloupec J pro případ (2): 0. 0 λ 0. 0 0. 0 1 λ 0. 0 (λ je na k-tém řádku) Příklad 2.35. Nechť má matice vlastní čísla λ 1 = 7 a λ 2 = 1. Nechť vlastnímu číslu 7 přísluší řetězce {q 1 }, { q 1, q 2, q 3 } a vlastnímu číslu 1 nechť přísluší řetězce {p 1 }, { p 1 }. Potom bude mít Jordanova matice J a transformační matice Q tvar 1 J = 1 7 7 1 7 1 7 Q = p 1 p 1 q 1 q 1 q 2 q 3 Poznámka 2.36. 1. Na diagonále každého bloku Jordanovy matice J A jsou vlastní čísla matice A. 2. Počet bloků s číslem λ na diagonále je roven dim(n λ ) (k je ná- 3. Dimenze bloků odpovídají délkám řetězců, které tvoří bázi v Nλ k sobnost λ). 4. Součet dimenzí bloků příslušných k λ je k. 5. Transformační matice Q je tvořena příslušně uspořádanými řetězci.

21 Příklad 2.37. A = 3 0 8 3 1 6 2 0 5 3 0 8 det(a) = 3 1 6 = (1 + λ)3 2 0 5 takže λ = 1 je trojnásobné vlastní číslo. Potom h(a λe) = h 4 3 0 0 8 6 = 1 2 0 4 takže vlastnímu číslu λ = 1 přísluší dva nezávislé vlastní vektory. Protože dim(n λ ) = 2, budou Jordanovu matici tvořit dva bloky s λ = 1, a Jordanova matice tedy bude mít jeden z následujících tvarů: 1 1 0 0 1 0 0 0 1 1 0 0 0 1 1 0 0 1 Zároveňto však znamená, že existují dva řetězce délky alespoň 1. Protože (A+E) 2 = 0 0 0 0 0 0, platí dim(nλ 2) = 3, dim(n λ 2) dim(n λ) = 1, a existuje 0 0 0 tedy jeden řetězec délky alespoň 2. (Protože zřejmě dim(nλ 3) = 3, dim(n λ 3) dim(nλ 2 ) = 0, je zřejmé že řetrězec delší než 2 neexistuje.) Hledejme nyní druhý vektor z řetězce (A + E)x 0, (A + E) 2 x = 0. Platí Položme nyní potom dim(n 2 1) = 3 přičemž N 2 1 = {x (A + E) 2 x = 0} x = 1 0 0 (A + E)x = 4 0 8 3 0 6 1 0 = 4 3 2 0 4 0 2 J A = 1 1 1 Q = 4 1 0 3 0 1 1 2 0 0 Hledáme tedy p tak, aby (A + E)p = 0 a aby p bylo LN s (A + E)p. Nechť tedy p = 0 1 0

22 KAPITOLA 2. PODOBNOST MATIC, JORDANŮV TVAR Potom Q J A = 4 1 0 3 0 1 1 1 1 2 0 0 1 A Q = 3 0 8 3 1 6 4 1 0 3 0 1 2 0 5 2 0 0 Klasifikace dle typu J do dim(a) = 4: 1. n = 1 A je v Jordanově tvaru 2. n = 2 (a) Existují tedy dva LN vlastní vektory (k jednomu nebo dvěma vlastním číslům). ( ) λ J A = µ (b) Existuje pouze jedno vlastní číslo, ale náleží k němu pouze jeden LN vlastní vektor. Existuje tedy řetězec délky 2. ( ) λ 1 J A = λ 3. n = 3 Nechť (A λe)x 0. Potom (A λe)x 0, x je příslušný řetězec. (a) Existují 3 LN vlastní vektory. (b) Existují 2 LN vlastní vektory. J A = λ µ ν i. λ není trojnásobné vlastní číslo, takže existuje řetězec délky 2. J A = λ 1 λ µ Najdeme (A λe)x 0, potom (A λe)x, x tvoří řetězec. K (A λe)x naleznu LN vlastní vektor. ii. λ je trojnásobné vlastní číslo J A = λ 1 λ 1 µ najdeme (A λe) 2 0, potom (A λe) 2 x = 0, (A λe)x, x tvoří řetězec. K (A λe)x naleznu LN vlastní vektor.

23 4. n = 4 (a) Existují 4 LN vlastní vektory. λ J A = µ ν ρ (b) Existují 3 LN vlastní vektory. J A = λ 1 λ µ ν Obdobně jako pro 3(b). (c) Existují 2 LN vlastní vektory. Potom (d) J A = λ 1 λ µ 1 µ (A λe)x 0, (A λe) 2 x = 0 (A µe)y 0, (A µe) 2 y = 0 J A = λ 1 λ λ 1 λ (A λe)x 0, (A λe) 2 x = 0 (A λe)y 0, (A λe) 2 y = 0 a máme dva řetězce (A λe)x, x, (A λe)y, y. Tento postup však není optimální, protože pro x y může nastat (A λe)x = (A λe)y. Najděme tedy dva LN vlastní vektory p 1, q 1. V principu bychom mohli řešit soustavy (A λe)p 2 = p 1 (A λe)q 2 = q 1 Soustavy sice nejsou příjemné, tato cesta k cíli vede, nicméně existuje jednodušší řešení. Doplňme vektory p 1, q 1 do báze v prostoru C 4, čímž dostaneme {v 1, v 2, p 1, q 1 } a vytvořme řetězce (A λe)v 1, v 1, (A λe)v 2, v 2. Tyto vektory jsou LN.

24 KAPITOLA 2. PODOBNOST MATIC, JORDANŮV TVAR (e) Existuje řetězec délky 3. J A = λ 1 λ 1 λ µ (f) (g) Najdeme (A λe) 2 x 0. Potom (A λe) 2 x, (A λe)x, x tvoří řetězec. Musíme ale ověřit, že (A λe) 3 x = 0. takže J A = λ 1 λ 1 λ (A λe) 2 Θ dim(n 1 λ) = 2 dim(n 2 λ) = 3 dim(n 3 λ) = 4 µ h((a λe) 2 ) = 4 3 = 1 Potom (A λe) 2 x, (A λe)x, x je řetězec a stačí nám najít ještě jeden LN vektor. J A = λ 1 λ 1 λ 1 µ (A λe) 4 = Θ (A λe) 3 Θ Potom (A λe) 3 x, (A λe) 2 x, (A λe)x, x je řetězec délky 4. Poznámka 2.38. Toto vše jsme řešili v C. Jestliže je A reálná, a λ je její vlastní číslo, které reálné není, potom je i λ také vlastní číslo matice A. Nechť q 1, q 2,..., q k je řetězec příslušný k λ, potom řetězec q 1, q 2,..., q k je LN a přísluší k λ. Nechť A je čtvercová matice řádu n, a nechť A D, kde D je diagonální matice. Hledejme nyní matici B takovou, že B 2 = A (ozn. B = A). Víme, že A = Q 1 D Q

25 kde λ 1 λ D = 2... λk D = λ1 λ2... λk tj. Potom ale A Q 1 D Q. Nechť nyní f(x) = a k x k Potom platí Zároveň platí f(a) = f(a) = k=0 a k A k k=0 [ ] a k (Q 1 D Q) k = Q 1 a k D k Q k=0 D k = Odtud ale plyne, že k=0 a kλ k 1 f(a) = Q 1 λ k 1 f(λ 1 ) f(a) = Q 1 λ k 2 k=0 a kλ k 2 f(λ 2 ) k=0... λ k n... k=0 a kλ k n... f(λn) Q Q Pro Jordanovu matici triviálně platí λ 1 λ... J n (λ) =... 1 λ

26 KAPITOLA 2. PODOBNOST MATIC, JORDANŮV TVAR a tedy λ 2 2λ 1 λ 2 2λ... J 2 n(λ) = λ 2... 1... 2λ λ 2 Definice 2.39. Nechť A je čtvercová matice řádu n. Nechť λ je její v absolutní hodnotě největší vlastní číslo. Potom λ nazýváme spektrálním poloměrem matice A a označíme λ = ρ(a) O vztahu mezi A, f(a) a ρ(a), f(ρ(a)) pojednává následující věta. Věta 2.40. Oldenburger: tehdy když ρ(a) < 1. Nechť A je řádu n. Potom lim k A k = 0 právě Důkaz 1. (triviálně): pokud λ < 1, potom nutně J k n(λ) 0 2. sporem: stačí dokázat pro diagonální matici - pokud by λ 1, potom λ k nebude konvergovat k nule (spor) Věta 2.41. Nechť A je čtvercová matice řádu n a nechť platí ρ(a) < 1. Pak řada E + A + A 2 +... + A k konverguje a je rovna (E A) 1. Důkaz 1. konvergence je zřejmá na základě předchozí věty 2. existence (E A) 1 B je regulární ( i ˆn)(λ n 0). Matice (E A) má vlastní čísla ve tvaru 1 λ i, kde λ i jsou vlastní čísla A, takže ( i)( λ i ρ(a) < 1). Potom tedy ( i)(1 λ i 0) a matice (E A) je tedy regulární. Odtud již tedy plyne existence matice inverzní. 3. rovnost nastává právě tehdy když (E A) 1 = E + A + A 2 +... E = (E A)(E + A + A 2 +...) = E A k+1 A protože A k 0, rovnost platí. Věta 2.42. Nechť A je čtvercová matice řádu n. Potom λ je jednoduché vlastní číslo matice A právě tehdy, když

27 1. existuje jediný LN vlastní vektor v matice A příslušný vlastnímu číslu λ a jediný LN vlastní vektor u matice A T příslušný k λ 2. u v 0 Důkaz 1. z (1) dostáváme, že v Jordanově matici existuje nejvýše jeden s λ na diagonále. Zároveň platí, že jestliže A J potom A T J T, protože J = Q 1 A Q J T = Q T A T Q 1 T Z (2) potom vyplývá, že tento blok v Jordanově matici musí mít řád 1, protože pokud ( ) ( ) λ2 1 A = A T λ2 0 = 0 λ 2 1 λ 2 potom ( ) ( ) 1 0 p 1 = p 0 2 = 1 ( ) ( ) λ2 1 Ap 1 = Ap 0 2 = = p 1 + λ 2 p 2 a řetězec je tedy p 1, p 2. Současně ale ( ) ( ) A T λ2 p 1 = A T 0 p 1 2 = a řetězec je tedy p 2, p 1 (tj. v opačném pořadí). Platí tedy p 1 p 2 = 0. Uvažujme nyní p 1 λ pro J a p 2 λ pro J T. Potom platí: p 1 p 2 = 0 pokud platí jedno z následujících tvrzení (a) existuje více vlastních vektorů LN příslušných k λ (b) existuje řetězec délky > 2 λ 2 λ 2

28 KAPITOLA 2. PODOBNOST MATIC, JORDANŮV TVAR

Kapitola 3 Pozitivní matice a Frobeniova věta 3.1 Nezáporné pozitivní matice Definice 3.1. Řekneme, že matice A je nezáporná (ozn. A 0), pokud pro každý prvek a ij matice A platí a ij 0. Definice 3.2. Řekneme, že matice A je nezáporná (ozn. A 0), pokud pro každý prvek a ij matice A platí a ij > 0. Poznámka 3.3. 1. Pokud jsou A, B nezáporné a stejného typu (rozměru), potom je i A + B nezáporná. 2. Pokud jsou A, B nezáporné, čtvercové, potom je i A B nezáporná. Tvrzení 3.4. Nechť jsou x, y sloupcové vektory typu (n, 1), pro které x y 0, a nechť A je matice typu (m, n), A 0. Potom Pokud navíc x > y, A > 0, potom platí Důkaz(triviální) Ax Ay Ax > Ay Ax Ay A(x y) 0 A 0 (x y) 0 29

30 KAPITOLA 3. POZITIVNÍ MATICE A FROBENIOVA VĚTA Definice 3.5. Dvě matice A = (a ij ), B = (b ij ) stejného typu mají stejnou strukturu nenulových prvků, pokud platí: ( i, j)(a ij 0 b ij 0) Definice 3.6. Booleovská matice je matice jejíž prvky jsou 0 nebo 1. Lze definovat operace sčítání, násobení číslem a násobení matic tak, že operace sčítání matic a násobení číslem se provádějí booleovsky (0+0 = 0, 0+1 = 1+0 = 1+1, 0 0 = 0 1 = 1 0 = 0, 1 1 = 1). Každé číselné matici A = (a ik ) potom můžeme přiřadit booleovskou matici A B = (α ik ), kde α ik = 1 pro a ik 0 a α ik = 0 pro a ik = 0. Matici A B nazýváme booleovská reprezentace matice A. Věta 3.7. Struktura nenulových prvků součtu resp. součinu dvou nezáporných matic závisí jen na strukturách nenulových prvků obou sčítanců resp. činitelů. Přitom platí (pro A 0, B 0): 1. (A + B) B = A B + B B 2. (A B) B = A B B B (kde ovšem operace sčítání a násobení napravo jsou booleovské). 3.2 Nezáporné matice Definice 3.8. Řekneme, že čtvercová matice A je rozložitelná, pokud má tvar ( ) A1 B 0 A 2 nebo pokud ji lze na tento tvar převést simultánní permutací řádek a sloupců. Poznámka 3.9. Matice je nerozložitelná pokud není rozložitelná (překvapivě). Příklad 3.10. 0 0 0 1 0 0 0 1 0 0 0 1 0 0 1 0 3 a 4 0 0 1 0 2 a 3 1 1 0 0 1 a 2 0 1 0 0 1 0 0 0 0 0 0 0 1 0 0 0 0 1 0 0 0 0 1 0 1 a 2 1 1 0 0 0 0 0 1 0 0 0 0 0 0 1 0 Věta 3.11. Nechť je A nerozložitelná a nezáporná matice řádu n a nechť k 0, k 1,..., k n 1 jsou kladná čísla. Potom matice k 0 E + k 1 A + k 2 A 2 + + k n 1 A n 1 > 0.

3.2. NEZÁPORNÉ MATICE 31 Příklad 3.12. 0 0 1 0 0 0 0 1 A = 0 1 0 0 1 0 0 0 0 1 0 0 A 2 1 0 0 0 = 0 0 0 1 1 0 0 0 0 0 0 1 A 3 0 0 1 0 = 1 0 0 0 0 1 0 0 A 4 = E Definice 3.13. Nechť A = (a ij ) je matice. Matici m(a) = ( a ij ) nazveme modul matice A. Věta 3.14. Nechť A, B jsou čtvercové matice řádu n a nechť m(a) B. Potom ρ(a) ρ(b). (Specielně platí ρ(a) ρ(m(a)).) Důkaz(sporem) Nechť m(a) B a zároveň nechť ρ(a) > ρ(b). Potom nutně existuje s R tak, že ρ(a) > s > ρ(b). Definujme tedy (A) = 1 s A. Potom ale Věta 3.15. Nechť A je čtvercová a nezáporná matice, z je nezáporný vektor a nechť existuje η R takový, že Az > ηz. Potom ρ(a) > η Důkaz Nechť ρ 0, z 0 a nechť existuje ɛ > 0 tak, že Az(η + ɛ). Definujme à = 1 ɛ + η A Potom à > z à > Az z Tvrzení 3.16. Peron: Nechť A je čtvercová kladná matice. Potom ρ(a) je vlastním číslem A a tomuto vlastnímu číslu přísluší jediný LN vlastní vektor, který lze zvolit kladný. Důkaz Existují λ, v tak, že Av = λv a přitom

32 KAPITOLA 3. POZITIVNÍ MATICE A FROBENIOVA VĚTA Věta 3.17. Perronova - Frobeniova Nechť A je čtvercová nezáporná nerozložitelná matice n tho řádu (n > 1). Potom ρ (A) je jednoduché vlastní číslo matice A a tomuto vlastnímu číslu odpovídá kladný vlastní vektor. Žádnému jinému vlastnímu číslu A už neodpovídá nezáporný vlastní vektor.

Kapitola 4 Metoda sdružených gradientů Nechť A je reálná, symetrická a positivně definitní (existují i ekvivalentní metody pro složitější matice), a nechť Ax = b. Budeme zkoumat chování funkce F (x) = 1 2 (Ax, x) bx (tj. funkce v prostoru R n). Tato funkce má právě jedno (globální) minimum v bodě řešení Ax = b. Vzorec pro přírůstek je: F (x + αx) F (x) = α(ax b, v) + 1 2 α2 (Av, v) přičemž Ax b nazýváme reziduum. Věta 4.1. Nechť x p je přesné řešení Ax = b. Funkce F (x) má v bodě x p minimum a jiná lokální minima nemá. Důkaz 1. v x p je minimum: F (x p + αv) F (x p ) = 0 + 1 2 α2 (Av, v) > 0 pro α 0, v 0 takže v x p je skutečně minimum 2. F nemá jiná lokální minima: F (x + αv) F (x) = α(ax b, v) + 1 2 α2 (Av, v) pro malá α je α(ax b, v) > 1 2 α2 (Av, v) a pro +α, α dostaneme opačná znaménka přírůstku. Pro všechny body a pro všechna jejich okolí existují x 1, x 2 tak, že F (x 1 ) > F (x) > F (x 2 ) 33

34 KAPITOLA 4. METODA SDRUŽENÝCH GRADIENTŮ Při iteračním využití této metody počítám x 1, x 2 = x 1 + α 1 v 1, x 3 = x 2 + α 2 v 2,..., x i+1 = x i + α i v i. Přitom chci minimalizovat rozdíl F (x i+1 ) F (x i ) = F (x i + α i v i ) F (x i ) = α i (Ax i b, v i ) + 1 2 α2 i (Av i, v i ) takže volím potom α i = (Av i b, v i ) (Av i, v i ) x i+1 = x i (Av i b, v i ) (Av i, v i ) Otázkou však je, jak volit směr postupu v dalším kroku (totiž vektory v i ). Běžně používané metody jsou: 1. Gauss-Seidlova metoda (beru cyklicky e 1, e 2,...) 2. metoda největšího spádu (viz. dále) 3. metoda sdružených gradientů (viz. dále) 4.1 Metoda největšího spádu Nechť v i = 1 a zkoumejme F (x + αv i ) F (x) α(r i, v i ) + 1 2 lim = lim α2 (Av i, v i ) = (r i, v i ) α 0 α α 0 α Spád je zřejmě největší pro a tak v i = r i r i x i+1 = x i (r i, r i ) (Ar i, r i ) r i Věta 4.2. Metoda největšího spádu konverguje při libovolné volbě počátečního přiblížení x 1 k přesnému řešení rovnice Ax = b. Důkaz F (x i ) F (x p ) = F (x p + ɛ i ) F (x p ) = (r i, ɛ i ) + 1/over2(Aɛ i, ɛ i ) F (x i+1 ) F (x p ) = 1 2 (Aɛ i+1, ɛ i+1 ) F (x i+1 ) F (x i ) = F (x i + α i v i ) F (x i ) = α i (r i, v i ) + 1 2 α2 i (Av i, v i ) = = (r i, r i ) 2 (Ar i, r i ) + 1 (r i, r i ) 2 2 (Ar i, r i ) = 1 (r i, r i ) 2 2 (Ar i, r i )

4.1. METODA NEJVĚTŠÍHO SPÁDU 35 F (x i+1 ) F (x i ) = 1 2 (Aɛ i+1, ɛ i+1 ) 1 2 (Aɛ i, ɛ i ) = 1 2 = 1 (r i, r i ) 2 2 (Ar i, r i ) (Aɛ i+1, ɛ i+1 (Aɛ i, ɛ i ) = 1 (r i, r i ) 2 (Ar i, r i )(Aɛ i, ɛ i ) ɛ i+1 A je A-norma ɛ i+1. Dokážeme nerovnost c 2 ɛ i+1 ɛ i+1 A c 1 ɛ i+1 A má všechna vlastní čísla kladná, a nechť m je nejmenší a M je největší vlastní číslo. Potom m ɛ i+1 2 ɛ i+1 A M ɛ i+1 2 (r i, r i ) 2 = r i 4 (Ar i, r i ) M r i 2 ɛ i = x i x p Aɛ i = Ax i b Ax p + b = r i (přičemž Ax p b = 0) Protože A je PD a symetrická, existuje úplný systém ortogonálních vlastních vektorů. x = α 1 p 1 + α 2 p 2 + + α n p n (x, x) = α1 2 + + αn 2 Ax = λ 1 α 1 p 1 + λ 2 α 2 p 2 + + λ n α n p n (Ax, x) = λ 1 α1p 2 1 + λ 2 α2p 2 2 + + λ n αnp 2 n M(x, x) (Ax, x) m(x, x) kde m = min{λ i } a M = max{λ i }. (Aɛ i, ɛ i ) = (r i, A 1 r i ) 1 2 r i 2 Přitom matice A 1 má nejmenší vlastní číslo 1/M a největší vlastní číslo 1/m. Potom (Aɛ i+1, ɛ i+1 ) (Aɛ i+1, ɛ i+1 ) = 1 (r i, r i ) 2 (Ar i, r i )(Aɛ i, ɛ i ) 1 r i 4 M r i 2 1 m r i = M m 2 M 1 takže ( ) i 1 M m ɛ A ɛ 1 A M

36 KAPITOLA 4. METODA SDRUŽENÝCH GRADIENTŮ 4.2 Metoda sdružených gradientů Metoda největšího spádu má jednu nepřjemnou vlastnost - numusí nutně skončit po konečném počtu kroků. Modifikujme ji tedy tak, abychom tento nedostatek odstranili: x 1 přičemž a tedy x 2 = x 1 + α 1 v 1 x 3 = x 2 + α 2 v 2 = x 1 + α 1 v 1 + α 2 v 2. n 1 x n = x 1 + α i v i i=1 x n+1 = x p x p x 1 = n α i v i i=1 A(x p x 1 ) = Ax p b Ax 1 + b = α i = (r 1, v i ) (Av i, v i ) n α i Av i Tím jsme dostali sadu v i, která má následující vlastnost - pokud i j, potom A(v i, v j ) = 0 a v i, v j jsou tedy navzájem ortogonální. Potom bude metoda konvergovat a skončí po konečném počtu kroků. Musíme najít taková v i, že tvorba v i 1. vezmeme r 1, v 1 = r 1 2. vypočteme x 2, r 2 v 2 atd. i 1 v i = r i + β ij v j j=1 β ij = (Ar i, v j ) (Av j, v j ) i=1 i 1 (Av i, v k ) = (Ar i, v k ) + β ij (Av j, v k ) j=1 0 = (Ar i, v k ) + β ik (Av k, v k )

4.2. METODA SDRUŽENÝCH GRADIENTŮ 37 Tvrzení 4.3. Platí (r i, v j ) = (r 1, v j ) pro i j (r i, v j ) = 0 Důkaz x i+1 = x i + α i v i / A zleva protože 1. k i 2. k > i Tvrzení 4.4. r i+1 = r i + α i Av i i 1 r i = r 1 + α j Av j j=1 i 1 (r i, v k ) = (r 1, v k ) + α j (Av j, v k ) j=1 (Av j, v k ) = 0 (r i, v k ) = (r 1, v k ) (r i, v k ) = (r 1, v k ) + α k (Av k, v k ) α = (r 1, v k ) (Av k, v k ) (r i, v k ) = 0 (Av k, r j ) = 0 pro k > j (Av k, r k ) = (Av k, v k ) Důkaz i 1 v i = r i + β ik v k k=1 i 1 r i = v i β ik v k k=1 i 1 (Av j, r i ) = (Av j, v i ) β ik (Av j, v k ) = 0 pro j > i k=1 j 1 (Av j, r j ) = (Av j, v j ) β jk (Av j, v k ) = (Av j, v j ) pro i = j k=1 Věta 4.5. Vektory r k jsou navzájem ortogonální. Důkaz

38 KAPITOLA 4. METODA SDRUŽENÝCH GRADIENTŮ 1. r 1 0 (r 1, r 1 ) 0 (r 2, r 1 ) x 2 = x 1 + α 1 v 1 k 1 x k = x 1 + α j v j j=1 k 1 r k = r 1 + α j Av j j=1 α j = (r j, v j ) (Av j, v j ) (r 1 + α 1 Av 1, r 1 ) = (r 1, r 1 ) = 0; 2. s s + 1 (r s+1, r k ) = 0 s > k r s+1 = r 1 + j = 1 s α j Av j = r s + α s Av s (r s + α s Av s, r k ) = (r s, r k ) + α s (Av s, r + k) kde dle předpokladu a kvůli LZ platí také (r s, r k ) = 0 (Av s, v k ) = 0 3. s = k (r k+1, r k ) = (r k, r k ) + α k (Av k, r k ) = (r k, r k ) (r k, v k ) (Av k, v k ) (Av k, v k ) = k 1 = (r k, r k ) (r k, v k ) = (r k, v k ) = (r k, r k ) r k, r k + β kj v j j=1 LZ : (Av j, r i ) = 0 pro j > i Poznámka 4.6. Důsledek a nenulové je pouze β i,i 1 β ij = (Ar i, v + j) (Av j, v j ) = r i, rj+1 r j α (Av j, v j ) r j+1 = r j + α j Av j Av j = r j+1 r s α j

4.3. PŘEDPODMÍNĚNÍ 39 Poznámka 4.7. Schéma: zvolíme x 1, vypočítáme r i = Ax i b, potom β i 1 = (Ar i, v i 1 ) (Av i 1, v i 1 ) i > 1, i = 1, β 0 = 0 přičemž r 1 = v 1. Potom v i = r i + β i 1 v i 1 α i = (r i, v i ) (Av i, v i ) x i+1 = x i + α i v i Poznámka 4.8. Metoda sdružených gradientů (Av i, v j ) = δ ij ({v i } je například báze z vlastních vektorů). Možnost volby báze: 1. tečné vektory 2. normály na nadplochu (kolmé na všechny ostatní) 4.3 Předpodmínění Před iterací můžeme matici A vylepšit pomocí metody nazývané předpodmínění. Hledáme matici C C 1 Ax = C 1 b a chceme aby matice C 1 A měla co nejlepší vlastnosti. Za matici C je často volena hlavní diagonála z A nebo její násobek, aby šlo lehce najít C 1. Je naprosto nelogické volit E (tím nic nezískáme), nebo A (protože po nalezení A 1 už bychom měli úlohu vyřešenu, ale chceme to udělat lépe než hledáním inverzní matice A). Přitom platí ( ) C 1 2 AC 1 2 C 1 2 = C 1 A C 1 2 AC 1 2 C 1 A C 1 2 Zaveďme značení  x = b, tak, že  = C 1 2 AC 1 2 x = C 1 2 b = C 1 2 b Potom tedy r i =  x i b ( ) = C 1 2 AC 1 2 xi b = C 1 2 ri ) (C 1 2 AC 1 2 r i, v i 1 β i 1 = ) (C 12 AC 12 v i 1, v i 1

40 KAPITOLA 4. METODA SDRUŽENÝCH GRADIENTŮ C 1 2 vi 1 v i = r i + β i 1 v i 1 Nechť nyní C 1 2 vi = C 1 2 ri + C 1 2 βi 1 v i 1 = C 1 r i + β i 1 C 1 2 vi α i = ( r i, v i ) (A v i, v i ) w i = C 1 2 vi Postup řešení je nyní následující: ŵ i = s i = C 1 r i x 1, r 1 = Ax 1 b, v 1 = r 1, α 1 r i = Ax i b β i 1 = (As i, w i 1 ) (Aw i 1, w i 1 ) w i = s i + β i 1 w i 1 ) (C 1 2 r i, v i ( C 1 2 AC 1 2 v i, v i ) = (r i, w i ) (Aw i, w i ) x i+1 = x i + αα i ŵ i C 1 2 xi+1 = C 1 2 xi + α i C 1 2 vi x i+1 = x i + α i w i

Kapitola 5 Normy matic Definice 5.1. Zobrazení g(x) : R n R, resp. g(x) : C n R je norma, právě když: 1. ( x R n (C n )) (g(x) 0) 2. g(x) = 0 x = 0 3. g(x + y) g(x) + g(y) 4. g(αx) = α g(x) Poznámka 5.2. Takzvané L p normy mají předpis tj. například g p (x) = g 1 (x) = ( n i=1 x i p ) 1 p n x i i=1 ( n ) g 2 (x) = x i 2 i=1 g (x) = max x i i Pro matice A typu (m, n) normy předepisujeme takto: g(a) = max x 0 Ověřme že se skutečně jendá o normu: 1. platí triviálně díky vlastnostem g(x) 41 g(ax) g(x)

42 KAPITOLA 5. NORMY MATIC 2. 3. 4. g(a) = 0 max x 0 g (A + B) = max x 0 = max x 0 g (Ax) g(x) g(ax) g(x) = 0 g(ax) = 0 x Ax = 0 x A = Θ g ((A + B) x) g(x) + g (Bx) g(x) g (αa) = max x 0 = α max x 0 = max x 0 = g (A + B) g (Aαx) g(x) g (Ax) g(x) Normou generovanou nazýváme normu = max x 0 g (Ax) g(x) = max x 0 g (Ax) + g (Bx) g(x) + max x 0 α g (Ax) g(x) = α g (A) g αβ (A) = max g β =1 g α (Ax) = g (Ax) g β (x) 1. ( x R n )(g α (Ax) g αβ (A) g β (x) 2. ( x 0 R n )(g α (Ax) = g αβ (A) g β (x) Potom g 11 (A) = g 1 (A) = max k g 1 (A) = max i g (Bx) g(x) m a ik tj. maximální sloupcový součet i=1 n a ik tj. maximální řádkový součet k=1 g 2 (A) = ρ (A A) kde A je hermitovská, tj. A = ĀT Důkaz g 1 je generovaná norma 1. g 1 (A) = max k a ik a nechť y = Ax, tj. y i = k a ikx k. Potom m m n g 1 (Ax) = g 1 (y) = y i = a ik x k i=1 i=1 k=1 i k ( ) max a ik x k = max a ik g(x) k k k i i i = = =

43 2. existuje alespoň jeden nenulový vektor (x 0 ) tak, že g 1 (Ax) = max a ik g(x 0 ) k totiž vektor e = (0,..., 0, 1, 0,..., 0). g je generovaná norma i 1. max i k g (Ax) = max k a ik x k max i y i = max k k a ik max k a ik x k k a ik = g (A) g (x) i 2. ( x 0 ) (g (A) = g (A) g (x)) tj. všechny nerovnosti musí přejít v rovnosti g 2 (A) = (ρ(a A) g 2 (x) = i ˆx i x i takže g 2 ( x x ) (ˆx 1, ˆx 2,..., ˆx n ) x 1 x 2. x n = x x 1. 2. g 2 (Ax) = (Ax, Ax) = (A Ax, x) λ max (A A) g 2 (x) = = ρ (A A)g 2 (x) ( ( x 0 R n ) g 2 (Ax 0 ) = ) ρ (A A)g 2 (x 0 ) x 0 je vlastní vektor matice A A příslušný k λ, kde λ = ρ (A) Tvrzení 5.3. (Ax, Ax) = (A Ax, x) Důkaz nápověda (x, x) = Tr (x x) = Tr (xx ) Definice 5.4. Schurovu normu definujeme jako m n N (A) = a ij 2 i=1 j=1

44 KAPITOLA 5. NORMY MATIC Platí protože: Pro libovolné γ platí: g 2 (A) N (A) (N (A)) 2 = Tr (A A) (A Ax, x) = (Ax, Ax) 0 g αβ (AB) g αγ (A) g γβ (B) kde A je typu (m, n), B je typu (n, p), takže AB je typu (m, p). Platí také N (AB) N (A) N (B) g 2 (A) N (A) N (AB) g 2 (A) N (B) N (AB) g 2 (B) N (A)