(u, v) u. v. cos φ =

LA 3. cvičení Ortogonalita, Gramm-Schmitův ortonormalizační proces Lukáš Pospíšil, Martin Hasal,2 Ortogonální systém vektorů Poznámka: Motivace - připomeňme si Kosinovu větu v obecném tvaru kde φ je úhel mezi vektory u, v R n cos φ = (u, v) u. v (u, v) = n u i v i je standartní skalární součin i= n u = u 2 i i= je standartní eukleidovská norma (délka vektorů) Představme si, že úhel vektorů je 9 stupňů, tedy π 2. Pak cos π 2 =. = (u, v) = (u, v) u. v Tedy Kosinova věta by se dala postavit i opačně - pokud skalární součin dvou vektorů je roven nule, pak jsou tyto vektory na sebe kolmé. V dalším učivu budeme uvažovat vzájemně kolmé vektory a nazývat je ortogonálními. Definice.. Necht je dán vektorový prostor V se skalárním součinem (u, v). Mnoˇzinu vektorů {v,..., v n } nazveme ortogonální, pokud ortonormální, pokud { = pokud i j i, j =,..., n : (v i, v j ) pokud i = j { = pokud i j i, j =,..., n : (v i, v j ) = pokud i = j ()

Poznámka: Jednoduššeji řečeno - množina vektorů je ortogonální, pokud skalární součin libovolného vektoru s jiným vektorem z dané množiny je nula a skalární součin stejných vektorů je různý od nuly. Navíc, pokud je skalární součin vždy stejných vektorů roven jedné, pak je množina ortonormální. Poznámka: Prvky ortogonální množiny vektorů se nazývají ortogonální vektory. Podobně i pro ortonormální množiny. Příklad.. Rozhodněte, zda mnoˇzina vektorů M = {[,, ], [,, ], [,, ]} je ortogonální vzhledem ke skalárnímu součinu (u, v) = 2u v + 4u 2 v 2 + 2u 3 v 3 Pro jednoduchost si nejprve označme vektory mnoˇziny f = [,, ] f 2 = [,, ] f 3 = [,, ] Jelikoˇz skalární součin je symetrická bilineární forma (tj. (u, v) = (v, u)), pak stačí pouze testovat tyto dvojice (například) (f, f 2 ) = 2.. + 4.. + 2.. = 4 (f, f 3 ) = 2.. + 4.. + 2.. = 2 (f 2, f 3 ) = 2.. + 4.. + 2.. = 2 Tedy ne, vektory nejsou ortogonální, daná mnoˇzina vektorů není ortogonální. 2 Norma příslušná skalárnímu součinu Uvažujme skalární součin (u, v). Pak zobrazení u = (u, u) jest normou příslušnou k tomuto skalárnímu součinu. Tato norma se nazývá Eukleidovská norma. Poznámka: V některé literatuře se takto definovaná norma nazývá norma indukovaná skalárním součinem. (2)

3 Gramm-Schmidtův ortonormalizační proces Tento šikovný algoritmus slouží pro vytvoření ortonormální množiny z množiny lineárně nezávislých vektorů. Označme G = {g,..., g n } - původní množina lineárně nezávislých vektorů E = {e,..., e n } - hledaná množina ortonormálních vektorů Pak Gramm-Schmitův ortonormalizační proces bude vypadat takto: Nejdříve normalizujeme první vektor množiny G e = g g A pro další vektory postupujeme tak, že vždy vezmeme z množiny G jeden vektor a zajistíme, aby nová množina vektorů byla ortogonální. A pak tento vektor opět normalizujeme. g i i (g i, e j )e j j= e i = g i i (g i, e j )e j j= ozn = e i e i, i = 2,..., n Poznámka: Úkolem cvičení není ukázat, že kde se tento zázrak vzal, jestli vůbec funguje a proč. Raději uděláme pěkný příklad a ukážeme, že řešení příkladu je správné. Nebo raději uděláme dva příklady - jeden jednoduchý a druhý komplikovanější. Příklad 3..2 Pomocí Gramm-Schmidtova ortonormalizačního procesu vytvořte z vektorů g = [, ] g 2 = [, ] ortonormální mnoˇzinu E vzhledem k standartnímu skalárnímu součinu (u, v) = u v + u 2 v 2 Fajne by bylo, kdyby mnoˇzina G = {g, g 2 } byla ortogonální. Jenˇze není, protoˇze např. (g, g 2 ) = ([, ], [, ]) =. +. = (g 2, g 2 ) = ([, ], [, ]) =. +. = 2 Tak jdeme na ten ortonormalizační proces, nejdříve první vektor e = [, ] [, ] = = [, ] 2 + 2 (3)

A pak druhý vektor. Pro lepší srozumitelnost a kratší výpočet nejdříve spočteme 2 e 2 = g 2 (g 2, e j )e j = g 2 (g 2, e )e = [, ] ([, ], [, ]).[, ] = j= = [, ] (. +.).[, ] = [, ] [, ] = [, ] Nyní zbývá normalizovat tento vektor e 2 = e 2 [, ] [, ] e = = = [, ] 2 2 + 2 Na místě by byla jistě i zkouška - ověřit, že nalezené vektory e, e 2 jsou skutečně ortonormální: (e, e ) = ([, ], [, ]) =. +. = (e 2, e 2 ) = ([, ], [, ]) =. +. = (e, e 2 ) = ([, ], [, ]) =. +. = Poznámka: Jednoduché? Ano, ale pouze tento příklad. Druhý bude brutálnější. Slibuji. Příklad 3..3 Pomocí Gramm-Schmidtova ortonormalizačního procesu vytvořte z vektorů f = [,, ] f 2 = [,, ] f 3 = [,, ] ortonormální mnoˇzinu E vzhledem ke skalárnímu součinu (u, v) = 2u v + 4u 2 v 2 + 2u 3 v 3 Poznámka: Nejdříve pozor! Eukleidovská norma příslušná k danému skalárnímu součinu má tvar u = (u, u) = 2u 2 + 4u2 2 + 2u2 3 Tedy v algoritmu budeme normalizovat vzhledem k této normě. První vektor nebude problém e = f f = [,, ] 2. 2 + 4. 2 + 2 = [,, ] Druhý vektor spočítáme tak, ˇze si pro jednoduchost nejdříve předpočítáme ortogonální vektor e 2 a tento vektor posléze normalizujeme. 2 e 2 = f 2 (f 2, e j )e j = f 2 (f 2, e )e = [,, ] ([,, ], [,, ]) [,, ] = j= = [,, ].(2.. + 4.. + 2..).[,, ] = [,, ] 2 3.[,, ] = [ 2 3, 3, ] (4)

A pak ho normalizujeme e 2 = e 2 e 2 = [ 2 3, 3, ] = [ 2 3, 3, ] 2. 4 9 + 4. 9 + 2. 9 = 3 [ 2 3, 3, ] = [ 2,, 3] Třetí vektor nám uˇz malinko zkomplikuje ˇzivot, nicméně po konečném počtu kroků se jistě dopracujeme ke správnému řešení = [,, ] ([,, ], 3 e 3 = f 3 (f 3, e j )e j = f 3 (f 3, e 2 )e 2 (f 3, e )e = j= [ 2,, 3]) [ 2,, 3] ([,, ], [,, ]) [,, ] = = [,, ] (2..( 2 )+4.. +2.. 3 ) [ 2,, 3] (2.. +4.. +2.. ) [,, ] = a normalizace = [,, ] 2 [ 2,, 3] 2 [,, ] =... = [4, 2, 4] 5 e 3 = e 3 e 3 = 5 [4, 2, 4] 2. 25 + 4. 4 25 + 2. 25 =... = 2 [2,, 2]. 4 Vlastní čísla a vlastní vektory Vlastní čísla a vlastní vektory matic jsou další významnou charakteristikou matic. Využívají se například při studiu konvergence některých numerických metod, jakož i při řešení homogenních soustav diferenciálních rovnic s konstantními koeficienty. Definice 4..2 Necht V je vektorový prostor A L je lineární transformace nad vektorovým prostorem V Jestliˇze existuje nenulový vektor e V a skalár λ R tak, ˇze pak číslo λ nazýváme vlastní číslo transformace A Ae = λe () vektor e nazýváme vlastní vektor transformace A příslušný k vlastnímu číslu λ Poznámka: No, pokud V je konečně rozměrný vektorový prostor, pak lze matici A ztotožnit s lineárním zobrazením A (je to matice transformace vzledem k nějaké bázi) - podobně jako u klasifikace kvadratických forem. Tedy v dalším výkladu můžeme hovořit o vlastních číslech a vlastních vektorech matic ale budeme mít na mysli lineární zobrazení kterému odpovídá daná matice. (5)

5 Jak hledat (a najít) vlastní čísla Rovnici () lze malinko vylepšit Ae = λe vynásobíme zleva I IAe = Iλe platí IA = AI = A, Iλ = λi Ae = λie odečteme λie Ae λie = o vytkneme e, platí (A + B)v = Av + Bv (A λi)e = o Poznámka: Pokud (A λi) budeme považovat za lineární zobrazení (pokud A, I jsou lineární zobrazení, pak i (A λi) je lineární zobrazení), pak e jsou de-facto vektory jádra (= vektory které se zobrazí na nulový prvek). Připomeňme si dvě velké pecky z minulých cvičení: soustavy s nulovou pravou stranou mají nekonečně mnoho řešení, nebo pouze jedno - nulové řešení soustavy s regulární maticí mají právě jedno řešení A my nechceme, aby vektor e byl nulový, proto matice (A λi) musí být singulární. Jenomže singulární matice mají nulový determinant, tedy det (A λi) = A je to tam! Odvodili jsme algoritmus pro hledání vlastních čísel. Neveříte? Příklad 5..4 Nalezněte vlastní čísla a vlastní vektory matice A = Nejdříve si odvodíme, čemu se rovná det (A λi) det (A λi) = det Uˇzitím Sarusova pravidla dostáváme: λ = det λ λ λ = = ( λ).( λ).( λ)+..+...( λ)...( λ) ( λ).. = ( λ) 3 ( λ) = můˇzeme vytknout = ( λ).(( λ) 2 ) = ( λ).( 2λ + λ 2 ) = ( λ).(λ 2 2λ) = λ( λ)(λ 2) Poznámka: Této věci se říká charakteristický polynom. Přesněji řečeno - charakteristický polynom je polynom, který vznikne úpravou výrazu det (A λi). ()

Charakteristický polynom jsem schválně upravil na tvar součinu lineárních funkcí. Jelikoˇz pokud poloˇzíme rovno nule ze součinu det (A λi) = λ( λ)(λ 2) = λ( λ)(λ 2) = přímo plyne, že λ je rovno, nebo 2. Pak jeden z činitelů na levé straně bude nulový, tedy i celý součin bude nulový a roven pravé straně. A tak je to správné, tak to má byt. Tedy vlastní čísla bychom měli. Kuk na rovnici (A λi)e = o Coˇz po dosazení λ je soustava lineárních rovnic... řešitelná Gaussovou eliminační metodou. Pomocí determinantů ne, protoˇze matice (A λi) je sigulární, tato matice bude mít nulový determinant a parametrické řešení (ech, ale to je přeci to, o co nám od začátku šlo). Tak dosad me postupně jednotlivá vlastní čísla a řešme:. Dosad me první vlastní číslo λ = a jelikoˇz A.I = A budeme řešit soustavu Tak jo... tak řešme: Ae = o Tedy řešením jest e = [ t, t, ] T, t R 2. Dosad me druhé vlastní číslo λ 2 = a řešme Tedy řešením jest e 2 = [,, t] T, t R 3. Dosad me třetí vlastní číslo λ 3 = 2 a řešme 2 2 2 Tedy řešením jest e 3 = [t, t, ] T, t R (7)

Položme například t =, pak vlastními čísly a příslušnými vlastními vektory matice A jsou dvojice λ =, v = λ 2 =, v 2 = λ 3 = 2, v 3 = Poznámka: Japato parametrické řešení? To je jasné - parametricky nám to vyjde vˇzdy, protoˇze soustava je se singulární maticí. Ale tak to má vyjít! Uvaˇzujme rovnici (A λi)e = o přenásobme libovolným t R, t t.(a λi)e = t.o t je skalár (A λi)(t.e) = o Pak je jasné, ˇze i vektor t.e je příslušným vlastním vektorem. Tedy zhrňme postup hledání vlastních čísel a vlastních vektorů:. z det (A λi) odvodíme charakteristický polynom 2. nalezneme kořeny charakteristického polynomu - to jsou vlastní čísla 3. pro jednotlivá vlastní čísla nalezneme příslušné vlastní vektory jako řešení rovnice (A λ i )e i = o Lokalizace spektra Poznámka: Jelikož determinanty jsou příliš náročné pro výpočet, předchozí algoritmus je pro velké matice prakticky nepoužitelný. A někdy stačí pouze odhadnout kde se přibližně vlastní čísla nacházejí. K tomu slouží velice jednoduchá věta - Geršgorinova. Věta.. (Geršgorinova) Necht A C n,n (komplexní čtvercová matice A řádu n). Označme [a] ij prvek matice A na i-tém řádku a j-tém soupci. Dále označme čísla a mnoˇziny r i = a i +... + a i,i + a i,i+ +... + a in S i = {z C : z a ii r i pro i =,..., n. Pak vlastní čísla matice A leˇzí v mnoˇzině (jsou prvky mnoˇziny) S = S... S n (8)

Poznámka: Výpočet r i je vlastně součet absolutních hodnot prvků v i-tém řádku, krom diagonálního. Poznámka: školy? Vzpomínáte na význam lineárních nerovnic s absolutní hodnotou ze střední z a i i r i Vzdálenost z od bodu a ii je menší nebo rovna jako r i. Jedná se o kruh se středem v bodě a ii a poloměrem r i. Poznámka: Ačkoliv může tato věta vypadat příliš jednoduše, je to velmi robustní nástroj pro horní odhad největšího vlastního čísla. Příklad..5 Necht je dána matice A = [ 2 2 Tato symetrická čtvercová matice A je pozitivně definitní, spektrum matice dle Geršgorinovy věty je obsaˇzeno v mnoˇzině Ω = {x C : x 2 } ] Je vidět, ˇze pokud vezmeme libovolné číslo z této mnoˇziny, tak bude kladné. 7 Reference [] Z. Dostál, Lineární algebra, skriptum, Ostrava [2] V. Vondrák, LA - 2. cvičení (9)