Lineární algebra : Skalární součin a ortogonalita

Lineární algebra : Skalární součin a ortogonalita (15. přednáška) František Štampach, Karel Klouda frantisek.stampach@fit.cvut.cz, karel.klouda@fit.cvut.cz Katedra aplikované matematiky Fakulta informačních technologií České vysoké učení technické v Praze LS 2013/2014 vytvořeno: 30. dubna 2014, 09:01 Štampach, Klouda (KAM FIT ČVUT) BI-LIN LS 2013/2014 1 / 26

Hlavní body 1 Prehilhertovy prostory 2 Ortogonalita 3 Sdružená matice 4 Diagonalizace a spektrální vlastnosti samosdružených matic Štampach, Klouda (KAM FIT ČVUT) BI-LIN LS 2013/2014 2 / 26

Axiomatická definice skalárního součinu Definice Buď V LP nad T. Zobrazení (.,.) : V V T nazýváme skalární součin, platí-li pro x, y, z V a α T axiomy: 1 (x, αy + z) = α(x, y) + (x, z), (linearita v druhém argumentu) 2 (x, y) = (y, x), (hermitovská symetrie) 3 (x, x) 0 ( (x, x) = 0 x = 0 ). (pozitivní definitnost) Dvojici (V, (.,.)) nazýváme prostorem se skalárním součinem (prehilbertův prostor) a značíme H. Poznámka Je-li T = R v axiomu 2. je vlastnost (x, y) = (y, x) (symetrie), opruhování je v R nadbytečné. Cvičení: Pro libovolné x, y, x H a α T ověřte následující vlastnosti skalárního součinu: (αx + y, z) = α(x, z) + (y, z), (x, θ) = (θ, x) = 0. Štampach, Klouda (KAM FIT ČVUT) BI-LIN LS 2013/2014 3 / 26

Příklady skalárních součinů Na T n definujeme (x, y) := n ξ j η j, kde x = (ξ 1,..., ξ n ), y = (η 1,..., η n ). Snadno ověříme, že jse o skalární součin na T n. Tento skalární součin nazýváme standardním skalárním součinem. Pro f, g C( 0, 1 ) je zobrazení definované vztahem (f, g) := 1 0 j=1 f (x)g(x)dx skalárním součinem na LP C( 0, 1 ). Další příklad skalárního součinu je např. zobrazení definované na prostoru matic C n,n, n n (A, B) := a j,i b j,i. i=1 j=1 Štampach, Klouda (KAM FIT ČVUT) BI-LIN LS 2013/2014 4 / 26

Další příklady skalárních součinů Buďte x, y R n sloupcové vektory a A R n,n. Zobrazení (x, y) := x T Ay splňuje axiom 1. Budeme-li navíc požadovat, aby A = A T, bude splněn i axiom 2. Platí-li tedy ješte 3. aximom je uvedené zobrazení skalárním součinem na R n. Vezměme např. n = 2, potom pro matici ( ) 1 2 A = 2 5 je ( ) ( ) 1 2 y1 (x, y) = (x 1, x 2 ) = x 2 5 1 y 1 + 2x 1 y 2 + 2x 2 y 1 + 5x 2 y 2 skalární součin na R 2. Ovšem např. pro volbu y 2 A = ( ) 1 2 2 2 axiom 3. splněný není a uvedené zobrazení skalární součin není. Štampach, Klouda (KAM FIT ČVUT) BI-LIN LS 2013/2014 5 / 26

Skalární součin zadává normu Definice Buď H prostor se skalárním součinem. Zobrazení. : H T definované vztahem nazýváme normou na H. Poznámka ( x H)( x := (x, x) ) Máme-li R 3 se standardním skalárním součinem je x velikost vektoru x, tj. (euklidovská) vzdálenost bodu x = (x 1, x 2, x 3 ) od počátku θ. Z tohoto pohledu lze normu vektoru chápat jako zobecněnou velikost vektoru. Podobně je číslo x y zobecněnou vzdáleností vektorů x a y. Cvičení: Ukažte, že pro x H a α T platí: x 0 x = 0 x = θ, αx = α x. Štampach, Klouda (KAM FIT ČVUT) BI-LIN LS 2013/2014 6 / 26

Vlastnosti normy a skalárního součinu Věta Buď H prehilbertův prostor. Potom pro x, y H platí: 1 (x, y) x y, (Schwarzova nerovnost) 2 x + y x + y, (trojúhelníková nerovnost) 3 x + y 2 + x y 2 = 2( x 2 + y 2 ). (rovnoběžníková rovnost) Důkaz: Tabule. Štampach, Klouda (KAM FIT ČVUT) BI-LIN LS 2013/2014 7 / 26

Ortogonalita Definice Nechť H je prostor se skalárním součinem. Vektory x, y H nazýváme ortogonální (kolmé), právě když (x, y) = 0. Soubor vektorů (x 1,..., x n ) z H nazveme ortogonální (OG), právě když ( i, j ˆn, i j )( (x i, x j ) = 0 ). Soubor vektorů (x 1,..., x n ) nazveme ortonormální (ON), právě když ( i, j ˆn )( (x i, x j ) = δ ij ). Poznámka Máme-li R 2 se standardním skalárním součinem je klasická geometrická kolmost vektorů x a y ekvivalentí rovnosti (x, y) = 0. (Rozmyslete si!) Proto je ortogonalita zobecněním pojmu kolmost z Euklidovské geometrie. Štampach, Klouda (KAM FIT ČVUT) BI-LIN LS 2013/2014 9 / 26

Dvě věty Věta (Pythagorova věta) Nechť (x, y) je OG soubor vektorů z H. Potom x + y 2 = x 2 + y 2. Důkaz: Tabule. Věta OG soubor nenulových vektorů je LN. Speciálně, každý ON soubor vektorů je LN. Důkaz: Tabule. Štampach, Klouda (KAM FIT ČVUT) BI-LIN LS 2013/2014 10 / 26

Besselova nerovnost Definice Nechť (x 1,..., x k ) je ON soubor vektorů z H, x H. Číslo (x i, x), i ˆk, nazýváme i-tý Fourierův koeficient vektoru x vzhledem k souboru (x 1,..., x k ). Pozorování: Nechť (x 1,..., x k ) je ON soubor vektorů z H, x H. Potom vektor x k (x j, x)x j je kolmý na všechny vektory souboru (x 1,..., x k ). (Ověřte!) Věta (Besselova nerovnost) Nechť (x 1,..., x k ) je ON soubor vektorů z H, x H. Potom platí Důkaz: Tabule. j=1 k (x j, x) 2 x 2. j=1 Štampach, Klouda (KAM FIT ČVUT) BI-LIN LS 2013/2014 11 / 26

ON báze Definice Je-li ON soubor (x 1,..., x n ) vektorů z H navíc báze H, nazýváme jej ortnormální báze prostoru H. Věta Nechť (x 1,..., x n ) je ON soubor vektorů z H. Potom (x 1,..., x n ) je ON báze právě tehdy, když neexistuje nenulový vektor, který by byl kolmý na všechny vektory souboru (x 1,..., x n ), tzn. Důkaz: Tabule. ( x H)( ( i ˆn)((x i, x) = 0) x = θ ). Štampach, Klouda (KAM FIT ČVUT) BI-LIN LS 2013/2014 12 / 26

Prostor s ON bází Věta Nechť X = (x 1,..., x n ) je ON báze H. Potom platí 1 2 3 ( ) n ( x H) x = (x i, x)x i (i-tá souřadnice x v bázi X je rovna i-tému Fourierovu koeficientu (x i, x)) ( ) n ( x, y H) (x, y) = (x i, x)(x i, y) ( Skalární součin počítaný v souřadnicích vypadá jako standardní s. s. ) ( ) n ( x H) x 2 = (x i, x) 2 (Parsevalova rovnost) Důkaz: Tabule. i=1 i=1 i=1 Štampach, Klouda (KAM FIT ČVUT) BI-LIN LS 2013/2014 13 / 26

Gramův-Schmidtův ortogonalizační proces Ukážeme si metodu, jak lze každý LN soubor zortnormalizovat, tj. udělat z něj ON soubor, který generuje stejný podprostor. Speciálně z každé báze lze v prehilbetově prostoru zkonstruovat ON bázi. Tedy v každém prehilbetově prostoru existuje ON báze. Věta (Gramův-Schmidtův ortogonalizační proces) Buď (x 1,..., x k ) LN soubor vektorů z H. Potom existuje ON soubor (y 1,..., y k ) vektorů z H takový, že ( l ˆk)( x 1,..., x l = y 1,..., y l ). Důkaz: G.-S. proces rekurentně napočítáme vektory ON souboru : y 1 := x 1 x 1, z l+1 := x l+1 l (y j, x l+1 )y j, y l+1 := z l+1 z l+1. j=1 Štampach, Klouda (KAM FIT ČVUT) BI-LIN LS 2013/2014 14 / 26

Příklad G.-S. OG proces 1/2 Uvažujte R 4 se standardním sk. součinem. Nalezněte ON bázi podprostoru P = x 1, x 2, x 3 R 4, je-li x 1 = (1, 2, 2, 1), x 2 = (1, 1, 5, 3), x 3 = (3, 2, 8, 7). Soubor (x 1, x 2, x 3 ) je LN, zortnormalizujeme ho G.-S. procesem. y 1 := x 1 x 1 = 1 10 (1, 2, 2, 1). z 2 := x 2 (y 1, x 2 )y 1 = (1, 1, 5, 3) 10 (1, 2, 2, 1) = (2, 3, 3, 2) 10 y 2 := z 2 z 2 = 1 26 (2, 3, 3, 2) Štampach, Klouda (KAM FIT ČVUT) BI-LIN LS 2013/2014 15 / 26

Příklad G.-S. OG proces 2/2 Konečně z 3 := x 3 (y 1, x 3 )y 1 (y 2, x 3 )y 2 = (3, 2, 8, 7) 30 26 (1, 2, 2, 1) (2, 3, 3, 2) 10 26 = (2, 1, 1, 2) y 3 := z 3 z 3 = 1 10 (2, 1, 1, 2) Soubor (y 1, y 2, y 3 ) je ON báze podprostoru P. Štampach, Klouda (KAM FIT ČVUT) BI-LIN LS 2013/2014 16 / 26

Ortogonální doplněk Definice Buď H prehilbertův prostor, M H. Množinu M = {x H ( y M)((x, y) = 0)} nazýváme ortogonální doplněk množiny M do prostoru H. Věta (o ortogonálním rozkladu) Nechť P H, dim P <, potom 1 H = P P, 2 (P ) = P. Důkaz: Tabule. Štampach, Klouda (KAM FIT ČVUT) BI-LIN LS 2013/2014 17 / 26

Příklad Uvažujme R 3 se standardním skalárním součinem a P = (1, 1, 1). Množina řešení rovnice je podprostorem P. Dostáváme ((1, 1, 1), (x, y, x)) = x + y + z = 0 P = ( 1, 0, 1), ( 1, 1, 0). Rovnost R 3 = P P nám říká, že každý vektor x R 3 lze jediným způsobem rozložit na dva kolmé vektory u a v, kde vektor u leží v přímce P, vektor v leží v rovině P a x = u + v. Štampach, Klouda (KAM FIT ČVUT) BI-LIN LS 2013/2014 18 / 26

Sdružená matice Ve zbylé části bude těleso T = R, nebo T = C. Definice Buď (α ij ) = A T n,n. Matici (α i,j ) = A T n,n, jejíž prvky jsou definované vztahem ( i, j ˆn)(α i,j = α j,i ), nazýváme sdruženou maticí k matici A (tedy A = A T ). Cvičení: Pro A, B T n,n, α T, ověřte následující vlastnosti: 1 (A + B) = A + B, 2 (αa) = αa, 3 (AB) = B A, 4 (A ) = A, 5 E = E, Θ = Θ, 6 je-li A regulární, je i A regulární a platí (A ) 1 = (A 1 ). 7 ( x, y T n )((x, Ay) = (A x, y)) ((.,.) je standardní skal. souč. na T n ) Štampach, Klouda (KAM FIT ČVUT) BI-LIN LS 2013/2014 20 / 26

Speciální matice Definice Buď A T n,n. Říkáme, že matice A je 1 samosdružená, právě když A = A. Pro T = C nazýváme A hermitovskou. Pro T = R nazýváme A symetrickou. 2 izometrická, právě když AA = E(= A A). Pro T = C nazýváme A unitární. Pro T = R nazýváme A ortogonální. Poznámka Tedy izometrická matice A je vždy regulární a platí A 1 = A. Štampach, Klouda (KAM FIT ČVUT) BI-LIN LS 2013/2014 21 / 26

Vlastnosti unitárních matic Následují věty vyslovíme pro unitární matice (T = C), analogická tvrzení platí pro matice ortogonální (T = R). Věta Uvažujme C n prostor se standardním skalárním součinem, A C n,n. Následující tvzení jsou ekvivalentní: 1 A je unitární. 2 A je unitární. 3 Sloupce matice A tvoří ON bázi C n. 4 Řádky matice A tvoří ON bázi C n. Důkaz: Tabule. Štampach, Klouda (KAM FIT ČVUT) BI-LIN LS 2013/2014 22 / 26

Další vlastnosti unitárních matic Věta Buď A C n,n unitární a C n prostor se standardním skalárním součinem. Potom platí 1 det A = 1, 2 ( x C n )( Ax = x ), 3 λ σ(a) λ = 1. Důkaz: Tabule. Cvičení: Ukažte, že součin unitárních matic je unitární matice. Štampach, Klouda (KAM FIT ČVUT) BI-LIN LS 2013/2014 23 / 26

Reálná vlastní čísla a kolmost vlastních vektorů Věta Buď A T n,n samosdružená matice a T n prostor se standardním skalárním součinem. Potom 1 σ(a) R, 2 vlastní vektory A příslušející dvěma různým vlastním číslům jsou kolmé. Důkaz: Tabule. Štampach, Klouda (KAM FIT ČVUT) BI-LIN LS 2013/2014 25 / 26

Diagonalizace samosdružené matice Věta (Spektrální teorém) Buď A C n,n hermitovská matice. Potom je A podobná diagonální matici D a regulární matici P z relace podobnosti lze volit izometrickou. Tedy platí A = P DP. (Protože pro izometrickou P je P 1 = P.) Důkaz: Neuvedeme. Poznámka Pro hermitovskou matici A tedy platí ( λ σ(a))(ν g (λ) = ν a (λ)). Dále pro f : C C umíme definovat f (A). Štampach, Klouda (KAM FIT ČVUT) BI-LIN LS 2013/2014 26 / 26