Lineární algebra : Skalární součin a ortogonalita

Lineární algebra : Skalární součin a ortogonalita (15. přednáška) František Štampach, Karel Klouda LS 2013/2014 vytvořeno: 30. dubna 2014, 09:00 1

2 15.1 Prehilhertovy prostory Definice 1. Buď V LP nad T. Zobrazení (.,.) : V V T nazýváme skalární součin, platí-li pro x, y, z V a α T axiomy: Axiomatická definice skalárního součinu 1. (x, αy + z) = α(x, y) + (x, z), (linearita v druhém argumentu) 2. (x, y) = (y, x), (hermitovská symetrie) 3. (x, x) 0 ( (x, x) = 0 x = 0 ). (pozitivní definitnost) Dvojici (V, (.,.)) nazýváme prostorem se skalárním součinem (prehilbertův prostor) a značíme H. Poznámka 2. Je-li T = R v axiomu 2. je vlastnost (x, y) = (y, x) (symetrie), opruhování je v R nadbytečné. Cvičení: Pro libovolné x, y, x H a α T ověřte následující vlastnosti skalárního součinu: (αx + y, z) = α(x, z) + (y, z), (x, θ) = (θ, x) = 0. Příklady skalárních součinů Na T n definujeme (x, y) := ξ j η j, kde x = (ξ 1,..., ξ n ), y = (η 1,..., η n ). Snadno ověříme, že jse o skalární součin na T n. Tento skalární součin nazýváme standardním skalárním součinem. Pro f, g C( 0, 1 ) je zobrazení definované vztahem (f, g) := 1 skalárním součinem na LP C( 0, 1 ). 0 f(x)g(x)dx

3 Další příklad skalárního součinu je např. zobrazení definované na prostoru matic C n,n, (A, B) := a j,i b j,i. Buďte x, y R n sloupcové vektory a A R n,n. Zobrazení Další příklady skalárních součinů (x, y) := x T Ay splňuje axiom 1. Budeme-li navíc požadovat, aby A = A T, bude splněn i axiom 2. Platí-li tedy ješte 3. aximom je uvedené zobrazení skalárním součinem na R n. Vezměme např. n = 2, potom pro matici ( ) 1 2 A = 2 5 je ( ) ( ) 1 2 y1 (x, y) = (x 1, x 2 ) = x 2 5 y 1 y 1 + 2x 1 y 2 + 2x 2 y 1 + 5x 2 y 2 2 skalární součin na R 2. Ovšem např. pro volbu A = ( ) 1 2 2 2 axiom 3. splněný není a uvedené zobrazení skalární součin není. Skalární součin zadává normu Definice 3. Buď H prostor se skalárním součinem. Zobrazení. : H T definované vztahem ( x H)( x := (x, x) ) nazýváme normou na H.

4 Poznámka 4. Máme-li R 3 se standardním skalárním součinem je x velikost vektoru x, tj. (euklidovská) vzdálenost bodu x = (x 1, x 2, x 3 ) od počátku θ. Z tohoto pohledu lze normu vektoru chápat jako zobecněnou velikost vektoru. Podobně je číslo x y zobecněnou vzdáleností vektorů x a y. Cvičení: Ukažte, že pro x H a α T platí: x 0 x = 0 x = θ, αx = α x. Věta 5. Buď H prehilbertův prostor. Potom pro x, y H platí: 1. (x, y) x y, (Schwarzova nerovnost) Vlastnosti normy skalárního součinu a 2. 3. x + y x + y, (trojúhelníková nerovnost) x + y 2 + x y 2 = 2( x 2 + y 2 ). (rovnoběžníková rovnost) Důkaz. 1. Pro x = θ platí ve Schwarzově nerovnosti rovnost. Uvažujme x θ. Nechť λ T. Potom platí 0 (λx y, λx y) = λx 2 (λx, y) (y, λx) + y 2 = λ 2 x 2 + y 2 2Re λ(x, y) pro všechna λ T. Nyní volme speciálně Pro takto zvolené λ máme λ := (x, y) x 2, (x, y) 2 x 4 x 2 + y 2 (x, y) 2 2Re x 2 0, a tedy y 2 (x, y) 2 x 2 0, z čehož vyplývá Schwarzova nerovnost.

5 2. Máme x + y 2 = (x + y, x + y) = (x, x) + (x, y) + (y, x) + (y, y) = x + (x, y) + (x, y) + y 2 = x 2 + 2Re (x, y) + y 2 Nyní stačí na člen Re (x, y) použít odhad Re z z, který platí pro z C, a poté Schwarzovu nerovnost, tj. Celkem dostáváme Re (x, y) (x, y) x y. x + y 2 x 2 + 2 x y + y 2 = ( x + y ) 2, což po odmocnění levé a pravé strany dává trojúhelníkovou nerovnost. 3. Platí x + y 2 + x y 2 = (x + y, x + y) + (x y, x y) = x 2 + (x, y) + (y, x) + y 2 + x 2 (x, y) (y, x) + y 2 = 2( x 2 + y 2 ). 15.2 Ortogonalita Ortogonalita Definice 6. Nechť H je prostor se skalárním součinem. Vektory x, y H nazýváme ortogonální (kolmé), právě když (x, y) = 0. Soubor vektorů (x 1,..., x n ) z H nazveme ortogonální (OG), právě když ( i, j ˆn, i j )( (x i, x j ) = 0 ). Soubor vektorů (x 1,..., x n ) nazveme ortonormální (ON), právě když ( i, j ˆn )( (x i, x j ) = δ ij ). Poznámka 7. Máme-li R 2 se standardním skalárním součinem je klasická geometrická kolmost vektorů x a y ekvivalentí rovnosti (x, y) = 0. (Rozmyslete si!) Proto je ortogonalita zobecněním pojmu kolmost z Euklidovské geometrie.

6 Dvě věty Věta 8 (Pythagorova věta). Nechť (x, y) je OG soubor vektorů z H. Potom x + y 2 = x 2 + y 2. Důkaz. Platí x + y 2 = (x + y, x + y) = x 2 + (x, y) + (y, x) + y 2. Nyní stačí využít, že dle předpokladu je 0 = (x, y) = (y, x). Věta 9. OG soubor nenulových vektorů je LN. Speciálně, každý ON soubor vektorů je LN. Důkaz. Buď (x 1,..., x k ) OG soubor nenulových vektorů. Uvažujme lineární kombinaci α j x j = θ, potom pro i ˆk platí 0 = (x i, θ) = x i, α j x j = α j (x i, x j ) = α i x i 2, kde jsme využili, že (x i, x j ) = 0 pro i j. Protože je podle předpokladu x i θ, je x i 0 a dostáváme α i = 0 pro všechna i ˆk. Soubor (x 1,..., x k ) je proto LN. Besselova nerovnost Definice 10. Nechť (x 1,..., x k ) je ON soubor vektorů z H, x H. Číslo (x i, x), i ˆk, nazýváme i-tý Fourierův koeficient vektoru x vzhledem k souboru (x 1,..., x k ). Pozorování: Nechť (x 1,..., x k ) je ON soubor vektorů z H, x H. Potom vektor x (x j, x)x j je kolmý na všechny vektory souboru (x 1,..., x k ). (Ověřte!)

7 Věta 11 (Besselova nerovnost). Nechť (x 1,..., x k ) je ON soubor vektorů z H, x H. Potom platí (x j, x) 2 x 2. Důkaz. Protože je (x 1,..., x k ) ON a s přihlédnutím k předchozímu pozorování platí 0 x (x j, x)x j, x (x j, x)x j = x, x (x j, x)x j x 2 (x j, x)(x, x j ) = x 2 (x j, x) 2. ON báze Definice 12. Je-li ON soubor (x 1,..., x n ) vektorů z H navíc báze H, nazýváme jej ortnormální báze prostoru H. Věta 13. Nechť (x 1,..., x n ) je ON soubor vektorů z H. Potom (x 1,..., x n ) je ON báze právě tehdy, když neexistuje nenulový vektor, který by byl kolmý na všechny vektory souboru (x 1,..., x n ), tzn. ( x H)( ( i ˆn)((x i, x) = 0) x = θ ). Důkaz. ( ) : Tvrzení dokážeme sporem: nechť (x 1,..., x n ) je ON báze a současně nechť x θ kolmý na všechny vektory souboru (x 1,..., x n ). Protože (x 1,..., x n ) generuje H, je x = α i x i pro nějaká α 1,..., α n T. Potom pro libovolné j ˆn platí ( ) 0 = (x j, x) = x j, α i x i = α i (x j, x i ) = α j. }{{} =δ ij Tedy x = θ, což je spor s předpokladem.

8 ( ) : Víme, že ON soubor (x 1,..., x n ) musí být LN. K tomu, aby to byla báze, stačí ukázat, že navíc generuje H. Vezměme x H. Vektor x (x j, x)x j je kolmý na každý vektor souboru (x 1,..., x n ), a proto podle předpokladu je x (x j, x)x j = θ, nebo-li a proto x x 1,..., x n. x = (x j, x)x j, Prostor s ON bází Věta 14. Nechť X = (x 1,..., x n ) je ON báze H. Potom platí 1. 2. ( ( x H) x = ) (x i, x)x i (i-tá souřadnice x v bázi X je rovna i-tému Fourierovu koeficientu (x i, x)) ( ( x, y H) (x, y) = ) (x i, x)(x i, y) ( Skalární součin počítaný v souřadnicích vypadá jako standardní s. s. ) 3. Důkaz. ( ( x H) x 2 = ) (x i, x) 2 (Parsevalova rovnost) 1. Buď x H. Protože vektor x (x i, x)x i

9 je kolmý na každý vektor souboru (x 1,..., x n ), musí podle předchozí věty být roven nulovému vektoru. Tedy x = (x i, x)x i. 2. S využítím již dokázané části máme pro x, y H rovnosti x = (x i, x)x i, y = (x i, y)x i. Potom platí (x, y) = (x i, x)x i, (x j, y)x j = (x i, x)(x, x j ) (x i, x j ) }{{} =δ ij = (x i, x)(x i, y). 3. Stačí v druhé části tvrzení položit y = x. Ukážeme si metodu, jak lze každý LN soubor zortnormalizovat, tj. udělat z něj ON soubor, který generuje stejný podprostor. Gramův- Schmidtův ortogonalizační proces Speciálně z každé báze lze v prehilbetově prostoru zkonstruovat ON bázi. Tedy v každém prehilbetově prostoru existuje ON báze. Věta 15 (Gramův-Schmidtův ortogonalizační proces). Buď (x 1,..., x k ) LN soubor vektorů z H. Potom existuje ON soubor (y 1,..., y k ) vektorů z H takový, že ( l ˆk)( x 1,..., x l = y 1,..., y l ). Důkaz. Budeme postupovat neúplnou matematickou indukcí v l ˆk. Pro l = 1 stačí položit y 1 := x 1 / x 1. Zde nedělíme nulou protože soubor (x 1 ) je dle předpokladu LN, a tedy x 1 θ.

10 Nechť tvrzení věty platí pro l < k. Ukážeme, že potom také platí i pro l + 1. Definujme pomocný vektor l z l+1 := x l+1 (y j, x l+1 )y j a normujme ho y l+1 := z l+1 z l+1. Z indukčního předpokladu víme, že x 1,..., x l = y 1,..., y l a z definice y l+1 pak zřejmě x 1,..., x l+1 = y 1,..., y l+1. Dále je dle indukčního předpokladu (y 1,..., y l ) ON soubor. Abychom ukázali, že (y 1,..., y l ) je také ON soubor, stačí ukázat (y l+1, y i ) = 0, i ˆl. To bude pravda, pokud (z l+1, y i ) = 0, i ˆl. To ale platí, neboť (z l+1, y i ) = x l+1 l l (y j, x l+1 )y j, y i = (x l+1, y i ) = (x l+1, y i ) (x l+1, y i ) = 0. (y j, x l+1 ) (y j, y i ) }{{} =δ ij Uvažujte R 4 se standardním sk. součinem. Nalezněte ON bázi podprostoru P = x 1, x 2, x 3 R 4, je-li Příklad G.-S. OG proces 1/2 x 1 = (1, 2, 2, 1), x 2 = (1, 1, 5, 3), x 3 = (3, 2, 8, 7). Soubor (x 1, x 2, x 3 ) je LN, zortnormalizujeme ho G.-S. procesem. y 1 := x 1 x 1 = 1 10 (1, 2, 2, 1). z 2 := x 2 (y 1, x 2 )y 1 = (1, 1, 5, 3) 10 (1, 2, 2, 1) = (2, 3, 3, 2) 10 y 2 := z 2 z 2 = 1 26 (2, 3, 3, 2)

11 Příklad G.-S. OG proces 2/2 Konečně z 3 := x 3 (y 1, x 3 )y 1 (y 2, x 3 )y 2 = (3, 2, 8, 7) 30 26 (1, 2, 2, 1) (2, 3, 3, 2) 10 26 = (2, 1, 1, 2) y 3 := z 3 z 3 = 1 10 (2, 1, 1, 2) Soubor (y 1, y 2, y 3 ) je ON báze podprostoru P. Ortogonální doplněk Definice 16. Buď H prehilbertův prostor, M H. Množinu M = {x H ( y M)((x, y) = 0)} nazýváme ortogonální doplněk množiny M do prostoru H. Věta 17 (o ortogonálním rozkladu). Nechť P H, dim P <, potom 1. H = P P, 2. (P ) = P. Důkaz. 1. Je-li dim P = 0 je P = H a věta platí. Nechť dim P = k N a nechť (x 1,..., x k ) je ON báze P. Nejprve ukážeme H = P + P. Libovolný vektor x H lze zapsat ve tvaru x = (x j, x)x j + x (x j, x)x j. Protože vektor x (x j, x)x j

12 je kolmý na každý vektor souboru (x 1,..., x k ), je x (x j, x)x j P. Našli jsem tak hledaný rozklad vektoru x. Dál dokážeme, že H = P P. Pokud x P P, musí (x, x) = 0, odkud x = 0. Tedy P P = {θ}. 2. Ukážeme nejprve inkluzi P (P ). Je-li x P, potom ( y P )((x, y) = 0). Vektor x je tedy kolmý na všechny vektory z P, proto x (P ). Naopak nechť x (P ). Podle už dokázané první části tvrzení lze x vyjádřit ve tvaru x = y + z, kde y P a z P. Protže je x (P ) a z P, platí (x, z) = 0. Potom 0 = (x, z) = (y, z) + z 2 = z 2, odkud plyne z = θ a tedy x = y P. Příklad Uvažujme R 3 se standardním skalárním součinem a P = (1, 1, 1). Množina řešení rovnice je podprostorem P. Dostáváme ((1, 1, 1), (x, y, x)) = x + y + z = 0 P = ( 1, 0, 1), ( 1, 1, 0). Rovnost R 3 = P P nám říká, že každý vektor x R 3 lze jediným způsobem rozložit na dva kolmé vektory u a v, kde vektor u leží v přímce P, vektor v leží v rovině P a x = u + v.

13 15.3 Sdružená matice Sdružená matice Ve zbylé části bude těleso T = R, nebo T = C. Definice 18. Buď (α ij ) = A T n,n. Matici (α i,j ) = A T n,n, jejíž prvky jsou definované vztahem ( i, j ˆn)(α i,j = α j,i ), nazýváme sdruženou maticí k matici A (tedy A = A T ). Cvičení: Pro A, B T n,n, α T, ověřte následující vlastnosti: 1. (A + B) = A + B, 2. (αa) = αa, 3. (AB) = B A, 4. (A ) = A, 5. E = E, Θ = Θ, 6. je-li A regulární, je i A regulární a platí (A ) 1 = (A 1 ). 7. ( x, y T n )((x, Ay) = (A x, y)) ((.,.) je standardní skal. souč. na T n ) Speciální matice Definice 19. Buď A T n,n. Říkáme, že matice A je 1. samosdružená, právě když A = A. Pro T = C nazýváme A hermitovskou. Pro T = R nazýváme A symetrickou. 2. izometrická, právě když AA = E(= A A). Pro T = C nazýváme A unitární. Pro T = R nazýváme A ortogonální. Poznámka 20. Tedy izometrická matice A je vždy regulární a platí A 1 = A.

14 Následují věty vyslovíme pro unitární matice (T = C), analogická tvrzení platí pro matice ortogonální (T = R). Vlastnosti unitárních matic Věta 21. Uvažujme C n prostor se standardním skalárním součinem, A C n,n. Následující tvzení jsou ekvivalentní: 1. A je unitární. 2. A je unitární. 3. Sloupce matice A tvoří ON bázi C n. 4. Řádky matice A tvoří ON bázi C n. Důkaz. Ekvivalence 1. 2. je zřejmá z definice unitarity. Nechť dále A A = E, potom pro i, j ˆn platí (A,i, A,j ) = (Ae i, Ae j ) = (e i, A Ae j ) = (e i, e j ) = δ ij. Tedy sloupce A tvoří ON soubor a jelikož je jich n, musí to být báze C n. Naopak z ortonormality souboru sloupců plyne (A A) ij = (e i, A Ae j ) = (A,i, A,j ) = δ ij, a tedy A A = E. Máme tedy 1. 2. 3. Nakonec snadno ukážeme, že A je unitární A T je unitární. (Proveďte jako cvičení!) Odtud a z již dokázané ekvivalence (1. 3.) máme: sloupce A tvoří ON soubor A je unitární A T je unitární sloupce A T tvoří ON soubor řádky A tvoří ON soubor. Dokázali jsme 3. 4. a věta je dokázána. Věta 22. Buď A C n,n unitární a C n prostor se standardním skalárním součinem. Potom platí Další vlastnosti unitárních matic 1. det A = 1, 2. ( x C n )( Ax = x ), 3. λ σ(a) λ = 1. Důkaz.

15 1. Stačí si uvědomit, že z definice sdružené matice a determinantu plyne det A = det A T = det A = det A, kde jsme použili vlastnost det B T = det B, B T n,n. Potom 2. Platí det A 2 = det Adet A = det A det A = det(aa ) = det E = 1. Ax 2 = (Ax, Ax) = (x, A Ax) = (x, Ex) = (x, x) = x 2. 3. Buď λ σ(a) a x C n příslušný vlastní vektor, tedy x θ a Ax = λx. Z již dokázané vlastnosti 2. potom máme Protože x 0, je λ = 1. x = Ax = λx = λ x. Cvičení: Ukažte, že součin unitárních matic je unitární matice. 15.4 Diagonalizace a spektrální vlastnosti samosdružených matic Věta 23. Buď A T n,n samosdružená matice a T n prostor se standardním skalárním součinem. Potom Reálná vlastní čísla a kolmost vlastních vektorů 1. σ(a) R, 2. vlastní vektory A příslušející dvěma různým vlastním číslům jsou kolmé. Důkaz. 1. Nechť λ σ(a) a x C n příslušný vlastní vektor, tedy x θ a Ax = λx. Potom λ x 2 = (x, λx) = (x, Ax) = (A x, x) = (Ax, x) = (λx, x) = λ x 2. Protože x 0, je λ = λ, odkud plyne λ R.

16 2. Nechť λ, µ R jsou dvě různá vlastní čísla A s odpovídajícími vlastními vektory x, y, tedy Ax = λx a Ay = µy. Potom µ(x, y) = (x, µy) = (x, Ay) = (Ax, y) = (λx, y) = λ(x, y), odkud máme Protože µ λ, musí (x, y) = 0. (µ λ)(x, y) = 0. Věta 24 (Spektrální teorém). Buď A C n,n hermitovská matice. Potom je A podobná diagonální matici D a regulární matici P z relace podobnosti lze volit izometrickou. Tedy platí A = P DP. (Protože pro izometrickou P je P 1 = P.) Důkaz: Neuvedeme. Poznámka 25. Pro hermitovskou matici A tedy platí ( λ σ(a))(ν g (λ) = ν a (λ)). Dále pro f : C C umíme definovat f(a). Diagonalizace samosdružené matice