Lineární algebra 9. přednáška: Ortogonalita Dalibor Lukáš Katedra aplikované matematiky FEI VŠB Technická univerzita Ostrava email: dalibor.lukas@vsb.cz http://www.am.vsb.cz/lukas/la Text byl vytvořen v rámci realizace projektu Matematika pro inženýry 2. století (reg. č. CZ..7/2.2./7.332), na kterém se společně podílela Vysoká škola báňská Technická univerzita Ostrava a Západočeská univerzita v Plzni
Motivace JPEG komprese Leny původní bitmapa % komprese Fourierovou bází
Motivace JPEG komprese Leny původní bitmapa 5% komprese Fourierovou bází
Motivace JPEG komprese Leny původní bitmapa % komprese Fourierovou bází
Motivace JPEG komprese Leny původní bitmapa 5% komprese Fourierovou bází
Motivace JPEG komprese Leny původní bitmapa 2% komprese Fourierovou bází
Motivace JPEG: Fourierova L2 ortogona lnı ba ze fjk (x, y) := eıω(jx+ky) Re f(x, y) Re f2(x, y) Re f2(x, y) Re f22(x, y).5.5.5.5.5.5.5.5.5.5.6.8.2 Re f3(x, y).2.4.2 Re f3(x, y).5.5.5.5.5.5.5.5.5.6.5.6.4.2.8.8.5.6.4.2.2 Re f32(x, y).8.6.4 Re f23(x, y).8.5.6.4.8.5.6.4.8.8.5.6.4.2 Ortogonalita (v L2 skala rnı m souc inu) = rychla komprese.4.2
Lena,,první dáma internetu Motivace Lena Sjööblom, playmate 972 Lena Söderberg, 997
Ortogonalita = kolmost Pythagorova věta: x,y R 2 : x y x 2 + y 2 = x + y 2 x + y x y x + y 2 = (x + y) (x + y) = x x + y y + 2x y= x 2 + y 2 + 2x y Vektory x a y jsou ortogonální (kolmé), pokud x y =.
Ortogonalita = kolmost Eukleidovský skalární součin, norma, ortogonalita, ortonormalita Bilineární forma (.,.) : R n R n R definovaná (x,y) := x y se nazývá Eukleidovský skalární součin. Ten indukuje Eukleidovskou normu x := (x,x). Vektory x,y R n \ {} jsou ortogonální (v Eukl. skalárním součinu), pokud (x,y) =, a jsou ortonormální (v Eukl. skalárním součinu), pokud navíc x = y =. Úhel mezi vektory x,y R n zobecníme takto cos α = (x,y) x y
Ortogonalita = kolmost Příklad: Najděte x (, 2). Hledáme x := (x,x 2 ) R 2 : (x, x 2 ) (, 2) = x + 2x 2 =. Řešením je x 2 := t R, x = 2t, tj. vektory na přímce se směrnicí ( 2, ) x ( 2, ). Příklad: Najděte x (, 2, 3). Hledáme x := (x,x 2,x 3 ) R 3 : (x, x 2, x 3 ) (, 2, 3) = x + 2x 2 + 3x 3 =. Řešením je x 3 := t R, x 2 := s R, x = 2s 3t, tj. vektory v rovině x {( 2s 3t, s, t) : s, t R} = {s( 2,, ) + t( 3,, ) : s,t R} = ( 2,, ), ( 3,, ).
Ortogonalita = kolmost Příklad: Najděte x: x (, 2, 3) a x (,, ). Hledáme x := (x,x 2,x 3 ) R 3 : (x,x 2,x 3 ) (, 2, 3) = x +2x 2 +3x 3 = a (x, x 2, x 3 ) (,, ) = x +x 2 +x 3 =, ( ) ( ) 2 3 r 2 :=r 2 r 2 3 = x 2 3 := t R, x 2 = 2t, x = 5t.
Ortogonální/ortonormální systém Ortogonální systémy Vektory v,...,v m R n \ {} tvoří ortogonální systém (bázi pro n = m), pokud (v i,v j ) = pro i j. Pokud navíc v i =, pak se jedná o ortonormální systém (bázi). Příklad: Kanonická báze R 2 tvoří ortonormální systém. Uvažujme kanonickou bázi prostoru R 2 Pak E := (e := (, ),e 2 := (, )). (e,e 2 ) = + = = (e 2,e ), e = 2 + 2 =, e 2 = 2 + 2 =.
Ortogonální systémy Příklad: Kanonická báze R n tvoří ortonormální systém. Uvažujme kanonickou bázi prostoru R n E := (e := (,,...,),e 2 := (,,,...,),...,e n := (,...,, )). Pak pro libovolné i,j {,...,n} platí, že e i = 2 + + 2 + 2 + 2 + + 2 =, a pokud i j, pak (e i,e j ) = e i e j =. Příklad: Najděte ortogonální systém prostoru (,, ), (,, ). Vektory u := (,, ), u 2 := (,, ) tvoří bázi, ne však ortonormální, nebot (u,u 2 ) = (,, ) (,, ) =. Ortogonální bázi vytvoříme např. takto: v := u a v 2 := u 2 + αv tak, že v 2 v, tj. = (v 2,v ) = (u 2 + αv,v )= u 2 v + αv v, α = u 2 v = + + v v + + = 2, v 2 = (,, )+ (,, )= ( /2, /2, ). 2
Ortogonální systémy,,ortogonalizujte bázi E := (e := (,, ),e 2 := (,, ),e 3 := (,, )). Termín,,ortogonalizujte znamená nalézt ortogonální bázi F := (f,f 2,f 3 ) tak, že Ad. f := e = (,, ). Ad 2. f 2 := e 2 + αf : f 2 f, tj.. f e, 2. f 2 e,e 2, 3. f 3 e,e 2,e 3. = (f 2,f )= e 2 f + αf f = α = e 2 f (,, ) (,, ) = f f (,, ) (,, ) a tedy f 2 = (,, ) 3 (,, )= ( 2 3, 4 3, 2 3). Ad 3. f 3 := e 3 + βf + γf 2 : f 3 f a f 3 f 2, tj. = 3, = (f 3,f )= e 3 f + βf f = β = e 3 f (,, ) (,, ) = = f f (,, ) (,, ) 3, = (f 3,f 2 )= e 3 f 2 + γf 2 f 2 = γ = e ( 3 f 2 (,, ) 2 3 =, 4 3, 2 ( 3) f 2 f 2 2 3, 4 3, ) ( 2 3 2 3, 4 3, 3) 2 = 2, a tedy f 3 = (,, ) 3 (,, ) + 2 ( 2 3, 4 3, 2 3) = (,, ).
Ortogonální systémy Gram Schmidtův ortogonalizační/ortonormalizační algoritmus Mějme bázi E := (e,...,e n ) prostoru R n. Ortogonalizujme/ortonormalizujme ji. f := e, q := f f, f i := e i + i j= α ij f j, kde α ij = (e i,f j ) f j 2, q i := f i f i, pro i {2,...,n}. Výsledkem je ortog. báze F := (f,...,f n ), resp. ortonorm. báze Q := (q,...,q n ). Příklad: Ortonormalizujte E := (e := (, 2),e 2 := (, )). f := e = (, 2), q = α 2 = (e 2,f ) (, ) (, 2) = f 2 5 q 2 := 5 (, 2) (, 2) = 2)= (, 2), 2 + 22(, 5 = 3 5, f 2 := e 2 +α 2 f = (, ) 3 5 (, 2) = (2, ), 5 )= (2, ). (2, ) (2, 5
Ortogonální transformace Ortogonální matice Čtvercová matice Q R n n, která splňuje Q T Q = I, a tedy Q = Q T, se nazývá ortogonální. Její sloupce tvoří ortonormální systém. Příklad: Ověřte, že matice Q := (q,q 2 ) z předchozího příkladu je ortogonální. Q T Q = ( ) ( ) 2 2 = ( ) 5 = I. 5 2 5 2 5 5
Ortogonální transformace Soustavy s ortogonální maticí Soustava s ortogonální matici Q R n n a pravou stranu b R n je snadno řešitelná Q x = b x = Q T b. Příklad: Vypočtěte souřadnice v := (, ) v ortonormální bázi Q := (q,q 2 ), kde q := 5 (, 2), q 2 := 5 (2, ). Hledáme α := (α,α 2 ) R 2 : α q + α 2 q 2 = v Q α = v, kde Q := ( ) 2 5 2 je ortogonální matice. Řešením je α = Q T v, t.j. α = q v= 3 5, α 2 = q 2 v= 5. Fourierova (JPEG) báze je ortonormální rychlý výpočet souřadnic (komprese).
Ortogonální transformace Ortogonální transformace zachovává velikosti vektorů i úhly Uvažujme lineární zobrazení s ortogonální maticí Q R n n. Pro lib. x,y R n platí: normy (velikosti) vektorů jsou zachovány Q x = x T Q T Q x = x T x= x, hodnota skalárního součinu vektorů je zachována (Q x,q y) = x T Q T Q y= (x,y). Připomeňme, že úhel α mezi vektory x,y jsme definovali pomocí cosα = (x,y) x y, tedy ortogonální transformace zachovává úhly mezi vektory. Důsledek:,,Ortogonální transformace = rotace + zrcadlení Každou ortogonální matici lze rozložit na konečný součin Q = Q n Q, kde jednotlivé faktory jsou bud matice rovinné rotace, nebo matice zrcadlení.
Ortogonální transformace Příklad: Matice rovinné rotace je ortogonální..8.6.4.2.8.6.4.2.2 y := Q x := ( ) cos α sinα x sinα cosα.5.5 2 2.5 Q T Q = ( ) ( ) cos α sinα cos α sinα sin α cosα sinα cosα = ( cos 2 α + sin 2 α ) sin 2 α + cos 2 α = I.
Ortogonální transformace Příklad: Matice zrcadlení podle přímky (roviny) je ortogonální. 2.8.6.4.2.8.6 y := Q x := (I 2 n ) nt x, n 2 kde n je normála k přímce (rovině)..4.2 Q T Q =.5.5 2 (I 2 n ) T nt (I 2 n nt n 2 n 2 ) = I 4 n nt n 2 + 4n n 2 {}}{ (n T n) n T n 4 = I.
Ortogonální transformace,,exploze zaokrouhlovací chyby v Gaussově eliminaci Proved me Gaussovu eliminaci (LU rozklad) na následující matici 2 (A I) := 2 2 2 Nyní zaved me chybu. do prvku A. Chyba se při eliminaci takto zvětšuje:.. 2 2 2.2...3.2..2.4.3..2.3. 2.5..2.3.4.
Householderův eliminační krok Ortogonální transformace Pro vektor (část pivotovaného sloupce) v R n hledáme matici zrcadlení Q v tak, že v v v Q v v = např. n v :=, Q v := I 2 n v n T v n v. 2. v 2. v n Stabilní Gauss Householderova eliminace Místo Gaussových eliminačních kroků, které (bez permutací) vedou na dolní trojúhelníkovou matici, provádíme Householderovy zrcadlení 2 2.24.79.45 2.24.79.45 Q 2 v Q.34.89 v.67.9. v:=(2,,) 2 T v:=(.34, ) 2 T.7 Dostáváme výpočetně náročnější, avšak stabilní variantu Gaussovy eliminace.
Ortogonální transformace Zaokrouhlovací chyba v Gauss Householderově eliminaci,,neexploduje. Proved me Gauss Householderovu eliminaci (QU rozklad) na následující matici.4 2.2.7 2 A := 2 2.22 2.4.82.5 2.2.87.2 2.. 2.45 Nyní zaved me chybu. do prvku A. Chyba se při eliminaci nezvětšuje:..49 2.9.67 2 2 2.29 2.2.78.2 2..83.7 2.. 2.56