Katedra aplikované matematiky FEI VŠB Technická univerzita Ostrava

Transkript

1 Lineární algebra 9. přednáška: Ortogonalita Dalibor Lukáš Katedra aplikované matematiky FEI VŠB Technická univerzita Ostrava Text byl vytvořen v rámci realizace projektu Matematika pro inženýry 2. století (reg. č. CZ..7/2.2./7.332), na kterém se společně podílela Vysoká škola báňská Technická univerzita Ostrava a Západočeská univerzita v Plzni

2 Motivace JPEG komprese Leny původní bitmapa % komprese Fourierovou bází

3 Motivace JPEG komprese Leny původní bitmapa 5% komprese Fourierovou bází

4 Motivace JPEG komprese Leny původní bitmapa % komprese Fourierovou bází

5 Motivace JPEG komprese Leny původní bitmapa 5% komprese Fourierovou bází

6 Motivace JPEG komprese Leny původní bitmapa 2% komprese Fourierovou bází

7 Motivace JPEG: Fourierova L2 ortogona lnı ba ze fjk (x, y) := eıω(jx+ky) Re f(x, y) Re f2(x, y) Re f2(x, y) Re f22(x, y) Re f3(x, y) Re f3(x, y) Re f32(x, y) Re f23(x, y) Ortogonalita (v L2 skala rnı m souc inu) = rychla komprese.4.2

8 Lena,,první dáma internetu Motivace Lena Sjööblom, playmate 972 Lena Söderberg, 997

9 Ortogonalita = kolmost Pythagorova věta: x,y R 2 : x y x 2 + y 2 = x + y 2 x + y x y x + y 2 = (x + y) (x + y) = x x + y y + 2x y= x 2 + y 2 + 2x y Vektory x a y jsou ortogonální (kolmé), pokud x y =.

10 Ortogonalita = kolmost Eukleidovský skalární součin, norma, ortogonalita, ortonormalita Bilineární forma (.,.) : R n R n R definovaná (x,y) := x y se nazývá Eukleidovský skalární součin. Ten indukuje Eukleidovskou normu x := (x,x). Vektory x,y R n \ {} jsou ortogonální (v Eukl. skalárním součinu), pokud (x,y) =, a jsou ortonormální (v Eukl. skalárním součinu), pokud navíc x = y =. Úhel mezi vektory x,y R n zobecníme takto cos α = (x,y) x y

11 Ortogonalita = kolmost Příklad: Najděte x (, 2). Hledáme x := (x,x 2 ) R 2 : (x, x 2 ) (, 2) = x + 2x 2 =. Řešením je x 2 := t R, x = 2t, tj. vektory na přímce se směrnicí ( 2, ) x ( 2, ). Příklad: Najděte x (, 2, 3). Hledáme x := (x,x 2,x 3 ) R 3 : (x, x 2, x 3 ) (, 2, 3) = x + 2x 2 + 3x 3 =. Řešením je x 3 := t R, x 2 := s R, x = 2s 3t, tj. vektory v rovině x {( 2s 3t, s, t) : s, t R} = {s( 2,, ) + t( 3,, ) : s,t R} = ( 2,, ), ( 3,, ).

12 Ortogonalita = kolmost Příklad: Najděte x: x (, 2, 3) a x (,, ). Hledáme x := (x,x 2,x 3 ) R 3 : (x,x 2,x 3 ) (, 2, 3) = x +2x 2 +3x 3 = a (x, x 2, x 3 ) (,, ) = x +x 2 +x 3 =, ( ) ( ) 2 3 r 2 :=r 2 r 2 3 = x 2 3 := t R, x 2 = 2t, x = 5t.

13 Ortogonální/ortonormální systém Ortogonální systémy Vektory v,...,v m R n \ {} tvoří ortogonální systém (bázi pro n = m), pokud (v i,v j ) = pro i j. Pokud navíc v i =, pak se jedná o ortonormální systém (bázi). Příklad: Kanonická báze R 2 tvoří ortonormální systém. Uvažujme kanonickou bázi prostoru R 2 Pak E := (e := (, ),e 2 := (, )). (e,e 2 ) = + = = (e 2,e ), e = =, e 2 = =.

14 Ortogonální systémy Příklad: Kanonická báze R n tvoří ortonormální systém. Uvažujme kanonickou bázi prostoru R n E := (e := (,,...,),e 2 := (,,,...,),...,e n := (,...,, )). Pak pro libovolné i,j {,...,n} platí, že e i = =, a pokud i j, pak (e i,e j ) = e i e j =. Příklad: Najděte ortogonální systém prostoru (,, ), (,, ). Vektory u := (,, ), u 2 := (,, ) tvoří bázi, ne však ortonormální, nebot (u,u 2 ) = (,, ) (,, ) =. Ortogonální bázi vytvoříme např. takto: v := u a v 2 := u 2 + αv tak, že v 2 v, tj. = (v 2,v ) = (u 2 + αv,v )= u 2 v + αv v, α = u 2 v = + + v v + + = 2, v 2 = (,, )+ (,, )= ( /2, /2, ). 2

15 Ortogonální systémy,,ortogonalizujte bázi E := (e := (,, ),e 2 := (,, ),e 3 := (,, )). Termín,,ortogonalizujte znamená nalézt ortogonální bázi F := (f,f 2,f 3 ) tak, že Ad. f := e = (,, ). Ad 2. f 2 := e 2 + αf : f 2 f, tj.. f e, 2. f 2 e,e 2, 3. f 3 e,e 2,e 3. = (f 2,f )= e 2 f + αf f = α = e 2 f (,, ) (,, ) = f f (,, ) (,, ) a tedy f 2 = (,, ) 3 (,, )= ( 2 3, 4 3, 2 3). Ad 3. f 3 := e 3 + βf + γf 2 : f 3 f a f 3 f 2, tj. = 3, = (f 3,f )= e 3 f + βf f = β = e 3 f (,, ) (,, ) = = f f (,, ) (,, ) 3, = (f 3,f 2 )= e 3 f 2 + γf 2 f 2 = γ = e ( 3 f 2 (,, ) 2 3 =, 4 3, 2 ( 3) f 2 f 2 2 3, 4 3, ) ( , 4 3, 3) 2 = 2, a tedy f 3 = (,, ) 3 (,, ) + 2 ( 2 3, 4 3, 2 3) = (,, ).

16 Ortogonální systémy Gram Schmidtův ortogonalizační/ortonormalizační algoritmus Mějme bázi E := (e,...,e n ) prostoru R n. Ortogonalizujme/ortonormalizujme ji. f := e, q := f f, f i := e i + i j= α ij f j, kde α ij = (e i,f j ) f j 2, q i := f i f i, pro i {2,...,n}. Výsledkem je ortog. báze F := (f,...,f n ), resp. ortonorm. báze Q := (q,...,q n ). Příklad: Ortonormalizujte E := (e := (, 2),e 2 := (, )). f := e = (, 2), q = α 2 = (e 2,f ) (, ) (, 2) = f 2 5 q 2 := 5 (, 2) (, 2) = 2)= (, 2), (, 5 = 3 5, f 2 := e 2 +α 2 f = (, ) 3 5 (, 2) = (2, ), 5 )= (2, ). (2, ) (2, 5

17 Ortogonální transformace Ortogonální matice Čtvercová matice Q R n n, která splňuje Q T Q = I, a tedy Q = Q T, se nazývá ortogonální. Její sloupce tvoří ortonormální systém. Příklad: Ověřte, že matice Q := (q,q 2 ) z předchozího příkladu je ortogonální. Q T Q = ( ) ( ) 2 2 = ( ) 5 = I

18 Ortogonální transformace Soustavy s ortogonální maticí Soustava s ortogonální matici Q R n n a pravou stranu b R n je snadno řešitelná Q x = b x = Q T b. Příklad: Vypočtěte souřadnice v := (, ) v ortonormální bázi Q := (q,q 2 ), kde q := 5 (, 2), q 2 := 5 (2, ). Hledáme α := (α,α 2 ) R 2 : α q + α 2 q 2 = v Q α = v, kde Q := ( ) je ortogonální matice. Řešením je α = Q T v, t.j. α = q v= 3 5, α 2 = q 2 v= 5. Fourierova (JPEG) báze je ortonormální rychlý výpočet souřadnic (komprese).

19 Ortogonální transformace Ortogonální transformace zachovává velikosti vektorů i úhly Uvažujme lineární zobrazení s ortogonální maticí Q R n n. Pro lib. x,y R n platí: normy (velikosti) vektorů jsou zachovány Q x = x T Q T Q x = x T x= x, hodnota skalárního součinu vektorů je zachována (Q x,q y) = x T Q T Q y= (x,y). Připomeňme, že úhel α mezi vektory x,y jsme definovali pomocí cosα = (x,y) x y, tedy ortogonální transformace zachovává úhly mezi vektory. Důsledek:,,Ortogonální transformace = rotace + zrcadlení Každou ortogonální matici lze rozložit na konečný součin Q = Q n Q, kde jednotlivé faktory jsou bud matice rovinné rotace, nebo matice zrcadlení.

20 Ortogonální transformace Příklad: Matice rovinné rotace je ortogonální y := Q x := ( ) cos α sinα x sinα cosα Q T Q = ( ) ( ) cos α sinα cos α sinα sin α cosα sinα cosα = ( cos 2 α + sin 2 α ) sin 2 α + cos 2 α = I.

21 Ortogonální transformace Příklad: Matice zrcadlení podle přímky (roviny) je ortogonální y := Q x := (I 2 n ) nt x, n 2 kde n je normála k přímce (rovině)..4.2 Q T Q = (I 2 n ) T nt (I 2 n nt n 2 n 2 ) = I 4 n nt n 2 + 4n n 2 {}}{ (n T n) n T n 4 = I.

22 Ortogonální transformace,,exploze zaokrouhlovací chyby v Gaussově eliminaci Proved me Gaussovu eliminaci (LU rozklad) na následující matici 2 (A I) := Nyní zaved me chybu. do prvku A. Chyba se při eliminaci takto zvětšuje:

23 Householderův eliminační krok Ortogonální transformace Pro vektor (část pivotovaného sloupce) v R n hledáme matici zrcadlení Q v tak, že v v v Q v v = např. n v :=, Q v := I 2 n v n T v n v. 2. v 2. v n Stabilní Gauss Householderova eliminace Místo Gaussových eliminačních kroků, které (bez permutací) vedou na dolní trojúhelníkovou matici, provádíme Householderovy zrcadlení Q 2 v Q v v:=(2,,) 2 T v:=(.34, ) 2 T.7 Dostáváme výpočetně náročnější, avšak stabilní variantu Gaussovy eliminace.

24 Ortogonální transformace Zaokrouhlovací chyba v Gauss Householderově eliminaci,,neexploduje. Proved me Gauss Householderovu eliminaci (QU rozklad) na následující matici A := Nyní zaved me chybu. do prvku A. Chyba se při eliminaci nezvětšuje: