2 Vektorové normy. Základy numerické matematiky - NMNM201. Definice 1 (Norma). Norma je funkcionál splňující pro libovolné vektory x a y a pro

Transkript

1 Cvičení 1 Základy numerické matematiky - NMNM201 1 Základní pojmy opakování Definice 1 (Norma). Norma je funkcionál splňující pro libovolné vektory x a y a pro libovolný skalár α C následující podmínky: 1. x 0, a x = 0 x = 0, 2. x + y x + y, 3. αx = α x. Definice 2 (Skalární součin). Skalární součin je funkcionál splňující pro libovolné vektory x, y a z a pro libovolný skalár α C následující podmínky: 1. x, x 0, a x, x = 0 x = 0, 2. x, y = y, x, 3. αx, y = α x, y, 4. x + y, z = x, z + y, z. Každý skalární součin indukuje normu x x, x, pro niž navíc platí Cauchy-Schwarzova nerovnost x, y x y. Vektory x a y jsou ortogonální (kolmé), pokud platí x, y = 0. 2 Vektorové normy Necht x = [x 1, x 2,..., x n ] T norma euklidovská norma a maximová norma C n. Mezi tři základní vektorové normy patří jedničková x 1 x i, ( ) 1/2 x 2 x x i 2 x max,...,n x i. Standardní (euklidovský) skalární součin vektorů x = [x 1, x 2,..., x n ] T a y = [y 1, y 2,..., y n ] T je definován vztahem x, y y x = y i x i. 1

2 Úloha 1. Pro uvedené normy nakreslete jednotkové koule v R 2, tj. množiny vektorů {x R 2 : x 1}. Řešení. Podle věty o ekvivalenci norem na konečnědimenzionálním prostoru jsou všechny tyto normy topologicky ekvivalentní, tj. pro libovolné dvě normy platí c x α x β C x α, x C n. Jedná se o teoretický výsledek, pro praktické použití, například měření chyby, jsou konstanty c a C často příliš velké/malé. Úloha 2. Ukažte, že platí x x 2 n x, x C n. [Hint (geometricky): Pro jaké vektory se normy nejvíce a nejméně liší?] [Hint (algebraicky): Pracujte s x 2 2.] Řešení. Platí x 2 = max i x i 2 x 2 2 {}}{ x i 2 n max x i 2 = n x 2. i Nebo prostou úvahou: normy se rovnají pro vektory kanonické báze, a nejvíce se liší pro vektor jedniček: tam je maximová 1 a dvojková n. 3 Matice opakování Opakování: matice A C n m, A = [a i,j ], i = 1,..., n, j = 1,..., m, a 1,1 a 1,2... a 1,m a 2,1 a 2,2... a 2,m A = a n,1 a n,2... a n,m matice transponovaná A T = [a j,i ] C m n, hermitovsky sdružená A = [a j,i ] C m n A C n n nazveme symetrickou, platí-li A = A T, a hermitovskou, pokud A = A 2

3 A reálná A T = A! pro libovolnou čtvercovou matici A platí Ax, y = y Ax = (A y) x = x, A y matice je singulární x 0: Ax = 0; matice, která není singulární, se nazývá regulární vektor v 0 a skalár λ jsou vlastním vektorem/číslem matice A, pokud Av = λv hermitovskou matici nazveme pozitivně definitní (HPD), pokud x 0: x Ax > 0 Pro A C n n HPD x, y A y Ax definuje skalární součin na C n. Příslušnou indukovanou normu x A = x, x A = x Ax. nazýváme energetickou nebo též A-normou vektoru x. Naopak, víme, že pro každý skalární součin, α na C n existuje matice A taková, že x, y α = y Ax. 4 Maticové normy Definice 3 (Generovaná norma). Maticovou normou generovanou vektorovou normou nazýváme funkcionál Ax α A α max = max x 0 x Ax α. α x α Takto definovaný funkcionál je normou ve smyslu definice normy. Z definice také triviálně vyplývá, že Ax α A α x α. Platí (pro počítání jednotlivých norem) A 1 = max a ij, (maximum přes sloupcové součty) 1 j m A A 2 = (ϱ(a A)) 1/2 ( = σ 1 ), (spektrální norma) A = max a ij, (maximum přes řádkové součty) 1 i n kde ϱ( ) označuje spektrální poloměr, tj. ϱ(b) max { λ, λ sp(b)}. Úloha 3 (volitelná). Zdůvodněte vzorec pro 1-normu a -normu. Řešení. Nejprve pro 1-normu. Budeme uvažovat, pro jaký jednotkový vektor nabývá Ax maxima. Pro kanonický vektor je norma jeho obrazu rovna součtu velikostí prvků x v příslušném sloupci matice. Zbývá si rozmyslet, že maximum se nabývá pro kanonický vektor příslušný sloupci s největším součtem. Pro -normu. Budeme opět uvažovat, pro jaký jednotkový vektor nabývá Ax maxima. x -norma měří největší složku vektoru Ax. Velikost složky závisí jen na řád ku matice: (Ax) j = A j x. Když naplníme vektor x hodnotami 1, -1, tak, aby se kladné a záporné prvky řádku matice nevyrušily, dosáhneme maxima. 3

4 Úloha 4. Pomocí nástrojů z prvního ročníku najděte vyjáření 2-normy matice pro symetrické matice, a obecné matice. [Hint: Použijte geometrickou představu unitární diagonalizace a singulárního rozkladu.] Řešení. Pro symetrické matice (nebo komplexní normální) je obraz jednotkové koule (ve 2-normě) elipsoid s nejdelší osou délky největšího vlastního čísla. Pro obecné matice je obraz jednotkové koule (ve 2-normě) elipsoid s nejdelší osou délky největšího singulárního čísla. Úloha 5 (volitelná). Ukažte, že A = (ϱ(a A)) 1/2. [Hint: Rovnost dokažte pomocí dvou nerovností. Nebo použijte vhodný nástroj z prvního ročníku.] Řešení. Necht v je (normalizovaný) vlastní vektor příslušný největšímu vlastnímu číslu matice A A, pak {}}{ Av 2 = Av, Av = v, A Av = v, ϱ(a A)v = ϱ(a A) v 2 = ϱ(a A), a tedy (ρ(a A)) 1/2 A. Naopak, každý normalizovaný vektor u C m lze vyjádřit v ortonormální bázi z vlastních vektorů matice A A jako u = m α ix i, m α i 2 = 1, a platí pro něj Au 2 = Au, Au = u, A Au = tj. A (ρ(a A)) 1/2. OG = α i x i, A A α i x i = α i x i, α i λ i x i OG = {}}{ {}}{ λ i α i 2 x i 2 λ max α i 2 = ϱ(a A), Úloha 6. Je zřejmé, že obecně A 1 A 1 a A A. Dokažte, že pro A 2 však platí A 2 = A 2. [Hint: Ukažte, že matice A A a AA mají stejná nenulová vlastní čísla.] Řešení. Platí A 2 = ϱ(a A), A 2 = ϱ(aa ). Necht (λ, v) je vlastní pár matice A A a λ 0. Pak A Av = λv AA (Av) = λ(av). Nebot λ 0 Av 0, je λ též vlastním číslem matice AA. Obdobným postupem lze ukázat, že každé nenulové číslo matice AA je zároveň vlastním číslem matice A A. Matice A A a AA tedy mají stejná nenulová vlastní čísla, z čehož už přímo plyne A 2 = A 2. Alternativní pohled: singulární čísla matic A a A jsou stejná, tedy i norma. 4

5 Každá maticová norma α generovaná vektorovou normou je multiplikativní, tj. AB α A α B α, což plyne triviálně z ABx α A α Bx α A α B α x α. Definice 4 (Frobeniova norma). ( ) 1/2 A F a ij 2. Frobeniova norma je multiplikativní AB 2 F = =[AB] i,j {}}{ b j, a i 2 C-S a i 2 b j 2 = a i 2 m b j 2 = A 2 F B 2 F, ale není generována žádnou vektorovou normou, nebot I F = n. Úloha 7. Necht A C n m. Ukažte, že pro Frobeniovu normu matice A platí A F = (trace(a A)) 1/2. Řešení. Podle definice stopy matice A A obdržíme trace (A A) = (A A) j,j = e T j A Ae j = a j 2 = a i,j 2 = A 2 F. Obdobně pak můžeme definovat na prostoru čtvercových matic skalární součin A, B F trace(b A). Jde o přímou analogii standardního skalárního součinu aplikovaného na matice (na matici se díváme jako na vektor o n m složkách). 5 Vlastnosti norem vzhledem k unitárním transformacím Čtvercová matice U C n n je unitární, jestliže U U = UU = I, kde I je jednotková matice. Unitární transformace jsou transformace realizované unitárními maticemi. 5

6 Úloha 8 (Unitární invariance norem). Ukažte, že pro unitární matici U C n n a libovolnou matici A C n n platí U = 1, U = 1, UA = A, AU = A, UA F, AU F. [Hint: Použijte dříve dokázané B 2 = B 2 a triviální B F = B F, čímž stačí dokázat pouze první sloupec rovností.] Řešení. Jelikož U U = I, máme U = ϱ(u U) = ϱ(i) = 1. Protože spektrální norma je multiplikativní a U = 1, platí I {}}{{}}{{}}{ UA U A = A = U U A U UA = UA, což dohromady dává UA = A. Využijeme-li definice Frobeniovy normy pomocí stopy matice, pak I {}}{ UA 2 F = trace(a U U A) = trace(a A) = A 2 F. Alternativa: UA = A, AU = A lze ukázat z SVD násobení maticí U jen změní bázi singulárních vektorů, nemění singulární čísla. UA F, A F plyne z toho, že násobit maticí U znamená násobit jednotlivé řádky/sloupce, a to nemění jejich 2-normu. Frobeniova norma je jen součet 2-norem řádků/sloupců. 6