Vektor a matice Jiří Militký Katedra tetilních materiálů echnická Universita Liberec, Červeně označené slide jsou jen pro doplnění informací a nezkouší se.
Matice A 1 2 3 5 4 1 6 7 4 1 4 C 2 7 3 8 Matice je obdélníkové pole čísel (funkcí) A a a a 11 21 m1 a a Velikost matice je počet řádků počet sloupců (zde: m n). Poloha elementů a ij matice A je identifikována pomocí indeů (řádkový a sloupcový). Element mohou být čísla, proměnné nebo funkce proměnných. 12 22 a 1n 11 12 13 D d21 d22 d 23 a mn d d d d d d 31 32 33
Prvkové operace s maticemi Jsou možné jen pro matice stejných rozměrů Maticové sčítání (odčítání) Komutativní: A+BB+A Asociativní: (A+B)+CA+(B+C) Násobení matice skalárem a11 a12 b11 b12 c11 c12 a 21 a 22 + b21 b 22 c21 c22 a31 a32 b31 b32 c31 c32 a +b c, a +b c, 11 11 11 12 12 12 a +b c, a +b c, 21 21 21 22 22 22 a +b c, a +b c 31 31 31 32 32 32 1 3 6 + 4 7 3 1 3 5* 4 7 2 1 5 20 ca Ac pokud je c skalár ba11 ba12 a11 a12 Etrakce C ba 21 ba 22 pak C b A kde A a21 a 22 ba31 ba32 a31 a32 7 7 15 35 5 8
Maticové násobení C A B (m n) (m p) (p n) Počet sloupců první matice musí být stejný jako počet řádků druhé matice C Asociativní: (A B) C A (B C) Distributivní: A (B+C) A B + A C Není komutativní: AB BA jk l 1 jl lk 1 4 7 A1 1 1 1 2 5 8 6 15 24 1 1 1 1 3 6 9 7 1 1 2 3 1 7+ 2 8+ 3 9 1 1+ 2 2+ 3 3 50 14 A B 8 2 4 5 6 4 7+ 5 8+ 6 9 4 1+ 5 2+ 6 3 122 32 9 3 C p A B Sloupcové součt 1A
ranspozice matic A 1 2 3 4 5 6 A 1 4 2 5 3 6 1 4 A 2 5 A 1 2 3 3 6 4 5 6 a a 11 m1 a a 1n mn a a1 11 n a a m1 mn Pro čtvercové matice lze definovat A 0 E, A n A*A. n-krát A n A m A n+m, (A n ) m A nm Platí, že: BA pokud B ij A ji i,j (A ) A (A B) B A (A+B+C) A +B +C
Násobení matice vektorem Skalární Výsledek je vektor Ab ab 1i i a11 a1 n b1 i < radek 1, b > am 1 a mn b n amib i < radek m, > b i b1 a1 a2 an b1 a1 + b2 a2 + + bn an b n Vektorové -Výsledek je matice : lineární kombinace sloupců matice A
rojúhelníkové Horní trojúhelníková matice Pokud jsou diagonální prvk trojúhelníkové matice B nenulové je B invertovatelná Součin dolní (horní) trojúhelníkové matice je dolní (horní) trojúhelníková matice Inverse (invertovatelné) dolní (horní) trojúhelníkové matice je dolní (horní) trojúhelníková matice Dolní trojúhelníková det (U) u 11 u 22..u nn det (L) l 11 l 22..l nn
Geometrick je vektor proměnná mající velikost a směr Vektor Column vector Vektor je jednoduše matice obsahující buď jeden sloupec (sloupcový vektor) nebo řádek (řádkový vektor). v cv a v a( 1, 2) ( a1, a2) if a A vn v v e [ 3 4 5] then ranspozice (vektorů a matic): záměna řádků za sloupce (resp. naopak). Standard: sloupcový vektor (bez transpozice) 1 2 3 1 5 6 Smetrické matice 2 4 7 A 5 4 1 A A A 3 1 4 6 7 4 b a A 1 b 1 2 3 4 5
A Sčítání vektorů C B B Pro dva vektor a je jejich součet roven součtu složek 2 d + + 1 1 2 2 A θ [ ] 1 2 d [ ] 1 2 1 1, 1 2 2 + + + 1 1 2 2
Délka vektoru 2 ( 12 + 22 ) 1/2 2 Délka vektoru je odmocnina ze skalárního součinu vektoru se sebou (stejným vektorem) Jednotkový vektor u 2 d i i u Čistý směr Skalární součin vektoru se stejným vektorem je ted čtverec jeho délk 1 d 1 Pthagorova věta: 2 ( 12 + 22 ) 1/2 1 1
Vektorové operace 1 [... ] 1 2 n 2 n i i i 1 n Vnitřní součin - skalární (výsledek je skalár) 1 [ 1 2 3], 2 3 1 1+ 2 2+ 3 3 i 1 1 1 1 2 1 3 [ ] 3 i 1 i < > Vnější součin - vektorový (výsledek je matice) 2 1 2 3 2 1 2 2 2 3 3 3 1 3 2 3 3
Vzdálenost vektorů Ekvidistantní vzdálenosti (r) od bodu z r z Eukleidovská vzdálenost Minkowského vzdálenost Manhattanská vzdálenost ( 1 1) ( m m) ( i i) 2 2 2 d( ), + + ( ) ( ) p 1 1 m m ( i i) p p p p d(, ) + + Vzdálenost od počátku i i d( ), ( ) ( ) d( 0), 0 + + 0 i i 2 2 2 1 m i i i
Eukleidovská vzdálenost v R 3 2 2 2 ( ) ( ) ( ) ( ) ( ) ( ) d( z,z) 1.00 0.00 + 0.00 0.3162 + 0.00 0.9487 1.414 1 2 2 2 2 d( z,z) 1.00 0.00 + 0.00 + 0.9556 + 0.00 0.2946 1.414 1 3 ( ) ( ) ( ) 2 2 2 d( z,z ) 0.00 0.00 + 0.3162 + 0.9556 + 0.9487 0.2946 1.430 2 3 z 2 0.0000 0.3162 0.9487 3 1.430 0.0000 z 3-0.9556 0.2946 1.414 1.414 2 z 1 1.00 0.00 0.00 1
Úhel mezi dvěma vektor sinθ cosθ sin β cos β 2 1 2 1 Kolineární vektor: * α β θ 2 cosα cos( β θ) cos β cosθ + sin βsinθ cosα cosα + 1 1 2 2 1 Ortogonální vektor: 0 α π /2
Význam úhlu mezi osou a vektorem a b 1. ab ( ) cos θ -1 Cos θ 0 2 Cos θ 0 0 Cos θ 1 Cos θ -1 θ Cos θ 1 1-1 Cos θ 0 0 Cos θ 1 Cos θ 0
Projekce vektoru Projekce l vektoru na vektor je rovna délce projekce p násobené jednotkovým vektorem ve směru p cos ( θ )*d 0.8 [ 0.6 1.0] 0.3 0.8 0.78 0.8 2 d 0.8 0.3 [ ] 0.3 0.8 0.3 0.73 0.3 0.8 0.8548 1.0685 0.3 0.3205 d 2 0.6 1.0 v kolmé na projekce na l p /d 2 d 0.8 0.3 1 Chbový vektor v l je kolmý na v ( l ) 0
Vzdálenost od rovin Rovina je definována bodem p v rovině a jednotkovým normálovým vektorem n. Hledá se vzdálenost bodu od této rovin. vzdálenost ( ) p n Vzdálenost je délka projekce vektoru -p na vektor n n p -p
Zákon sínů a kosínů Zákon sínů: a sinα b sin β c sin γ Zákon kosínů: c α β b a γ c 2 a 2 + b 2 2ab cosγ
Lineární nezávislost Vektor {v 1, v 2,, v k } jsou lineárně nezávislé pokud platí, že: α 1 v 1 + α 2 v 2 + + α k v k 0 jen kdž α i 0 pro všechna i o znamená, že žádný vektor nelze získat jako lineární kombinaci ostatních vektorů. Ortogonální vektor jsou vžd lineárně nezávislé Paralelní vektor jsou vžd lineárně závislé w v
Vektorové prostor V (neprázdná množina vektorů) v, w V v + w V v V, α je skalár αv V {v 1, v 2,, v n } jsou lineárně nezávislé bázové vektor {v 1, v 2,, v n } pokrývají celý vektorový prostor V: V {α 1 v 1 + α 2 v 2 + + α n v n, α i jsou skalár} Každý vektor v V je jednoznačná lineární kombinace bázových vektorů. Počet bázových vektorů definuje dimenzi vektorového prostoru. z Pro prostor R 3 jsou standardně bázové ortogonální vektor,, z (označované často jako i, j, k )
Maticové vjádření Nechť {v 1, v 2,, v n } jsou bázové pro prostor V Každý vektor v V je jednoznačně definován jako v α 1 v 1 + α 2 v 2 + + α n v n v Vektor v je vlastně sloupcový vektor: Bázové vektor jsou pak pro R m sloupce jednotkové matice: 1 0 0 0 1 0,, 0 0 1 α1 α n
B je bázová matice Ortonormální báze Ortonormální báze: Párová ortogonalita: Jednotková délka: Spektrální representace Maticově : n n i 1 n, vi ai vi, vi ' ' ai' vi' i' 1 i' 1, v Ba v 1,...,v n v i vi' vi, v i 1 v,v 0 i i' i 1,..., n a i v i a i a i B i i' a, v i i a se označuje jako transformace (např. Fourierova, Wavelet)
B B b ij b ji Speciální matice I Jednotková matice EA A E A 1 0 0 E 0 1 0 0 0 1 Smetrická matice D 3 4 2 B 4 5 2 2 2 7 Diagonální matice 3 0 0 a11 0 0 0 0 2 0 0 a 22 0 0 0 0 a 33 0 0 0 5 0 0 0 a44 Anti smetrická matice -A A Pokud je A čtvercová matice je A + A smetrická a A A je anti smetrická matice Idempotentní matice A 2 A Dvě čtvercové matice A a B komutují, pokud AB BA
Ortogonální matice E A A Ortogonální matice A [v 1 v 2 v j v n ]. v j je j tý sloupec: v j v k 0 (pro j k) v j v j d jj, Matice D je diagonální A A D Ortonormální matice A [v 1 v 2 v j v n ]. q j je j tý sloupec: v 1 v 2 <v i, v i > 1 v i 1 v 1 v 2 <v i, v j > 0 v n v n v i v j δ ij v j v k 0 (pro j k) v j v j 1, Matice E je jednotková A A E A -1 A
Determinant A a b c d a b c A d e f g h i A (n n) [a ij ] det( A) a ( 1) n j 1 Pokud je determinant sstému n rovnic o n neznámých větší než nula má tato soustava právě jedno řešení. (1 + j) 1j 1j det (A) ad - bc e f d f d e det( A) adet bdet cdet h i + g i g h M det(ab)det(ba)det(a)det(b) det(ca)c n det(a) det(a -1 )1/det(A) Vlastnosti Determinant je definován pouze pro čtvercové matice Pokud det(a) 0, je matice A is singulární a matice A -1 neeistuje Pokud det(a) 0, je matice A nesinguární, a matice A -1 eistuje
Determinant 22 matice A a 11 a12 a21 a22 det( A) a a - a a 11 22 12 21 a11 a12 a13 33 matice A a21 a22 a23 a31 a32 a33 a a a a a a det A A a - a + a a a 22 23 21 23 21 22 11 a 12 13 32 a 33 a 31 a 33 31 32 det A A a a a - a a a + a a a 11 22 33 11 23 32 12 23 31 - a a a + a a a - a a a 12 21 33 13 21 32 13 22 31
Stopa matice Stopa tr(a) čtvercové matice A je součet jejích diagonálních elementů ( ) n A ii tr a i1 A ( ) n A ii Vlastnosti 1 2 3 4 tr a 1+45 i1 Pro skalár c, tr(ca) c[tr(a)] tr(a ± B) tr(a) ± tr(b) tr(ab) tr(ba) tr(b -1 AB) tr(a) n m 2 ij i1 j1 ( AA ) tr a
Vlastnosti Inverzní matice A -1 lze určit pouze pro čtvercovou matici A (n n) Pokud A -1 eistuje, je A nesingulární (invertabilní) (A B) -1 B -1 A -1, c A -1 (1/c)A -1 B -1 A -1 A B B -1 B E (A ) -1 (A -1 ) (A -1 ) A (A A -1 ) E Inverse matice A (n n) eistuje pouze pokud má tato matice hodnost rovnou n ( rank A n ). DD A -1 A A -1 A E 1 1 0 0 3 0 0 3 1 0 0 1 0 2 0 0 0 0 1 0 2 E 0 0 5 0 0 1 1 0 0 5
Výpočet inverzní matice a b a b A c d 1 2 1 2 3 4 A 1 A A 1 2 3 4 3 4 1 1 2 + c 1 + d 0 a3 + c4 0 b + d 1 A d b det( A) c a 1 1 a b 1 0 c d 0 1 E 1 c2 1 a 1 c b 1 a ( bc ad) det( A) 2 b + d2 0 2 b Pro invertaci matic lze použít celé řad metod od Gauss-Jordanov resp. Gaussov eliminace až po různé rozklad matic ( LU ).
Hodnost matice A 1 2 5 3 4 11 6 5 16 3 1 +2 2 Hodnost matice rank (A) je určena jako menší číslo z počtu nezávislých řádků resp. sloupců. ransponovaná matice má ted stejnou hodnost jako původní matice. Pokud je hodnost matice A (n n) n, je tato matice ne singulární. Pro určení hodnosti matice lze určit počt nezávislých řádků resp. sloupců např. pomocí Gauss Jordanov eliminace. Lineárně nezávislé Lineárně závislé
Vlastní čísla a vlastní vektor Vlastní vektor jsou invariantní vůči lineární transformaci Nechť je A nn matice a uvažujme soustavu rovnic:av λv Hodnota λ pro kterou má tato soustava řešení v 0 se nazývá vlastní číslo matice A. Platí: tr(a)σ λ i,det(a)π λ i Odpovídající řešení v je pak vlastní vektor matice A. Avλv Av - λv 0 (A- λe)v 0 o je homogenní lineární soustava rovnic, která má netriviální řešení, jen pokud je A- λe singulární, tj. její determinant je roven nule. Pro výpočet vlastních čísel je třeba řešit rovnici det(a- λe)0. O Av λv A(αv) λ(α v) α v je také vlastní vektor Av λv, Aw λw A(v+w) λ(v+w) Vlastní vektor pro stejné λ tvoří lineární podprostor.
Výpočet vlastních čísel A - 1 (A)) A - 1 0 (A - 1 A) 0 E 0 0, A 0 má a triviální řešení Nenulové řešení A λ odpovídá det(a λ E) 0 A λ A λ 0 A λe 0 (A λe) 0 det(a λ E) je polnom stupně n. (charakteristický polnom). Kořen polnomu jsou vlastní čísla. Pro liché n je alespoň jedno λ reálné Matice: 5 2 Pro vlastní čísla platí, det(a-λe) 0: A 2 2 5 λ 2 det( A λ E) 2 2 λ + + 2 ( 5 λ )( 2 λ ) 4 λ 7λ 6 Vlastní čísla -1 a -6. jsou pak řešením kvadratické rovnice.
Vlastní vektor Vlastní vektor se běžně normalizují 1. Každému vlastnímu číslu λ odpovídá vlastní vektor. ento vektor lze určit dosazením λ do vztahu : A λ Např. -5 1 + 2 2 λ 1 5 2 A 2 1 2 2 λ 2 2 2 Při dosazení λ-1, resultuje 2 2 1. Po volbě např. 1 1, vjde odpovídající vlastní vektor roven 1 1 2 Při dosazení λ-6, resultuje 1-2 2 a pak při volbě 2-1 vjde 2 2 1
Spektrum matice Všechna vlastní čísla matice A tvoří její spektrum. Matice A je diagonalizovatelná pokud má A právě n nezávislých vlastních vektorů (tvoří matici V). Pak AV VD Av Av Av λ v 1 1 1 λ v 2 2 2 A v 2 λ v n n n v 1 v 1 v n v 2 v n λ 1λ2 λ n
Spektrální rozklad v Každá smetrická matice A (m m) se dá vjádřit pomocí lineární kombinace vlastních čísel a vlastních vektorů (λ i, v i ) m A λivv i i i 1 A 2 4 4 4 1 2 5, v 5, -2 1 5 5 1 2 λ 1-6 a λ 2-4 a její inverze A k i1 λ v v i i i m -1 1 λi i i 1 A vv i 1 2-6 5 1-2 +4 5 2 1-2 5 5 1 5 5 5 5 1-2 4 2-6 5 5+4 5 5 24 A -2 4 2 1 4-4 5 5 5 5
Spektrum a diagonalizace Pokud je A diagonalizovatelná, platí A VDV 1, kde D je diagonální matice A je vlastně škálování podél os vlastních vektorů! A VDV 1 Av Av λ v 1 1 1 λ v 2 2 2 A v 1 v 2 v n λ 1λ2 v 1 v 2 v n 1 Av λ v n n n λ n
Diagonalizace A ortonormální báze V rotace reflee D jiná ortonormální báze A je normální pokud AA A A. Smetrická matice A A. Normální n n matice mají právě n lineárně nezávislých vlastních vektorů. Pokud je A smetrická, má všechn vlastní čísla reálná a vlastní vektor jsou ortonormální
SVD I Spektrální rozklad obdélníkové matice A (m k) při použití vlastních čísel a vlastních vektorů čtvercových matic A A resp. (AA ). Eistují ortogonální matice U (m m), V (k k) takové, že Singulární čísla matice A A UΣV Diagonální matice Σ má i-tý diagonální prvek element σ i 0 pro i 1, 2,, min (m,k) a 0 pro ostatní element. SVD je také maticový rozklad závislý na hodnosti r matice A. r i i i r r r i 1 A σ uv U Σ V - positivní konstant σ 1, σ 2,, σ r, (singulární čísla) - ortogonální jednotkové vektor (m 1) u 1, u 2,, u r, - ortogonální jednotkové vektor (k 1) v 1, v 2,, v r,
5 4 2 λ SVD II Matice AA má vlastní čísla a vektor (λ i, u i ), a ted AA uλ 2 uσu i i i i i i >0, i1,...,r a λ0, ir+1,...,m (pro m>k) i v λ 1 i i A ui Matice A A má vlastní čísla a vektor (λ i, v i ), a ted λ i A Av λ 2 v σv i i i i i >0, i1,...,r a λ0, ir+1,...,k (pro k>m) i 2 4.0 4.5 5.0 5.5 6.0 u Av Av λ 1 i i i σi i Singulární čísla matice A (σ i ) ted souvisí s vlastními čísl (smetrických) matic A A a AA σ i λi 3 1
Odstranění šumů A U diag( σ 1,..., σ,0,...,0) V k nejmenších r-k singulárních čísel je nulových k A U Σ V rs výz. výnamný objekt významný šum šum šum A k k σ u v i 1 i i i Součet matic hodnosti 1
Zkrácená SVD 0 0 (n m) (n m ) (m m) (m n) Pro zkrácenou SVD je matice Σ (m m) diagonální a obsahuje na diagonále tzv. singulární čísla matice A. Matice U (n m) a V (m n) Regrese jsou ortogonální a X*b + ε normované 1 1 U U E V V E b b (V ) S o 1 VS U o U
Přesnost řešení MNČ bk obsahuje odhad parametrů počítané klasickou inverzí, bp obsahuje odhad počítané s vužitím pseudoinverse, bz obsahuje odhad počítané s vužitím zpětného lomítka (MALAB), bsm obsahuje odhad počítané s vužitím SVD, brs obsahuje odhad počítané s vužitím rozkladu na vlastní čísla. 1 2 3 1 1 ep ep 0 2ep 0 ep ep je přesnost (malé číslo). korektní řešení je b 1 1 a b 2 2 Výsledk ep10-7 bk bz bp bsm brs 0.9996 1.0000 0.9790 1.0000 0.9996 2.0004 2.0000 2.0210 2.0000 2.0004 Výsledk ep10-8 -10-15 bk bz bp bsm brs NaN 1.0000 1.5000 1.0000 1.5000 NaN 2.0000 1.5000 2.0000 1.5000 Výsledk ep10-16 a menší bk bz bp bsm brs NaN 3.0000 1.5000 1.0000 1.5000 NaN 0 1.5000 2.0000 1.5000
Kvadratická forma Kvadratická forma je funkce Q() A Vektor má m složek 1,, m, matice A (m m) je smetrická. Pokud je Q() A > 0 pro vektor 0, označuje se A jako positivně definitní. Nechť A c 2. Pro m 2 tvoří všechna splňující tuto rovnici elipsu c 2 λ 1 ( i ) 2 + λ 2 ( i ) 2. i 2 i 1 -A je positivně semidefinitní matice, pokud λ i 0, pro i 1,,rank(A) - A je positivně definitní matice, pokud λ i > 0, pro i 1,,rank(A) Vektor cλ 1-1/2 i 1 vhovuje rovnici elips ve směru i 1 a má délku cλ 1-1/2
Kvadratická forma - příklad Kvadratická forma obsahuje pouze druhé mocnin a smíšené člen Příklad Q ( ) m m i 1 j 1 1 a A 1 4 2 0 2 a ij i j Q( ) A + 4-2 2 2 1 1 2 2
Zatím m vše v!!!