Předmět: MA 4 Dnešní látka Vektorový (lineární) prostor (připomenutí) Normovaný lineární prostor Normy matic a vektorů Symetrické matice, pozitivně definitní matice Gaussova eliminační metoda, podmíněnost matic Četba: Texty o lineární algebře (odkazy na webových stránkách přednášejícího).
Vektorový (lineární) prostor V : Prvky z V můžeme sčítat a násobit reálným (komplexním) číslem. Toto sčítání a násobení má velmi přirozené vlastnosti, viz (1)-(9) minule. Důležité: Pro každé u, v V a každé α,β C (nebo R) je lineární kombinace αu + βv opět prvkem V. Necht A R n n a λ je vlastní číslo matice A. Uvažujme množinu N(A λi) = {v C n : (A λi)v = 0}. Je to vektorový podprostor vekt. prostoru C n? Zřejmě množina C n je vektorový prostor. Také N(A λi) splňuje (1)-(9). Co lineární kombinace? Necht u, v N(A λi) a α,β C, pak (A λi)(αu +βv) = α(a λi)u +β(a λi)v = α0+β0 = 0, tudíž (αu +βv) N(A λi), což jsme potřebovali dokázat. Tedy N(A λi) je podprostorem vektorového prostoru C n. Ale vl. vektory příslušné k λ tvoří množinu N(A λi)\{0}, ta není vektorovým (pod)prostorem.
Normovaný lineární prostor X Reálný vektorový prostor X se nazývá normovaný lineární prostor, je-li každému x X přiřazeno reálné číslo x, které se nazývá norma x, a jsou splněny tyto podmínky: Též platí x 0 x X, (1) x + y x + y x, y X, (2) αx = α x x X, α R, (3) x = 0 x = 0. (4) u v u w + w v u, v, w X. (5) Nerovnost (2) i (5) se nazývá trojúhelníková nerovnost. Poznámka: Stejná definice normy i pro komplexní vektorový prostor, jen α C.
Normy vektorů (s reálnými nebo i komplexními složkami) x = (x 1, x 2,..., x n ) R n, případně C n x 1 = n x i (oktaedrická norma), i=1 ( n ) 1/2 x 2 = x i 2 (euklidovská norma), i=1 x = max i {1,2,...,n} x i (max-norma).
V dalším se pro jednoduchost omezíme na reálné matice a reálné vektory. (I když uvedená tvrzení platí i pro matice s komplexními prvky.) Norma matice A typu (m, n) generovaná normami vektorů: A XnY m = Ax Ym max, (6) {x X n: x 0} x Xn kde X n a Y m jsou prostory vektorů s n a m složkami. (Ukázka Matlab.) Jestliže y = Ax, kde x X n a y Y m, pak y Ym A XnY m x Xn. Jsou-li v obou prostorech použity normy stejného typu ξ, kde ξ odpovídá 1, 2 nebo, pak i normu matice A generovanou normami ξ budeme značit A ξ. Ve speciálních případech se A ξ nemusí počítat dle (6).
A 1 = max k {1,2,...,n} A 2 = ( (A T A)) 1/2 m a ik, A = max i=1 (spektrální norma). i {1,2,...,m} k=1 n a ik, Pokud A je reálná a symetrická, pak A 2 =( (A T A)) 1/2 = ( (A 2 )) 1/2 = (A). ( m ) 1/2 n Frobeniova norma A F = a ik 2 i=1 k=1 není generovaná. I 1 = I = I 2 = 1, I F = n Platí (A) A pro Frobeniovu i každou generovanou normu. Všechny normy NLP konečné dimenze jsou ekvivalentní, např. c 1, c 2 > 0 x R n c 1 x 1 x 2 c 2 x 1, obdobně pro normy matic.
Skalární součin prvků vektorového prostoru V (nad R) Zobrazení(, ) : V V R, které dvojicím prvků z V přiřazuje reálná čísla, nazveme skalárním součinem na V, pokud pro každé x, y V a každé α R platí (y, x) = (x, y), (7) (x + z, y) = (x, y)+(z, y), (8) (αx, y) = α(x, y), (x,αy) = α(x, y), (9) (x, x) 0, (10) (x, x) = 0 x = 0. (11) Navíc předpisem x 2 = (x, x) (12) je definována norma na V. Poznámka: Lze definovat skalární součin i pro vektorový prostor nad komplexními čísly, tj. pak α C a (y, x) = (x, y), (x,αy) = α(x, y), kde z značí komplexně sdružené k z.
Skalární součin reálných vektorů Je-li vektorový prostor V tvořen uspořádanými n-ticemi reálných čísel s obvyklým sčítáním a násobením reálným číslem, pak standardně (x, y) = n x k y k, (13) k=1 kde x = (x 1,..., x n ) R n a y = (y 1,..., y n ) R n. Předpisem x 2 = (x, x) je definována euklidovská norma na R n. Poznámka: Definiční požadavky (7)-(11) splňuje i skalární součin funkcí (u, v) = b a u(x)v(x) dx, kde u, v C([a, b]).
Schwarzova (Cauchyova) nerovnost (x, y) x 2 y 2 x, y V. Důkaz: y = 0 tvrzení platí. Jestliže y 0, pak 0 (10) (x, y) x y 2 y 2 2 2 (12) = (7) (9) = x 2 y)2 2 2(x, y 2 + 2 ( x (x, y)2 y 2 2 (x, y) y 2 y, x 2 = x 2 2 ) (x, y) y 2 y 2 (x, y)2 y 2. 2 Poznámka: V důkazu nebyla použita konkrétní definice skalárního součinu, jen jeho vlastnosti! Nerovnost tedy platí i pro skalární součin funkcí.
Pozitivně definitní matice Matice A = (a ij ) typu (n, n) se nazývá pozitivně definitní, platí-li pro každý nenulový n-rozměrný reálný vektor x (Ax, x) > 0, tj. n n a ij x i x j > 0. (14) i=1 j=1 ((Ax, x) 0... pozitivně semidefinitní; > 0, < 0... indefinitní) Charakterizace: Symetrická matice A je pozitivně definitní, tj. A je s.p.d. všechna vlastní čísla matice A jsou kladná (Ax, x) je skalárním součinem všechny vedoucí hlavní minory matice A jsou kladné (Sylvestrovo kritérium) A má jednoznačný Choleského rozklad A = LL T (viz dále) Vedoucí k-tý hlavní minor matice A je determinant její horní levé podmatice typu k k.
Příklady: A = ( ) 9 6, B = 6 5 ( ) 9 6, C = 6 4 ( ) 9 6, 6 3 x T Ax = 9x1 2 + 12x 1x 2 + 5x2 2 = (3x 1 + 2x 2 ) 2 + x2 2, A je s.p.d. x T Bx = 9x1 2 + 12x 1x 2 + 4x2 2 = (3x 1 + 2x 2 ) 2, B je pozitivně semidefinitní, B není s.p.d. x T Cx = 9x1 2 + 12x 1x 2 + 3x2 2 = (3x 1 + 2x 2 ) 2 x2 2, C je indefinitní. Vedoucí hlavní minory matice A jsou 9 a 9, matice B jsou 9 a 0, matice C jsou 9 a 9.
Souvislost mezi řešením soustavy rovnic a minimalizací funkce více proměnných; A je symetrická pozitivně definitní matice typu (n, n), b je sloupcový n-složkový vektor: Necht g(x) = 1 (Ax, x) (b, x) a minima funkce g se nabývá 2 v bodě x, pak platí x = arg min g(x) grad g( x) = 0 A x = b x R n Důkaz: Pro k = 1, 2,...,n 0 = ( 1 n n i=1 j=1 x k 2 a ijx i x j ) n i=1 b ix i = n j=1 a kjx j b k. 2 ( n ) Dále j=1 x k x a kjx j b k = a kl... dostaneme právě l matici A, ta je pozitivně definitní (hl. minory kladné) = ostré lokální minimum.
Gaussova eliminační metoda Řešení soustavy Ax = b převodem ekvivalentními úpravami na soustavu s horní trojúhelníkovou maticí U, tj. Ux = b. Zpětný chod. LU rozklad, tj. LUx = b, kde L je dolní trojúhelníková matice. Pivotace. Je-li matice A pozitivně definitní, jsou prvky na hlavní diagonále nenulové, nebot a ii = e T i Ae i > 0. Navíc A symetrická, pak existuje Choleského rozklad A = LL T, kde L je dolní trojúhelníková matice (úspora paměti). Řídká matice: Nejvýše 5% prvků je nenulových. Zaplnění. Pásovost. Počet operací. Plná matice n n: n 3 /3+n 2 operací; plná sym. n 3 /6+n 2 ; q-pásová: (q + 1) 2 n+2qn; q-pásová sym.: (q + 1) 2 n/2+2qn.
Číslo podmíněnosti Necht je nějaká generovaná norma a necht A je regulární matice. Pak číslo κ(a) = A A 1 se nazývá číslo podmíněnosti matice A vzhledem k normě. Je-li A symetrická a pozitivně definitní a použijeme-li normu 2, je κ(a) = λ max /λ min. Necht Ax 0 = b 0 a Ax 1 = b 1, kde b 0 b 1, pak platí x 1 x 0 x 0 κ(a) b 1 b 0. (15) b 0 K A existují b 0 0 a b 0 b 1 takové, že v (15) nastane rovnost.
O matici, která má velké číslo podmíněnosti, říkáme, že je špatně podmíněná. Soustavy lineárních algebraických rovnic se špatně podmíněnou maticí mohou být (a v praxi bývají) numericky obtížně řešitelné. Výsledné řešení může být značně nepřesné, numerická metoda může selhat. Hrubý odhad čísla podmíněnosti pomocí Geršgorinovy věty, příklady ve sbírce.
Hilbertova matice H(n) 1 H(n) = (a ij ), kde a ij =, i, j = 1, 2,...,n. i + j 1 1 1/2 1/3 Například H(3) = 1/2 1/3 1/4 1/3 1/4 1/5 1 Řešme soustavu H(n)x =. pro n = 2, 3,...,12. 1
6 Presne reseni. Ax b = 0.00E+00 4 2 0 2 1 2 presne numer. res. C. podm. = 1.9E+01 Ax b = 2.22E 16 10 15.1 10 15.3 1 2
40 Presne reseni. Ax b = 0.00E+00 20 0 20 40 1 2 3 10 13 presne numer. res. C. podm. = 5.2E+02 Ax b = 8.88E 16 10 14 10 15 1 2 3
200 Presne reseni. Ax b = 0.00E+00 100 0 100 200 1 2 3 4 10 10 presne numer. res. C. podm. = 1.6E+04 Ax b = 3.55E 15 10 12 10 14 1 2 3 4
1000 Presne reseni. Ax b = 0.00E+00 0 1000 2000 1 2 3 4 5 10 8 presne numer. res. C. podm. = 4.8E+05 Ax b = 2.84E 14 10 10 10 12 1 2 3 4 5
0.5 0 0.5 1 x 104 Presne reseni. Ax b = 0.00E+00 1 1 2 3 4 5 6 10 6 presne numer. res. C. podm. = 1.5E+07 Ax b = 8.53E 14 10 8 10 10 1 2 3 4 5 6
2 4 x 104 Presne reseni. Ax b = 0.00E+00 2 0 4 1 2 3 4 5 6 7 10 0 presne numer. res. C. podm. = 4.8E+08 Ax b = 1.25E 12 10 5 10 10 1 2 3 4 5 6 7
4 x 105 Presne reseni. Ax b = 0.00E+00 2 0 2 1 2 3 4 5 6 7 8 10 0 presne numer. res. C. podm. = 1.5E+10 Ax b = 3.64E 12 10 5 10 10 1 2 3 4 5 6 7 8
1 2 x 106 Presne reseni. Ax b = 0.00E+00 1 0 2 1 2 3 4 5 6 7 8 9 10 5 presne numer. res. C. podm. = 4.9E+11 Ax b = 1.82E 11 10 0 10 5 1 2 3 4 5 6 7 8 9
0.5 0 0.5 1 x 107 Presne reseni. Ax b = 0.00E+00 1 1 2 3 4 5 6 7 8 9 10 10 5 presne numer. res. C. podm. = 1.6E+13 Ax b = 1.02E 10 10 0 10 5 1 2 3 4 5 6 7 8 9 10
5 x 107 Presne reseni. Ax b = 0.00E+00 0 5 1 2 3 4 5 6 7 8 9 10 11 10 5 presne numer. res. C. podm. = 5.2E+14 Ax b = 9.31E 10 10 0 10 5 1 2 3 4 5 6 7 8 9 10 11
2 x 108 Presne reseni. Ax b = 0.00E+00 0 2 4 1 2 3 4 5 6 7 8 9 10 11 12 10 10 presne numer. res. C. podm. = 1.7E+16 Ax b = 2.79E 09 10 5 10 0 1 2 3 4 5 6 7 8 9 10 11 12
Presne reseni. Ax b 2 x = 0.00E+00 109 1 0 1 2 1 2 3 4 5 6 7 8 9 10 11 12 13 10 10 presne numer. res. C. podm. = 1.8E+18 Ax b = 2.51E 08 10 5 10 0 1 2 3 4 5 6 7 8 9 10 11 12 13
Presne reseni. Ax b 1 x = 0.00E+00 1010 0.5 0 0.5 1 1 2 3 4 5 6 7 8 9 10 11 12 13 14 10 10 presne numer. res. C. podm. = 3.1E+17 Ax b = 1.34E 07 10 5 10 0 1 2 3 4 5 6 7 8 9 10 11 12 13 14