Metoda nejmenších čtverců Aplikovaná matematika I Dana Říhová Mendelu Brno c Dana Říhová (Mendelu Brno) Metoda nejmenších čtverců 1 / 8
Obsah 1 Formulace problému 2 Princip metody nejmenších čtverců 3 Lineární aproximace - vyrovnání souboru bodů přímkou Adrien Marie Legendre c Dana Říhová (Mendelu Brno) Metoda nejmenších čtverců 2 / 8
Formulace problému Mějme dán soubor n bodů [x 1, y 1 ], [x 2, y 2 ],..., [x n, y n ]. Hodnoty y 1, y 2,..., y n mohou být například získany jako výsledek měření v bodech x 1, x 2,..., x n. Předpokládáme, že mezi hodnotami x a y platí vztah y = f(x), kde f(x) je funkce vhodného tvaru (obvykle lineární, kvadratický polynom apod.). Naměřené hodnoty y i (i = 1,..., n) jsou zatíženy chybami měření. Kdyby při měření chyby nenastaly, platilo by y i = f(x i ) (i = 1,..., n) a body by ležely na grafu funkce y = f(x). Ve skutečnosti jsou však vlivem těchto chyb body [x i, y i ] (i = 1,..., n) rozptýleny kolem grafu. c Dana Říhová (Mendelu Brno) Metoda nejmenších čtverců 3 / 8
Formulace problému Mějme dán soubor n bodů [x 1, y 1 ], [x 2, y 2 ],..., [x n, y n ]. Hodnoty y 1, y 2,..., y n mohou být například získany jako výsledek měření v bodech x 1, x 2,..., x n. Předpokládáme, že mezi hodnotami x a y platí vztah y = f(x), kde f(x) je funkce vhodného tvaru (obvykle lineární, kvadratický polynom apod.). Naměřené hodnoty y i (i = 1,..., n) jsou zatíženy chybami měření. Kdyby při měření chyby nenastaly, platilo by y i = f(x i ) (i = 1,..., n) a body by ležely na grafu funkce y = f(x). Ve skutečnosti jsou však vlivem těchto chyb body [x i, y i ] (i = 1,..., n) rozptýleny kolem grafu. Cíl: Najít vhodnou funkci f tak, aby její graf procházel co nejbĺıže daných bodů (naměřených hodnot). c Dana Říhová (Mendelu Brno) Metoda nejmenších čtverců 3 / 8
Princip metody nejmenších čtverců Metoda nejmenších čtverců U metody nejmenších čtverců požadujeme, aby součet čtverců (druhých mocnin) rozdílů naměřených hodnot y i a funkčních hodnot f(x i ) pro stejnou hodnotu x i byl co nejmenší, tj. (f(x i ) y i ) 2 min, kde funkce y = f(x) je funkce s neznámými koeficienty a její tvar závisí na vztahu mezi x a y. c Dana Říhová (Mendelu Brno) Metoda nejmenších čtverců 4 / 8
Princip metody nejmenších čtverců Metoda nejmenších čtverců U metody nejmenších čtverců požadujeme, aby součet čtverců (druhých mocnin) rozdílů naměřených hodnot y i a funkčních hodnot f(x i ) pro stejnou hodnotu x i byl co nejmenší, tj. (f(x i ) y i ) 2 min, kde funkce y = f(x) je funkce s neznámými koeficienty a její tvar závisí na vztahu mezi x a y. Poznámka Vztah y = f(x) mezi hodnotami x a y většinou známe z teorie nebo tuto závislost můžeme odhadnout podle naměřených hodnot. c Dana Říhová (Mendelu Brno) Metoda nejmenších čtverců 4 / 8
Princip metody nejmenších čtverců Metoda nejmenších čtverců U metody nejmenších čtverců požadujeme, aby součet čtverců (druhých mocnin) rozdílů naměřených hodnot y i a funkčních hodnot f(x i ) pro stejnou hodnotu x i byl co nejmenší, tj. (f(x i ) y i ) 2 min, kde funkce y = f(x) je funkce s neznámými koeficienty a její tvar závisí na vztahu mezi x a y. Poznámka Vztah y = f(x) mezi hodnotami x a y většinou známe z teorie nebo tuto závislost můžeme odhadnout podle naměřených hodnot. Funkce f může být lineární polynom (přímka), kvadratický polynom (parabola), exponenciální funkce, logaritmická funkce apod. c Dana Říhová (Mendelu Brno) Metoda nejmenších čtverců 4 / 8
Lineární aproximace - vyrovnání souboru bodů přímkou Předpokládejme, že mezi hodnotami x a y existuje lineární závislost, funkce f je tedy tvaru y = ax + b. Naměřený bod má souřadnice [x i, y i ], bod na vyrovnávací přímce má souřadnici [x i, ax i + b]. Hledáme koeficienty a, b takové, aby F (a, b) = (ax i + b y i ) 2 min. c Dana Říhová (Mendelu Brno) Metoda nejmenších čtverců 5 / 8
Lineární aproximace - vyrovnání souboru bodů přímkou Předpokládejme, že mezi hodnotami x a y existuje lineární závislost, funkce f je tedy tvaru y = ax + b. Naměřený bod má souřadnice [x i, y i ], bod na vyrovnávací přímce má souřadnici [x i, ax i + b]. Hledáme koeficienty a, b takové, aby F (a, b) = (ax i + b y i ) 2 min. Tato úloha vede na řešení soustavy lineárních rovnic a x i + bn = a x 2 i + b x i = y i, x i y i pro neznámé koeficienty a, b. c Dana Říhová (Mendelu Brno) Metoda nejmenších čtverců 5 / 8
Lineární aproximace - vyrovnání souboru bodů přímkou Předpokládejme, že mezi hodnotami x a y existuje lineární závislost, funkce f je tedy tvaru y = ax + b. Naměřený bod má souřadnice [x i, y i ], bod na vyrovnávací přímce má souřadnici [x i, ax i + b]. Hledáme koeficienty a, b takové, aby F (a, b) = (ax i + b y i ) 2 min. Tato úloha vede na řešení soustavy lineárních rovnic a x i + bn = a x 2 i + b x i = y i, x i y i pro neznámé koeficienty a, b. Při výpočtu je potřeba nejdříve vypočítat součty x i, y i, x 2 i a x i y i. c Dana Říhová (Mendelu Brno) Metoda nejmenších čtverců 5 / 8
Lineární aproximace - vyrovnání souboru bodů přímkou y y n f(x) = ax + b ax i + b y i y = ax + b y 2 y 1 x 1 x 2... x i... x n x c Dana Říhová (Mendelu Brno) Metoda nejmenších čtverců 6 / 8
Příklad (metoda nejmenších čtverců) Metodou nejmenších čtverců proložte přímku souborem bodů: Celkem máme 6 bodů, tj. n = 6. x i -2-1 0 2 3 4 y i 1 1 2 3 3 4 c Dana Říhová (Mendelu Brno) Metoda nejmenších čtverců 7 / 8
Příklad (metoda nejmenších čtverců) Metodou nejmenších čtverců proložte přímku souborem bodů: Celkem máme 6 bodů, tj. n = 6. Výpočty potřebných součtů provedeme v následující tabulce. i x i y i x 2 i x i y i 1 2 1 4 2 2 1 1 1 1 3 0 2 0 0 4 2 3 4 6 5 3 3 9 9 6 4 4 16 16 6 6 14 34 28 x i -2-1 0 2 3 4 y i 1 1 2 3 3 4 c Dana Říhová (Mendelu Brno) Metoda nejmenších čtverců 7 / 8
Příklad (metoda nejmenších čtverců) Metodou nejmenších čtverců proložte přímku souborem bodů: Celkem máme 6 bodů, tj. n = 6. x i -2-1 0 2 3 4 y i 1 1 2 3 3 4 Výpočty potřebných součtů provedeme v následující tabulce. i x i y i x 2 i x i y i 1 2 1 4 2 2 1 1 1 1 3 0 2 0 0 4 2 3 4 6 5 3 3 9 9 6 4 4 16 16 6 6 14 34 28 Koeficienty a, b přímky y = ax + b najdeme řešením soustavy a x i + bn = a x 2 i + b x i = y i, x iy i. c Dana Říhová (Mendelu Brno) Metoda nejmenších čtverců 7 / 8
Příklad (metoda nejmenších čtverců) Metodou nejmenších čtverců proložte přímku souborem bodů: Celkem máme 6 bodů, tj. n = 6. x i -2-1 0 2 3 4 y i 1 1 2 3 3 4 Výpočty potřebných součtů provedeme v následující tabulce. i x i y i x 2 i x i y i 1 2 1 4 2 2 1 1 1 1 3 0 2 0 0 4 2 3 4 6 5 3 3 9 9 6 4 4 16 16 6 6 14 34 28 Koeficienty a, b přímky y = ax + b najdeme řešením soustavy a x i + bn = a x 2 i + b x i = y i, x iy i. Soustava lineárních rovnic má tvar 6a + 6b = 14 34a + 6b = 28 c Dana Říhová (Mendelu Brno) Metoda nejmenších čtverců 7 / 8
Příklad (metoda nejmenších čtverců - pokračování) Řešením soustavy je a = 1 2, b = 11 6. Hledaná přímka má rovnici y = 1 2 x + 11 6. c Dana Říhová (Mendelu Brno) Metoda nejmenších čtverců 8 / 8
Příklad (metoda nejmenších čtverců - pokračování) Řešením soustavy je a = 1 2, b = 11 6. Hledaná přímka má rovnici y = 1 2 x + 11 6. y 4 3 2 y = 1 2 x + 11 6 1 2 1 0 1 2 3 4 x c Dana Říhová (Mendelu Brno) Metoda nejmenších čtverců 8 / 8