Regrese. Aproximace metodou nejmenších čtverců ( ) 1 ( ) v n. v i. v 1. v 2. y i. y n. y 1 y 2. x 1 x 2 x i. x n

Transkript

1 Regrese Aproxmace metodou ejmeších čtverců v v ( ) = f x v v x x x x Je dáo bodů [x, ], =,,, předpoládáme závslost a x a chceme ajít fuc, terá vsthuje teto tred - Sažíme se proložt fuc = f x ta, ab v = m ( ) =

2 Fuc fucí ( ) = f x obvle hledáme ve tvaru leárí ombace elemetárích = c g (x) + c g (x) c g (x) Kde g, g,,g, jsou vhodě zvoleé (zadaé) fuce a c, c,,c jsou hledaé ostat. v = = c c c = Φ c c = = = ( ) ( g (x ) g (x )... g (x )) (,,...,c ) - rterálí fuce ( c, c,...,c ) ( c g (x ) c g (x )... c g (x )) m = Φ = =

3 Φ = ( c g (x ) c g (x )... c g (x )) ( g (x )) = 0 c = Φ = ( c g (x ) c g (x )... c g (x )) ( g (x )) = 0 c = Φ = ( c g (x ) c g (x )... c g (x )) ( g (x )) = 0 c = g (x ) + g (x ) g (x ) g (x ) g (x ) = g (x ) = = = = c c c g (x ) g (x ) + g (x ) g (x ) g (x ) = g (x ) = = = = c c c c = = g (x ) g (x ) + c g (x ) g (x ) c g (x ) = g (x ) = = soustava ormálích rovc (soustava leárích rovc)

4 Poz.: V prax se úloha řeší ta,že pro zadaá data se sestrojí celá moža regresích fucí a z í se pa vbere ejlépe aproxmující fuce. K výběru té ejlepší používáme buď rtéra součtu vadrátů odchle (hodota rterálí fuce) ebo dexu orelace (podíl směrodatých odchle) I = ( ) ( )

5 Př.: Odvozeí soustav ormálích rovc pro regresí přímu = a+ b x c = a, c = b, fuce g (x)=, g (x)=x Je dáo bodů [x, ], =,, rterálí fuce: = = = Φ ( ab, ) = v = ( ) Φ ( ab, ) = ( a b x) = m = ( + a+ b x ) = 0 ( x + a x + b x ) = 0 = Φ = ( a b x) ( ) = 0 a = Φ = ( a b x)( x) = 0 b = a+ b x = = = = a x + b x = x = = = a + b x = = = = = = a x + b x = x

6 Př.: Odvozeí soustav ormálích rovc pro regresí parabolu = a+ b x+ c x c = a, c = b, c 3 =c fuce g (x)=, g (x)=x, g 3 (x)=x Je dáo bodů [x, ], =,, rterálí fuce: = = Φ ( abc,, ) = v = ( ) ( abc,, ) ( a b x c x ) m = Φ = = Φ = = a ( a b x c x ) ( ) 0 = Φ = = b ( a b x c x )( x) 0 = Φ = = c ( a b x c x )( x ) 0 =

7 ( + a+ b x + c x ) = 0 = 3 ( x + a x + b x + c x ) = 0 = 3 4 ( x + a x + b x + c x ) = 0 = a+ b x + c x = = = = = 3 a x + b x + c x = x = = = = 3 4 a x + b x + c x = = = = x = = = = a + b x + c x = 3 = = = = a x + b x + c x = x 3 4 = = = = a x + b x + c x = x

8 Př.: Odvozeí soustav ormálích rovc pro regresí hperbolu c = a, c = b, fuce g (x)=, g (x)=/x Je dáo bodů [x, ], =,, rterálí fuce: = = b = x Φ ( ab, ) = v = ( ) Φ ( ab, ) = ( a ) = m = a b = x x x = a+ b ( + a+ ) = 0 x ( + + ) = 0 b x Φ b = ( a ) ( ) = 0 a x = Φ b = ( a )( ) = 0 b x x = b a+ = x = = = a b + = = x = x = x a + b = x = = a + = b = x = x = x

9 Poz.: Je-l hledaá fuce ve tvaru leárí ombace elemetárích fucí = c g (x) + c g (x) c g (x) jedá se o leárí regres a její řešeí vede a soustavu leárích rovc. Poud je hledaá fuce v jém tvaru, jedá se o eleárí regres a její řešeí vede a soustavu eleárích rovc. Řešeí eleárí soustav rovc je problematcé evíme, ol řešeí exstuje a poud ějaé řešeí alezeme ta evíme, jestl je ejlepší možé. Soustavu eleárích rovc lze řešt umerc. Ve specálích případech můžeme eleárí regres learzovat.

10 Learzovatelá eleárí regrese. = = c g ( x) = Φ ( c, c,...,c ) = ( ) = ( ) = = = = = ( c g (x ) c g (x )... c g (x )) pro porováí s jým regresím fucem použjeme hodotu = ( )

11 Learzovatelá eleárí regrese. bx = a e = l() = = Φ (A,b) = ( ) = (l( ) l( )) = (l( ) l( a) b x) (l( ) A b x), A=l(a) = = = = Koefcet A, b ajdeme stejě jao u regresí přím, místo souřadc se zadávají jejch logartm. a = e A pro porováí s jým regresím fucem použjeme hodotu = ( )

12 Learzovatelá eleárí regrese 3. b = a x = l() = = Φ (A,b) = ( ) = (l( ) l( )) = (l( ) l( a) b l( x)) (l( ) A b l( x)), A=l(a) = = = = Koefcet A, b ajdeme stejě jao u regresí přím, místo souřadc x, se zadávají jejch logartm. a = e A pro porováí s jým regresím fucem použjeme hodotu = ( )

13 x x^ x* x^4 x^3 x^* ~ ~ (-~)^ (-~)^ ^ ~^ ~^ ,4 3, ,36 0, ,56 3, , 4,05743,44, ,64 6, ,7486, , ,8 5, ,64 0, ,64 3, ,6 6, ,6 0, ,56 47,4306 sum ,6 3, ,4 3,6857 A: 55 5 b: 83 A: b: A^-: 0, -0,3 x: 0,8 =a -0,3,,6 =b A^- 0,0749-0,4857 0,5 x: 0,48574 =a -0,4857,6749-3,3-0,05749 =b x 0,5-3,3 4,6 3,6 =c 0,6 3,6 0,,68 3,59574 I= 0,8 0,,76 3,59486 I= 0,8766 0,3,84 3, ,4,9 3,6 0,5 3 3,60743 regrese 0,6 3,08 3,6743 0,7 3,6 3,63 9 bod 0,8 3,4 3, ,9 3,3 3, ,4 3, =a*x+b, 3,48 3,7, 3,56 3, ,3 3,64 3, =a*x^+b*x+c,4 3,7 3,8,5 3,8 3, ,6 3,88 3, ,7 3,96 3,9574,8 4,04 3,96,9 4, 4, , 4,05743, 4,8 4, 0 -, 4,36 4, ,3 4,44 4,486

14 Idex determace Zaveďme tato ozačeí pro specálím způsobem defovaé rozptl: = ( ), ( ) sy = Y Y, s ( ) x = Y s = = = de jsou zadaé -ové souřadce Y jsou fučí hodot regresí fuce příslušá -té x- ové složce. Platí mez m vztah: s = = Y + Y + = = = = ( ) ( ) ( ) ( ) (( Y) ( Y ) ( Y) ( Y ) ) = = = s + s + Y Y x Y = ( ) ( ).

15 Idex determace Pro leárí regres, u teré je v leárí ombac fuce je = je rove ule. pravé straě ( Y ) ( Y ) = Y a posledí výraz a Potom s = s + s a podíl x Y s s s = bývá používá jao míra těsost, vhodost Y x s regresí fuce azývaá oefcet determace. Udává vlastě, jaá část dsperze zau je způsobea závslostí a x. Doplě oefcetu determace do jedé zameá podíl áhodé slož a dsperz. Odmoca I x = s s Y s = s se azývá dex orelace. x