Matematická statistika

Transkript

1 Matematcká statstka 1/1 M:um Náhodá velèa pøøazuje ka¾dému mo¾ému jevu (z urèté mo¾y jevù) pravdìpodobost (hustotu pravdìpodobost) dskrétí, apø. hod kostkou: p = 1/6 pro {,,,,, } spojtá, apø. èas rozpadu jádra: p(t) = ke kt Spojtou áhodou velèu v 1D (tj. x R) popsuje dstrbuèí fukce (hustota pravdìpodobost, rozdìleí/rozlo¾eí pravdìpodobost) p(x): p(x)dx je pravdìpodobost, ¾e astae jev x [x, x + dx) Ve dvou dmezích deujeme hustotu pravdìpodobost p(x, y) tak, ¾e jev x [x + dx) a zároveò y [y + dy) astae s pravdìpodobostí p(x, y)dxdy. Normalzace: p = 1 ebo p(x)dx = 1 Kumulatví (tegrálí) dstrbuèí fukce = pravdìpodobost, ¾e pade áhodá hodota x x: P(x) = x p(x )dx

2 Rozdìleí pravdìpodobost /1 M:um Varováí. Ve fyzce a techce epøesì a volì zamìòujeme symbol x pro áhodou velèu a x pro její hodotu (apø. pø tegrac). Støedí hodota (té¾ expectato value, oèekávaá hodota; slovo prùmìr budeme rezervovat pro artmetcký prùmìr, tj. støedí hodotu výbìru) E (x) x x x volì = x = xp(x)dx ebo x p Pøíklad. Kdy¾ hodíte a kostce, vyhrajete 5 Kè; pokud pade ìco jého, prohrajete 1 Kè. Je tato hra spravedlvá? Ao { støedí výhra je 0 Varace (té¾: rozptyl, uktuace, dsperze, støedí kvadratcká odchylka, kvadrát smìrodaté odchylky) kde x = x x Var (x) volì = Var x = (x x ) = x = x x Pøíklad. Mìjme rovomìré rozdìleí u v tervalu [0, 1); a poèítaè apø. rd(0). Vypoètìte støedí hodotu a varac. u = 1/, Var (u) = 1/1

3 Fukce áhodé velèy 3/1 M:um Mìjme reálou áhodou velèu x s rozdìleím p(x) a reálou fukc f(x). Velèa (té¾ pozorovatelá) f(x) má rozdìleí (sèítá se pøes v¹echy koøey): p f (y) = p(x) f (x) x:f(x)=y Pøíklad. Mìjme rovomìré rozdìleí u v tervalu [0, 1). Jaké rozdìleí má t = l u? exp( t): apø. èas rozpadu 1 atomu s k = 1 Pokud chceme støedí hodotu velèy f, staèí ám ov¹em f = f p, f = f(x)p(x)dx, f = f(x, y)p(x, y)dxdy Støedí hodota vypoèteá z p f (x) je samozøejmì stejá: subst. y=f(x) yp(x) f = f(x)p(x)dx = f (x) dy = yp f (y)dy kde v. tegrálu x = øe¹eí rovce f(x) = y, které zde pro jedoduchost uva¾ujeme je jedo a také pøedpokládáme, ¾e fukce f je rostoucí.

4 Nezávslé áhodé velèy 4/1 M:um Náhodé velèy x (s rozdìleím p 1 (x)) a y (s rozdìleím p (y)): p(x, y) = p 1 (x)p (y) V dskrétím pøípadì (apø. dva hody kostkou, p j = 1/36): p j = p 1, p,j Kovarace x a y u dvojrozmìrého rozdìleí p(x, y) Cov (x, y) = x y = x yp(x, y)dxdy Kovarace ezávslých áhodých velè je ula: Cov (x, y) = x y x+y = dx dy xp 1 (x) yp (y) = x x y y = 0 Kovarace dvou velè f(x) a g(x) (obdobì u dskrétého è vícerozmìrého rozdìleí): Cov (f, g) = f g = f g p(x)dx

5 Souèet ezávslých áhodých velè 5/1 M:um Vygeerujeme dvì áhodé velèy (apø. hodíme kostkou). Jaké rozdìleí má souèet obou velè? Je dáo kovolucí: px+y(z) = p 1 (y)p (z y)dy (p 1 p )(z) Dùsledek. Støedí hodota varace souètu ezávslých áhodých velè jsou adtví. E (x + y) = zpx+x (z)dz = zp 1 (y)p (z y)dydz x:=z y = (x + y)p 1 (y)p (x)dxdy = x 1 + x = E (x) + E (y) Var (x + y) = ( x + y) x+y = ( x) x+y + x y x+y + ( y) x+y = Var x + Var y

6 Cetrálí lmtí vìta [plot/radomwalk.sh] 6/1 M:um Souèet stejých ezávslých rozdìleí s koeèou støedí hodotou a koeèou varací je pro velké rovo Gaussovì rozdìleí se støedí hodotou x a varací Var x. Pøíklad. Uva¾ujme dskrétí rozdìleí b: p( 1/) = p(1/) = 1/. Aproxmujte souèet takových rozdìleí. = 1 p( 1/) = 1/, p(1/) = 1/, Var b = 1/4 = p( 1) = 1/4, p(0) = 1/, p(1) = 1/4, Var b = /4 = 3 p(±3/) = 1/8, p(±1/) = 3/8, Var b 3 = 3/4 Pro jedoduchost uva¾ujme je sudé. Pak pro k = /../: ( ) ( ) p(k) = 1 exp k / + k πσ σ, σ = Var (b ) = 4

7 Ovìøeí cetrálí lmtí vìty + 7/1 M:um ( ) + 1 = ( )! ( 1)!( + 1)! =! ( )!/( ) ( )!( + 1) = + 1 l p(, 1) = l p(, 0) + l + 1 l p(, 0) Dal¹í èle l p(, ) = l p(, 1) + l 1 + l p(, 1) 6 a obecì l p(, k) l p(, 0) k j=1 k 1 k, (k 1) j=1 Obdobì pro záporá k. V lmtì velkých k a tedy ( ) p(, k) p(, 0) exp k / Po ormalzac dostaeme ký¾eé k 0 (k 1)dk = k(k 1) k

8 Odhady 8/1 M:um K dspozc máme zpravdla vzorek (sample) áhodé velèy (výbìr, trajektor v smulacích), apø. 100 hodíme kostkou. Odhad støedí hodoty x x 1 x 1 =1 Spoèítejme varac áhodé velèy x : x Var (x ) = (x x ) = ( x ) = σ kde σ je varace x. Pou¾l jsme ezávslost, tj. x x j = 0 pro j Nyí odhadìme σ : x 1 j x j = [ (( 1 1 ) x 1 1 ) ] x + A proto odhady jsou (1 = poèet stupòù volost): σ x 1 ( x ) 1 = x 1, Var(x ) σ, σ(x ) 1 = ( 1)σ ( x 1 ) x 1

9 Váhy 9/1 M:um Vá¾eý prùmìr (váhy w emusí být ormalzovaé) x = x w w Záme x (ezávslé) s chybam σ. Jaké máme volt váhy? Odvodíme pro velèy: x = wx 1 + (1 w)x σ (x) = (x x ) = (w x 1 + (1 w) x ) = w σ 1 + (1 w) σ Mmum astae pro 1/σ w = 1 1/σ 1 +, 1 w = w = 1/σ Tedy (a platí obecì): 1/σ 1/σ 1 + 1/σ w = 1 σ Ale problém mù¾e být, pokud ezáme σ pøesì.

10 Metoda ejme¹ích ètvercù 10/1 M:um x = ezávsle promìé ( = 1..) y = závsle promìé 1/σ = váhy a = parametry (p hodot, p, ejlépe p ) Hledáme fukc f a ( x) závslou a p parametrech vysthující data ( x, y). Parametry a budeme hledat z podmíky mma souètu kvadrátù odchylek: m S, S = [ ] f a ( x ) y a σ Vìta (Gauss{Markov): pro fukc f a leárì závsející a a je toto ejlep¹í (= dává ejme¹í rozptyl odhadutých parametrù a) estraý ( a je správì) leárí odhad (Best Lear Ubased Estmate, BLUE). Pøíklad. Pro f a (x) = a (kostata) a σ = 1 ajdìte odhad a a = y Výsledkem továí (korelace, regrese, prokládáí) jsou odhady a spolu odhady chyb a rovì¾ korelacem mez parametry.

11 Leárí è learzovaé parametry f a ( x) = f 0 ( x) + p a j f j ( x), j=1 f j ( x) = f( x) a j A pøedpokládejme stejé váhy. Data s chybam mù¾eme zapsat jako: y = f 0 ( x )+ p a j f j ( x), +δy, j=1 δy = 0, δy δy j = σ δ j kde δ j = 1 pro = j a δ j = 0 pro j (Kroeckerovo delta). Polo¾íme bez újmy a obecost f 0 ( x ) = 0. S = p a j f j ( x ) y Hledáme mmum, tedy spoèítáme dervac a polo¾íme = 0: 1 S = p f a k ( x ) a j f j ( x ) y! = (A a b) k = 0 k j=1 j=1 11/1 M:um kde A = F F T, b = F y, F k = f k (x ) (matce p ) a = matcové ásobeí.

12 Leárí è learzovaé parametry { pokraèováí 1/1 M:um A a = b, b = A 1 a Zbývá spoèítat chyby odhadù a korelace (kovarace) mez parametry; pravdlo: sèítáme v¾dy pøes dvojce stejých dexù: Cov (a, a j ) = a a j = A 1 α F αkδy k A 1 jβ F βlδy l = A 1 α F αk A 1 jβ F βlσ δ kl = A 1 α A αβa 1 jβ σ = A 1 α A αβa 1 jβ σ = A 1 j σ Pokud ezáme σ, odhademe ho takto (aaloge s prùmìrem, kdy p = 1): σ = S p