Transkript

1 I Z klad pojmy teorie pravd podobosti { eoci l u eb text pro p edm t MATEMATIKA V, FS,FM TUL, ( drob chyby ejsou vylou ey) P. Volf, b eze 999 N hod pokus, syst m jev P edm tem teorie pravd podobosti je vytv e a studium matematick ch model pro hod d je, tj. takov d je, jejich v sledek e p edem jedoza ur e a o ek v se pouze, e v sledek bude jed m z jak mo iy mo ch v sledk. Takov mu hod mu d ji budeme kat hod pokus (i kdy "experimet torem" ejsme asto my, ale ap klad p roda). Mo ia v ech mo ch v sledk da ho pokusu se kdy t az v v b rov m prostorem ebo prostorem pozorov. V sledkem pokusu mohou b t sla (po et bod a hor stra hrac kostky p i jedom vrhu po et vrh hrac kostkou e pade \6", am e hodoty jak veli iy, ap. krev tlak pacieta, ebo odchylka rozm ru sou stky od ormy), sel vektory a poslouposti, asov pr b h jak fukce a da m itervalu, ale i libovol kvalitativ ukazatel (ap. vyta e koule da barvy z osud obsahuj c r zobarev koule, dosa e t da kvality v robku, odpov ao i e u respodeta p i pr zkumu m ). V teorii pravd podobosti je uva ov a mo ia mo ch v sledk, vduchu uvede ch p klad, jako jak epr zd abstrakt mo ia. Tak po et jej ch prvk m e b t koe, spo et ebo i espo et. Podmo iy mo iy az v me jevy. ekeme, e p i da m pokusu astal jev A, kdy v sledek pokusu! je prvkem A (tj.! 2 A). V echy mo v sledky pokusu! 2 ch pa jako jedobodov mo iy f!g az v me syst mem elemet r ch jev. Cel mo ia je tedy vlast jist m jevem. M eme uva ovat i pr zdou mo iu, kterou pak az v me emo m jevem. Nap klad p i jedom hodu kostkou, elemet r jevy jsou jedotliv mo v sledky, tj., 2,..., 6, ale krom ich m eme uva ovat jevy slo e z kolika elemet r ch, ap. "sud slo", ebo "v sledek v t e 4" apod. Mezi jedotliv mi jevy mohou platit r z vztahy a m eme pomoc ich vytvo it jevy dal. V echy tyto vztahy a operace jsou stej jako vteorii mo i. Jsou{li A a B jevy, pak oza ujeme A B A = B { situaci, kter odpov d tomu, e kdykoliv astae jev A, astae ijevb { plat sou as A B a B A A [ B { jev, kter astae pr v tehdy, kdy astae alespo jede z jev A ebo B (sjedoce jev A a B) A\B { jev, kter astae pr v tehdy, kdy astaou oba jevy A a B sou as (pr ik jev A a B) A \ B = { situaci, kdy emohou astat oba jevy A a B sou as (jevy A a B jsou eslu itel { disjukt, eexistuje el. jev, kter by byl z rove v A i v B)

2 A { jev, kter astae pr v tehdy, kdy eastae jev A (dopl k jevu A) A ; B {jev, kter astae pr v tehdy, kdy astae jev A, ale sou as eastae jev B (rozd l jev A a B) A 4 B {jev, kter astae pr v tehdy, kdy astae jev A ebo B, ale e oba sou as (symetrick diferece jev A a B). Deici sjedoce a pr iku dvou jev lze zobecit a libovol koe, spo et, ale i espo et po et jev. Tak ap klad pro syst m jev fa 2 Ig, kdei je jak mo ia idex, za S A 2I T 2I jev, kter astae pr v tehdy, kdy astae alespo jede z jev A 2 I A jev, kter astae pr v tehdy, kdy astaou sou as v echy jevya 2 I. Pro pr v zavede pojmy sjedoce, pr iku a dopl ku m eme uk zat, e plat sleduj c vztahy: Jsou{li A B C jevy, tak A: A [ = A A2: A \ = A3: A [ = A4: A \ =A A5: A [ A = A A6: A \ A = A A7: A [ B = B [ A A8: A \ B = B \ A A9: A [ (B [ C) =(A [ B) [ C A0: A \ (B \ C) =(A \ B) \ C A: A [ (B \ C) =(A [ B) [ (A [ C) A2: A \ (B [ C) =(A \ B) [ (A \ C) A3: A [ A = A4: A \ A = : Zt chto vztah A { A4 je mo o odvodit prakticky v echy dal vztahy, kter jsou d le it v t to "algeb e s jevy", kter je p evzata z mo iov algebry. V sleduj c m p ehledu uv d me kter z ich. P itom relaci () a operace rozd lu (;) a symetrick diferece (4) deujeme jako A B () A \ B = A A ; B = A \ B A 4 B = (A ; B) [ (B ; A): Jsou{li A B C a D libovol jevy, pak plat, krom ji ho:. A A A (A B B C) =) A C. 2. (A ; B) \ B = (A ; B) [ B = A [ B A =(A \ B) [ (A ; B) A ; B = A ; (A \ B) A \ (B ; C) =(A \ B) ; (A \ B). 3. A B =) A [ C B [ C a A \ C B \ C A B () A \ B = A () A [ B = B () A \ B = D kazy jedotliv ch vztah jsou dobr m cvi e m. 2

3 2 Syst m hod ch jev, pravd podobost, pravd podobost prostor Uva ujeme-li ur it hod pokus a chceme-li jej popsat, zaj maj s je ur it elemet r jevy! a z ich slo e A B :::. Proto se v dy sa me volit co ejvhod j mo iu. Na druh stra, vhod deice pravd podobosti mus zahrovat i za slo it situace. V jedoduch m p pad, kdy mo ia v ech mo ch v sledk hod ho pokusu jekoe, je z hlediska aplikac teorie pravd podobosti rozum po adovat, abychom byli schopi uva ovat jedotliv elemet r jevy jako hod jevy. Situace je odli, p edev m z form l ho matematick ho hlediska, v p pad espo et ho (tam, jak uvid me v p kladech v t iou epracujeme ji s jedotliv mi elemet r mi jevy - body!, alea s jejich mo iami, hod mi jevy A B :::).Abychom tyto p pad t kosti p ekoali a vytvo ili jedi matematick model hod ho pokusu, zavedeme tzv. syst m hod ch jev S. Je p iroze po adovat, aby jist jev a emo jev byly hod mi jevy, tj. prvky S, stej tak, aby s ka d mi dv ma hod mi jevy jejich sjedoce, pr ik, rozd l apod. byly hod mi jevy. Takov po adavek je rozum i pro spo et sjedoce a spo et pr ik hod ch jev. Form l matematicky zavedeme syst m hod chjev S jako syst m podmo i mo iy,pro kter plat S. 2S S2. kdy A i 2S i = 2 :::=) S i= A i 2S S3. A 2S=) A 2S. Takov to syst m, ch pa jako syst m mo i, se az v -algebrou (ebo -okruhem) mo i. Samoz ejm, cel komplet syst m v ech podmo i -oza me jej 2 - vyhovuje v em t mto po adavk m, ale m e b t a asto je zbyte rozs hl. Na druh stra v ak v p pad 'je' spo et mo iy, kdy elemet r jevy maj b t hod mi jevy, je 2 jedi m syst mem hod ch jev (tj. spl uj c m S { S3). Plat toti, e ka d podmo ia A ejv e spo et mo iy je ejv e spo et a d se ps t jako spo et sjedoce elemet r ch jev, co podle S2 je hod m jevem. Uk eme si y dal vlastosti syst mu hod ch jev S:. 2S D kaz: 2S=) 2S, ale = 2. (A B 2S)=) A \ B 2S. D kaz: (A B 2 S) =) ( A B 2 S) =) ( A [ B 2 S) =) ( A [ B 2 S), p itom A [ B = A \ B. 3. (A B) 2S=) (A ; B 2S) D kaz: (A B 2S)=) (A B 2 S) =) A \ B 2S ale A \ B = A ; B. 4. (A B 2S)=) (A4B 2S) D kaz: (A B 2S)=) (A ; B B ; A 2 S) =) ((A ; B) [ (B ; A) 2S) 3

4 5. A i 2S i = 2 :::=) T i= A i 2S D kaz: A i 2S i = 2 :::=) ( Ai 2S i = 2 ::: )=) ( S i= A i 2S)=) S i= Ai 2S, ale S i= Ai = T i= Ai = T i= A i. Jak deovat pravd podobost? Pro ka d hod jev A 2S chceme ur it takov slo P (A), kter by m lo v kvatikovat, oceit aci, s jakou p i provede p slu ho hod ho pokusu astae jev A. M labytob t vlast mo iov m ra a syst mu mo i { jev. Deujme proto pravd podobost jako m9ru, tj. re lou fukci P : S!< 0 > zobrazuj c jevy ze syst mu hod ch jev do itervalu h0 i. Budeme po t to fukci po adovat sleduj c : P. (A 2S)=) (P (A) 0) P2. (A i 2S i = 2 ::: A i \ A j = pro ka d i 6= j) =) (P ( S i= A i )= P i= P (A i )) P3. P () =. Z t chto podm ek plyou kter dal vlastosti pravd podobosti:. P ( ) =0 D kaz: Jeliko \ = a 2 S, jsou a disjukt, a tedy podle P2 P ( [ )=P () + P ( ). Ale [ =,a tedy =+P ( ) eboli P ( ) =0. 2. (A B 2S) A B =) (P (A) P (B)). D kaz: A B =) B = A [ (B ; A) =) A \ (B ; A) = =) P (B) = P (A)+ P (B ; A) P (A). 3. (A B 2S A B) =) (P (B ; A) =P (B) ; P (A)). D kaz: plye z B = A [ (B ; A) az P2. 4. (A B 2S)=) (P (A [ B) =P (A)+P (B) ; P (A \ B)). D kaz: A [ B = [(A [ B) \ B] [ h (A [ B) \ B i = B [ (A \ B) = B [ (A ; B) = B [ (A ; (A \ B)): Jeliko B \ (A ; (A \ B)) =, tak z P2 m me P (A [ B) =P (B)+P (A ; (A \ B)) = P (B)+P (A) ; P (A \ B) { posled rovost dostaeme z (A B 2 S) =) (P (A4B) = P (A ; B)+P (B ; A) = P (A ; (A \ B)) + P (B ; (A \ B)) = P (A)+P (B) ; 2P (A \ B)). 6. (A 2S)=) (P ( A)=; P (A)). D kaz: =A [ A A \ A = =) =P (A)+P ( A)=) P ( A)=; P (A). Jestli e A je hod jev takov, e jeho pravd podobost P (A) = (co je ekvivalet tomu, e P ( A) = 0), k me, e jev A ast v skoro jist. P itom je t eba si uv domit, e kdy P ( A) = 0, tak A emus b t emo jev, tj. A emus 4

5 b t pr zd mo ia (v tom p pad ale mus existovat elemet r jevy, kter m jsme p i adily ulovou pravd podobost)! M me y k dispozici trojici ( S P), kde 6= je epr zd mo ia, S syst m hod ch jev spl uj c ch S { S3 a P pravd podobost spl uj c P - P3. Tuto trojici az v me pravd podobost m prostorem a slou jako ejobec j model libovol ho hod ho pokusu. Je ov em t eba pro ka d hod pokus specikovat S i P. Zat mco specikace prv ch dvou sou st je celkem jas a odpov d \bohatosti" jev, kter chceme vy et ovat a kter tedy bereme v potaz, je volba P pro kokr t situaci slo it j. Hodoty pravd podobosti lze z skat bu p mo z podstaty hod ho pokusu ebo mus b t odhaduty metodami matematick statistiky z miul cha ich zku eost. V dal sti t to kapitoly si uk eme kostrukci pravd podobost ch prostor pro typick p klady, kdy je koe, spo et a espo et mo ia. 3 Mo osti kostrukce pravd podobost ch prostor. je koe mo ia P edpokl dejme, e je koe mo ia s prvky!! 2 :::! ( = f! :::! g) a chceme, aby ka d elemet r jev f! i g byl hod m jevem, tj. uva ujeme za syst m hod ch jev syst m v ech podmo i mo iy, tj.s = 2. Celkov po et v ech hod ch jev je2 (tj =2, kde j je po et r z ch hod ch jev sest vaj c ch pr v zj elemet r ch jev ). Nech p p 2 ::: p je -tice ez por ch re l ch sel takov ch, e X i= p i =: Polo me-li P (f! i g)=p i i = 2 :::, dostaeme pak pro ka dou podmo iu A P (A) = X fi:! i 2Ag Potom ( 2 P)spl uje v echy p edpoklady pravd podobost ho prostoru. Speci l p pad ast v, kdy p = p 2 = = p tj. p i =. Potom P (A) = X fi:! i 2Ag p i : = m(a) kde m(a) je po et elemet r ch jev, kter vytv hod jev A. V tomto p pad dost v me klasickou deici pravd podobosti tak, jak jsme se ji u ili a st ed kole, kdy pravd podobost hod ho jevu byla deov a jako pom r po tu p pad p ziv ch m(a) ku v em mo m. P klady jsou asad : v sledky hod kostkami, s zky do loterie, je spo et mo ia V p pad spo et mo iy = f!! 2 :::g, kdy tak v t iou po adujeme, aby elemet r jevy f! i g byly pro v echa i hod mi jevy, dost v me jako syst m hod ch jev syst m v ech podmo i mo iy, tj. S =2. Ny v ak po et v ech hod ch 5

6 jev je ekoe. Jestli e pro ka d i = 2 ::: jsou pravd podobosti elemet r ch jev rovy p i (y po adujeme P i= p i = ), tak pro libovolou podmo iu A deujeme stej jako v p pad koe ho P (A) = X fi:! i 2Ag trojice ( 2 P) pak tvo pravd podobost prostor. P kladem takov ch jev je t eba po et jak ch "ud lost " v ur it m asov m itervalu (ap. po et tel. hovor spoje ch st edou, po et stic zachyce ch pozorovac m p strojem,...). 3. je espo et mo ia I kdy ivtomto p pad je mo o kostruovat pravd podobost prostor v pl obecosti, omez me se pouze a p pad kdy = R (mo ia v ech re l ch sel), kter bude p edm tem a ich vah i v dal m textu. Zobec a p pad = R (-tice re l ch sel) je pak bez jak chkoliv probl m. P kladem takov ch hod ch pokus je t eba ka d m e, kter ikdy e prosto ( hod ch) chyb, i rozm r v robku hod vybra ho kekotrole (p eci je se v robek od v robku li, v r mci p esosti v rob ho postupu) ebo t eba doba ivotosti p stroje (kdy ka d re l slo > 0 m e b t v sledkem, alespo teoreticky). Jak ji jsme uvedli v e, emus b t ve v ech p padech aplikac po adov o, aby v echy elemet r jevy byly hod mi jevy. P esto v ak je rozum, aby syst m hod ch jev v p pad = R obsahoval takov mo iy jako ap klad itervaly, otev e mo iy apod. Nap klad syst m v ech iterval ji espl uje podm ky S { S3 (ap. sjedoce dvou disjukt ch iterval u emus b t iterval). Plat v ak obec v ta, kter k, e pro libovol syst m podmo i mo iy (oza me jej A) existuje syst m podmo i obsahuj c A jako sv j podsyst m, kter spl uje podm ky S { S3 a kter je v jist m smyslu miim l. V p pad = R uva ujme tedy syst m A, kter je vytvo e ze v ech iterval ha b) =fx : x 2 R a x<bg, kde a b 2 R. Potom existuje miim l m syst m S(A) obsahuj c A, kter spl uje S { S3. Ne sad probl m si alespo z klady syst mu budova ho ze v ech iterval p edstavit. P edev m, ka d uzav e iterval ha bi (a b 2 R a b) se d vyj d it jako ha bi = \ = p i ha b + ) () a tedy ha bi 2S(A). Obdob se uk e, e i ostat typy iterval pat do S. Tak i itervaly tvaru (; ai = fx : x 2 R x ag resp. (a ) pat do S(A), ebo (; ai = [ = (; ai a (a ) =R ; (; ai: Mo iy ze syst mu S(A) se az vaj borelovsk mo iy a p mce a oza me je B resp. B(R). Z t to kostrukce ov em plye, e ka d bod je tak v B(R), ebo 6

7 fag = (; ai;(; a). ili elemet r mi jevy jsou pak jedotliv hodoty { body re l p mky. V p pad = R je situace podob, je vych z me ze syst mu A vytvo e ho v emi polootev e mi -rozm r mi itervaly, tj. mo iami typu ha b ) ha 2 b 2 ) ha b ): Bereme tedy v p pad = R za syst m v ech hod ch jev syst m v ech borelovsk ch mo i a p mce. Obr t me se y k ot zce kostrukce pravd podobosti a borelovsk ch mo i ch a p mce. Je t eba pozameat, e v tomto p pad e mo pou t postup aplikova v koe m ebo spo et m p pad, kdy staovujeme pravd podobost elemet r ch jev azich potom pravd podobost a cel m syst mu hod ch jev. V espo et m p pad mus me postupovat po kud odli m zp sobem. Nech F je libovol, eklesaj c re l fukce, kter je v ka d m bod spojit zleva (F (x) = F (x;)) a takov, e (8 x 2 R) 0 F (x) a F (;) = lim x!; F (x) = 0 F () = lim x! F (x) =. Pro ka d iterval ha b) 2Adeujme pravd podobost P (ha b)) = F (b) ; F (a): Plat sleduj c obec v ta, kterou uvedeme bez d kazu. V ta. Nech F je ez por, eklesaj c, zleva spojit re l fukce s limitami F (;) =0 F (+) = deova a R. Potom existuje jedi pravd podobost a S(A) spl uj c P { P3 takov, e pro libovol iterval ha b) P (ha b)) = F (b) ; F (a): Uka me si je t, jak dostaeme pravd podobost pro uzav e iterval. Te m eme apsat jeko limitu polootev e ch iterval, viz. (), a tak P (ha bi) = lim! P (ha b + )) = lim F (b + ) ; F (a) =F (b+ ) ; F (a) kde F (b + ) oza uje limitu zprava v bod b. Pozameejme je, e kostrukce pravd podobosti P a borelovsk ch mo i ch a p mce da ve V t je aalogick kostrukci tzv. Lebesgueovy m ry a p mce, kter odpov d speci l fukci F (x) =x aje obec e koe. Trojice (R B P) je potom po adova pravd podobost prostor. Zde trochu p edb h m a ek me si, e fukce F se az v distribu fukce. A je to pojem uiverz l v tom smyslu, e je ji mo pou t jako z klad charakteristiku pro rozd le pravd podobosti ivp padech koe i spo et R. Hed vid me, e pokud je fukce F spojit v bod a, je P (fag) =F (a + ) ; F (a) =0, eboli toto je p klad situace, kdy elemet r jev m ulovou pravd podobost. 7

8 4 Podm pravd podobost, ez vislost hod ch jev Zavede pravd podobost ho prostoru odpov daj c ho da mu hod mu pokusu, kter mu byly v ov y vahy v p edch zej c ch odstavc ch, m umo uje zav st tzv. podm pravd podobosti, tj. pravd podobosti, e astae jak hod jeva v me{li, e astal jak hod jev B takov, ep (B) > 0. Istiktiv c t me, e takov vaha m smysl, jestli e jev A je jak a jevu B z visl. Matematicky je podm pravd podobost hod ho jevu A za podm ky jevu B pro P (B) > 0 oza ea adeov a jako P (AjB) = P (A \ B) : P (B) P mo z t to deice plye, e. P (BjB) = 2. P ( jb) =0 P (jb) = 3. 0 P (AjB) pro ka d A 2S 4. A i 2S A i \ A j = i 6= j i j = 2 ::: =) P ( S i= A i jb) = P i= P (A i jb) 5. A 2S=) P ( AjB) =; P (AjB). Zuvede ch vztah vypl v, e pro xova hod jevb 2Ss P (B) > 0 je podm pravd podobost P (jb) pravd podobost a S, a tedy ( S P(jB)) je pravd podobost prostor. Nav c podm pravd podobost P (jb) jepravd podobost a me mo i mo ch v sledk pokusu a me m syst mu hod ch jev, a to a B a S\B (S\B je syst m v ech mo i tvaru A \ B, kde A prob h cel S), tj. (B S\B P(jB)) je pravd podobost prostor. Z deice podm pravd podobosti plye tzv. v ta o sobe pravd podobosti. Plat toti pro P (B) > 0 vztah P (A \ B) =P (B) P (AjB) co se d zobecit pro hod jevy B B 2 ::: B s P (B \ B 2 \\B ) > 0atvar P (B \ B 2 \B )=P (B ) P (B 2 jb ) P (B 3 jb \ B 2 ) ::: :::P (B j B \ B 2 \\B ; ) : Uva ujme y rozklad mo iy a sjedoce disjukt ch hod ch jev D D 2 ::: D (D i 2S D i \ D j = i 6= j i j = 2 ::: )sklad mi pravd podobostmi, tj. =D [ D 2 [[D P (D i ) > 0: Potom pro jak koliv hod jev A 2Sz ejm plat A = A \ =A \ [ i= 8 D i! = [ i= (A \ D i )

9 a dle P2 P (A) = X i= P (A \ D i ) : S pou it m v ty o sobe pravd podobosti dost v me P (A) = X i= P (D i ) P (AjD i ) co se v teorii pravd podobosti az v v tou o pl pravd podobosti. Jestli e d le p edpokl d me, e hod jevy A B 2Smaj klad pravd podobosti P (A) > 0 P (B) > 0, tak podle v ty o sobe pravd podobost je ale t P (A \ B) =P (B) P (AjB) P (A \ B) =P (B \ A) =P (A) P (BjA): Odtud pak m me tzv. Bayes v vzorec P (BjA) = P (B) P (AjB) : P (A) P itom, pokud je i P ( B) > 0, m eme s pomoc v ty o pl pravd podobosti vyj d it P (A) =P (AjB)P (B)+P (Aj B)P ( B): Zobec m Bayesovy formule pro libovol disjukt rozklad = D [D 2 [[D (D i 2 S D i \ D j = P (D i ) > 0 i = 2 ::: ) dost v me pro ka d i = 2 :::, p i P (A) > 0, P (D i ja) = P (D i) P (AjD i ) P (A) = P (D i ) P (AjD i ) P j= P (D j ) P (AjD j ) : Teto vztah az v me zobec m Bayesov m vzorcem. Jedotliv mo iy rozkladu D D 2 ::: D p edstavuj pro s jevy, jejich pravd podobost za ur it ch podm ek chceme zjistit (ap klad stav za ze a z klad pozorova ch v j ch projev, emoc pacieta a z klad v sledk test ). Dost v me tak vlast "hypot zy", i s jejich pravd podobostmi podm mi t m, co jsme zjistili pozorov m. Budeme az vat pravd podobosti P (D i ) aprior mi pravd podobostmi hypot z, P (AjD i ) pravd podobostmi jevu A, kdy plat hypot za D i apravd podobost P (D i ja) aposterior pravd podobost hypot zy D i, kdy v hod m pokusu astal jev A. Bayes v vzorec je pou v p edev m ve statistick m rozhodov, kdy p edem ez me jak hypot za skute plat a prov d me jak hod pokus odpov daj c ez m mu pravd podobost mu prostoru ( S P(jD i )). Po provede hod ho pokusu, kdy astal jev A, rozhodeme, e plat ta hypot za, pro kterou je aposterior pravd podobost ejv t. Teto postup, kter se t az v Bayesovo rozhodovac pravidlo, je vyu v v statistick aal ze dat a je i z kladem pro kostrukci pravd podobost ch expert ch syst m. 9

10 Nez vislost hod ch jev. k me, e dva hod jevy A a B jsou ez visl, kdy P (A \ B) =P (A) P (B): Odtud bezprost ed vypl v, e kdy P (A) 6= 0 P (B) 6= 0a A a B jsou ez visl, tak P (AjB) =P (A) P (BjA) =P (B) eboli pro ez visl jevy A a B iformace o tom, e astal jede z ich ezm pravd podobost druh ho jevu. Plat potom sleduj c jedoduch vztahy. Ka d hod jev A 2Sje ez visl a a. 2. N hod jeva 2Sje ez visl a sob pr v tehdy,kdy P (A) =0eboP (A) =. 3. Jsou{li hod jevy A B 2Sez visl, potom t a) A B jsou ez visl, b) A B jsou ez visl, c) A B jsou ez visl. Uk eme platost vztahu 3a), pak u stej m zp sobem lze dok zat i ostat. Proto e A \ B = B ; A = B ; (A \ B) a proto e je (A \ B) B, tak P ( A\B) =P (B) ; P (A \ B) =P (B) ; P (A) P (B) =P (B) ( ; P (A)) = P (B) P ( A): ekeme, e hod jevy A A 2 ::: A jsou vz jem ez visl, kdy pro ka d k = 2 :::, i <i 2 < <i k plat P (A i \ A i2 \\A ik )=P (A i ) P (A i2 ) P (A ik ) tj. kdy libovol podsyst m syst mu fa A 2 ::: A g tvo vz jem ez visl jevy. V sleduj c m p klad si uk eme, e k vz jem ez vislosti jev esta je to, aby ka d dva jevy byly ez visl. P klad. Nech = f!! 2! 3! 4 g, S = 2 a P je d a pomoc pravd podobost elemet r ch jev p! = p!2 = p!3 = p!4 =.Uva ujme sleduj c t i hod jevy: 4 Potom A = f!! 2 g B = f!! 3 g C = f!! 4 g : a P (A) =P (B) =P (C) = 2 P (A \ B) = 4 P (A \ C) = 4 P (B \ C) = 4 tj. dvojice jev (A B) (A C) (B C) je ka d dvojic ez visl ch hod ch jev, ale p esto P (A \ B \ C) =P (f! g)= 4 6= = P (A) P (B) P (C): 8 0

11 Na z v r t to sti si uk eme p klad, e je z rovosti P (A \ B \ C) =P (A) P (B) P (C) ijak eplye, e jevy A B C jsou vz jem ez visl. P klad 2. Nech =f! =(!! 2 ):!! 2 = 2 ::: 6g tj. elemet r jevy jsou dvojice sestave z sel a 6. Je jich tedy celkem 36. Nech S je syst m v ech podmo i a pravd podobost je deov a z pravd podobost elemet r ch jev, kter ech jsou v echy stej a rovy p! =.Uva ujme sleduj c 36 t i hod jevy: A = f! :! libovol! 2 = 2 ebo 5g B = f! :! libovol! 2 =4 5 ebo 6g C = f! :! +! 2 =9g : Potom z ejm P (A) = P (B) = P (C) = 2 9 elemet r jev (!! 2 )=(4 5), tak a proto e jev A \ B \ C obsahuje jedi P (A \ B \ C) = 36 = P (A) P (B) P (C): Ale P (A \ C) = 36 P (B \ C) = 2 6= P (A) P (C) = 8 6= P (B) P (C) = 8 : 5 Dodatek: Dv "tradi deice" pravd podobosti. Empirick, etost. P edstavme si, e za st le stej ch podm ek opakujeme (ez visle) tet pokus {kr t a sledujeme etost jevu A, ap. "a kostce padlo 6" p i opakova ch hodech kostkou. P i rostouc m bychom zjistili, e etost jevu A (oza me ji (A)) roste tak, e pom r (A)=A koverguje k ur it hodot v h0 i. Toto slo (p(a), ek me) pova ujeme pak za pravd podobost jevu A. Nap klad tu me, e p( a kostce) =. Tato deice je tedy op ea o p edpoklad existece limity, kterou 6 ov em samot mi pokusy em eme prok zat. A av c, je pou itel je pro d j ur it ho typu (mohokr t se opakuj c za stej ch podm ek). Na druh stra, uvid me, e z a obec deice pravd podobosti tato kovergece relativ ch etost v t chto speci l ch p padech plye (viz z ko velk ch sel). Odtud d le vypl v d vod, pro relativ etost je v t chto p padech rozum m odhadem pravd podobosti.

12 2. 'Klasick ' pravd podobost. Tato deice je pou itel v p pad, kdy situace je pops a koe m po tem M r z ch v sled (elemet r ch jev!), z ich ka d je "stej mo ". Nech s zaj m pravd podobost jevu A. Oza me M(A) po et t ch el. v sledk!, kter jsou jevu A "p ziv ", tj. takov, e! 2 A. Pak deujeme pravd podobost jevu A jako P (A) =M(A)=M: Nap klad, ech je v tombole 00 los, z ich 5 vyhr v. Koupil jsem 3 losy. Jak je pravd podobost jevu A, e ai jede z ich ic evyhraje? Jako elemet r jevy uva ujme v echy mo trojice los (kter jsem mohl koupit), 00 je jich M =.Takov ch trojic, kter eobsahuj ai jede vyhr vaj c los, je M(A) = P itom ka d trojice m la stejou aci, e ji koup m. Tak e P (A) = = =0:856 : Tato deice sice u ite vede k p m mu v po tu pravd podobosti, ale je op t pou itel je pro ur it typ p klad. 2

13 II N hod veli iy a hod vektory 6 N hod veli ia Volbou pravd podobost ho prostoru si vytv me z klad pro modelov hod chd j. Syst m elemet r ch jev a syst m hod ch jev v ak ejsou jedoza ur ey a je mo o je volit r z m zp sobem. Sa me se vybrat syst m co ejjedodu a p itom takov, kter situaci dostate vystihe. Proto e c lem je matematick popis hod ch jev, tak se p edev m sa me popis "kvatikovat", tj. vyj d it pomoc (re l ch) sel. Nap klad, m sto jev { odpov d v aket "ao", "e" pou ijeme "", "0", m sto jevu "kvalita v robku" zavedeme oza e,2,3,... pro t dy kvality, a pod. asto je samoz ejm u z klad prostor jev st R a emus me jej trasformovat (v sledky m e, doba bezporuchov ho provozu, po et v robk za sm u,...). Prove me formalizaci zat m ep es my leky p ev st pravd podobost prostor a re lou p mku R. M jme jak pravd podobost prostor ( A P). Deice. N hodou veli iou budeme az vat zobraze X : ;! R, kter je av c m itel, tj. vzor ka d borelovsk mo iy je prvkem jevov ho pole A (symbolicky: 8 B 2Bje X ; (B) 2A). N hodou veli iu si tedy ejl pe p edstav me jako hod pokus s v sledky v (R B) { kter je obrazem jak ho hod ho pokusu a p vod m prostoru jev. Je v hod umericky pracovat s takovouto selou p edstavou hod ch d j (mo ost geeralizace, v po tu r z ch sel ch charakteristik, uikace popisu v bec). N hod veli ia se vyza uje rozd le m pravd podobosti a (R B), co e ic ji ho e p vod pravd podobost a ( A) p evede a (R B). Budeme se sa- it zp sob popisu rozd le pravd podobosti uikovat. Rozd le pravd podobosti hod veli iy lze ekvivalet popsat kolika zp soby. Nejjedodu, uiverz l a sou as ej zor j je u it distribu fukce hod veli iy. Deice. Distribu fukc hod veli iy X budeme az vat fukci F X (X) =P (X <x): Distribu fukce v bod x je tedy pravd podobost jevu, e hodota hod veli- iy X je me e slo x. Distribu fukce m kolik d le it ch vlastost : (i) 0 F (x) pro v echa re l x. (ii) F je eklesaj c fukce, tj. F (x ) F (x 2 ) pro ka d x <x 2. (iii) lim F (x) =0=F (;) lim x!; F (x) ==F (+). x! (iv) F je zleva spojit. Vlastost (i) vypl v z faktu, e pravd podobost libovol ho jevu je v h0 i. Moot ost distribu fukce odvod me jedoduchou vahou. Pro x <x 2 je F X (x 2 )=P (X <x 2 )=P (X <x )+P (x X <x 2 ) P (X <x )=F X (x ) 3

14 ebo pravd podobost je v dy ez por. Vlastosti (iii), (iv) ji vy aduj hlub zalost chov pravd podobosti, a ebudeme je proto zde ukazovat. Uvede vlastosti pl charakterizuj distribu fukce. Tvrze. Kdy F je fukce s vlastostmi (i), (ii), (iii), (iv), pak existuje hod veli ia X tak, e F je distribu fukc rozd le t to veli iy. N kdy, aby edo lo k m lce, budeme rozd le pravd podobosti pro hodou veli- iu X oza ovat jako P X a budeme j m ch pat pravd podobost a borelovsk ch mo- i ch deovaou vztahem P X (B) =P (X 2 B). Uv domme si, e distribu fukce a rozd le prad podobosti esou ekvivalet iformaci o hod veli i. Co do rozd le pravd podobosti jsou v za dva typy hod ch veli i. Prv m jsou hod veli iy s diskr t m rozd le m. To jsou takov hod veli iy, pro kter existuje ejv e spo et bod x j tak, e P (X = x j ) > 0 a samoz ejm P j P (X = x j ) =. Distribu fukce hod veli iy s diskr t m rozd le m je skokovitou fukc. Skoky ast vaj ve v ech t chto bodech x j, velikost skoku je pr v P (X = x j ). P klady diskr t ch rozd le P klad : Nech hod veli ia X ab v pouze dvou hodot 0 a a to tak, e hodoty ab v s pravd podobost p (0 < p < ) a hodoty 0 s pravd podobost q =; p. Rozd le takov to hod veli iy se az v 0 { rozd le s parametrem p ( kdy t alterativ i Beroulliovo rozd le ), oza me je Alt(p). P klad 2: Uva ujme hodou veli iu X, kter ab v hodotx =0 2 :::, a to tak, e P (X = x) =p x ( ; p). Parametr p 2 (0 ). Takov to rozd le se az v geometrick a budeme je oza ovat Ge(p). M e popisovat ap klad po et "" p ed prv "0" v poslouposti vz jem ez visle opakova ch realizac alterativ hod veli iy s parametrem p. P klad 3: Nech hod veli ia X ab v hodot 0 ::: M s pravd podobostmi M P (X = x) = p x q M;x pro ka d x = 0 ::: M a q = ; p 0 < p <. Toto x rozd le se az v rozd le m biomick m s parametrem p, za me je Bi(M p). Takovouto hodou veli iu si m eme p edstavit jako X = P M j= Y j, kde Y j jsou vz jem ez visl veli iy s alterativ m rozd le m Alt(p). Neboli X je po et "" z M vz jem ez visl ch "ulajedi kov ch" pokus. P klad 4: Nech hod veli ia X ab v hodot 0 2 ::: s pravd podobostmi ; x P (X = x) = e pro ka d x = 0 2 :::. Takov to rozd le se az v Poissoovo x! rozd le s parametrem >0. Za it je budeme Poiss(). Druh m v za m typem jsou hod veli iy se spojit m rozd le m. Jsou to takov hod veli iy, pro existuje ez por re l fukce f X takov, e distribu fukci F X lze zapsat ve tvaru F X (x) = Z x ; f X(y) dy pro ka d re l x: () 4

15 Fukce f X se az v hustotou rozd le pravd podobosti. Vztah () je vhod pou vat pro odvoze distribu fukce k zada hustot! Uv domme si, e ve v ech bodech, kde existuje derivace distribu fukce F X, plat vztah df X (x) dx = f X (x). Takto zase odvod me hustotu z distribu fukce. Z deice hod veli iy sespojit m rozd le m je patr, e k zad jej ho rozd le pl posta zadat hustotu f X. Ze vztahu () d le plye, e hustota spl uje R ; f X (x)dx =. Distribu fukce hod veli iy se spojit m rozd le m je spojit, co je zes le obec vlastosti distribu fukce (iv). Z toho tak plye, e pravd podobost toho, e hod veli ia ab v hodot v jak m itervalu (a b), ez vis a tom, zda kraj body a b do itervalu pat ebo e: P (a X b) =P (a <X b) =P (a X <b)= = P (a <X<b)= Z b a f X (t) dt: i jiak, pravd podobost jedoho (ebo koe, ebo i spo et moha bod ) je 0 pro spojitou. veli iu. P klady spojit ch rozd le P klad : Nech hod veli ia X m hustotu f(x) = ( b;a pro a<x<b 0 pro x a ebo x b: O takov hod veli i ekeme, e m rovom r spojit rozd le a itervalu (a b) a budeme je oza ovat R(a b). Toto rozd le se vyza uje distribu fukc F (x) = 8 >< >: 0 x a x;a b;a a<x<b x b: P klad 2: Nech hod veli ia X m hustotu f(x) = p 2 exp ; 2 (x;) 2, pak 2 ekeme, e X m orm l (Gaussovo) rozd le se st ed hodotou a rozptylem 2. Toto rozd le budeme oza ovat N( 2 ). Distribu fukci orm l ho rozd le elze zapsat dou explicit formul a lze ji je p ibli odhadout umerickou itegrac. Proto existuj tabulky, kde jsou hodoty distribu fukce velice p es tabelov y. V bal c ch statistick ch program pak existuj zp soby, jak apo st hodotu distribu fukce se zadaou p esost. P klad 3: Nech hod veli ia X m hustotu f(x) =, pak budeme kat, 2 +(x;) 2 e tato hod veli ia X m Cauchyovo rozd le s parametry a. Pro Cauchyovo rozd le lze distribu fukci vyj d it ve tvaru F (x) = + 2 arcta x;. P klad 4: Nech.v. X m hustotu f(x) = ce ;cx pro x 0, f(x) = 0 pro x < 0, s parametrem c > 0. Tomuto rozd le k me expoeci l, oza me je Exp(c). 5

16 Distribu fukce (odvoze p mo pomoc ()) je F (x) =; e ;cx pro x 0, F (x) =0 pro x<0. P klad 5: Zobec m je hod veli ia s rozd le m Weibulla, kter m distribu fukci F (x) =; exp(;cx d ) pro x 0 =0 pro x < 0 s parametry c d > 0. Hustota je pak 0 pro x<0aprox 0 dostaeme derivac F (x) f(x) =c d x d; exp(;cx d ): 7 St ed hodota a momety hod veli iy Rozlo e pravd podobosti d v plou iformaci o chov hod veli iy. P i vyhodocov pokus a sledov hod ch jev v ak asto vysta me se zalost je kter ch zvl t ch charakteristik. Nap klad st ed hodota hod veli iy vyjad uje jistou pr m rou hodotu. Deice. St ed hodotou hod veli iy X budeme az vat obec itegr l E(X) = R ; xdf X (x): P edstav me{li si tedy st ed hodotu geometricky, zjist me, e jde o t i t bod re l p mky, p i em hmotost bod je ur ea pravd podobost P X. Pro dva ej ast ji se vyskytuj c typy rozd le hod veli iy z sk me sleduj c vztahy: St ed hodota diskr t hod veli iy m tvar sou tu p es v echy hodoty x j, kter ch.v. X m e ab t s eulovou pravd podobost : E(X) = X j x j P (X = x j ): St ed hodota hod veli ia se spojit m rozd le m ashustotou f X m tvar Z + E(X) = xf X(x) dx: ; St ed hodota hod veli iy a rozd l od distribu fukce emus v dy existovat. Jako p klad uve me hodou veli iu ab vaj c pouze hodot 2 pro = 2 ::: s pravd podobostmi 2 ;, ebo hodou veli iu scauchyho rozd le m. St ed hodota je zalo ea a obec m itegr lu, a proto p ej m i jeho z klad vlastost. Vezmeme{li lie r kombiaci koe moha hod ch veli i, pak st ed hodota t to lie r kombiace je stej lie r kombiace st ed ch hodot. Tud, kdy Y = a 0 + a X + a 2 X a k X k kde a a 2 ::: a k jsou re l sla a X X 2 ::: X k jsou hod veli iy, potom E(Y )=a 0 + a E(X )+a 2 E(X 2 )++ a k E(X k ): Z klad mi charakteristikami zalo e mi a st ed hodot jsou momety. Jed se vlast o st ed hodotu (pokud existuje) z trasformace hod veli iy. Mometm obec tvar E[h(X)], kde h(x) je jak m itel re l fukce. 6

17 Pro diskr t hodou veli iu dostaeme E[h(X)] = P x j h(x j ) P (X = x j ), pro hodou veli iu se spojit m rozd le m je E[h(x)] = R + ; h(x) f(x) dx. Speci l volbou trasforma fukce dost v me r-t obec momet 0 r(x) =E(X r )a r-t cetr l momet r (X) =E f[x ; E(X)] r g : Oba typy momet jsou vz jem jedoza p evoditel. Odvo me si oba p evody. Pov im me si, e! rx [X ; E(X)] r r = (;) j X r;j [E(X)] j : j Odtud dost v me r (X) = rx j=0 j=0 (;) j r j Opa p evodov vztah je d sledkem rozpisu Odtud jsou X r = f[x ; E(X)] + E(X)g r = 0 r(x) = rx j=0 r j!! 0 r;j(x)[e(x)] j : rx j=0! r [X ; E(X)] r;j [E(X)] j : j r;j (X)[E(X)] j : Krom st ed hodoty E(X) = 0 (X), eju va j m mometem je 2 (X) =E(X 2 ) ; [E(X)] 2 kter se az v rozptyl hod veli iy X, ivariace a za se tak var(x) ebo D 2 (X), ebo i 2 (X). Odmocia z rozptylu je pak (X) {sm rodat odchylka. Op t, proto e jsou to charakteristiky zalo e a itegr lu, emus existovat (ap. zovu pro Cauchyho rozd le ). Z dal ch momet se je t asto u vaj cetr l momety 3 (X) a 4 (X). ikmost rozd le se posuzuje koecietem ikmosti (skewess) 3 (X) = 3(X) [(X)] 3, kter zachycuje odchylky rozd le od symetrie kolem st ed hodoty E(X). Je{li rozd le prot hlej doleva, je koeciet 3 (X) z por a je{li rozd le prot hlej doprava, pak koeciet 3 (X) ab v klad ch hodot. pi atost rozd le popisuje koeciet pi atosti (excess, kurtosis) 4 (X) = 4(X) [(X)] 4 ; 3. Teto koeciet porov v p sp vek vzd le ch hodot rozd le hod veli iy s p padem orm l ho rozd le. Pokud hod veli ia m sama orm l rozd le, pak 4 (X) =0. Cvi e : Spo t te EX a VarXpro tato rozd le : Alterativ, biomick, Poissoovo, rovom r a (a b), orm l ( 2 ), expoeci l Exp(c). Vyu ijte deice st ed hodoty a vztahu varx = E(X 2 ) ; (EX) 2. 7

18 7. Mometov vytvo uj c fukce M jme hodou veli iu X diskr t ho typu, kter ab v hodot 0,,2,...,spravd podobostmi P (X = i) =p i. Deujme mometovou vytvo uj c fukci jako g(t) = X i=0 Tato fukce existuje v dy alespo pro jtj <, pro veli iy ab vaj c je koe hodot (ap. alterativ, biomick veli ia) existuje g(t) pro ka d re l t. V im me si sleduj c ch vlastost t to fukce: g() = P i p i = p i t i : prv derivace podle t je g 0 (t) = P i=0 ip i t i;, tak e g 0 () = P i ip i = E(X) druh derivace je g"(t) = P i(i ; )p i t i;2 tak e g"() = P i 2 p i ; P ip i = 2 ;. Z toho dostaeme, e var(x) =g"() + g 0 () ; (g 0 ()) 2 : Podob m zp sobem bychom odvodili i v po et momet vy ch d. Cvi e : Pomoc mometov vytvo uj c fukce spo t te st ed hodotu a rozptyl pro biomick, Poissoovo a geometrick rozd le. 8 Kvatily Distribu fukce pl charakterizuje rozd le pravd podobosti hod veli iy. asto je v ak t eba e it lohu al zt bod x tak, aby P (X < x) byla rova ur it hodot 2 (0 ), tj. F X (x) = pro p edem zada. Z tohoto d vodu se zav d kvatilov fukce, je je zobec m iverz fukce k F X. Probl m je s body, kde fukce F X m skok, a tak s body, kde F (x) eroste, ili iverz fukce by ebyla jedoza. Deice. M jme hodou veli iu X a distribu fukci F X pak kvatilovou fukc azveme fukci F X ; () = if fx j F X (x) g pro 0 <<. Jiak e eo F X ; () jetakov bod, e F X F X ; () aproka d x>f X ; () plat F X (x). Pokud F X je spojit fukce, pak F X F ; X () = pro ka d 0 <<. Hodota kvatilov fukce v bod, tj. F ; X (), je az v a kvatil rozd le hod veli iy a hladi ebo -kvatil a b v za e t x (u v ebo i jiak). Kvatily jsou velmi d le it, a proto existuje velk mo stv tabulek, kde jsou kvatily tabelov y. Samoz ejm ve statistick ch programech jsou v dy i procedury, je dok kvatily vypo tat, alespo pro d le it rozd le. Pro spojitou veli iu s rostouc F (x) m eme zkusit kvatil u vypo st p mo z rovice F (u )=. N kter kvatily maj speci l zvy: F X ; (0:5) { medi, med(x) { vlast ud v "st ed" rozd le v tom smyslu, e P (X < med(x)) atak P (X >med(x)). 2 2 F X ; (0:25) { dol kvartil, 8

19 F ; X (0:75) { hor kvartil F ; F ; X (k=0) { k-t decil pro k = 2 ::: 9 X (k=00) { k-t percetil pro k = 2 ::: 99. Mezikvartilov rozp t F ; X (0:75);F ; X (0:25) slou jako dal m ra rozpt leosti hod veli iy. Jde o charakteristiku, kter je v z sad odli od sm rodat odchylky a m kter v hod vlastosti. Nap klad a rozd l od sm rodat odchylky existuje v dy. Cvi e : Spo t te medi a mezikvartilov rozp t pro expoeci l rozd l Exp(c). 9 Charakteristick fukce Rozd le pravd podobosti hod veli iy lze pl charakterizovat je t jed m zp sobem. Deice. Pro hodou veli iu X az v me fukci X(t) =E [exp(itx)] charakteristickou fukc hod veli iy X (i je zde imagi r jedotka). P ipome me, e pro diskr t hodou veli iu dost v me X(t) = X x j exp(itx j ) P (X = x j ) a pro hodou veli iu sespojit m rozd le m a hustotou f X je X(t) = Z + ; exp(itx) f X (x) dx: V ta. Rozd le pravd podobosti hod veli iy je jedoza ur eo jej charakteristickou fukc. D le, i z charakteristick fukce m eme jej m derivov m spo st momety hod veli iy: Tvrze. Nech hod veli ia X m prv ch obec ch momet 0 r(x). Potom existuje prv ch derivac charakteristick fukce X aplat d r X(t) r = ::: : Nav c plat, e kde dt r t=0 = i r 0 r(x) X(t) = X r=0 (it) r 0 r! r(x)+z (t) Z (t) lim t!0 t =0: Charakteristick fukce je velmi u ite i pro limit vahy o hod veli i, kter budou studov y pozd ji. Zde uve me je jedu v tu: 9

20 V ta. Nech F F 2 :::jsou distribu fukce a 2 :::odpov daj c charakteristick fukce, pak je ekvivalet : a) F (x) ;! F (x) v ka d m bod spojitosti F a F je distribu fukce. b) (t) ;! (t) pro v echa re l t a je spojit v bod t =0. P itom je charakteristick fukce p slu k distribu fukci F. Zb v je t uv st charakteristick fukce pro kter speci l rozd le. P klady charakteristick ch fukc P klad : Nech hod veli ia X m degeerova rozd le (tj. soust ed do jedoho bodu) X = s pravd podobost. Pak X(t) =e it : P klad 2: Nech hod veli ia X m 0- rozd le s parametrem p, potom je X(t) =pe it + q: P klad 3: rozptylem 2, pak jej charakteristick fukce m tvar Nech hod veli ia X m orm l rozd le se st ed hodotou a X(t) =e it; 2 t 2 2 : P klad 4: (a b), pak jej charakteristick fukce je tvaru Nech hod veli ia X m spojit rovom r rozd le a itervalu X(t) = i (b ; a)t e ita ; e itb : Ve speci l m p pad, kdy a = ;b a b>0, dost v me X(t) = si bt : bt P klad 5: jej charakteristick fukce je tvaru Nech hod veli ia X m Cauchyho rozd le s parametry a, potom X(t) =e it;jtj : P klad 6: Pro expoeci l rozd le Exp(c) je charakteristick fukce X(t) = Z 0 e itx ce ;cx dx = Z 0 ce x(it;c) dx = c c ; it : 20