14. B o d o v é o d h a d y p a r a m e t r ů

Transkript

1 4. B o d o v é o d h a d y p a r a m e t r ů Na základě hodot áhodého výběru z rozděleí určitého typu odhadujeme parametry tohoto rozděleí, tak aby co ejlépe odpovídaly hodotám výběru. Formulujme tudíž úlohu, ve které hledáme odhady ezámých parametrů rozděleí. 4.. Formulace úlohy. Předpokládáme, že je dá áhodý výběr X, X 2,..., X z rozděleí s hustotou f(x, θ, θ 2,..., θ m ), či pravděpodobostí fukcí p(x, θ, θ 2,..., θ m ), kde θ = (θ, θ 2,..., θ m ) jsou parametry rozděleí. Na základě hodot áhodého výběru odhadujeme parametry rozděleí tak, aby co ejlépe odpovídaly hodotám áhodého výběru. Odhad provádíme pomocí vhodě zvoleé fukce áhodého výběru, statistiky τ, která je odhadem parametrů θ či jejich fukce γ(θ). O takové úloze mluvíme jako o bodovém odhadu parametrů. Příklad: V případě ormálího rozděleí, kdy X i N(µ; σ 2 ), je θ = µ a θ 2 = σ 2. Pro expoeciálí rozděleí, kde X i Exp(A; δ), je třeba θ = A + δ a θ 2 = δ, eboť je středí hodota rova A + δ a rozptyl je δ Testováí vhodosti a kvality odhadů.. Nestraost odhadů. Statistika τ je estraým odhadem fukce parametrů γ(θ), jestliže je E(τ) = γ(θ). Příklad: Je-li X, X 2,..., X áhodý výběr z rozděleí, pro které je E(X i ) = µ, pak je statistika výběrový průměr τ = X = X i estraým odhadem středí hodoty µ. Je-li rozptyl D(X i ) = σ 2, pak je statistika výběrový rozptyl estraým odhadem rozptylu σ 2. τ = S 2 = (X i X) 2 Pozámka: Pro středí hodotu statistiky τ je ěkdy splěa slabší podmíka lim E(τ) = γ(θ). Takový odhad azýváme asymptoticky estraý. Příklad: Statistika τ = s 2 = (X i X) 2 je asymptoticky estraým odhadem rozptylu σ 2, eboť je E(s 2 ) = σ2. 2. Kozistetost odhadu. Statistika τ je kozistetím odhadem fukce parametrů γ(θ), jestliže platí lim P ( τ γ(θ) < ε) = pro každé ε > 0. 82

2 Pozámka: Z Čebyševovy erovosti vyplývá, že estraé odhady s koečým rozptylem jsou kozistetí. Je totiž E(τ) = γ(θ) a P ( τ γ(θ) < ε) D(τ) ε 2. Příklad: Je-li áhodý výběr výběrem z ormálího rozděleí N(µ; σ 2 ), pak pro výběrový průměr platí: E(τ) = E(X) = µ a D(τ) = D(X) = σ2. Je tedy výběrový průměr X estraým a kozistetím odhadem středí hodoty µ. Pro výběrový rozptyl S 2 je E(S 2 ) = σ 2 a D(S 2 ) = ( ) ( 3)σ4 µ 4, 3 je tedy statistika S 2 estraým a kozistetím odhadem rozptylu σ Vydatost odhadu. Nestraý odhad τ fukce parametrů γ(θ), pro který je rozptyl D(τ) = E[(τ γ(θ)) 2 ] miimálí, se azývá ejlepší estraý odhad. Metody hledáí bodových odhadů Metoda maximálí věrohodosti je založea a vlastostech sdružeé hustoty či pravděpodobostí fukce. Je-li X, X 2,..., X z rozděleí s hustotou, či pravděpodobostí fukcí f(x, θ, θ 2,..., θ m ), pak má áhodý vektor (X, X 2,..., X ) sdružeou hustotu, či pravděpodobostí fukci Tuto fukci ozačujeme f(x, θ, θ 2,..., θ m ).f(x 2, θ, θ 2,..., θ m )... f(x, θ, θ 2,..., θ m ). ( ) L(x, x 2,..., x, θ) a azýváme ji věrohodostí fukcí. Hodotu ˆθ, pro kterou je věrohodostí fukce maximálí, azýváme maximálě věrohodým odhadem parametrů θ. Protože má v řadě případů hustota expoeciálí průběh používáme místo věrohodostí fukce L(x, θ) její logaritmus. Maximálě věrohodý odhad ˆθ je řešeím soustavy věrohodostích rovic L(x, x 2,..., x, θ) θ k = 0 l L(x, x 2,..., x, θ) θ k = 0, k m. Odhadujeme-li fukci γ(θ), pak je jejím maximálě věrohodým odhadem fukce γ(ˆθ) Příklad: Normálí rozděleí. Pro ormálí rozděleí N(µ; σ 2 ) je hustota rova f(x) = σ (x µ) 2 2π e 2σ 2 83

3 a tedy věrohodostí fukce je rova L(x, x 2,..., x, µ, σ 2 ) = (σ 2π) e (x i µ) 2 2σ 2 Pro logaritmus věrohodostí fukce l L tedy platí: l L(x, x 2,..., x, µ, σ 2 ) = 2 l (σ2 ) l ( 2π) 2σ 2 Potom je soustava věrohodostích rovic rova: l L µ = 2σ 2 2 (x i µ)( ) = 0, (x i µ) 2 Z prví rovice dostaeme l L σ 2 = 2σ 2 + 2σ 4 (x i µ) 2 = 0. Po dosazeí do druhé rovice dostaeme (x i µ) = 0 ˆµ = X i = X. σ 2 = (X i µ) 2 ˆσ 2 = (X i X) 2. Všimeme si, že odhad středí hodoty µ je estraý a kozistetí odhad a odhad rozptylu σ 2 je asymptoticky estraý Příklad: Poissoovo rozděleí P o(λ) má pravděpodobostí fukci p(k) = λk k! e λ, k = 0,, 2,... a E(X i ) = D(X i ) = λ. Je tedy věrohodostí fukce rova a její logaritmus je rove L(k, k 2,..., k, λ) = λk +k k k!k 2!... k e λ l L(k, k 2,..., k, λ) = λ + (k + k k ) l λ l (k!k 2!... k!). Odtud dostaeme věrohodostí rovici l L λ = + λ (k + k k ) = 0 λ = (k + k k ). Maximálě věrohodý odhad parametru λ je rove ˆλ = X i = X. 84

4 Protože je E(X) = λ a D(X) = λ je získaý odhad estraý a kozistetí Příklad: Expoeciálí rozděleí Exp(0; δ) má hustotu f(x) = δ e x δ, x > 0, pro které je E(X i ) = δ. Věrohodostí fukce je rova a její logaritmus je rove L(x, x 2,..., x, δ) = δ e δ x i l L(x, x 2,..., x, δ) = l δ δ Odtud dostaeme věrohodostí rovici x i. l L δ = δ + δ 2 x i = 0. Maximálě věrohodý odhad parametru δ je Teto odhad je estraý a kozistetí. ˆδ = X i = X Příklad: Expoeciálí rozděleí Exp(A; δ) má hustotu f(x) = x A e δ, x > A, δ pro které je E(X i ) = A + δ a D(X i ) = δ. Věrohodostí fukce je rova a její logaritmus je rove L(x, x 2,..., x, A, δ) = δ e δ (x i A) l L(x, x 2,..., x, A, δ) = l δ (x i A). δ Musí být X i A, i a tudíž fukce l L má maximálí hodotu pro  = mi{x, X 2,..., X }. Věrohodostí rovice pro parametr δ je l L δ = δ + δ 2 (x i A) = 0. Maximálě věrohodý odhad parametru δ je ˆδ = (X i Â) = X Â. 85

5 Protože je E(Â) = A + δ eí teto odhad estraý, je vychýleý, asymptoticky estraý, ale je kozistetí. Dále je E(ˆδ) = δ, tudíž je teto odhad rověž asymptoticky estraý Příklad: Rovoměré rozděleí v itervalu (µ h, µ + h) má hustotu f(x) = 2h, µ h < x < µ + h, kde E(X i ) = µ a D(X i ) = h2 3. Věrohodostí fukce je a její logaritmus je rove L(x, x 2,..., x, µ, h) = (2h), µ h < x i < µ + h l L(x, x 2,..., x, µ, h) = l (2h) Tato fukce má maximálí hodotu pro miimálí volbu parametru h. Je tedy maximálě věrohodý odhad parametru h rove ĥ = 2 (max{x i; i } mi{x i ; i }). Pro maximálě věrohodý odhad středí hodoty dostaeme ˆµ = 2 (max{x i; i } + mi{x i ; i }). Z rozděleí uspořádaého výběru dostaeme, že E(ĥ) = h + a E(ˆµ) = µ. Odhad ˆµ je estraý, odhad ĥ je asymptoticky estraý a oba jsou kozistetí. Metoda mometů je založea a rovosti výběrových mometů a mometů rozděleí Defiice: Je-li X, X 2,..., X áhodý výběr, pak defiujeme k-tý výběrový momet jako M k = Xi k, k a k-tý cetrálí výběrový momet jako i M k = (X i X) k, k. Pokud má rozděleí, ze kterého provádíme áhodý výběr, parametry θ, θ 2,..., θ m, pak jejich odhad θ, θ 2,..., θ m určíme z rovic kde µ k jsou obecé momety rozděleí. M k = µ k, k m, 86

6 Pozámka: Nejčastěji používáme prví dva momety, pro které platí: M = X i = X a M 2 = Xi Příklad: Biomické rozděleí Bi(, p) má středí hodotu E(X i ) = p a rozptyl D(X i ) = p( p). Odhad parametru p určíme z rovice p = M = X i p = 2 X i = X. Protože je je odhad p estraý a kozistetí. E(p ) = 2.p = p a D(p ) = p( p) Příklad: Normálí rozděleí N(µ; σ 2 ). Pro ormálí rozděleí je E(X i ) = µ, D(X i ) = σ 2 a E(X 2 i ) = σ2 + µ 2. Odhady parametrů µ a σ 2 dostaeme z rovic tedy µ = M = X, σ 2 + µ 2 = M 2 = Xi 2, µ = X a σ 2 = Xi 2 (X) 2. Odhady jsou shodé s maximálě věrohodými odhady z odstavce Příklad: Expoeciálí rozděleí Exp(0, δ) má středí hodotu E(X i ) = δ a tudíž odhad parametru δ získáme z rovice M = µ X i = X = δ, tedy odhadem parametru δ je hodota δ = X. I teto odhad je shodý s maximálě věrohodým odhadem ˆδ z odstavce Příklad: Expoeciálí rozděleí Exp(A, δ) Má středí hodotu E(X i ) = A + δ a rozptyl D(X i ) = δ 2. Odhady parametrů rozděleí získáme z rovic tedy jejichž řešeím dostaeme δ = X = A + δ, M = µ a M 2 = µ 2, Xi 2 (X)2 a Xi 2 = δ 2 + (A + δ) 2, A = X 87 Xi 2 (X)2.

7 Všimeme si, že jsme získali jié odhady ež jsou maximálě věrohodé odhady z odstavce Příklad: Rovoměré rozděleí v itervalu (µ h, µ+h) má středí hodotu E(X i ) = µ a roztyl D(X i ) = h2 3. Pro odhady parametrů µ a h dostaeme rovice M = µ a M 2 = µ 2 + h2 3. Jejich řešeím dostaeme pro odhady vyjádřeí ( µ = X a h = 3 Xi ), 2 (X)2 což jsou hodoty odlišé od maximálě věrohodých odhadů z odstavce