Oct 19th Charles University in Prague, Faculty of Mathematics and Physics. Multidimensional estimators. Základní pojmy.

Transkript

1 Charles University in Prague, Faculty of Mathematics and Physics Oct 19th 2009

2 Influence Function Stejné jako pro jednorozměrný případ až na Θ R p. Influence Function IF (x; T, F) = lim h 0 T [(1 h)f + h x ] T [F] h ve všech x X, pro které tato limita existuje. Za podmínek regularity platí: IF (x; T, F)dF(x) = 0.

3 Další vlastnosti Za platnosti dalších předpokladů T asymptoticky normální s asymptotickou varianční maticí: V (T, F) = IF (x; T, F)IF(x; T, F) T df(x). Mějme parametrický model {F θ } Θ s hustotami f θ (x) a definujme skóry s(x, θ) = θ ln f θ(x), potom J(θ) = s(x, θ)s(x, θ) T df θ (x) je Fisherova informační matice.

4 Vícerozměrný Rao Cramér Věta Za podmínek regularity pro odhady splňující T (F θ ) = θ (Fisherova konzistence) platí: V (T, F θ ) J(θ) 1 0. Analogie již uvedeného (jedna dimenze) V (T, F θ ) = IF (x; T, F θ ) 2 df θ (x) 1 J(θ)

5 Gross-Error Sensitivities unstandardized γu(t, F) = sup{ IF(x; T, F) }. x závislá na měřítku nežádoucí vlastnost. Nutno standardizovat. self-standardized γs(t, F) = sup{if (x; T, F) T V (T, F) 1 IF (x; T, F)} 1/2, x pokud je V(T,F) regulární, jinak γ s(t, F) =. information-standardized Pokud J(θ) ex. pro všechna θ, definujeme γi (T, F) = sup{if (x; T, F) T J[T (F)]IF (x; T, F)} 1/2. x

6 Breakdown point Stejná definice jako v jednorozměrném případě. Prochorovova vzdálenost F, G F(X ) rozdělení, potom π(f, G) = inf{ε; F(A) G(A ε ) + ε, A}. Breakdown point Breakdown point ε posloupnosti odhadů {T n ; n 1} v rozdělení F je definován jako ε = sup{ε 1; existuje kompakt K ε Θ tak, že: π(f, G) < ε lim n + G({T n K ε }) = 1}.

7 Analogie jednorozměrného případu: M-odhad M-odhad (funkcionál) T (F) R p je definován pomocí funkce ρ : X Θ R předpisem T (F) = argmin ρ(x, t)df(x), t nebo pomocí funkce ψ : X Θ R p jako řešení soustavy rovnic ψ(x, t)df (x) = 0 v proměnné t. Druhá definice určuje širší třídu.

8 Influence Function I. Odvození jako v jednorozměrném případě ψ(x, T (G))dG(x) = 0. Označme F t,x = (1 t)f + t x, potom 0 = ψ(y, T (F ))d( x F)(y) + θ [ψ(y, θ)] T (F )df (y) t [T (F t,x)] t=0, z čehož již dostáváme vzorec pro IF IF (x; ψ, F) = M(ψ, F) 1 ψ(x, T (F)), kde M(ψ, F) = θ [ψ(y, θ)] T (F )df(y).

9 Influence Function II. Ze vzorce pro IF získáváme následně vzorec pro asymptotický rozptyl asymptotického odhadu [ ] V (T, F) = M(ψ, F) 1 ψ(x, T (F))ψ(x, T (F)) T df(x) Předpokládejme, že T je Fisherovsky konzistentní, potom ψ(x, θ)df θ (x) = 0, θ Θ. M(ψ, F) T. Derivováním podle θ dostáváme M(ψ, F ) = ψ(x, θ) s(x, θ) T df θ (x). nový předpis pro IF: [ 1 IF (x; T, F θ ) = ψ(x, θ) s(x, θ) T df θ (x)] ψ(x, θ).

10 Příklad I. Necht X = R a Θ = {(µ, σ); σ > 0}. Mějme model s distribucemi F µ,σ = L(µ + σz ), kde Z odpovídá rozdělení F 0 hustota f 0. Omezení na ekvivariantní odhady: T {L(a+bX)} = (a+b T (1) {L(X)}, b T (2) {L(X)}) T, a, b R Pak pro libovolnou F 0 symetrickou okolo 0, T (1) (F 0 ) = 0. Pokud navíc T (2) (F 0 ) > 0, pak první složka IF lichá a druhá sudá. ze symetrie složky asymptoticky nezávislé, což znamená Dále V (T, F 0 ) = diag{v (T (1), F 0 ), V (T (2), F 0 )}. IF (x; T, F µ,σ ) = σ IF {(x µ)/σ; T, F 0 }, V (T, F µ,σ ) = σ 2 V (T, F 0 ).

11 Příklad I. aplikace na M-odhady Mějme θ 0 = (0, 1) T. Vyjádření ekvivariantního M-odhadu: ψ(x; µ, σ) = ψ 0 {(x µ)/σ}, při ψ 0 ( z) = ( ψ (1) 0 (z), ψ(2) 0 (z))t. Dostáváme ( ) B IF(x; T, F 0 ) = 1 (ψ (1) 0 ) 1 ψ (1) 0 (x) B 2 (ψ (2) 0 ) 1 ψ (2) 0 (x), kde B i (ψ (i) 0 ) = ψ (i) 0 (x) s(i) 0 (x)df 0(x), kde s 0 (x) jsou věrohodnostní skóry v θ 0 ( f s 0 (x) = 0 (x)/f ) 0(x) x f 0 (x)/f. 0(x) 1

12 Příklad I. aplikace na M-odhady pokračování Asymptotický rozptyl je pak { V (T, F 0 ) = diag A 1 (ψ (1) 0 )/B 1(ψ (1) 0 )2, A 2 (ψ (2) 0 )/B 2(ψ (2) 0 )2}, kde A i (ψ (i) 0 ) = ψ (i) 0 (x)2 df 0 (x), i = 1, 2. Aplikace na MLE Průměru a výběrové směrodatné odchylce odpovídá ( ) ψ0 ML x (x) = x 2. 1 Pro F 0 = Φ A 1 ( X) = B 1 ( X) = 1, A 2 (S) = B 2 (S) = 2, IF(x; T ML, Φ) = (x, (x 2 1)/2) T, V (T ML, Φ) = J(θ 0 ) 1 = diag(1, 1/2).

13 Robustní modifikace MLE I. Huberův odhad ( ) ψ0 P2 (x) = ψb (x) ψ b (x) 2, β kde kde b, x b, ψ b (x) = x, x < b, b, x b, β = ψ b (x) 2 dφ(x) = χ 2 3 (b2 ) + b 2 [1 χ 2 1 (b2 )].

14 Robustní modifikace MLE II. Median a median deviation kde ψ med 0 (x) = Charakteristiky odhadu: ( sign(x) sign( x β) β = Φ 1 (3/4) = ), γ u = 1.71, γ s = 2, γ i = Eficience: e 1 = 0.637, e 2 =

15 Děkuji za pozornost.