M-estimators. Oct 19th Charles University in Prague, Faculty of Mathematics and Physics. M-estimators. Základní pojmy - připomenutí.

Rozměr: px

Začít zobrazení ze stránky:

Download "M-estimators. Oct 19th Charles University in Prague, Faculty of Mathematics and Physics. M-estimators. Základní pojmy - připomenutí."

Alena Novotná
před 5 lety
Počet zobrazení:

1 Další Charles University in Prague, Faculty of Mathematics and Physics Oct 19th 2009

2 Influence Function Pracujeme s parametrickým modelem {F θ } θ Θ, kde Θ R je otevřená konvexní množina. Definice Influence Function Další IF (x; T, F) = lim h 0 T [(1 h)f + h x ] T [F] h ve všech x X, pro které tato limita existuje. Za podmínek regularity platí: IF (x; T, F)dF(x) = 0.

3 Další Za platnosti dalších předpokladů T asymptoticky normální s asymptotickou varianční maticí: V (T, F) = IF (x; T, F) 2 df(x). Další Označme pomocí f θ (x) hustoty {F θ } Θ a definujme skóry s(x, θ) = θ ln f θ(x), potom J(θ) = s(x, θ) 2 df θ (x) je Fisherova informace.

4 Definice Mějme nějaký výběr X 1, X 2,,X n. Necht ρ : X Θ R je nějaká funkce, potom M-odhadem příslušným ρ nazveme odhad T n = argmin t n ρ(x i, t). (1) i=1 Alternativně, necht ψ : X Θ R je nějaká funkce, potom M-odhadem příslušným ψ nazveme odhad splňující následující rovnici v proměnné t: Další n ψ(x i, t) = 0. (2) i=1

5 Poznámky jde o zobecnění metody maximální věrohodnosti (MLE odpovídá ρ = log f θ ) funkce ψ odpovídá θ ρ(x, θ) druhá definice definuje širší třídu odhadů preferovaná Další

6 Vzorec pro IF I. Funkcionální tvar odhadu T n = T (G n ) vzorec (2) přejde do tvaru ψ(y, T (G))dG(y) = 0. (3) Další Dosazením F t,x = (1 t)f + t x za G a derivováním podle t dostáváme 0 = ψ(y, T (F))d( x F)(y) + θ [ψ(y, θ)] θ=t (F )df (y) [ t T (F t,x) ] t=0, z čehož ihned dostáváme IF (x; ψ, F) = ψ(x, T (F)) θ [ψ(y, θ)] θ=t (F )df(y).

7 Vzorec pfo IF II. Za předpokladu Fisherovské konzistence odhadu T (T (F θ ) = θ) přejde vzorec (3) do tvaru ψ(y, θ)df θ (y) = 0. (4) Další Derivováním (4) podle θ v nějakém θ (prohození integrálu a derivace) θ [ψ(y, θ)] θ=θ df θ (y)+ ψ(y, θ ) θ [f θ(y)] θ=θ dλ(y) = 0. Z toho hned dostáváme IF (x; ψ, F θ ) = ψ(x, θ ) ψ(y, θ )s(y, θ )df θ (y). (Využití df (x) = f (x)dλ(x).)

8 Location M-estimator Necht F θ (x) = F(x θ) je symetrická volíme ψ pro odhad θ ve tvaru ψ(x, θ) = ψ(x θ) přirozené. Dostáváme: Další IF (x; ψ, G) = ψ(x T (G)) ψ (y T (G))dG(y). S Fisherovskou konzistencí v F 0 IF (x; ψ, 0) = ψ(x) ψ df 0. IF úměrná ψ.

9 Poznámka I. Je-li F symetrické rozdělení a ψ lichá, pak pro všechny příslušné ψ platí: 1. Je-li ψ omezená, potom je příslušný M-odhad B-robustní, kvalitativně robustní a má breakdown point ε = 1/2. 2. Není-li naopak ψ omezená, potom příslušný M-odhad není B-robustní ani kvalitativně robustní a má breakdown point ε = 0. Další

10 Poznámka II. ψ nemusí být monotónní rovnice (2) nemusí mít jediné řešení, můžeme zvolit jako řešení 1. globální minimum (1); 2. takový odhad, jenž je nejblíže medianu; 3. odhad získaný Newtonovou metodou, kde za počáteční přiblížení volíme median. V bodech 2. a 3. dědí odhady od medianu breakdown point ε = 1/2. Další

11 Příklad M-odhad parametru polohy: b, x b, ψ b (x) = x, x < b, b, x b, Další

12 Poznámka III. V mnoha případech nutno s polohou odhadovat i měřítko obtězující parametr (= nuisance parameter). Doporučení v takových případech: 1. Použít nějaký hodně robustní odhad k přibližnému odhadu měřítka (scale parameter). 2. Následně použít M-odhad k odhadnutí polohy. Další

13 Další Děkuji za pozornost.

Podobné dokumenty

Oct 19th Charles University in Prague, Faculty of Mathematics and Physics. Multidimensional estimators. Základní pojmy.

Oct 19th Charles University in Prague, Faculty of Mathematics and Physics. Multidimensional estimators. Základní pojmy. Charles University in Prague, Faculty of Mathematics and Physics Oct 19th 2009 Influence Function Stejné jako pro jednorozměrný případ až na Θ R p. Influence Function IF (x; T, F) = lim h 0 T [(1 h)f +