Waldovy testy, vlastnosti a Operační charakteristika

Transkript

1 Waldovy testy, vlastnosti a Operační charakteristika Adéla Zavřelová 11. března 2018 Adéla Zavřelová Waldovy testy 11. března / 21

2 Úvod Úloha H 0 : náhodná veličina X má rozdělení s hustotou f 0 (x), H 1 : náhodná veličina X má rozdělení s hustotou f 1 (x). Chyba 1. a 2. druhu: P(zamítnutí H 0 H 0 platí) = α P(zamítnutí H 1 H 1 platí) = β Klasické testování hypotézy: Zvolíme rozsah n a α. Nelsilnější test: zamítneme H 0, jestliže n f 1 (x i ) i=1 f 0 (x i ) c, nezamítneme H 0, jestliže n f 1 (x i ) i=1 f 0 (x i ) < c. Kde c je určeno tak, aby pravděpodobnost chyby 1. druhu byla nejvýše α. Adéla Zavřelová Waldovy testy 11. března / 21

3 Waldův test Waldův test Zvolíme A, B, tak aby pradědodobnosti chyb byly rovny α, β. Náhodný výběr X 1, X 2,... n f 1 (x i ) i=1 f 0 (x i ) B: přijmeme H 0. n i=1 f 1 (x i ) f 0 (x i ) A: přijmeme H 1. B < n f 1 (x i ) i=1 f 0 (x i ) < A: pokračujeme ve výběru. Adéla Zavřelová Waldovy testy 11. března / 21

4 Waldův test Rozsah výběru N je náhodný: { N = min n : n i=1 f 1 (x i ) f 0 (x i ) / (B, A) } Aproximace A, B: B = β 1 α, A = 1 β α Adéla Zavřelová Waldovy testy 11. března / 21

5 Příklad Úloha testování hypotézy: H 0 : náhodná veličina X má rozdělení N(µ 0, 1), H 1 : náhodná veličina X má rozdělení N(µ 1, 1), kde µ 0 < µ 1 a požadujeme pravděpodobnosti chyb α, β. Platí: n f 1 (x i ) i=1 { f 0 (x i ) = exp n } i=1 x i(µ 1 µ 0 ) + µ2 0 µ2 1 2 n. [ ( ) ] u1 α +u 2 1 β µ 1 µ Nesekvenční postup: Zvolíme n = Zamítneme H 0, jestliže 1 n n i=1 (X i µ 0 ) u 1 α, jinak přijmeme H 0. Sekvenční postup na základě X 1,..., X n : přijmeme H 0, jestliže n i=1 X i přijmeme H 1, jestliže n i=1 X i jinak pokračujeme ve výběru. ( log β 1 α + µ2 1 µ2 0 ( log 1 β α + µ2 1 µ2 0 2 n ) 2 n 1 µ 1 µ 0, ) 1 µ 1 µ 0, Adéla Zavřelová Waldovy testy 11. března / 21

6 Obecný sekvenční test X 1, X 2,... iid náhodné veličiny s hustotou f (., θ) závisející na neznámém parametru θ = (θ 1,..., θ k ) Θ. Úloha H 0 : θ Θ 0, H 1 : θ Θ 1, kde Θ 0 a Θ 1 jsou disjunkní podmnožiny Θ. Zavedeme posloupnosti borelovských množin {B i } i=1, { Bi 0 } i=1, { Bi 1 } takové, že i=1 B i, Bi 0, B1 i jsou navzájem disjunktní množiny R = B 1 B 0 1 B1 1 B 1 R = B 2 B 0 2 B1 2 R2. B i 1 R = B i B 0 i B 1 i R i Adéla Zavřelová Waldovy testy 11. března / 21

7 Obecný sekvenční test Test hypotézy H 0 proti hypotéze H 1 X 1,..., X n je náhodný výběr. Test S se řídí pravidlem: 1 (X 1,..., X n ) B 0 n: přijmeme H 0 2 (X 1,..., X n ) B 1 n: přijmeme H 1 3 jinak pokračujeme v náhodném výběru n=1 B0 n... oblast přijetí H 0 n=1 B1 n... oblast přijetí H 1 Adéla Zavřelová Waldovy testy 11. března / 21

8 Obecný sekvenční test Test s pevným rozsahem výběru Jestliže pro posloupnosti množin {B i } i=1, { Bi 0 } i=1, { Bi 1 } i=1 existuje n N takové, že B i = R i, i = 1,..., n 1; B 0 n B 1 n = R n mluvíme o testu s pevným rozsahem výběru. Ostatní testy se nazývají sekvenční. Řekneme, že sekvenční test skončí s pravděpodobností 1, jestliže lim P ((X 1,..., X n ) B n ; θ) = 0, pro všechna θ Θ. n Adéla Zavřelová Waldovy testy 11. března / 21

9 Obecný sekvenční test Operační charakteristika Funkce proměnné θ, která udává pravděpodobnost přijetí hypotézy H 0, je-li skutečná hodnota parametru θ, se nazývá operační charakterstika testu S hypotézy H 0 proti alternativě H 1. Označení: L S (θ) L S (θ) = P (přijetí H 0 na základě testu S; θ) = ( ) { = P (X1,..., X i ) Bi 0 } ; θ = = i=1 P ( (X 1,..., X i ) Bi 0 ; θ ). i=1 Síla testu: P S (θ) = P (zamítnutí H 0 ; θ) = n P ( (X 1,..., X i ) Bi 1 ; θ ). i=1 Adéla Zavřelová Waldovy testy 11. března / 21

10 Obecný sekvenční test Rozsah výběru Náhodnou veličinu N = min{n : (X 1,..., X n ) B 0 n B 1 n} nazveme rozsahem výběru. E(N; θ) se nazývá střední rozsah výběru. Adéla Zavřelová Waldovy testy 11. března / 21

11 Kritérium optimality Úloha H 0 : θ Θ 0, H 1 : θ Θ 1, Test lze charakterizovat třemi veličinami: chyba 1. druhu chyba 2. druhu střední rozsah výběru Adéla Zavřelová Waldovy testy 11. března / 21

12 Kritérium optimality Kritérium pro porovnávání sekvenčních testů Úloha: H 0 : θ Θ 0, H 1 : θ Θ 1. Označme C(α, β) třídu testů splňujících: test skončí s pravděpodobností 1, 1 L S (θ) α, pro všechny θ Θ 0, L S (θ) β, pro všechny θ Θ 1. Adéla Zavřelová Waldovy testy 11. března / 21

13 Kritérium optimality Eficientnější test Test S C(α, β) nazveme eficientnější (vydatnější), než test S C(α, β) na množině A Θ, jestliže Stejnoměrně eficientní test E S (N; θ) < E S (N; θ), pro všechna θ A. Test S C(α, β) nazveme stejnoměrně eficientním testem na množině A Θ, jestliže inf E S(N; θ) = E S (N; θ), pro všechna θ A. S C(α,β) Adéla Zavřelová Waldovy testy 11. března / 21

14 Kritéruim optimality Uvažujme případ jednoduchých hypotéz: H 0 : θ = θ 0, H 1 : θ = θ 1. Waldův (sekvenční) test (X 1,..., X n ) náhodný výběr z rozdělení s hustotou f (x, θ). Waldův test (ozn. S(b, a)): přijmeme H 0, jestliže Q n (θ 0, θ 1 ) b, přijmeme H 1, jestliže Q n (θ 0, θ 1 ) a jinak pokračujeme v náhodném výběru kde Q n (θ 0, θ 1 ) = n i=1 log f (X i,θ 1 ) f (X i,θ 0 ). Též nazýván sevenční test poměru pravděpodobnosti. Adéla Zavřelová Waldovy testy 11. března / 21

15 Kritérium optimality Věta: Existence a tvar eficientního testu Uvažujme úlohu H 0 : θ = θ 0, H 1 : θ = θ 1. Nechť {X i } i=1 je posloupnost iid veličin s hustotou f (x, θ), θ Θ. Pak mezi všemi testy S z C(α, β), pro které E S (N; θ i ) <, i = 0, 1, je Waldův sekvenční test S (b, a) stejnoměrně eficientní v bodech θ 0 a θ 1, tj. E S (b,a)(n; θ i ) = min E S(N; θ i ), i = 0, 1. S C(α,β) V případě složených hypotéz obecně neexistuje stejnoměrně eficientní test. Adéla Zavřelová Waldovy testy 11. března / 21

16 Vlastnosti Waldova sekvenčního testu Označme Lemma P(přij. H 0 na základě S(b, a); θ 1 ) = β, P(přij. H 1 na základě S(b, a); θ 0 ) = α. Pro Waldův sekvenční test S(b, a) platí: a log 1 β α, b log β 1 α. Hodnoty b, a obvykle aproximujeme hodnotami a = log 1 β α, β b = log 1 α. Adéla Zavřelová Waldovy testy 11. března / 21

17 Vlastnosti Waldova sekvenčního testu Věta Nechť P ( ) ( ) f (X1, θ 1 ) f f (X 1, θ 0 ) > 1, θ (X1, θ 1 ) > 0, P f (X 1, θ 0 ) < 1, θ > 0, θ (θ, θ). Pak test S(b, a), < b < 0 < a <, skončí s pravděpodobností 1, E(N k, θ) < pro libovolné k > 0 a θ (θ, θ) a existuje číslo t 0 (θ) > 0 takové, že E(exp{t N}, θ) < pro všechna t t 0 (θ). Důkaz: Využití Waldových nerovností. Adéla Zavřelová Waldovy testy 11. března / 21

18 Vlastnosti Waldova sekvenčního testu Věta Nechť S(b, a) a S(b, a ) jsou Waldovy testy, slpňující P(θ 0 ) > P (θ 0 ), L(θ 1 ) > L (θ 1 ). Pak platí b b < a a, kde aspoň jedna nerovnost b b, a a je ostrá a E(N, θ) E(N, θ), pro všechny θ (θ, θ). Adéla Zavřelová Waldovy testy 11. března / 21

19 Aproximace Označme: Z i = log f (X i,θ 1 ) f (X i,θ 0 ), Q n = n i=1 log f (X i,θ 1 ) f (X i,θ 0 ). Aproximace operační charakteristiky Nechť ( E[exp{tZ 1 }; ) θ] <, ( pro všechna t ) R a platí P f (X1,θ 1 ) f (X 1,θ 0 ) > 1, θ > 0, P f (X1,θ 1 ) f (X 1,θ 0 ) < 1, θ > 0, θ (θ, θ). Pak existuje funkce h(θ) definovaná na (θ, θ), rovna nule jen v bodě θ, pro který E[tZ 1 ; θ ] = 0 a platí: pro všechna θ (θ, θ). E(exp{h(θ)Q N }, θ) = 1, Adéla Zavřelová Waldovy testy 11. března / 21

20 Aproximace Aproximace operační charakteristiky L S (θ) = P (přijetí H 0 na základě testu S; θ) ˆL S (θ) = ˆL S (θ ) = lim θ θ 1 eh(θ)a e h(θ)b e h(θ)a, jestliže E(Z 1, θ) 0. 1 e h(θ)a e h(θ)b e h(θ)a = a a b, jestliže E(Z 1, θ ) = 0. Adéla Zavřelová Waldovy testy 11. března / 21

21 Aproximace Aproximace průměrného rozsahu výběru Jestliže E(Z 1, θ) 0: E S (N, θ) = E(Q N, θ) E(Z 1, θ) Ê S (N, θ) = L S(θ)b + (1 L S (θ))a E(Z 1, θ) ˆL S (θ)b + (1 ˆL S (θ))a. E(Z 1, θ) Jestliže E(Z 1, θ ) = 0 : E S (N, θ) = E(Q2 N, θ ) E(Z 2 1, θ ) Ê S (N, θ) = L S(θ )b 2 + (1 L S (θ ))a 2 E(Z 2 1, θ ) ab E(Z 2 1, θ). Adéla Zavřelová Waldovy testy 11. března / 21