Kapitola VIII. CHYBĚJÍCÍ A ODLEHLÉ HODNOTY. Luděk Dohnal. Chybějící a odlehlé hodnoty 43

Transkript

1 Chybějící a odlehlé hodnoty 43 Kapitola VIII. CHYBĚJÍCÍ A ODLEHLÉ HODNOTY. Luděk Dohnal Většinou se předpokládá, že data jsou pěkná, např. normálně rozdělená, neobsahují anomální hodnoty a žádný výsledek nechybí. Ve skutečnosti potřebujeme často zpracovávat nepěkná data, např. taková, která obsahují opisovačské chyby, nepředpokládaně extrémní výsledky anebo je jejich rozdělení sešikmené. O tom, jak pracovat s takovými daty, pojednává tento článek (14). 1. Chyby při opisování Chyby při opisování dat mohou být běžně korigovány, jestliže se provádí zavedená a dobře fungující kontrola jakosti před tím, než se provádí statistické zpracování. Data mohou být např. zadána nezávisle na sobě (dva různí pracovníci na dvou různých počítačích) dvakrát a zkontrolována elektronickým porovnáním dvou takto vzniklých datových souborů. Existuje též řada testů na odlehlé hodnoty (viz níže), které mohou být použity k detekci anomálních hodnot před tím, než budou data dále statisticky zpracována. Tyto testy však nemohou odstranit potřebu zajišťovat dobrou kontrolu jakosti. Spíš je třeba je chápat jako dodatečnou kontrolu jakosti.. Chybějící data Ať naplánujeme měření sebelépe, vždycky se stane, že něco nevyjde a důsledkem bývá chybějící údaj. Řada statistických postupů v případě chybějících dat selhává buď zčásti nebo úplně. Vždycky je samozřejmě nejlepším řešením experiment opakovat a získat úplnou sadu dat. Někdy to ale není proveditelné, zvláště když měření je třeba provést v předem daných časových relacích nebo když cena opakovaného měření je neúnosně velká. Pro takové případy je potřebné mít po ruce alternativní řešení. Současné statistické programové balíky poskytují pro řešení problému chybějících dat alespoň jednu ze tří metod:.1. Vyloučení neúplně popsaných objektů (casewise deletion) Ze statistického zpracování se vyloučí data od všech objektů, u nichž chybí byť jen jediný údaj (casewise deletion). Např. při kalibraci pro stanovení kovů pomocí AAS se používá řada standardních roztoků (kalibrátorů), které jsou pro nás ve statistickém smyslu objekty. Z nich každý obsahuje několik kovů o různých koncentracích - viz tab. 1. Jednotlivé kovy jsou ve statistickém smyslu proměnné, jednotlivé jejich koncentrace jsou hodnotami těchto proměnných pro daný objekt (kalibrátor). U některých kalibrátorů chybí údaj o koncentraci hliníku. Při aplikaci výše uvedeného postupu budou vyloučena VŠECHNA kalibrační data získaná s použitím těch kalibrátorů, pro něž není koncentrace hliníku uvedena. Naznačený postup je při práci s neúplnými daty dost častý, avšak nezaručuje korektní řešení. Obzvlášť při zpracování vícerozměrných datových sad se může přihodit, pokud jsou chybějící hodnoty rozloženy náhodně vzhledem k objektům i k proměnným, že skončíme vyloučením převážné většiny naměřených hodnot. Tabulka VIII.1 Vyloučení neúplně popsaných objektů (casewise deletion) kalibrátor kalibrátor kalibrátor kalibrátor Casewise deletion. Bude provedena statistická analysa pouze redukované sady dat. kalibrátor kalibrátor Vyloučení pouze neúplných párů (pairwise deletion) Tento způsob můžeme použít jako alternativu předchozího postupu v případech, když se parametry, např. korelační koeficienty, počítají postupně pomocí jednotlivých párů proměnných. Např. při zjišťování výtěžnosti analytického postupu (recovery) můžeme zkoumat, jak výtěžnost souvisí s dobou trvání extrakce, teplotou, velikostí částic, polaritou rozpouštědla atd. Jestliže nám chybí jedno měření polarity rozpouštědla (viz tab. ), pak použitím metody vyloučení neúplných párů (pairwise deletion) bude pro výpočet korelačního koeficientu v již uvedeném příkladu zrušena pouze

2 Štatistické metódy pre klinickú epidemiológiu a laboratórnu prax 44 dvojice polarita/výtěžnost pro vzorek 1. Výpočty hodnot ostatních korelačních koeficientů, t.j. výtěžnost vs. doba trvání extrakce a výtěžnost vs. velikost částic, tím nebudou ovlivněny. Tabulka VIII. Vyloučení neúplných párů (pairwise deletion), r - korelační koeficient, n - počet datových párů v korelaci výtěžnost extrakční velikost index (%) čas částic polarity (min.) (mm) rozpoušt. vzorek vzorek vzorek vzorek Pairwise deletion. Statistickou analysu ovlivnila pouze jedna vyloučená dvojice hodnot pro výpočet korelace výtěžnost vs polarita výtěžnost vs výtěžnost vs výtěžnost vs extrakční čas velikost částic index polarity r n (4) (4) (3) I vylučování neúplných párů může vést k vážným problémům. Např. jestliže existuje, byť skryté, systematické rozložení chybějících dat (jinak řečeno, pokud chybějící data nejsou rozmístěna v matici výsledků náhodně), může vést tento postup k vychýlení (bias) vypočítaných korelačních koeficientů. Jednotlivé korelační koeficienty jsou totiž spočítány pomocí údajů z různých podmnožin objektů a tedy obecně pomocí sad údajů (proměnných) různé délky (n)..3. Nahrazení chybějící hodnoty střední hodnotou (mean substitution) Při tomto postupu jsou všechny chybějící hodnoty v každé proměnné nahrazeny střední hodnotou této proměnné (viz tab. 3). Datová sada se nyní jeví jako kompletní, ovšem za cenu značných nevýhod. Variabilita datové sady je uměle snížena. Snížení je přímo úměrné počtu chybějících bodů. To vede k podhodnocení rozptylu resp. směrodatné odchylky. Náhrada střední hodnotou může rovněž významně ovlivnit hodnoty některých dalších statistik, jako např. statistik lineární regrese (3), zvláště tehdy, jestliže korelace je silná. Tabulka VIII.3 Nahrazení chybějící hodnoty střední (průměrnou) hodnotou (mean substitution) kalibrátor kalibrátor kalibrátor kalibrátor Mean substitution. Statistická analysa byla provedena s pseudo kompletními daty bez ohledu na to, jak velká je chyba při nahrazení. chybějících hodnot průměry. kalibrátor kalibrátor kalibrátor kalibrátor Na obr. VIII.1 je uveden příklad ilustrující použití všech tří postupů při výpočtu matice korelačních koeficientů. Korelační koeficienty (3) r jsou počítány pro každý možný pár 5 proměnných označených A až E. Povšimněte si, jak se hodnota r může zvětšovat, zmenšovat nebo dokonce změnit znaménko v závislosti na tom, který postup byl použit k ošetření chybějících údajů (viz korelační koeficienty proměnných A vs B) Dopočítané hodnoty (imputation) Tento postup zpracování neúplných dat (4, 5) se používá stále častěji. Nebývá ale součástí statistických programů. Typický způsob dopočítání je lineární interpolace. Obecněji vzato jsou dopočítané hodnoty vlastně predikcí (předpovědí), která je založena na zpracování souboru dat stejných vlastností, který je kompletní (žádné údaje nechybějí). Pro každou chybějící hodnotu je vypočteno celkem m možných hodnot a m takto vzniklých kompletních datových sad se analysuje postupně zvoleným statistickým postupem. Ze vzniklých m pomocných výsledků se vytvoří pool, z něhož určíme konečný výsledek a jeho statistickou nejistotu. Tento postup funguje dobře, pokud chybějící data mají náhodné rozdělení a pokud model použitý pro predikci dopočítaných hodnot je rozumný.

3 Chybějící a odlehlé hodnoty Extrémní hodnoty, nepravidelně roztroušené (stragglers) a odlehlé hodnoty (outliers) Extrémní hodnoty jsou definovány jako hodnoty, které se nacházejí tak daleko od všech ostatních hodnot daného souboru, že vzniká podezření, že by mohly být z jiného základního souboru anebo že jsou důsledkem (hrubé) chyby měření (6). Extrémní hodnoty někdy rozdělujeme na tzv. nepravidelně roztroušené (stragglers), tedy hodnoty, které jsou detekovány na hladině spolehlivosti 95% až 99%, a na tzv. odlehlé hodnoty (outliers), které jsou detekovány na hladině spolehlivosti větší než 99%. Extrémní hodnoty svádějí k tomu, aby byly odstraněny ze souboru dat. Je rozšířená domněnka, že mají špatný vliv na vypočtené statistiky. Např. že falešně zvyšují hodnotu směrodatné odchylky jako míry rozptylu dat nebo že mohou způsobit vychýlení (bias) počítaného průměru. Existuje zlaté pravidlo, které říká, že ze sady dat se nikdy nemá vyloučit nějaká hodnota pouze ze statistických důvodů. Mezi tyto statistické důvody patří i testy na odlehlé hodnoty. Testy na odlehlé hodnoty vám řeknou, na základě nějakých jednoduchých předpokladů, kde máte s největší pravděpodobností technickou chybu (chyby). Neřeknou vám však, že ten či onen výsledek (bod) je "špatný". I když je hodnota silně vybočující, může se jednat o (byť částečnou) správnou informaci (1). Takovou hodnotu lze označit jako "špatnou" a vyloučit pouze na základě dostatečných odborných zkušeností anebo jestliže se podaří aspoň zčásti zjistit její příčinu. A nyní jak testovat data na odlehlé hodnoty. Pokud máme dobré důvody domnívat se, že data mají "normální" (gaussovské) rozdělení, pak máme k disposici řadu postupů pro zjišťování odlehlých hodnot. Tyto testy (někdy též nazývané Q-testy) objektivním způsobem identifikují extrémní hodnoty (7). Zda data mají "normální" rozdělení zjišťujeme pomocí: a] dřívějších zkušeností s podobnými daty b] testů normality, např. test Kolmogorov-Smirnov- Lillefors, test Shapiro-Wilk, test šikmosti, test špičatosti (7, 8) atd. c] diagnostických grafů zkonstruovaných z dat a hodnot z nich vypočítaných, např. frekvenční histogram, rozptylový graf, krabicový graf (1, 7) atd. Je třeba upozornit, že testy použité ke kontrole normality obvykle vyžadují dostatečné množství dat. Doporučené minimum je 10 až 15 hodnot (v závislosti na použitém testu). Už z toho je zřejmé, že v analytické praxi často buď nebude praktické či dokonce možné tyto testy použít anebo nám výsledky testů neřeknou nic smysluplného. Pokud si nejsme jisti, že data mají normální rozdělení, pak je třeba při jejich zpracování použít robustní statistiky a/nebo neparametrické (na rozdělení nezávislé) testy. Nyní budou blíže popsány testy na odlehlé hodnoty. Další podrobnosti naleznete v literatuře (9-1). 5. Testy na odlehlé hodnoty V analytické chemii je spíše výjimkou, když máme větší počet paralelních stanovení (replikátů). A malé sady dat často vykazují náhodné seskupování hodnot a v důsledku toho se objevují odlehlé hodnoty. Z uvedených důvodů je třeba testy na odlehlé hodnoty používat obezřetně. Dál musí být samozřejmostí, že body, které tyto testy označí jako odlehlé, můžeme vyloučit pouze tehdy, zjistíme-li příčinu jejich odlišného chování. Většina testů na odlehlé hodnoty je založena na nějaké míře relativní vzdálenosti podezřelého bodu od střední hodnoty. Tato míra nám pak říká, zda extrémní hodnota je dílem náhody nebo nikoliv. Většina testů hledá jednu extrémní hodnotu (obrázek VIII.3a), ale někdy se přihodí, že v souboru dat je odlehlých hodnot několik. Ty pak mohou být určeny jedním ze dvou způsobů: 1) Iterativním (postupně opakovaným) použitím testu na odlehlé hodnoty. ) Použitím testů, které pátrají po dvojicích extrémních hodnot, t.j. po odlehlých hodnotách, které maskují jedna druhou (obrázky VIII.3b a VIII.3c). Mělo by být pravidlem, že pokud identifikujeme více než 0% dat jako odlehlé hodnoty, potom je třeba intensivně zkoumat správnost předpokladu o jejich rozdělení a/nebo zda se vůbec jedná o správné a správně změřené údaje. Testy, které jsou vhodné pro jednotlivé případy znázorněné na obrázku VIII.3, jsou tyto: 3a - Grubbs 1 a Dixon, 3b - Grubbs, 3c - Grubbs 3 (7). Pokud by hodnoty testů G 1, G, G 3 byly větší než tabelované kritické hodnoty (viz tab. VIII.4), potom by bylo na dané hladině spolehlivosti nepravděpodobné, že extrémní hodnota (hodnoty) je dílem náhody. Vypočítáme hodnoty všech tří testů podle Grubbse. Data uspořádáme vzestupně a výpočet provedeme pomocí vzorců uvedených na obrázku VIII., kde s je směrodatná odchylka pro celou sadu dat, x i je jedna hodnota podezřelá z odlehlosti, t.j. hodnota nejvíc vzdálená od průměru, je absolutní (prostá) hodnota, x je průměr, n je počet dat, x n a x 1 jsou nejvíce extrémní hodnoty, s n- je směrodatná odchylka pro sadu dat, z níž byla vyloučena dvojice hodnot podezřelých z odlehlosti (t.j. dvojice hodnot nejvíce vzdálených od průměru). 5.1 Příklad výpočtu Grubbsových testů 13 replikátů x i bylo seřazeno vzestupně n = 13, x = , s = 0,498, s 0, 13 n = [1]

4 Štatistické metódy pre klinickú epidemiológiu a laboratórnu prax 46 = 49,484 48,479 =, 0 G1 0,498 = 49,484 47,876 = 3, 3 G 0,498 = 10x0,13 1 = 0, 587 G3 1x0,498 [] [3] [4] Kritické hodnoty Grubbsových testů pro n = 13 jsou: G 1 =.331 a.607, G = 4.00 a 4.4, G 3 = a pro hladiny spolehlivosti 95% a 99%. Ve všech případech jsou výsledky testů menší než příslušné kritické hodnoty. Můžeme udělat závěr, že data neobsahují odlehlé hodnoty. Tabulka VIII..4 Tabulka kritických hodnot Grubbsových testů (7) 95% hladina spolehl. 99% hladina spolehlivosti n G 1 G G 3 G 1 G G Úskalí testů na odlehlé hodnoty Obrázek VIII.4 ukazuje tři případy, kdy testy na odlehlé hodnoty mohou mylně svádět ke konstatování, že se jedná o extrémní hodnoty. Obrázek VIII.4a ukazuje situaci obvyklou při chemických analysách. Příčinou je limitovaná přesnost měření (chyba zaokrouhlení). K tomu dochází typicky tehndy, když je nepřesnost měření menší než chyba zaokrouhlení při odečítání výsledku. Pokud jsou všechny výsledky mimo jednoho zaokrouhleny na totéž číslo a ten jeden na číslo jiné, potom je vždy tento "jinam zaokrouhlený" výsledek označen testy jako odlehlý. Na obrázku VIII.4b je situace, kdy příčinou existence dvou bodů označených "outlier" může být, že rozdělení výsledků má mnohem delší konce než rozdělení gaussovské (normální). Takovýto typ rozdělení je při některých typech chemických analýz velmi častý, např. při stanovování residuí pesticidů. Jestliže existuje skupina několika málo výsledků, které jsou všechny odlehlé jako na obrázku 4c, může být její existence dílem náhody. Také je v tomto případě možné, že "odlehlá" skupina je blíž "pravé" hodnotě a skutečně odlehlé (tedy horší) výsledky jsou v "hlavní skupině". Tato situace se vyskytuje častěji, než jsme ochotni si připustit. Například když je v popisu analytického postupu napsáno "Výsledek je průměrem nejlepších dvou ze tří stanovení". 7. Odlehlé hodnoty rozptylu Jestliže máme data z různých skupin (např. jestliže porovnáváme metody stanovení pomocí mezilaboratorní porovnávací zkoušky), mohou se odlehlé hodnoty vyskytnout v rámci jednotlivých skupin, ale rovněž průměrné hodnoty jednotlivých skupin mohou být navzájem odlehlé. Jiný "typ" odlehlé hodnoty se vyskytne, jestliže "šířka" dat v jedné takové skupině je neobvykle malá resp. velká oproti "šířkám" dat v ostatních skupinách (viz obrázek VIII.5). V takových případech se tedy testují dva "typy" odlehlosti. 1) Grubbsovy testy se použijí k detekcí odlehlých hodnot uvnitř skupin a k detekci odlehlých středních hodnot jednotlivých skupin. ) Cochranův test se použije k detekci odlehlého rozptylu. (Rozptyl je mírou "šířky" dat a dá se vypočítat jako druhá mocnina směrodatné odchylky (1).) Cochranův test spočívá v dělení podezřelého rozptylu (variance) součtem rozptylů všech skupin. ( ) C = podezř s n g s1 i= 1 [5]

5 Chybějící a odlehlé hodnoty 47 n = g i=1 g n 1 [6] kde g je počet skupin a n i je počet replikátů v i-té skupině. Jestliže poměr vypočítaný v rovnici [5] přesáhne kritickou hodnotu získanou ze statistických tabulek (7), pak "šířka" dat v podezřelé skupině je extrémní. Cochranův test předpokládá, že počet replikátů uvnitř skupin je stejný nebo aspoň podobný (plus minus 1). Dál předpokládá, že data nejsou zaokrouhlena a že počet replikátů je dostatečný pro výpočet přiměřeného odhadu rozptylu (variance). Cochranův test není možno použít iterativně. Mohlo by to vést ke značnému množství "odlehlých" dat Příklad výpočtu Cochranova testu Byla provedena mezilaboratorní porovnávací zkouška, které se zúčastnilo 13 laboratoří, které provedly dohromady 85 stanovení obsahu bavlny v látce z kombinované příze bavlna-polyester. Směrodatné odchylky stanovení v jednotlivých laboratořích: = 6,54 7 [7] n = 13 0,609 0,0 + 0, ,46 + 0,198 0,371 = = 0,5 0,474 [8] C = n Kritická hodnota Cochranova testu pro n = 7 a g = 13 je 0.3 na 95% hladině spolehlivosti (7). Poněvadž výsledek testu je větší než kritická hodnota, vyslovíme závěr, že nejvyšší směrodatná odchylka replikátů jedné laboratoře (0.609) je mezi odchylkami replikátů těchto 13 laboratoří odlehlá. Výsledky z této laboratoře je třeba podrobněji prověřit. Při mezilaboratorních porovnáváních bývá běžnou praxí, že se na odlehlost netestuje opačný extrém, t.j. nejmenší směrodatná odchylka replikátů jedné laboratoře. Nezkoumá se tedy při neobvykle dobré přesnosti laboratoře, zda jde o odlehlou směrodatnou odchylku. 7. Závěrem Data vždy kontrolujte se zřetelem na chyby opisování. Jako dodatečná kontrola jakosti mohou při vyhledávání chyb tohoto typu posloužit testy na odlehlé hodnoty. Vyřaďte extrémní hodnoty pouze za předpokladu, že byly zjištěny technické příčiny jejich vzniku. = Chybějících dat se snažte vyvarovat, mohou být příčinou špatné interpretace výsledných statistik. Pokud se to nezdaří, měla by se situace řešit pomocí dalších měření. Testy na odlehlé hodnoty předpokládají, že znáte rozdělení (distribuci) dat. Platnost tohoto předpokladu by měla být prověřena dříve, než přistoupíte k použití těchto testů. Pomocí robustních statistik se vyhnete nutnosti použít testy na odlehlé hodnoty. Použití robustních statistik totiž výrazně zmenšuje vliv extrémních hodnot na výsledek. Pokud jsou vaše vědomosti o rozdělení (distribuci) dat omezené, měli byste použít neparametrické metody. LITERATURA 1. Burke, S.: Statistics in context: Exploring and summarising the results of measurements, VAM Bulletin, 16, 0-, Spring 1997, český překlad L.Dohnal, Průzkum a sumarizace výsledků měření, Fons, 1998, č. 4, s Burke, S.: Statistics in context: Significance testing, VAM Bulletin, 17, 18-1, Autumn 1997, český překlad L.Dohnal, Testování statistické významnosti, Fons, 1999, č. 1, s Burke, S. Statistics in context: Regression & calibration, VAM Bulletin, 18, 18-1, Spring 1998, český překlad L.Dohnal, Regrese a kalibrace, Fons, 1999, č., s Schafer, J.L.: Monographs on Statistics and Applied Probability 7 - Analysis of Incomplete Multivariate Data, Chapman & Hall, London ISBN (1997) 5. Little, R.J.A., Rubin, D.B.: Statistical analysis with missing data. John Wiley & Sons, New York ISBN (1987) 6. ISO Statistics - Vocabulary and Symbols. Part 1: Probability and general statistics terms, section.64. Geneva (1993) 7. Farrant, T.J.: Practical statistics for the analytical scientist: A bench guide. The Royal Society of Chemistry, Cambridge ISBN (1997) 8. Kruskal, W.H., Tanur, J.M.: International Encyclopaedia of Statistics. Collier Macmillian Publishers, New York ISBN (1978) 9. Analytical Methods Committee, Analyst 114, (1989) 10. Hoaglin, D.C., Mosteller, F., Tukey, J.W.: Understanding Robust and Exploratory Data Analysis. John Wiley & Sons, New York ISBN (1983) 11. Hollander, M., Wolf, D.A.: Non-parametric statistical methods. John Wiley & Sons, New York ISBN X (1973) 1. Daniel, W.W.: Applied non-parametric statistics. Houghton Mifflin, Boston ISBN (1978) 13. Burke, S.: Statistical Refresher Analysis of Variance, Scientific Data Management (1), (1998)

6 Štatistické metódy pre klinickú epidemiológiu a laboratórnu prax Burke, S.: Missing values, outliers, robust statistics and non-parametric methods. VAM bulletin (Valid Analytical Measurement), publication of Laboratory of the Government Chemist, Queens Road, Teddington, Middlesex TW11 0LY in support of the National Measurement System, issue No. 19, Autumn 1998 Obrázek VIII.1 Ovlivnění matice korelačních koeficientů chybějícími daty - převzato z práce (14). Obrázek VIII. Grubbsovy testy. Obrázek VIII.3 Odlehlé hodnoty (outliers) a maskování - převzato z práce (14). Pokračovanie na s. 4