Statistická analýza jednorozměrných dat

Transkript

1 Licenční studium Galileo: Statistické zpracování dat Analýza velkých výběrů Hornův postup analýzy malých výběrů Statistické testování Statistická analýza jednorozměrných dat Semestrální práce Lenka Husáková Pardubice 2015

2 Obsah 1 Statistická analýza velkých výběrů Zadání Data Použitý software Exploratorní analýza dat Grafické diagnostiky Kvantily a písmenové hodnoty Porovnání rozdělení Ověření předpokladů o datech Mocninná transformace Konfirmatorní analýza dat Závěr Literatura Statistická analýza malých výběrů dle Horna Zadání Data Použitý software Řešení Analýza souboru s lichým počtem prvků Analýza souboru se sudým počtem prvků Analýza malých výběrů za využití programu QC-Expert Závěr Literatura Statistické testování Test správnosti Zadání Data Použitý software Ověření předpokladů o datech Vyčíslení odhadů výběrových parametrů Závěr Literatura Test shodnosti Zadání... 26

3 3.2.2 Data Použitý software Ověření předpokladů o datech Test shody rozptylů Test shody středních hodnot dvou souborů Závěr Párový test Zadání Data Použitý software Řešení Závěr Literatura... 30

4 1 Statistická analýza velkých výběrů 1.1 Zadání Stanovení rtuti ve vzorcích jater, žeber a tuku vydry říční termooxidační metodou Vydra říční je chráněný živočišný druh českou i evropskou legislativou. V rámci programu Péče o vydru říční (2009) 1 oficiálně schváleným Ministerstvem životního prostředí je vyvíjena snaha o zlepšení podmínek k životu tohoto chráněného druhu. Nedílnou součástí programu jak z hlediska sledování stavu populace, tak z hlediska hodnocení účinnosti realizovaných opatření je i detailní monitoring druhu včetně sběru a analýz uhynulých jedinců, který v České Republice provádí společnost ALKA Wildlife, o.p.s. 2,3. V rámci monitoringu, s cílem hledání možné souvislosti mezi znečištěním jednotlivých oblastí ČR a jeho vlivem na kvalitu života vyder bylo provedeno stanovení celkového obsahu rtuti ve vzorcích jater, kostí a tuku uhynulých vyder říčních termooxidační metodou 4. Cílem bylo provést analýzu statistických vlastností dat. Určit základní popisné statistiky, intervaly spolehlivosti, robustní odhady střední hodnoty a rozptylu, ověřit normalitu, nezávislost a homogenitu jednotlivých výběrů. 1.2 Data Tabulka 1.1: Koncentrace Hg (mg kg -1 ) ve vzorcích jater (n = 98), kostí (n = 93) a tuku (n = 118) vyder říčních stanovená termooxidační metodou a (a) Játra, n = (b) Žebra, n = (c) Tuk, n = a data jsou uvedena v pořadí, ve kterém byla naměřena, aby nedošlo ke zkreslení jejich vnitřní struktury 4

5 1.3 Použitý software Naměřená data byla vyhodnocena pomocí statistických programů ADSTAT 1.25 a 2.0, QC-Expert 2.5 (TriloByte Statistical Software, s.r.o., ČR) a programu NCSS2007 (NCSS Statistical Software, USA). 1.4 Exploratorní analýza dat Grafické diagnostiky Pro podrobné seznámení se strukturou dat, posouzení symetrie a špičatosti rozdělení, identifikaci odlehlých bodů a případných hrubých chyb bylo využito následujících šestnácti grafických diagnostik (obr. 1.1A-M). A) Histogram (obr. 1.1-A): zobrazuje data z hlediska četností zastoupení v jednotlivých třídách s konstantní šířkou, generovaných automaticky s ohledem na počet dat. Ve všech případech, tj. koncentrace Hg v játrech, žebrech i tuku graf indikuje silně sešikmená rozdělení s největší četností dat náležící oblasti nižších koncentrací. B) Kvantilově-kvantilový (Q-Q) graf (obr. 1.1-B): jelikož většina bodů neleží na přímce jde o asymetrické rozdělení, konkávně-konvexní charakter dat poukazuje ve všech případech na vyšší špičatost než odpovídá normálnímu rozdělení C) Diagram rozptýlení a rozmítnutý diagram rozptýlení (obr. 1.1-C): v případě analýzy jater poukazuje na 4 odlehlé body v horní části diagramu, podobně na přibližně 11 a 8 odlehlých bodů v horní části diagramu odpovídajícímu souboru dat analýzy žeber, resp. tuku. D) Jádrový odhad hustoty pravděpodobnosti (obr. 1.1-D): ve srovnání s Gaussovým rozdělením je patrné silné zešikmení k vyšším hodnotám. Empirickou křivku nelze aproximovat symetrickým Gaussovým rozdělením. E) Krabicový graf (obr. 1.1-E): v horní části, tj. mimo horní hradbu jsou pro případ jater detekovány 4 odlehlé body, dále pak přibližně 11 bodů pro žebra a 8 pro tuk. F) Graf autokorelačních koeficientů (obr. 1.1-F): v případě všech tří testovaných výběrů jsou na hladině významnosti 0.05 autokorelační koeficienty statisticky nevýznamné, data je tedy možné považovat za nezávislá. G) Graf trendů (obr. 1.1-G): V případě výběru jater a tuku křivky klouzavého průměru a mediánu nevykazují hladký průběh, v datech není indikován trend. Na druhou stranu v případě výběru žeber je v datech významný lineární trend, který v grafu dokumentuje příslušná regresní přímka. H) Kvantilový graf (obr. 1.1-H): V případě výběru jater, žeber a tuku lépe prokládá data červená křivka a pro tato data je vhodné zvolit jako odhad medián. Pro výběr jater však není mezi proložením funkcí s klasickým průměrem a rozptylem (nerobustní) a červenou křivkou odpovídající mediánu a mediánové odchylce (robustní) již takový rozdíl. I) Pravděpodobnostní P-P graf (obr. 1.1-I): empirická křivka nesouhlasí s žádnou křivkou symetrického rozdělení (normálního, rovnoměrného a Laplaceova). Jednotlivá rozdělení jsou asymetrická. J) Graf rozptýlení s kvantily (obr. 1.1-J): asymetrie vzdálenosti mezi dolními hranami kvantilových obdélníků (F, E a D) indikuje asymetrické rozdělení sešikmené k vyšším hodnotám, na kvantilové funkci mimo obdélník D je patrný náhlý vzrůst a body ležící vně sedecilového obdélníku jsou klasifikovány jako odlehlé. 5

6 A B C D E F G Obr. 1.1 Vybrané grafické diagnostiky EDA: (A) Histogram, (B) Kvantilově-kvantilový Q-Q graf, (C) Diagram rozptýlení a rozmítnutý diagram rozptýlení, (D) Jádrový odhad hustoty pravděpodobnosti, (E) Krabicový graf, (F) Graf autokorelačních koeficientů, (G) Graf trendů 6

7 H I J K L M N Obr Pokračování: Vybrané grafické diagnostiky EDA: (H) Kvantilový graf, (I) P-P graf, (J) Graf rozptýlení s kvantily, (K) Graf polosum, (L) Graf symetrie, (M) Graf špičatosti, (N) Kruhový graf 7

8 Percentily Percentily Percentily Percentily Percentily Percentily Diagram percentily - Uloha 1 - Játra Diagram percentily - Uloha 1 - Žebra Diagram percentily - Uloha 1 - Tuk 20,0 1,5 0,8 13,3 1,0 0,5 6,7 O 0,5 0,3 0,0 Játra Relativní hustota hodnot (%) 0,0 Zebra Relativní hustota hodnot (%) 0,0 Tuk Relativní hustota hodnot (%) Houslový diagram - Uloha 1 - Játra Houslový diagram - Uloha 1 - Žebra Houslový diagram - Uloha 1 - Tuk 20,0 1,5 0,8 13,3 1,0 0,5 6,7 P 0,5 0,3 0,0 Játra Relativní hustota hodnot (%) 0,0 Zebra Relativní hustota hodnot (%) 0,0 Tuk Relativní hustota hodnot (%) Obr Pokračování: (O) Diagram percentilů, (P) Houslový diagram K) Graf polosum (obr. 1.1-K): indikuje velkou část bodů jako vybočujících ze symetrického rozdělení. Body, ležící na mediánové rovnoběžce s osou x jsou ze symetrického rozdělení, ostatní nikoliv. L) Graf symetrie (obr. 1.1-L): indikuje valnou část bodů jako vybočujících ze symetrického rozdělení nebo patřících do asymetrického rozdělení. M) Graf špičatosti (obr. 1.1-M): většina bodů neleží na rovnoběžce s osou x pro symetrické rozdělení, a proto jde o rozdělení asymetrické. N) Kruhový graf (obr. 1.1-N): tvar elipsy dokazuje silně asymetrické rozdělení zešikmené k vyšším hodnotám. O) Diagram percentilů (obr. 1.1-O): z tvaru diagramu lze indikovat silnou asymetrii pro všechny studované výběry. P) Houslový diagram (obr. 1.1-P): asymetrický tvar houslí poukazuje na silně sešikmené rozdělení, pravděpodobně exponencionální či log-normální Kvantily a písmenové hodnoty Další možností jak posoudit symetrii výběrového rozdělení představuje vyjádření kvantilů a tzv. písmenových hodnot. Tyto charakteristiky zároveň poskytují informaci o procentuálním zastoupení prvků ve výběru. Z tabulky 1.2 je zřejmé, že pro případ stanovení Hg v játrech, leží 50 % hodnot, tj. 50 % prvků výběru pod koncentrací 2.99 mg kg -1, pro žebra a tuk je to pak koncentrace 0.124, resp mg kg -1. Pro játra pak obsah Hg nižší než mg kg -1 obsahuje pouze 5 % výběru. 8

9 Tab. 1.2 Souhrn kvantilů pro analýzu výběru (a) játra, (b) žebra a (c) tuk Játra, n = 98 Procento Kvantil Procento Kvantil Žebra, n = 93 Procento Kvantil Procento Kvantil Tuk, n = 118 Procento Kvantil Procento Kvantil Písmenové hodnoty a kvantilové míry pro jednotlivé výběry jsou shrnuty v tabulce 1.3. Lišící se hodnoty kvantilových polosum (kvartilové, oktilové, sedecilové) indikují asymetrické rozdělení, v případě symetrického rozdělení by totiž všechny polosumy dosahovaly stejné hodnoty. Tab. 1.3 Vybrané kvantilové míry výběrů koncentrace Hg stanovené v játrech, žebrech a tuku Játra, n = 98 Dolní kvantil Polosuma Horní kvantil Medián M Rozpětí Kvartil F Oktil E Sedecil D Žebra, n = 93 Dolní kvantil Polosuma Horní kvantil Medián M Rozpětí Kvartil F Oktil E Sedecil D Tuk, n = 118 Dolní kvantil Polosuma Horní kvantil Medián M Rozpětí Kvartil F Oktil E Sedecil D

10 1.4.3 Porovnání rozdělení Indikace lokální koncentrace dat a rozdělení výběrů byla posouzena na základě analýzy kvantilověkvantilového Q-Q grafu. Z hodnot uvedených v tabulce 1.4 je zřejmé, že jednotlivá rozdělení jsou asymetrická. Pro výběr analýzy jater a tuku vyplývá, že nejvyšší hodnoty korelačního koeficientu je dosaženo pro exponenciální rozdělení, pro případ analýzy žeber je výběrové rozdělení aproximováno nejlépe log-normálním. Tab. 1.4 Linearita v kvantil-kvantilovém (Q-Q) grafu y = β 0 + β 1 x : Játra, n = 98 Rozdělení Směrnice β 0 Úsek β 1 Korelační koeficient r xy Laplaceovo Normální Exponencionální Rovnoměrné Log-normální Žebra, n = 93 Rozdělení Směrnice β 0 Úsek β 1 Korelační koeficient r xy Laplaceovo Normální Exponencionální Rovnoměrné Log-normální Tuk, n = 118 Rozdělení Směrnice β 0 Úsek β 1 Korelační koeficient r xy Laplaceovo Normální Exponencionální Rovnoměrné Log-normální Ověření předpokladů o datech Pro zajištění nevychýlených a správných odhadů klasických výběrových parametrů je zapotřebí, aby data splňovala požadované vlastnosti. K základním předpokladům o datech patří normalita, nezávislost a homogenita, tedy nepřítomnost vybočujících měření, odlehlých dat a hrubých chyb 5,6. Z výsledků uvedených v tabulce 1.5 vyplývá, že ani jeden z výběrů nevykazuje normální rozdělení, data jsou ve všech případech nezávislá a obsahují odlehlé body. 10

11 Tab. 1.5 Základní předpoklady a charakteristiky výběru (a) jater, (b) žeber a (c) tuku Játra, n = 98 Žebra, n = 93 Tuk, n = 118 Odhady klasických parametrů: Odhad aritmetického průměru: Odhad rozptylu: Odhad směrodatné odchylky: Odhad šikmosti: Odhad špičatosti: Test normality: Tabulkový kvantil χ 2 1-α (2): Odhad χ 2 exp statistiky: Závěr: Předpoklad normality zamítnut zamítnut zamítnut Vypočítaná hladina významnosti α = 0.00 α = 0.00 α = 0.00 Test nezávislosti: Tabulkový kvantil t 1-α (n+1): Odhad von Neumannovy statistiky t n : Závěr: Předpoklad nezávislosti přijat přijat přijat Vypočítaná hladina významnosti α = α = α = Detekce odlehlých hodnot metodou modifikované vnitřní hradby Dolní vnitřní hradba B D : Horní vnitřní hradba B H : Bod č. 37, 61, 64, 75 6, 8, 16, 19, 22, 24, 29, 30, 34, 85, 93 13, 21, 23, 30, 42, 45,48, 59, 115 Závěr: Počet odlehlých hodnot ve výběru Odhady parametrů s vynechanými odlehlými hodnotami Odhad aritmetického průměru x: Odhad rozptylu: Odhad směrodatné odchylky: Odhad šikmosti: Odhad špičatosti g: Mocninná transformace Jelikož bylo na základě průzkumové analýzy dat zjištěno, že se rozdělení všech tří studovaných výběrů systematicky odlišují od rozdělení normálního, není vhodné pro jejich popis volit nerobustních odhadů. Ačkoli robustní odhady do značné míry eliminují problémy spojené s přítomností odlehlých bodů a asymetrií v datech, nemusí být tento postup vždy korektní, jelikož robustnost spočívá v přiblížení se k přijatému modelu měření bez ohledu na jeho platnost 5,6. Případnou asymetrii v datech není možné eliminovat odstraněním odlehlých bodů, jelikož vzhledem k charakteru experimentu odstranění podezřelých bodů možné není. Jednotlivá data představují cenné informace, jejichž ztráta by v konečném důsledku mohla vést ke zcela chybné interpretaci výsledků. V takovém případě je vhodné provést transformaci dat, která vede ke stabilizaci rozptylu a zesymetričtění rozdělení. Oprávněnost Box-Coxovy a prosté mocninné transformace pro jednotlivé výběry (játra, žebra, tuk) dokumentuje obr. 1.2, resp Graf logaritmu věrohodnostní funkce, který slouží pro posouzení 11

12 významu Box-Coxovy transformace a zároveň pro odhad parametru λ v Boxově-Coxově transformaci jasně dokazuje nutnost transformace. Odhad λ indikuje souřadnice x maxima křivky věrohodnostní funkce ln L(λ) ve zvoleném intervalu. Volbu optimálního parametru mocninné transformace a význam jejího posouzení dokumentuje graf průběhu šikmosti pro exponenciální transformaci (obr. 1.3). Obrázek 1.2 a 1.3 dále znázorňuje vliv obou z uvedených typů transformací na kvalitu dat prostřednictvím Q-Q kvantilových grafů. Hodnoty odhadů vybraných výběrových parametrů pro původní data a pro data po transformaci shrnuje tabulka 1.6. Z ní je patrný vliv nejen na parametry výběrové šikmosti a špičatosti, ale dokumentuje i retransformované hodnoty opravených výběrových průměrů, apod. log L Box-Coxova transformace - Věrohodnost - Úloha 1 log L Box-Coxova transformace - Věrohodnost - Úloha 1 A Parametr Parametr Kvantil-Data Box-Coxova transformace - Q-Q bez transformace - Úloha 1 Kvantil-Data Box-Coxova transformace - Q-Q bez transformace - Úloha 1 B Kvantil-Norm Kvantil-Norm Kvantil-Data Box-Coxova transformace - Q-Q po transformaci - Úloha 1 Kvantil-Data Box-Coxova transformace - Q-Q po transformaci - Úloha 1 C Kvantil-Norm Kvantil-Norm R. hust. Box-Coxova transformace - Hustota - Úloha 1 R. hust. Box-Coxova transformace - Hustota - Úloha 1 D 4.0E13 3.0E13 3.0E13 2.0E13 2.0E13 1.0E13 1.0E13 0.0E Žebra 0.0E Tuk Obr (A) Graf věrohodnosti Box-Coxovy transformace, (B) a (C) Q-Q graf před, resp. po Box-Coxově transformaci, (D) Graf hustoty 12

13 Šikmost Exponenciální transformace - Šikmost - Úloha 1 Šikmost Exponenciální transformace - Šikmost - Úloha 1 Šikmost Exponenciální transformace - Šikmost - Úloha 1 A Parametr Parametr Parametr Kvantil-Data Exponenciální transformace - Q-Q bez transformace - Úloha 1 Kvantil-Data Exponenciální transformace - Q-Q bez transformace - Úloha 1 B Kvantil-Norm Kvantil-Norm Kvantil-Data Exponenciální transformace - Q-Q po transformaci - Úloha 1 Kvantil-Data Exponenciální transformace - Q-Q po transformaci - Úloha 1 Kvantil-Data Exponenciální transformace - Q-Q po transformaci - Úloha 1 C Kvantil-Norm -3.0 Kvantil-Norm -3.0 Kvantil-Norm R. hust. Exponenciální transformace - Hustota - Úloha 1 R. hust. Exponenciální transformace - Hustota - Úloha 1 R. hust. Exponenciální transformace - Hustota - Úloha 1 D Játra 0.00 Žebra 0.00 Tuk Obr. 1.3 (A) Graf průběhu šikmosti pro exponenciální transformaci (B) a (C) Q-Q graf před, resp. po exponcionální transformaci, (D) Graf hustoty 13

14 Tab. 1.6 Mocninná a Box-Coxova transformace dat ADSTAT Játra, n = 98 Žebra, n = 93 Tuk, n = 118 Odhady parametrů původních dat: Odhad aritmetického průměru Odhad směrodatné odchylky Odhad mediánu Odhad šikmosti Odhad špičatosti Prostá mocninná transformace: Odhad optimálního exponentu Odhad průměru transformovaných dat Odhad směrodatné odchylky transf. dat Odhad šikmosti transformovaných dat Odhad špičatosti transformovaných dat Opravený odhad průměru původních dat Oprávněnost transformace ANO ANO ANO Boxova-Coxova transformace: Odhad optimálního exponentu Odhad průměru transformovaných dat Odhad směrodatné odchylky transf. dat Odhad šikmosti transformovaných dat Odhad špičatosti transformovaných dat Opravený odhad průměru původních dat Oprávněnost transformace ANO ANO ANO QC-Expert Prostá mocninná transformace: Odhad optimálního exponentu Opravený odhad průměru původních dat Dolní interval spolehlivosti Horní interval spolehlivosti Doporučená hodnota spodní varovné meze Doporučená hodnota horní varovné meze Oprávněnost transformace ANO ANO ANO Boxova-Coxova transformace: Odhad optimálního exponentu Odhad průměru transformovaných dat Doporučená hodnota spodní varovné meze Doporučená hodnota horní varovné meze Oprávněnost transformace ANO ANO ANO 1.7 Konfirmatorní analýza dat Na základě výše uvedených údajů byly zvoleny vybrané statistické parametry charakterizující jednotlivá výběrová rozdělení. Statistické charakteristiky stanovení obsahu rtuti v lyofilizovaných 14

15 vzorcích jater, žeber a tuku vypočtené programem QC-Expert shrnuje tabulka 1.7. Vybrané parametry by měly dostatečným způsobem sloužit pro charakterizaci výběru a další interpretaci analytických výsledků. Tab. 1.7 Statistické charakteristiky stanovení obsahu Hg (mg kg -1 ) v lyofilizovaných játrech, žebrech a tuku uhynulých vyder říčních Játra Žebra Tuk Počet vzorků Počet odlehlých hodnot Minimum Maximum Průměr a Spodní mez intervalu spolehlivosti a Horní mez intervalu spolehlivosti a Rozptyl Směrodatná odchylka Medián Spodní mez intervalu spolehlivosti mediánu Horní mez intervalu spolehlivosti mediánu Šikmost Špičatost p (test normality) b a Odhad parametru získaný po exponencionální transformaci dat. b Kombinovaný test normality: Jestliže je p větší než 0.05, rozdělení lze považovat za normální, pokud je hodnota p nižší než 0.05 data nevykazují normální rozložení. 1.8 Závěr Analyzováno bylo 98 vzorků lyofilizovaných jater, 93 vzorků žeber a 118 vzorků tuku vyder říčních pro potřeby stanovení Hg. Vzorky byly shromažďovány a odebírány z těl uhynulých jedinců, nebylo tedy často možné z důvodu vysokého stupně biologického rozkladu odebrat ve všech případech vždy všechny tři uvedené typy vzorku. Z uvedeného důvodu není počet prvků ve všech výběrech stejný. Z výsledků exploratorní analýzy experimentálních dat vyplynulo, že data nevykazují normální rozdělení. Zejména v případě analýzy jater byl v datech pozorován výrazný rozptyl. Jednotlivé výběry obsahují odlehlé hodnoty. V případě výběru obsahujícího údaje o koncentraci rtuti v játrech se jedná o vzorky 306, 471, 478, 360 s výrazně vyšší koncentrací Hg ve srovnání s ostatními. Značení vzorků odpovídá kódům uvedeným v databází 2,3 společnosti ALKA Wildlife, o.p.s., ČR. Nejvyšší koncentrace Hg byly nalezeny ve vzorcích jater, a to pro vzorky č. 471 a 478. Vzorek č. 471 byl nalezen v úseku dálnice D1 na 75 km, žádné další informace o vzorku nevíme. Vzorek 478 byl nalezen v obci Šabina, jednalo se o samce, příčinou úmrtí byla srážka s dopravním prostředkem. Zajímavostí je, že v dané lokalitě povodí Ohře byly pozorovány výrazně zvýšené koncentrace Hg ve vodách, sedimentu či rybách 7. Z výsledků je zřejmé, že nejvyšší koncentrace Hg byly stanoveny v játrech. Průměrná koncentrace rtuti získaná po exponencionální transformaci dat byla 2.73 mg kg -1, přičemž 15

16 pro netransformovaná sešikmená data činila tato hodnota 3.71 mg kg -1. Ve srovnání s aritmetickým průměrem je opravený průměr v těsném souhlasu s robustním odhadem mediánu, který činí 2.99 mg kg -1, což dokládá potřebu a význam transformace. Podobných závěrů bylo dosaženo i pro případ analýzy žeber a tuku. Výsledky statistické analýzy velkých výběrů v daném případě demonstrují význam využití matematické transformace vstupních dat v oblasti analýzy biologických vzorků při určení vybraných statistických charakteristik, namísto často preferovaného odstranění odlehlých hodnot, které může vést v konečném důsledku ke ztrátě cenných informací. 1.9 Literatura 1. Směrnice Rady č. 92/43/EHS z 21. května 1992 o ochraně přírodních stanovišť, v.ž.ž.a.p.r.r. 2. Větrovcová J., Poledníková K., Poledník L., Beran V., Hlaváč V.: Databáze údajů o uhynulých jedincích vydry říční v ČR. Ochrana přírody 4, (2011). 3. Beran V.: Protokoly o uhynulých jedincích pro databázi společnosti ALKA Wildlife, o.p.s., ČR. Nepublikované materiály (2014). 4. Nováková L., Husáková L., Urbanová I., Šrámková J., Beran V., Sborník příspěvků Studentská vědecká odborná činnost 2013/2014, str Univerzita Pardubice, Pardubice 2014; ISBN: Meloun M., Militký J.: Kompendium statistického zpracování dat, Vyd. 3., nakl. Karolinum, Praha, ISBN: Meloun M., Militký J.: Interaktivní statistická analýza dat, Vyd. 3., nakl. Karolinum, Praha, ISBN: citováno

17 2 Statistická analýza malých výběrů dle Horna 2.1 Zadání Správnost prvkové analýzy jater za využití vybraných metod atomové spektrometrie Správnost stanovení 16 vybraných elementů (Hg, Li, Mn, Co, As, Se, Rb, Sr, Mo, Cd, Sb, Cs, Pb, Na, K, Mg) ve vzorcích jater analyzovaných termooxidační metodou (Hg), metodou atomové absorpční či emisní spektrometrie (Na, K, Mg) a hmotnostní spektrometrie s ionizací v indukčně vázaném plazmatu (Li, Mn, Co, As, Se, Rb, Sr, Mo, Cd, Sb, Cs, Pb) byla ověřena na základě analýzy certifikovaného referenčního materiálu (CRM) jater NIST 1577c Bovine Liver (National Institute of Standards and Technology, USA). Cílem bylo určit střední hodnoty koncentrace jednotlivých elementů, parametry rozptýlení, 95% interval spolehlivosti středních hodnot a na hladině významnosti 0.05 provést test správnosti stanovení vybraných elementů za využití dostupného CRM, tj. určit, zda navržené a optimalizované analytické metody poskytují správné výsledky. Certifikované hodnoty obsahu jednotlivých elementů deklarovaných výrobcem CRM jsou uvedeny v tabulce 2.1. Tab. 2.1 Certifikované hodnoty ( g kg -1 ) 16 vybraných elementů v CRM materiálu jater NIST 1577c Hg Li Mn Co As Se Rb Sr Mo Cd Sb Cs Pb Na a K a Mg a a koncentrace mg kg Data Tab. 2.2 Koncentrace ( g kg -1 ) a 16 vybraných elementů stanovená v CRM materiálu jater NIST1577c Analyt n Koncentrace g kg -1 Hg Li Mg a koncentrace mg kg -1 pro Na, K, Mg 2.3 Použitý software Data byla analyzována pomocí statistického programu QC-Expert 2.5 (TriloByte Statistical Software, s.r.o., ČR). 17

18 2.4 Řešení U malých výběrů 4 n 20 poskytuje správné odhady střední hodnoty Hornův postup pivotů. Pivotová polosuma a pivotové rozpětí umožňují vyčíslit i intervalový odhad střední hodnoty a navíc jsou oba odhady dostatečně robustní vůči asymetrii rozdělení malého výběru a i vůči odlehlým hodnotám. Dostupná data týkající se analýzy CRM obsahovala maximální počet 8 výsledků pro případ stanovení rtuti, pro ostatní analyzované prvky pak bylo k dispozici menší množství výsledků, minimálně však čtyři. Malý počet dat je dán zejména vysokou cenou CRM. Ta je nejen limitujícím faktorem dostupnosti materiálu, ale často i počtu provedených opakování. Pro uvedené soubory dat obsahující omezené množství analytických výsledků celá řada testů selhává. Exploratorní analýza dat za využití grafických diagnostik nemůže poskytnout dokonalou představu struktury dat, nevěrohodné mohou být rovněž závěry základních předpokladů analýzy dat, tj. testu normality, nezávislosti či homogenity. Z těchto důvodů je použití Hornova postupu analýzy malých výběrů zřejmé. Postup řešení analýzy malých výběrů obsahujících sudý, resp. lichý počet prvků je názorně demonstrován pro případ stanovení Hg (n = 8) a stanovení Cs (n = 7). Pro ostatní elementy byla analýza provedena za využití programu QC-Expert Analýza souboru s lichým počtem prvků Stanovení Cs (n = 7) 1. Pořádkové statistiky i x i Hloubka pivotu H = integer n H = integer(2.0) H = 2 3. Pivoty Dolní pivot x D = x H = x 2 = 21.7 Horní pivot x H = x n 1-H = x 6 =

19 4. Pivotová polosuma P L = x D + x H 2 P L = P L = Pivotové rozpětí R L = x H x D R L = R L = % interval spolehlivosti střední hodnoty µ: t L,1 (7) = P L R L x t L,1 (n) P L + R L x t L,1 (n) x x Analýza souboru se sudým počtem prvků Stanovení Hg (n = 8) 1. Pořádkové statistiky i x i Hloubka pivotu n + 1 H = integer H = integer(2.75) H = 2 19

20 3. Pivoty Dolní pivot x D = x H = x 2 = 4.82 Horní pivot x H = x n 1-H = x 7 = Pivotová polosuma P L = x D + x H 2 P L = P L = Pivotové rozpětí R L = x H x D R L = R L = % interval spolehlivosti střední hodnoty µ: t L,1 (8) = P L R L x t L,1 2 (n) P L + R L x t L,1 2 (n) x x Analýza malých výběrů za využití programu QC-Expert Statistické charakteristiky stanovení ostatních elementů v CRM jater NIST 1577c byly určeny za využití programu QC-Expert a jsou shrnuty v tabulce 2.3. Tabulka dokumentuje vybrané parametry za využití klasických odhadů, robustních odhadů i odhadů analýzy malých výběrů. V převážné většině případů se jednotlivé bodové odhady příliš neodlišují. 20

21 Tab. 2.3 Statistické charakteristiky stanovení vybraných elementů ( g kg -1 ) v CRM jater NIST 1577c Hg Li Mn Co As Se Rb Sr Analýza malých výběrů: n = 8 n = 5 n = 5 n = 5 n = 4 n = 4 n = 5 n = 4 Střední hodnota Spodní mez (2.5%) Horní mez (97.5%) Pivotové rozpětí Robustní parametry: Medián IS spodní IS horní Mediánový rozptyl Klasické parametry: Průměr Spodní mez Horní mez 5, Rozptyl Šikmost Špičatost Tab. 2.3 Pokračování: Mo Cd Sb Cs Pb Na a K a Mg a Analýza malých výběrů: n = 6 n = 4 n = 6 n = 7 n = 4 n = 4 n = 4 n = 5 Střední hodnota Spodní mez Horní mez Pivotové rozpětí Robustní parametry: Medián IS spodní IS horní Mediánový rozptyl Klasické parametry: Průměr Spodní mez Horní mez Rozptyl Šikmost Špičatost a koncentrace mg kg -1 21

22 2.5 Závěr Jelikož se pro všechny sledované elementy (Hg, Li, Mn, Co, As, Se, Rb, Sr, Mo, Cd, Sb, Cs, Pb, Na, K, Mg) certifikovaná, tj. správná hodnota nachází v intervalu spolehlivosti, který byl pro jednotlivé prvky vyčíslen všemi výše uvedenými způsoby, je stanovení možné považovat za správné. 2.6 Literatura 1. Meloun M., Militký J.: Kompendium statistického zpracování dat, Vyd. 3., nakl. Karolinum, Praha, ISBN: Meloun M., Militký J.: Interaktivní statistická analýza dat, Vyd. 3., nakl. Karolinum, Praha, ISBN:

23 3 Statistické testování 3.1 Test správnosti Zadání Ověření správnosti postupu mikrovlnné extrakce pro potřeby následné prvkové analýzy polétavého popílku metodou ICP-MS Pro přípravu vzorku polétavého popílku pro potřeby následné anorganické prvkové analýzy metodou ICP-MS byl navržen časově úsporný a ekologicky šetrný postup mikrovlnné extrakce. Správnost navrženého postupu pro stanovení 5 vybraných elementů (Li, Be, Se, Sb, W) metodou ICP-MS byla ověřena na základě analýzy certifikovaného referenčního materiálu (CRM) polétavého popílku Fine Fly Ash CTA-FFA-1 (IChTJ, Polsko). Cílem bylo provést na hladině významnosti 0.05 test správnosti stanovení vybraných elementů za využití dostupného CRM, tj. určit, zda postup optimalizované analytické metody poskytuje správné výsledky. Certifikované hodnoty obsahu jednotlivých elementů deklarovaných výrobcem CRM jsou uvedeny v tabulce Tab Certifikované hodnoty (mg kg -1 ) 5 vybraných elementů v CRM materiálu polétavého popílku CTA-FFA-1 Li Be Se Sb W Data Tabulka 3.1.2: Koncentrace Li, Be, Se, Sb, W (mg kg -1 ) v CRM CTA-FFA-1 (n = 24) stanovená po mikrovlnné extrakci vzorku metodou ICP-MS (a) Lithium, n = (b) Beryllium, n = (c) Selen, n = (d) Antimon, n = (e) Wolfram, n =

24 3.1.3 Použitý software Data byla zpracována za využití statistického programů ADSTAT 1.25 (TriloByte Statistical Software, s.r.o., ČR) Ověření předpokladů o datech Výsledky testování normality jednotlivých výběrů, nezávislosti a přítomnosti odlehlých bodů jsou uvedeny v tabulce Z uvedených výsledků je zřejmé, že ve všech případech data vykazují normální rozdělení, jsou nezávislá a neobsahují odlehlé hodnoty. Pro určení středních hodnot a vyčíslení 95% intervalu spolehlivosti středních hodnot lze použít klasických parametrických odhadů. Tab : Testy základních předpokladů pro výběry (n = 24) koncentrace Li, Be, Se, Sb, W (mg kg -1 ) v CRM CTA-FFA-1 Li Be Se Sb W Test normality: tabulkový kvantil χ 2 1-α (2): Odhad χ 2 exp statistiky: Závěr: Předpoklad normality přijat přijat přijat přijat přijat Vypočtená hladina významnosti α = α = α = α = α = Test nezávislosti: tabulkový kvantil t 1- α/2 (n+1): Odhad von Neumannovy statistiky t n : Závěr: Předpoklad nezávislosti přijat přijat přijat přijat přijat Vypočtená hladina významnosti α = α = 0.07 α = α = α = Detekce odlehlých hodnot metodou modifikované vnitřní hradby Dolní vnitřní hradba B D : Horní vnitřní hradba B H : Závěr: Počet odlehlých hodnot ve výběru

25 3.1.5 Vyčíslení odhadů výběrových parametrů Odhady vybraných klasických i robustních parametrů stanovení prvků v CRM polétavého popílku jsou shrnuty v tabulce Odhady robustních parametrů jsou v tabulce uvedeny navzdory skutečnosti, že data splňují výběrové předpoklady použití klasických parametrických odhadů a pro testování lze tak použít intervalový odhad aritmetického průměru. Tab Statistické charakteristiky stanovení vybraných elementů (mg kg -1 ) v CRM CTA-FFA-1 Li Be Se Sb W Klasické parametry: Průměr Spodní mez IS Horní mez IS Rozptyl Šikmost Špičatost Robustní parametry: Medián IS spodní IS horní Mediánový rozptyl IS 95% interval spolehlivosti Závěr Vzhledem k tomu, že ve všech případech obsahovaly intervaly spolehlivosti aritmetického průměru stanovení jednotlivých elementů certifikovanou hodnotu deklarovanou výrobcem referenčního materiálu CRM CTA-FFA-1, lze navrženou metodu využívající mikrovlnné extrakce pro přípravu vzorků polétavého popílku pro potřeby následného stanovení Li, Be, Se, Sb a W metodou ICP-MS považovat za správnou. Správnou hodnotu zahrnují i intervaly spolehlivosti robustních odhadů, což rovněž potvrzuje správnost analytického postupu Literatura 1. Meloun M., Militký J.: Kompendium statistického zpracování dat, Vyd. 3., nakl. Karolinum, Praha, ISBN: Meloun M., Militký J.: Interaktivní statistická analýza dat, Vyd. 3., nakl. Karolinum, Praha, ISBN:

26 3.2 Test shodnosti Zadání Porovnání koncentrace Hg ve vzorcích vydřích tkání Provedeno bylo stanovení Hg v lyofilizovaných vzorcích kostí (n = 93) a tuku (n = 74) uhynulých vyder říčních termooxidační metodou. Cílem bylo určit, zda je rozdíl v koncentraci rtuti v uvedených typech vzorků na hladině významnosti 0.05 statisticky významný Data Tabulka 3.2.1: Koncentrace Hg (mg kg -1 ) ve vzorcích kostí (n = 93) a tuku (n = 74) vyder říčních stanovená termooxidační metodou (a) Kosti, n = (b) Tuk, n = Použitý software Data byla vyhodnocena pomocí statistického programů ADSTAT 1.25 (TriloByte Statistical Software, s.r.o., ČR) Ověření předpokladů o datech Výsledky testování normality jednotlivých výběrů, nezávislosti a přítomnosti odlehlých bodů jsou uvedeny v tabulce V tabulce jsou mj. uvedeny i vybrané výběrové parametry. 26

27 Tab : Testy výběrových předpokladů a vybrané parametry charakterizující výběr kostí a tuku Kosti, n = 93 Tuk, n = 74 Odhady klasických parametrů: Odhad aritmetického průměru: Odhad rozptylu: Odhad směrodatné odchylky: Medián: Opravený průměr (mocninná transform): Odhad šikmosti: Odhad špičatosti: Test normality: tabulkový kvantil χ 2 1-α (2): Odhad χ 2 exp statistiky: Závěr: Předpoklad normality: zamítnut zamítnut Vypočtená hladina významnosti: α = 0.00 α = 0.00 Test nezávislosti: tabulkový kvantil t 1- α/2 (n+1): Odhad von Neumannovy statistiky t n : Závěr: Předpoklad nezávislosti přijat přijat Vypočtená hladina významnosti α = α = Detekce odlehlých hodnot metodou modifikované vnitřní hradby Dolní vnitřní hradba B D : Horní vnitřní hradba B H : 6, 8, 16, 19, 22, 24, 29, 30, 13, 21, 23 34, 85, 93 Závěr: Počet odlehlých hodnot ve výběru Test shody rozptylů Vzhledem k tomu, že oba výběry nevykazují normální rozdělení, obsahují odlehlé hodnoty a mají nestejný rozsah, bylo pro testování shodnosti rozptylů použito robustního Jacknife F-testu. Jak je z výsledků uvedených v tabulce zřejmé, že F statistika tabulkový kvantil F ( 1- α/2, Df1, Df2) a hypotéza H 0 : s 1 2 = s 2 2 je zamítnuta. Rozptyly obou výběrů je tedy nutné považovat za rozdílné. Tab : Jacknife F-test homogenity rozptylů Hypotéza H 0 : s = s 2 Počet stupňů volnosti Df1 2 Počet stupňů volnosti Df2 165 Tabulkový kvantil F ( 1- α/2, Df1, Df2): F-statistika Závěr: H 0 zamítnuta Rozptyly se považují za rozdílné Vypočtená hladina významnosti

28 3.2.6 Test shody středních hodnot dvou souborů Pro testování shodnosti průměrů bylo použito robustního t-testu pro výběry s rozdílnými rozptyly. Jak je zřejmé z výsledků uvedených v tabulce 3.2.4, je t statistika tabulkový kvantil F ( 1- α/2, Df1) a hypotéza H 0 : 1 = 2 je přijata. Průměry obou výběrů je tedy možné považovat za shodné. Tab : Robustní t-test shodnosti průměrů pro výběry s rozdílnými rozptyly Hypotéza H 0 : 1 = 2 Počet stupňů volnosti Df1 103 Tabulkový kvantil F ( 1- α/2, Df1): t-statistika Závěr: H 0 přijata Průměry se považují za shodné Vypočtená hladina významnosti Závěr Jelikož oba testované výběry nevykazují normální rozdělení a obsahují odlehlé hodnoty, byl pro testování shodnosti rozptylů použit robustní Jacknife F-test. Na základě výsledku uvedeného testu byla nulová hypotéza H 0 : s 1 2 = s 2 2 o shodnosti rozptylů na hladině významnosti 0.05 zamítnuta a rozptyly obou výběrů jsou rozdílné. Pro testování shodnosti průměrů obou výběrů byl použit robustní t-test shodnosti průměrů pro výběry s rozdílnými rozptyly. Na hladině významnosti 0.05 byla nulová hypotéza o shodnosti průměru H 0 : 1 = 2 přijata a průměry lze považovat za shodné. Koncentrace Hg ve vzorcích kostí se statisticky významně neodlišuje od koncentrace stanovené v tuku. V daném ohledu, tj. z hlediska monitorování koncentrace rtuti není nezbytné provádět analýzu obou typů tkání, což může být přínosné z hlediska ekonomického i časového. 28

29 3.3 Párový test Zadání Validace metody TOF-ICP-MS pro analýzu kyseliny sírové pomocí referenční metody HR-ICP-MS Navržena a optimalizována byla metoda pro prvkovou analýzu kyseliny sírové metodou hmotnostní spektrometrie s ionizací v indukčně vázaném plazmatu na instrumentaci s průletovým analyzátorem iontů (TOF-ICP-MS) po modifikaci matrice vzorku pomocí bromidu barnatého. Uvedený postup umožnuje separovat síranovou matrici a odstranit tak spektrální interference polyatomických iontů se sírou, které jsou limitujícím faktorem dosažení správných výsledků na daném typu instrumentace. Provedena byla prvková analýza kyseliny sírové pomocí navržené metody a výsledky byly srovnány s hodnotami dosaženými pomocí vysokorozlišovací hmotnostní spektrometrie s ionizací v indukčně vázaném plazmatu (HR-ICP-MS), která je schopna výše uvedené interference účinně eliminovat. Cílem bylo určit, zda se výsledky analýzy H 2 SO 4 významně neodlišují od výsledků dosažených pomocí referenční metody, tj. zda obě metody poskytují na hladině významnosti 0.05 stejné výsledky Data Tabulka 3.3.1: Výsledky prvkové analýzy kyseliny sírové ( g L -1 ) stanovené referenční metodou HR- ICP-MS a pomocí navržené TOF-ICP-MS metody HR-ICP-MS TOF-ICP-MS Použitý software Data byla vyhodnocena pomocí statistického programu ADSTAT 1.25 (TriloByte Statistical Software, s.r.o., ČR) Řešení Vzhledem k tomu, že je výběr tvořen dvojicemi závislých měření, bylo pro testování shodnosti výsledků obou výběrů použito párového t-testu. Jak je zřejmé z výsledků uvedených v tabulce 3.3.2, je t statistika tabulkový kvantil t ( 1-α/2, Df1) a hypotéza H 0 : 2 0 je přijata. Rozdíly mezi hodnotami dosaženými pomocí vybraných metod nejsou na hladině významnosti 0.05 statisticky významné a výsledky metod lze považovat za shodné. 29

30 Tab : Párový t-test shodnosti metod Hypotéza H 0 : 2 = 0 Průměrný rozdíl Rozptyl Počet stupňů volnosti Df1 21 Tabulkový kvantil t ( 1- α/2, Df1): t-statistika Závěr: H 0 přijata Průměry se považují za shodné Vypočtená hladina významnosti Závěr Z párového t-testu vyplývá, že mezi výsledky dosaženými pomocí navržené TOF-ICP-MS a referenční HR-ICP-MS metody nejsou na hladině významnosti 0.05 statisticky významné rozdíly (p = 0.516). Navrženou metodu lze tedy považovat za přesnou a lze jí použít jako ekonomicky výhodnou a časově úspornou alternativu ke standardním ICP-MS postupům pro rutinní prvkovou analýzu kyseliny sírové Literatura 1. Meloun M., Militký J.: Kompendium statistického zpracování dat, Vyd. 3., nakl. Karolinum, Praha, ISBN: Meloun M., Militký J.: Interaktivní statistická analýza dat, Vyd. 3., nakl. Karolinum, Praha, ISBN: