Příklad č. 1 Stanovení manganu a míry přesnosti kalibrace ( Lineární kalibrace ) Zadání : Stanovení manganu ve vodách se provádí oxidací jodistanem v kyselém prostředí až na manganistan. (1) Sestrojte kalibrační model y = f(x) pro naměřená data obsah x a absorbance y a určete míry přesnosti kalibrace. (2) Neznámé roztoky vykazovaly absorbance y * = 0,005; 0,020; 0,115. (3) Jsou v datech vybočující hodnoty? Data : Obsah x [µg. ml -1 Mn] 2,5 5,0 8,0 10,0 13,0 15,0 17,0 20,0 absorbance y 0,026 0,052 0,082 0,102 0,132 0,150 0,173 0,200 Řešení : Program ADSTAT : modul Lineární regrese Regresní diagnostika modul Kalibrace Přímka R e g r e s n í d i a g n o s t i k a V S T U P 1. ZVOLENÁ STRATEGIE REGRESNÍ ANALÝZY : Omezení, P : 1.0000. 10-34 Transformace : Ne Váhy : Ne Absolutní člen zahrnut : Ano 2. PODMÍNKY A KVANTILY PRO STATISTICKÉ TESTY : Hladina významnosti, α : 0.050 Počet bodů, n : 8 Počet parametrů, m : 2 Kvantil Studentova rozdělení t ( 1 - α / 2, n m ) : 2.447 Kvantil rozdělení χ 2 ( 1 α, m ) : 5.991 Lineární kalibrace Strana č. 1 z 10
V Ý S T U P 3. PŘEDBĚŽNÁ STATISTICKÁ ANALÝZA : Proměnná Průměr Směrodatná odchylka Párový korelační koeficient Spočtená hladina významnosti x 11.3130 6.029300 0.9998 0.000 y 0.11463 0.060059 1.0000 ----- Párový korelační koeficient se jen minimálně liší od čísla 1, což ukazuje mimořádně významnou a těsnou lineární závislost a je v souladu s fyzikálním principem metody. 4. ODHADY PARAMETRŮ A TESTY VÝZNAMNOSTI: Parametr Odhad Směrodatná odchylka t kriterium Test H 0 : b j = 0 vs. H A : b j <> 0 hypotéza H 0 je Hladina významnosti β 0 1.9557. 10-3 8.9106. 10-4 2.1948 Akceptována 0.071 β 1 9.9597. 10-3 7.0493. 10-5 141.29 Zamítnuta 0.000 5. STATISTICKÉ CHARAKTERISTIKY REGRESE : Vícenásobný korelační koeficient, R : 0.99985 Koeficient determinace, R 2 : 0.99970 Predikovaný korelační koeficient, Rp 2 : 0.99970 Střední kvadratická chyba predikce, MEP : 1.9081. 10-6 Akaikeho informační kritérium, AIC : -106.95 6. ANALÝZA KLASICKÝCH REZIDUÍ : Reziduální součet čtverců, RSC : 7.5871. 10-6 Průměr absolutních hodnot reziduí, Me : 8.3912. 10-4 Průměr relativních reziduí, Mer : 0.94401 Odhad reziduálního rozptylu, s 2 (e) : 1.2645. 10-6 Odhad směrodatné odchylky reziduí, s (e) : 1.1245. 10-3 Odhad šikmosti reziduí, g1 (e) : 0.12069 Odhad špičatosti reziduí, g2 (e) : 2.0463 Lineární kalibrace Strana č. 2 z 10
7. TESTOVÁNÍ REGRESNÍHO TRIPLETU ( DATA + MODEL + METODA ) : Fisher-Snedocorův test významnosti regrese, F : 19962.0 Tabulkový kvantil, F (1 α, m 1, n m) : 5.98740 Závěr : Navržený model je přijat jako významný. Spočtená hladina významnosti : 0.000 Scottovo kriterium multikolinearity, M : 5.3671. 10-14 Závěr : Navržený model je korektní. Cook-Weisbergův test heteroskedasticity, Sf : 11.387 Tabulkový kvantil, χ 2 ( 1 α, 1 ) : 3.8415 Závěr : Rezidua vykazují heteroskedasticitu. Spočtená hladina významnosti : 0.001 Jarque-Berraův test normality reziduí, L(e) : 0.32262 Tabulkový kvantil, χ 2 ( 1 α, 2 ) : 5.99150 Závěr : Normalita je přijata. Spočtená hladina významnosti : 0.851 Waldův test autokorelace, Wa : 11.319 Tabulkový kvantil, χ 2 ( 1 α, 1 ) : 3.8415 Závěr : Rezidua jsou autokorelována. Spočtená hladina významnosti : 0.001 Znaménkový test, Dt : -0.20597 Tabulkový kvantil, N (1 α / 2 ) : 1.6449 Závěr : Rezidua nevykazují trend. Spočtená hladina významnosti : 0.418 8. INDIKACE VLIVNÝCH BODŮ VÝPOČTEM : Podezřelé body stanovené podle výpočtů : č. 6, 7, 8 9. INDIKACE VLIVNÝCH BODŮ GRAFICKY : Graf predikovaných reziduí : O bod 1, 6, 8 dole; 7 nahoře Williamsův graf : žádný O nebo E Pregibonův graf : žádný O nebo E McCulloh Meeterův graf : O bod 7 O, E 6, 8, 1 L R graf : O bod 7, 8 Lineární kalibrace Strana č. 3 z 10
Obr.1 Graf predikovaných reziduí Možné vybočující body : 1, 6, 8 dole, 7 nahoře Obr.2 Williamsův graf Graf neindikuje žádný vybočující bod nebo extrém Lineární kalibrace Strana č. 4 z 10
Obr.3 Pregibonův graf Graf neindikuje žádný vlivné ani silně vlivné body Obr.4 McCulloh Meeterův graf Zřejmé obojí vlivné body ( E, O ) č. 1, 6 a 8; možný vybočující O : 7 Lineární kalibrace Strana č. 5 z 10
Obr.5 L R graf Jako silně vlivné vycházejí body č. 7 a 8 K a l i b r a c e Obr.6 Graf kalibrační přímky Lineární kalibrace Strana č. 6 z 10
Výsledky : Kalibrace byla provedena přímkou metodou nejmenších čtverců : V S T U P 1. PODMÍNKY Hladina významnosti, α : 0.050 Počet bodů, n : 8 Kvantil Studentova rozdělení t ( 1 - α, n m ) : 2.447 V Ý S T U P 1. STATISTICKÉ CHARAKTERISTIKY PROMĚNNÝCH : Proměnná Průměr Směrodatná odchylka x 11.313 6.02930 y 0.11463 0.06006 Korelační koeficient : 0.99985 2. PARAMETRY KALIBRACE : Parametr Odhad Směrodatná odchylka t kriterium hypotéza H 0 Úsek 1.9557. 10-3 8.9106. 10-4 2.1948 Akceptována Směrnice 9.9597. 10-3 7.0493. 10-5 141.29 Zamítnuta 3. ANALÝZA REZIDUÍ : Reziduální součet čtverců, RSC : 7.58710. 10-6 Průměr absolutních hodnot reziduí, Me : 8.39120. 10-4 Průměr relativních reziduí, Mer [%] : 0.94401 Odhad reziduálního rozptylu, s 2 (e) : 1.26450. 10-6 Odhad směrodatné odchylky reziduí, s (e) : 1.12450. 10-3 Lineární kalibrace Strana č. 7 z 10
4. KALIBRAČNÍ MEZE : Kritická úroveň y c : 4.1360. 10-3 x c : 0.21892 Limita detekce y d : 6.2501. 10-3 x d : 0.43118 Mez stanovitelnosti y s : 1.4347. 10-2 x s : 1.24420 5. KALIBRAČNÍ TABULKA : Absorbance Odhad c [µg. ml -1 ] L D L H 0.005 0.31-0.04 0.66 0.020 1.81 1.48 2.15 0.115 11.35 11.06 11.64 6. GRAFICKÉ ZOBRAZENÍ PRO NAMĚŘENÉ ABSORBANCE : Obr.7 Kalibrační přímka pro hodnotu Absorbance 0.115 Lineární kalibrace Strana č. 8 z 10
Obr.8 Kalibrační přímka pro hodnotu Absorbance 0.020 Obr.9 Kalibrační přímka pro hodnotu Absorbance 0.005 Lineární kalibrace Strana č. 9 z 10
Závěr : Z naměřených hodnot byl sestrojen kalibrační model. Nejlépe vyhovoval model přímkový, jehož proložení bylo těsnější než u modelu kvadratického. Hodnoty koncentrací Mn [ µg. ml -1 ] odpovídající naměřeným absorbancím jsou uvedeny v kalibrační tabulce výše. Hodnota limity detekce je x d = 0.431 a y d = 0.00625. Z toho plyne, že pokud hodnota absorbance je pod touto limitou, výsledek koncentrace není korektní. Zde jde o naměřenou hodnotu A = 0.005 a z toho plynoucí koncentraci c = 0.31 µg. ml -1. Minimální koncentrace, kterou lze odlišit od nuly je 0.431 µg. ml -1 a odpovídající úroveň signálu (absorbance) je 0.00625. Kritická úroveň stanovení je x c = 0,21892 µg. ml -1. Odlehlé body nebyly detekovány potřebným počtem metod. Lineární kalibrace Strana č. 10 z 10