Kalibrace a limity její přesnosti

Transkript

1 Univerzita Pardubice Fakulta chemicko technologická Katedra analytické chemie Licenční studium chemometrie Statistické zpracování dat Kalibrace a limity její přesnosti Zdravotní ústav se sídlem v Ostravě Odbor hygienických laboratoří Karviná V Karviné dne Ing. Miluše Galuszková Strana 1 (celkem 20)

2 Předmět: 2.2 Kalibrace a limity její přesnosti Přednášející: Prof.RNDr. Milan Meloun, DrSc. Obsah Úloha 1. Lineární kalibrace:. Kalibrace přímkou metodou nejmenších čtverců 3 Regresní diagnostika 6 Kalibrace přímkou metodou nejmenších čtverců 8 po odstranění vlivných bodů Závěr 10 Úloha 2. Nelineární kalibrace: Kalibrace kvadratický spline 10 Závěr 13 Úloha 3. Rozlišení mezi lineární a nelineární kalibrací: Regresní diagnostika 14 Kalibrace přímkou metodou nejmenších čtverců 16 Kalibrace kvadratický spline 18 Kalibrace kvadratický spline 6 uzlů 19 Závěr 20 Strana 2 (celkem 20)

3 Úloha 1. Lineární kalibrace: U přímkové kalibrační závislosti vyčíslete bodový a intervalový odhad pro tři neznámé koncentrace a současně vyčíslete i limity přesnosti. Zadání Stanovení oxidů dusíku (NOx) v ovzduší se provádí fotometrickou metodou. Určete kalibrační přímku, kde x je koncentrace NOx v µg/ml a y je absorbance barevné reakce NOx s činidly při vlnové délce 540 nm. Z kalibrační křivky pak odhadněte koncentraci NOx (x 1, x 2 x 3 ) ve vzorcích, u kterých byla naměřena absorbance y 1 = 0,227, y 2 = 0,031, y 3 = 0,454 Data: x ( µg/ml) 0,20 0,30 0,40 0,50 0,60 y 0,059 0,089 0,122 0,157 0,187 x ( µg/ml) 0,80 1,00 1,20 1,40 1,60 y 0,246 0,308 0,372 0,426 0,480 Program: Modul: Řešení: ADSTAT Kalibrace 1.Kalibrace přímkou metodou nejmenších čtverců 2.Regresní diagnostika Vyšetření vlivných bodů pomocí diagnostických grafů 3.Kalibrace přímkou metodou nejmenších čtverců po odstranění vlivných bodů 1. Kalibrace přímkou metodou nejmenších čtverců Název: Program: Modul: NOx v ovzduší ADSTAT Kalibrace V S T U P PODMÍNKY Hladina významnosti, alpha : Počet bodů, n : 10 Kvantil Studentova rozdělení t(1-alpha,n-m) : Jméno výstupního souboru : NOX.TXT Strana 3 (celkem 20)

4 V Ý S T U P Obr.1 Kalibrační přímka 1 STATISTICKÉ CHARAKTERISTIKY PROMĚNNÝCH: Proměnná Průměr Směrodatná odchylka Var.koef x E E y E E Součty čtverců Sxx: E+00 Syy: E-01 Sxy: E-01 SumX^2: E+00 SumY^2: E-01 SumXY: E+00 Korelační koeficient: PARAMETRY KALIBRACE: Parametr Odhad Směrodatná odchylka t-kritérium Test H0: B[j] = 0 vs. HA: B[j] <> 0 Hypotéza H0 Hladina významnosti úsek E E E-01 Akceptována 0,487 Směrnice E E E+02 Zamítnuta 0,000 Strana 4 (celkem 20)

5 ANALÝZA REZIDUÍ: Bod Měřená hodnota Predikovaná hodnota Absolutní reziduum Relativní reziduum i yexp[i] yvyp[i] e[i] er[i] E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E+00 Reziduální součet čtverců RSC 5038E-04 Průměr absolutních hodnot reziduí, Me E-03 Průměr relativních reziduí, Mer[%] Odhad reziduálního rozptylu, s^2(e) E-05 Odhad směrodatné odchylky reziduí, s(e) E-03 KALIBRAČNÍ MEZE: Kritická úroveň yc: E-03 xc: E-02 Limita detekce yd: E-02 xd: E-02 Mez stanovitelnosti ys: E-02 xs: E-01 KALIBRAČNÍ TABULKA: Měřená hodnota Přímý odhad Naszodiho odhad Konfidenční interval yexp[i] xvyp[i] xvyp[i] dolní mez horní mez Llxvyp[i] Luxvyp[i] E E E E E E E E E E E E E E E+00 Strana 5 (celkem 20)

6 2. Regresní diagnostika Vyšetření vlivných bodů pomocí diagnostických grafů Program: Modul: Název: ADSTAT LINEÁRNÍ REGRESE Regresní diagnostika NOx1 V S T U P ZVOLENÁ STRATEGIE REGRESNÍ ANALÝZY: Omezení, P : E-34 Transformace : Ne Váhy : Ne Absolutní člen zahrnut: Ano PODMÍNKY A KVANTILY PRO STATISTICKÉ TESTY: Hladina významnosti, alfa : Počet bodů, n : 10 Počet parametrů, m : 2 Kvantil Studentova rozdělení t(1-alpha/2,n-m) : Kvantil rozd. Chí-kvadrát Chi-square(1-alpha,m) : INDIKACE VLIVNÝCH BODŮ: Standardizované Jackknife Predikované Diagonální Bod reziduum reziduum reziduum prvky i es[i] ej[i] ep[i] H[i,i] E E+00* E E-01* (*indikuje odlehlý nebo vlivný bod) Obr.2 Graf predikovaných rezidui Strana 6 (celkem 20)

7 Obr.3 Williamsův graf Obr.4 L R graf Závěr vyšetření vlivných bodů pomocí diagnostických grafů: V datech se vyskytuje podezřelý bod č.8. Odlehlý bod č.10 ze souboru odstraníme a z takto upravených dat získáme kalibrační přímku a vypočteme limitu detekce a neznámé koncentrace x 1,x 2, x 3. Strana 7 (celkem 20)

8 3. Kalibrace přímkou metodou nejmenších čtverců Název: Program: Modul: PODMÍNKY NOx v ovzduší ADSTAT Kalibrace V S T U P Hladina významnosti, alpha : Počet bodů, n : 9 Kvantil Studentova rozdělení t(1-alpha,n-m) : Jméno výstupního souboru : NOX1.TXT VSTUPNÍ DATA x ( µg/ml) 0,20 0,30 0,40 0,50 0,60 y 0,059 0,089 0,122 0,157 0,187 x ( µg/ml) 0,80 1,00 1,20 1,40 y 0,246 0,308 0,372 0,426 Obr.5 Kalibrační přímka 2 Strana 8 (celkem 20)

9 V Ý S T U P STATISTICKÉ CHARAKTERISTIKY PROMĚNNÝCH: Proměnná Průměr Směrodatná odchylka Var.koef x E E y E E Součty čtverců Sxx: E+00 Syy: E-01 Sxy: E-01 SumX^2: E+00 SumY^2: E-01 SumXY: E+00 Korelační koeficient: PARAMETRY KALIBRACE: Parametr Odhad Směrodatná odchylka t-kritérium Test H0: B[j] = 0 vs. HA: B[j] <> 0 Hypotéza H0 Hladina významnosti úsek E E E-01 Akceptována Směrnice E E E+02 Zamítnuta ANALÝZA REZIDUÍ: Bod Měřená hodnota Predikovaná hodnota Absolutní reziduum Relativní reziduum i yexp[i] yvyp[i] e[i] er[i] E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E+00 Reziduální součet čtverců RSC E-05 Průměr absolutních hodnot reziduí, Me E-03 Průměr relativních reziduí, Mer[%] Odhad reziduálního rozptylu, s^2(e) E-06 Odhad směrodatné odchylky reziduí, s(e) E-03 KALIBRAČNÍ MEZE: Kritická úroveň yc: E-03 xc: E-02 Limita detekce yd: E-03 xd: E-02 Mez stanovitelnosti ys: E-02 xs: E-01 Strana 9 (celkem 20)

10 KALIBRAČNÍ TABULKA: Měřená hodnota Přímý odhad Naszodiho odhad Konfidenční interval yexp[i] xvyp[i] xvyp[i] dolní mez Llxvyp[i] horní mez Luxvyp[i] E E E E E E E E E E E E E E E+00 Závěr kalibrace přímkou metodou nejmenších čtverců: Odstraněním vlivného bodu č.10 jsme dosáhli laboratoří požadovanou limitu detekce yd = 0,01, xd = 0,03. Závěr: V tabulce jsou uvedeny bodové a intervalové odhady pro tři neznámé koncentrace, které jsme vyčíslili z přímkové kalibrační závislosti: vzorek absorbance přímý odhad Naszodiho odhad intervalový odhad / µg/ml µg/ml µg/ml dolní mez horní mez 1 0,227 0,739 0,739 0,715 0, ,031 0,102 0,102 0,075 0, ,454 1,48 1,48 1,45 1,50 Limity přesnosti kalibrační přímky stanovení NOx v ovzduší jsou: limita detekce yd: E-03 xd: E-02 mez stanovitelnosti ys: E-02 xs: E-01 Strana 10 (celkem 20)

11 Úloha 2. Nelineární kalibrace: U nelineární (křivkové) kalibrační závislosti vyčíslete bodový a intervalový odhad pro tři neznámé koncentrace a současně vyčíslete i limity přesnosti. Zadání Vápník v podzemích vodách se stanovuje metodou AAS. Jedná se o nelineární kalibraci. Vytvořte kalibrační křivku, kde x je koncentrace vápníku v mg/l a y je absorbance. Z kalibrační křivky pak odhadněte koncentraci vápníku x (x 1, x 2 x 3 ) vzorcích, u kterých byla naměřena absorbance y 1 = 0,084, y 2 =0,216, y 3 = 0,423 Data: x ( mg/l) 5,00 10,0 15,0 20,0 25,0 y 0,084 0,132 0,221 0,280 0,346 x ( mg/l) 30,0 40,0 50,0 60,0 70,0 y 0,419 0,519 0,602 0,654 0,695 Program: Modul: Řešení: Název: ADSTAT Kalibrace Kvadratický spline Vapnik v podzemnich vodach V S T U P PODMÍNKY: Počet bodů, n : 10 Počet uzlů, m : 2 Strategie výběru uzlů : Konstantní uzlové intervaly Jméno výstupního souboru : VAPNIK.TXT HODNOTY UZLŮ: a :5.0000E+00 k[ 1] : E+01 k[ 2] : E+01 b : E+01 Strana 11 (celkem 20)

12 V Ý S T U P Obr.1 Kalibrační křivka PARAMETRY KALIBRACE: Koeficienty rovnice: f[i]*x^2+g[i]*x+h[i] pro k[i-1] < x <= k[i] k[i] f[i] g[i] h[i] E E E E E E E E E E E E-02 ANALÝZA REZIDUÍ: Bod Měřená hodnota Predikovaná hodnota Absolutní reziduum Relativní reziduum i yexp[i] yvyp[i] e[i] er[i] E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E-02 Strana 12 (celkem 20)

13 Reziduální součet čtverců RSC E-04 Průměr absolutních hodnot reziduí, Me E-03 Průměr relativních reziduí, Mer[%] Odhad reziduálního rozptylu, s^2(e) E-05 Odhad směrodatné odchylky reziduí, s(e) E-03 ANALÝZA DERIVACÍ A INTEGRÁLŮ: Bod Predikovaná hodnota První derivace Druhá derivace Integrál i Yvyp[i] der1[i] der2[i] int[i] KALIBRAČNÍ MEZE: E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E+01 Kritická úroveň yc: E-02 xc: E+00 Limita detekce yd: E-02 xd: E+00 KALIBRAČNÍ TABULKA: Měřená hodnota yexp[i] Inverzní odhad xvyp[i] Konfidenční interval dolní mez Llxvyp[i] horní mez Luxvyp[i] E E E E E E E E E E E E+02 Závěr: V tabulce jsou uvedeny bodové a intervalové odhady pro tři neznámé koncentrace, které jsme vyčíslili z kalibrační závislosti: vzorek absorbance odhad intervalový odhad / mg/l mg/l dolní mez horní mez 1 0, ,75 6,55 2 0,216 15,25 14,39 16,16 3 0,423 30,68 29,70 104,9 Limity přesnosti kalibrační křivky stanovení vápníku v podzemních vodách jsou: limita detekce yd: 0,068 xd: 4,23 Strana 13 (celkem 20)

14 Úloha 3. Rozlišení mezi lineární a nelineární kalibrací U experimentální kalibrační závislosti rozhodněte o počtu uzlových bodů, typu splinové závislosti a současně vyčíslete bodový a intervalový odhad pro tři neznámé koncentrace a současně i limity přesnosti. Zadání Metodou atomové absorpční spektrometrie elektrotermickou atomizací je možné využitím speciální lampy (podle údajů výrobce ) měřit absorbance prvku v širokém rozsahu koncentrací. Pro využití v analýze odpadních vod byla proměřena kalibrace antimonu v rozsahu koncentrací µg/l. U této kalibrační křivky rozhodněte o počtu uzlových bodů, typu splinové závislosti. Vypočtěte bodový a intervalový odhad pro naměřené absorbance y 1 = 0,084, y 2 = 0,690, y 3 = 0,732. Vyčíslete limity přesnosti. Data: x ( µg/l) 5,00 10,0 20,0 30,0 40,0 50,0 75,0 y 0,038 0,083 0,180 0,270 0,338 0,443 0, x ( µg/l) y 0,789 0,909 1,053 1,190 1,396 1,520 1,548 Program: Modul: Řešení: ADSTAT Kalibrace 1.Regresní diagnostika Vyšetření vlivných bodů pomocí diagnostických grafů 2.Kalibrace přímkou metodou nejmenších čtverců 3.Kalibrace kvadratický spline volba uzlů Regresní diagnostika Vyšetření vlivných bodů pomocí diagnostických grafů Program: Modul: Název: 1 ADSTAT LINEÁRNÍ REGRESE Regresní diagnostika Antimon ultra lampa V S T U P ZVOLENÁ STRATEGIE REGRESNÍ ANALÝZY: Omezení, P : E-34 Transformace : Ne Váhy : Ne Absolutní člen zahrnut : Ano Strana 14 (celkem 20)

15 PODMÍNKY A KVANTILY PRO STATISTICKÉ TESTY: Hladina významnosti, alfa : Počet bodů, n : 14 Počet parametrů, m : 2 Kvantil Studentova rozdělení t(1-alpha/2,n-m) : Kvantil rozd. Chí-kvadrát Chi-square(1-alpha,m) : INDIKACE VLIVNÝCH BODŮ: Jackknife Diagonální Bod reziduum prvky i ej[i] H[i,i] (*indikuje odlehlý nebo vlivný bod) E+00* E-01* Obr.1 L - R graf Obr.2 Williamsův graf Strana 15 (celkem 20)

16 Obr.3 Pregibonův graf Závěr vyšetření vlivných bodů pomocí diagnostických grafů: Grafy ( obr.1-3) potvrdily výskyt odlehlého bodu č.14, který odstraníme. 2.Kalibrace přímkou metodou nejmenších čtverců Program: Modul: Řešení: ADSTAT Kalibrace Kalibrace přímkou metodou nejmenších čtverců V S T U P PODMÍNKY Hladina významnosti, alpha : Počet bodů, n : 13 Kvantil Studentova rozdělení t(1-alpha,n-m) : Jméno výstupního souboru : ANTIMON1.TXT PARAMETRY KALIBRACE: Parametr Odhad Směrodatná odchylka t-kritérium Test H0: B[j] = 0 vs. HA: B[j] <> 0 Hypotéza H0 Hladina významnosti úsek E E E+00 Zamítnuta Směrnice E E E+01 Zamítnuta ANALÝZA REZIDUÍ: Reziduální součet čtverců RSC E-02 Průměr absolutních hodnot reziduí, Me E-02 Průměr relativních reziduí, Mer[%] Odhad reziduálního rozptylu, s^2(e) E-03 Odhad směrodatné odchylky reziduí, s(e) E-02 Strana 16 (celkem 20)

17 KALIBRAČNÍ MEZE: Kritická úroveň yc: E-01 xc: E+00 Limita detekce yd: E-01 xd: E+01 Mez stanovitelnosti ys: 7399E-01 xs: E+01 KALIBRAČNÍ TABULKA: Měřená hodnota Přímý odhad Naszodiho odhad Konfidenční interval yexp[i] xvyp[i] xvyp[i] dolní mez horní mez Llxvyp[i] Luxvyp[i] E E E E E E E E E E E E E E E+01 Obr.4 Kalibrační přímka Závěr kalibrace přímkou metodou nejmenších čtverců: Navržený model kalibrace metodou nejmenších čtverců není vhodný pro atomovou absorpční spektrometrii v proměřovaném rozsahu koncentrací. Strana 17 (celkem 20)

18 3.Kalibrace kvadratický spline Program: Modul: Řešení: ADSTAT Kalibrace Kvadratický spline Postupně volíme počet uzlů ( 0-7) a hledáme přijatelnou těsnost proložení, to je sledujeme vzhled kalibrační křivky a porovnáváme odhady směrodatné odchylky reziduí. Název: Antimon ultra lampa V S T U P PODMÍNKY: Počet bodů, n : 13 Počet uzlů, m : 0-7 Strategie výběru uzlů : Konstantní uzlové intervaly Jméno výstupního souboru : ANTIMON2.TXT Grafické porovnání kalibračních křivek např.: Obr.5.1. Kvadratický spline 0 uzlů Obr.5.2 Kvadratický spline 5 uzlů Tabulka porovnání směrodatných odchylek s(e) odhad počet uzlů směrodatné odchylky s(e) 0 2, , , , , , , , Závěr : Postupně jsme v kvadratickém splinu volili 0-7 uzlů a hledali jsme přijatelnou těsnost proložení. Nejvhodnější je model se 6 uzly. Strana 18 (celkem 20)

19 Program: Modul: Řešení: Název: ADSTAT Kalibrace Kvadratický spline Antimon ultra lampa V S T U P PODMÍNKY: Počet bodů, n : 13 Počet uzlů, m : 6 Strategie výběru uzlů : Konstantní uzlové intervaly Jméno výstupního souboru : ANTIMON6.TXT HODNOTY UZLŮ: a :5.0000E+00 k[ 1] : E+01 k[ 2] : E+01 k[ 3] : E+01 k[ 4] : E+02 k[ 5] : E+02 k[ 2] : E+02 b : E+02 Obr.6 Kvadratický spline 6 uzlů Strana 19 (celkem 20)

20 V Ý S T U P ANALÝZA REZIDUÍ: Reziduální součet čtverců RSC E-04 Průměr absolutních hodnot reziduí, Me E-03 Průměr relativních reziduí, Mer[%] Odhad reziduálního rozptylu, s^2(e) E-05 Odhad směrodatné odchylky reziduí, s(e) E-03 KALIBRAČNÍ MEZE: Kritická úroveň yc: E-02 xc: E+00 Limita detekce yd: E-02 xd: E+00 KALIBRAČNÍ TABULKA: Měřená hodnota yexp[i] Inverzní odhad xvyp[i] Konfidenční interval dolní mez Llxvyp[i] horní mez Luxvyp[i] E E E E E E E E E E E E+02 Závěr: Pro kalibrační závislost stanovení antimonu v odpadních vodách metodou atomové absorpční spektrometrie byla zvolena závislost kvadratický spline pro optimální počet uzlů 6. V tabulce jsou uvedeny bodové a intervalové odhady pro tři neznámé koncentrace: vzorek absorbance odhad intervalový odhad µg/l dolní mez horní mez 1 0,084 9,87 8,29 11,29 2 0,690 82,27 78,95 85,86 3 0,732 89,16 85,32 92,85 Limity přesnosti jsou: limita detekce yd: 0,041 xd: 5,34 Strana 20 (celkem 20)