UNIVERZITA PARDUBICE

Transkript

1 UNIVERZITA PARDUBICE Fakulta chemicko technologická Katedra analytické chemie Licenční studium chemometrie na téma Kalibrace a limity její přesnosti Vedoucí licenčního studia Prof. RNDr. Milan Meloun, DrSc. Semestrální práce ze 3. soustředění Věra Dvořáková Akreditovaná zkušební laboratoř Elektrárna Počerady, a. s. V Teplicích, říjen 2015 Strana 1 z 23

2 Obsah 1. Úloha 1: Lineární kalibrace Zadání Data Program Kalibrace přímkou metodou nejmenších čtverců Podmínky Graf - Kalibrační přímka Statistické charakteristiky proměnných Parametry kalibrace Analýza reziduí Kalibrační meze Kalibrační tabulka Regresní diagnostika Zvolená strategie Podmínky Indikace vlivných bodů Vyšetření vlivných bodů pomocí diagnostických grafů Závěr Kalibrace přímkou metodou nejmenších čtverců Podmínky Data Graf - Kalibrační přímka Statistické charakteristiky proměnných Parametry kalibrace Analýza reziduí Kalibrační meze Kalibrační tabulka Závěr Úloha 2: Nelineární kalibrace Zadání Data Program Kvadratický spline Podmínky Hodnoty uzlů Graf Kvadratický spline Parametry kalibrace Analýza reziduí Analýza derivací a integrálů Kalibrační meze Kalibrační tabulka Závěr 15 Strana 2 z 23

3 3. Úloha 3: Rozlišení mezi lineární a nelineární kalibrací Zadání Data Program Regresní diagnostika Zvolená strategie Podmínky Indikace vlivných bodů Vyšetření vlivných bodů pomocí diagnostických grafů Kalibrace přímkou metodou nejmenších čtverců Parametry kalibrace Analýza reziduí Kalibrační meze Kalibrační tabulka Graf kalibrační přímka Závěr Kvadratický spline Podmínky Tabulka porovnání směrodatných odchylek Závěr Kvadratický spline 4 uzly Podmínky Hodnoty uzlů Graf Analýza reziduí Kalibrační meze Kalibrační tabulka Závěr Hodnocení 23 Strana 3 z 23

4 1. Úloha 1: Lineární kalibrace U přímkové kalibrační závislosti vyčíslete bodový a intervalový odhad pro tři neznámé koncentrace a současně vyčíslete i limity její přesnosti Zadání 1.2. Data Stanovení amonných iontů v odpadních vodách se provádí fotometrickou metodou. Určete kalibrační přímku, kde x je koncentrace NH 4 v mg/l a y je absorbance barevné reakce NH 4 s činidly při vlnové délce 690 nm. Z kalibrační křivky pak odhadněte koncentraci NH 4 (x 1, x 2, x 3 ) ve vzorcích, u kterých byla naměřena absorbance y 1 = 1,405, y 2 = 0,081, y 3 = 2,356 bod x (mg/l) y (A) 1 0 0, ,5 0, , ,5 1, ,33 6 2,5 1, , ,5 2, , Program: ADSTAT Kalibrace Řešení 1.4. Kalibrace přímkou metodou nejmenších čtverců Vstup Podmínky Hladina významnosti alfa :0,050 Počet bodů n :9 Kvantil Studentova rozdělení t (1-alpha, n-m) :2,365 Strana 4 z 23

5 Výstup Graf č. 1 Kalibrační přímka koncentrace amonných iontů Statistické charakteristiky proměnných proměnná průměr směrodatná odchylka variační koeficient x y Součty čtverců Sxx Syy Sxy SumX^ SumY^ Sum XY Korelační koeficient 0, Parametry kalibrace Výpočet parametrů sloupcových průměrů μ i, celkového průměru µ i, sloupcových efektů α i, reziduálního rozptylu a diagonálních prvků H ii. Test H 0 : B[j] > 0 T-kritérium Hypotéza Parametr Odhad Směrodatná odchylka H 0 úsek zamítnuta směrnice zamítnuta Hladina významnosti Strana 5 z 23

6 1.4.5 Analýza reziduí Bod i Měřená Hodnota yexp[i] Predikovaná Hodnota yvyp[i] Absolutní Reziduum e[i] Relativní Reziduum er[i] 1 9,3000E-02 1,1124E-01 1,8224E-02 1,9618E ,2300E-01 4,1354E-01-9,4555E-03-2,2354E ,2200E-01 7,1584E-01-6,1555E-03-8,5257E ,0190E+00 1,0181E+00-8,5560E-04-8,3964E ,3300E+00 1,3204E+00-9,5556E-03-7,1847E ,6050E+00 1,6227E+00 1,7744E-02 1,1056E ,9570E+00 1,9250E+00-3,1956E-02-1,6329E ,2170E+00 2,2273E+00 1,0344E-02 4,6660E ,5180E+00 2,5296E+00 1,1645E-02 4,6245E-01 Reziduální součet čtverců, RSC : 2,1308E-03 Průměr absolutních hodnot reziduí, Me : 1,2884E-02 Průměr relativních reziduí, Mer[%] : 3,020 Odhad reziduálního rozptylu, s^2(e) : 3,0440E-04 Odhad směrodatné odchylky reziduí, s(e) : 1,7447E Kalibrační meze Kritická úroveň yc 1,3660E-01 xc 4,1941E-02 Limita detekce yd 1,6122E-01 xd 8,2666E-02 Mez stanovitelnosti ys 2,0479E-01 xs 1,5473E Kalibrační tabulka Měřená hodnota Přímý odhad Naszodiho odhad Konfindenční interval yexp[i] xvyp[i] xvyp[i] Dolní mez LIxvyp[i] Horní mez Luxvyp[i] 1,4050E+00 2,1399E+00 2,1398E+00 2,0679E+00 2,2118E+00 8,1000E-02-5,0024E-02-4,9910E-02-1,3051E-01 3,0463E-02 2,3560E+00 3,7128E+00 3,7127E+00 3,6348E+00 3,7908E+00 absorbance y 1 = 1,405, y 2 = 0,081, y 3 = 2,35 Strana 6 z 23

7 1.5. Regresní diagnostika Vstup Zvolená strategie regresní analýzy Omezení P Transformace Váhy Absolutní člen zahrnut :1,0000E-34 :Ne :Ne :Ano Podmínky a kvantily pro statistické testy Hladina významnosti alfa :0,050 Počet bodů n :9 Počet parametrů m :2 Kvantil Studentova rozdělení t (1-alpha/2,n-m) :2,365 Kvantil rozdělení Chí-kvadrát Chi-square (1-alpha,m) :5, Indikace vlivných bodů Bod i Standardizované Reziduum es[i] Jacknife Reziduum ej[i] Predikované Reziduum ep[i] Diagonální Prvky H[i] 7 2,0199E+00 2,8954E+00 * 3,8865E-02 1,7778E-01 *(indikuje odlehlý nebo vlivný bod) Vyšetření vlivných bodů pomocí diagnostických grafů Graf č. 2 Graf predikovaných reziduí - koncentrace amonných iontů Strana 7 z 23

8 V grafu predikovaných reziduí je bod 7 podezřelý z odlehlosti (vzdálen od ostatních). Graf č. 3 Pregibonův graf- koncentrace amonných iontů V Pregibonově grafu nebyl žádný z bodů vyhodnocen jako vlivný. Žádný bod se nenachází nad dolní přímkou (středně vlivné body) ani nad horní přímkou (silně vlivné body). Přesto bod 7 se jeví jako podezřelý. Graf č. 4 Williamsův graf koncentrace amonných iontů Ve Williamsově grafu je bod 7 identifikován jako odlehlý, protože se nachází nad vodorovnou linií. Žádný z bodů nebyl vyhodnocen jako extrém (za svislou linií) Strana 8 z 23

9 Graf č. 5 McCulloh-Meeterův graf - koncentrace amonných iontů McCullooh Meeterově grafu je bod 7 vyhodnocen jako odlehlý, protože se nachází nad vodorovnou linií. Žádný bod není také vyhodnocen jako extrém, protože neleží za svislou linií. Body 1, 2, 6, 8 a 9 jsou podezřelé, protože leží v oblasti ohraničené všemi třemi liniemi. Graf č. 6 L-R graf - koncentrace amonných iontů Podle vyhodnocení L R grafu jsou body 1 a 7 odlehlé (nachází se nad křivkou oddělující oblast odlehlých bodů). Strana 9 z 23

10 1.5.5 Závěr vyšetření vlivných bodů pomocí diagnostických grafů: V datech se vyskytuje podezřelý bod č. 1. Odlehlý bod č. 7 ze souboru odstraníme a z takto upravených dat získáme kalibrační přímku a vypočteme limitu detekce a neznámé koncentrace x 1, x 2, x Kalibrace přímkou metodou nejmenších čtverců Vstup Podmínky Hladina významnosti alfa :0,050 Počet bodů n :8 Kvantil Studentova rozdělení t (1-alpha,n-m) :2, Data bod x (mg/l) y (A) 1 0 0, ,5 0, , ,5 1, , ,5 1, ,5 2, , Graf č. 7 Kalibrační přímka - koncentrace amonných iontů Strana 10 z 23

11 Výstup Statistické charakteristiky proměnných proměnná průměr směrodatná odchylka variační koeficient x 1,8750 1, ,087 y 1,2409 0, ,309 Součty čtverců Sxx 13,875 Syy 5,0294 Sxy 8,3592 SumX^2 42,000 SumY^2 17,348 Sum XY 26,966 Korelační koeficient 0, Parametry kalibrace Test H 0 : B[j] = 0 vs. H A : B[j] > 0 Parametr Odhad Směrodatná odchylka t-kritérium Hypotéza H 0 Hladina významnosti úsek 0, , ,974 zamítnuta 0,000 směrnice 0, , ,24 zamítnuta 0, Analýza reziduí Bod i Měřená Hodnota yexp[i] Predikovaná Hodnota yvyp[i] Absolutní Reziduum e[i] Relativní Reziduum er[i] 1 9,3000E-02 1,1124E-01 1,9108E-02 2,0546E ,2300E-01 4,1314E-01-9,8874E-03-2,3374E ,2200E-01 7,1414E-01-7,8829E-03-1,0918E ,0190E+00 1,0151E+00-3,8784E-03-3,8061E ,3300E+00 1,3161E+00-1,3874E-02-1,0432E ,6050E+00 1,6171E+00 1,2131E-02 7,5580E ,2170E+00 2,2191E+00 2,1396E-03 9,6509E ,5180E+00 2,5201E+00 2,1442E-03 8,5156E-02 Reziduální součet čtverců, RSC : 8,8888E-04 Průměr absolutních hodnot reziduí, Me : 8,8806E-03 Průměr relativních reziduí, Mer[%] : 3,292 Odhad reziduálního rozptylu, s^2(e) : 1,4815E-04 Odhad směrodatné odchylky reziduí, s(e) : 1,2172E-02 Strana 11 z 23

12 1.6.7 Kalibrační meze Kritická úroveň yc 1,3043E-01 xc E-02 Limita detekce yd 1,4836E-01 xd E-02 Mez stanovitelnosti ys 1,4290E-01 xs E Kalibrační tabulka Měřená hodnota Přímý odhad Naszodiho odhad Konfindenční interval yexp[i] xvyp[i] xvyp[i] Dolní mez LIxvyp[i] Horní mez Luxvyp[i] 1,4050E+00 2,1476E+00 2,1476E+00 2,0950E+00 2,2020E+00 8,1000E-02-5,1674E-02-5,1617E-02-1,1005E-01 6,7060E-03 2,3560E+00 3,7273E+00 3,7273E+00 3,6694E+00 3,7853E+00 absorbance y 1 = 1,405, y 2 = 0,081, y 3 = 2, Závěr kalibrace přímkou metodou nejmenších čtverců: Odstraněním vlivného bodu č. 7 jsme dosáhli v laboratoři požadovanou limitu detekce yd = 0,1; xd = 0,06. V tabulce jsou uvedeny bodové a intervalové odhady pro tři neznámé koncentrace, které jsme vyčíslili z přímkové kalibrační závislosti. vzorek absorbance Přímý odhad Naszodiho odhad Intervalový odhad / mg/l Dolní mez Horní mez 1 1,405 2,148 2,148 2,095 2, ,081 0,052 0,052-0,110 0, ,356 3,727 3,727 3,669 3,785 Limity přesnosti kalibrační přímky stanovení amonných iontů v odpadních vodách jsou Limita detekce yd 1,4836E-01 xd E-02 Mez stanovitelnosti ys 1,4290E-01 xs E-02 Strana 12 z 23

13 2. Úloha 2: Nelineární kalibrace U nelineární (křivkové) kalibrační závislosti vyčíslete bodový a intervalový odhad pro tři neznámé koncentrace a současně vyčíslete i limty přesnosti Zadání Olovo v odpadních vodách se stanovuje metodou AAS. Jedná se o nelineární kalibraci. Vytvořte kalibrační křivku, kde x je koncentrace olova v µg/l a y je absorbance. Z kalibrační křivky pak odhadněte koncentraci olova x (x 1, x 2, x 3 ) ve vzorcích, u kterých byla naměřena absorbance y 1 = 0,085, y 2 = 0,408, y 3 = 0, Data Pb (µg/l) bod x (µg/l) y (A) 1 0 0, , , , , , , , , , , Program ADSTAT Kalibrace Kvadratický spline Vstup 2.4. Kvadratický spline Podmínky Počet bodů, n 11 Počet uzlů, m 2 Strategie výběru uzlů Konstatntní uzlové intervaly Hodnoty uzlů a :0, E+00 k[1] :2, E+02 k[1] :5,333333E+02 b :8, E+02 Strana 13 z 23

14 2.4.3 Graf č. 8 Kvadratický spline graf stanovení olova Výstup Parametry kalibrace Koeficienty rovnice: f[i]*x^2 + g[i]*x + h[i] pro k[i-1] x = k[i] k[i] f[i] g[i] h[i] 2,6667E+02-4,5164E E E E E E E E E E E Analýza reziduí Bod i Měřená Hodnota yexp[i] Predikovaná Hodnota yvyp[i] Absolutní Reziduum e[i] Relativní Reziduum er[i] E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E-02 Strana 14 z 23

15 Reziduální součet čtverců, RSC : E-03 Průměr absolutních hodnot reziduí, Me : E-03 Průměr relativních reziduí, Mer[%] : Odhad reziduálního rozptylu, s^2(e) : E-04 Odhad směrodatné odchylky reziduí, s(e) : E Analýza derivací a integrálů Bod i Predikovaná Hodnota yvyp[i] První derivace der1[i] Druhá derivace der2 [i] Integrál int [i] E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E E Kalibrační meze Kritická y c E-02 x c E+00 úroveň Limita detekce y d E-02 x d E Kalibrační tabulka Měřená hodnota Inverzní odhad Konfindenční interval yexp[i] xvyp[i] Dolní mez LIxvyp[i] Horní mez Luxvyp[i] E E E E E E E E E E E E Závěr V tabulce jsou uvedeny bodové a intervalové odhady pro tři neznámé koncentrace, které jsme vyčíslili z kalibrační závislosti. Vzorek Absorbance Odhad ug/l Intervalový odhad ug/l Dolní mez Horní mez 1 0,085 13,86 9,63 17,74 2 0,408 87,62 84,02 91,35 3 0, ,77 235,95 249,88 Limity přesnosti kalibrační křivky stanovení olova v odpadních vodách jsou Limita detekce y d 0,061 x d 8,89 Strana 15 z 23

16 3. Úloha 3:Rozlišení mezi lineární a nelineární kalibrací 3.1. Zadání Při stanovení obsahu dusičnanů ve vzorcích vod metodou iontové chromatografie je proměřována závislost plochy píku y na koncentraci x. Úkolem je nalézt kalibrační model. Vypočtěte bodový a intervalový odhad pro naměřené odezvy 6,1357; 18,0771 a 36,5092 tří neznámých koncentrací Data bod c(dusičnany) mg/l Odezva mv 1 0,5 0, , , , , , , , Program ADSTAT: Kalibrace, Lineární regrese Řešení 3.4. Regresní diagnostika Vstup Zvolená strategie regresní analýzy Omezení, P Transformace Váhy Absolutní člen zahrnut : E-34 : Ne : Ne : Ano Podmínky a kvantily pro statistické testy Hladina významnosti alfa : 0,05 Počet bodů, n : 8 Počet parametrů, m : 2 Kvantil Studentova rozdělení t (1-alpha,n-m) : 2,447 Kvantil rozd. Chí-kvadrát Chi-square (1-alpha,m) : 5,991 Strana 16 z 23

17 3.4.3 Indikace vlivných bodů - stanovení dusičnanů Bez odlehlých bodů Vyšetření vlivných bodů pomocí diagnostických grafů Graf č. 9 Graf predikovaných reziduí stanovení dusičnanů V grafu predikovaných reziduí je bod 9 podezřelý z odlehlosti. Graf č. 10 Pregibonův graf stanovení dusičnanů V Pregibonově grafu je bod 9 vyhodnocen jako středně vlivný. Strana 17 z 23

18 Graf č. 11 Williamsův graf stanovení dusičnanů Ve Williamsově grafu je bod 9 vyhodnocen jako extrém. Graf č. 12 McCulloh-Meeterův graf stanovení dusičnanů V McCullooh Meeterově grafu není žádný bod vyhodnocen jako odlehlý, protože se nenachází nad vodorovnou linií. Bod 9 je vyhodnocen jako extrém, protože leží za svislou linií. Body 1, 2, 5 a 6 jsou podezřelé, protože leží v oblasti ohraničené všemi třemi liniemi. Strana 18 z 23

19 Graf č. 13 L-R graf stanovení dusičnanů V L-R grafu je bod 9 odlehlý (nachází se nad křivkou oddělující oblast odlehlých bodů). Závěr vyšetření vlivných bodů pomocí diagnostických grafů: Bod 9 byl 1x vyhodnocen jako odlehlý, 2x jako extrém, 1x jako středně vlivný a 1x jako podezřelý z odlehlosti, proto ho odstraňovat nebudeme Kalibrace přímkou metodou nejmenších čtverců Parametry kalibrace Test H 0 : B[j] = 0 vs. H A : B[j] > 0 Parametr Odhad Směrodatná odchylka T-kritérium Hypotéza H 0 Hladina významnosti úsek E E E+00 akceptována 0,230 směrnice E E E+02 zamítnuta 0, Analýza reziduí Reziduální součet čtverců, RSC : E-01 Průměr absolutních hodnot reziduí, Me : E-01 Průměr relativních reziduí, Mer[%] : Odhad reziduálního rozptylu, s^2(e) : E-02 Odhad směrodatné odchylky reziduí, s(e) : E-01 Strana 19 z 23

20 3.5.3 Kalibrační meze Kritická úroveň y c E-01 x c E-01 Limita detekce y d E-01 x d E-01 Mez stanovitelnosti y s E+00 x s E Kalibrační tabulka Měřená hodnota Inverzní odhad Naszodiho odhad Konfindenční interval yexp[i] xvyp[i] xvyp[i] Dolní mez LIxvyp[i] Horní mez Luxvyp[i] E E E E E E E E E E E E E E E Graf č. 14 Kalibrační přímka stanovení dusičnanů Závěr kalibrace přímkou metodou nejmenších čtverců Navržený model kalibrace metodou nejmenších čtverců není vhodný pro iontovou chromatografii v proměřovaných odezvách. Strana 20 z 23

21 3.6. Kalibrace kvadratický spline Postupně volíme počet uzlů (0-7) a hledáme přijatelnou těsnost proložení tak, že sledujeme vzhled kalibrační křivky a porovnáváme odhady směrodatné odchylky reziduí. Vstup Podmínky Počet bodů, n : 8 Počet uzlů, m : 0-7 Strategie výběru uzlů : Konstantní uzlové intervaly Grafické porovnání kalibračních křivek Graf č. 15 Graf č.16 Kvadratický spline 0 uzlů Kvadratický spline 3 uzly Tabulka porovnání směrodatných odchylek s(e) Počet uzlů Odhad směrodatné odchylky E E E E E E Závěr Postupně jsme v kvadratickém splinu volili 0-5 uzlů a hledali jsme přijatelnou těsnost proložení. Nejvhodnější je model se 4 uzly. Strana 21 z 23

22 3.7. Kalibrace kvadratický spline 4 uzly Vstup Podmínky Počet bodů, n : 8 Počet uzlů, m : 4 Strategie výběru uzlů : Konstantní uzlové intervaly Hodnoty uzlů a b : E-01 :7.0000E+01 k[1] k[2] k[3] k[4] : E+01 : E+01 : E+01 : E Graf č. 17 Kvadratický spline stanovení dusičnanů Výstup Analýza reziduí Reziduální součet čtverců, RSC : E-03 Průměr absolutních hodnot reziduí, Me : E-02 Průměr relativních reziduí, Mer[%] : Odhad reziduálního rozptylu, s^2(e) : E-03 Odhad směrodatné odchylky reziduí, s(e) : E-02 Strana 22 z 23

23 3.7.5 Kalibrační meze Kritická úroveň y c E-01 x c E+00 Limita detekce y d E+00 x d E Kalibrační tabulka Měřená hodnota Inverzní odhad Konfindenční interval yexp[i] xvyp[i] Dolní mez LIxvyp[i] Horní mez Luxvyp[i] E E E E E E E E E E E E Závěr V tabulce jsou bodové a intervalové odhady pro tři neznámé koncentrace Vzorek Odezva Odhad mg/l Intervalový odhad ug/l Dolní mez Horní mez , Limity přesnosti kalibrační křivky stanovení dusičnanů v odpadních vodách jsou Limita detekce y d 1.31 x d Hodnocení Pro kalibrační závislost stanovení dusičnanů v odpadních vodách metodou iontové chromatografie byla zvolena závislost MNČ. Strana 23 z 23