UNIVERZITA PARDUBICE

UNIVERZITA PARDUBICE Fakulta chemicko technologická Katedra analytické chemie Licenční studium chemometrie na téma Kalibrace a limity její přesnosti Vedoucí licenčního studia Prof. RNDr. Milan Meloun, DrSc. Semestrální práce ze 3. soustředění Věra Dvořáková Akreditovaná zkušební laboratoř Elektrárna Počerady, a. s. V Teplicích, říjen 2015 Strana 1 z 23

Obsah 1. Úloha 1: Lineární kalibrace 4 1.1. Zadání 4 1.2. Data 4 1.3. Program 4 1.4. Kalibrace přímkou metodou nejmenších čtverců 4 1.4.1 Podmínky 4 1.4.2 Graf - Kalibrační přímka 5 1.4.3 Statistické charakteristiky proměnných 5 1.4.4 Parametry kalibrace 5 1.4.5 Analýza reziduí 6 1.4.6 Kalibrační meze 6 1.4.7 Kalibrační tabulka 6 1.5. Regresní diagnostika 7 1.5.1 Zvolená strategie 7 1.5.2 Podmínky 7 1.5.3 Indikace vlivných bodů 7 1.5.4 Vyšetření vlivných bodů pomocí diagnostických grafů 7 1.5.5 Závěr 10 1.6 Kalibrace přímkou metodou nejmenších čtverců 10 1.6.1 Podmínky 10 1.6.2 Data 10 1.6.3 Graf - Kalibrační přímka 10 1.6.4 Statistické charakteristiky proměnných 11 1.6.5 Parametry kalibrace 11 1.6.6 Analýza reziduí 11 1.6.7 Kalibrační meze 12 1.6.8 Kalibrační tabulka 12 1.6.9 Závěr 12 2. Úloha 2: Nelineární kalibrace 13 2.1. Zadání 13 2.2. Data 13 2.3. Program 13 2.4. Kvadratický spline 13 2.4.1 Podmínky 13 2.4.2 Hodnoty uzlů 13 2.4.3 Graf Kvadratický spline 14 2.4.4 Parametry kalibrace 14 2.4.5 Analýza reziduí 14 2.4.6 Analýza derivací a integrálů 15 2.4.7 Kalibrační meze 15 2.4.8 Kalibrační tabulka 15 2.4.9 Závěr 15 Strana 2 z 23

3. Úloha 3: Rozlišení mezi lineární a nelineární kalibrací 16 3.1. Zadání 16 3.2. Data 16 3.3. Program 16 3.4. Regresní diagnostika 16 3.4.1 Zvolená strategie 16 3.4.2 Podmínky 16 3.4.3 Indikace vlivných bodů 17 3.4.4 Vyšetření vlivných bodů pomocí diagnostických grafů 17 3.5. Kalibrace přímkou metodou nejmenších čtverců 19 3.5.1 Parametry kalibrace 19 3.5.2 Analýza reziduí 19 3.5.3 Kalibrační meze 20 3.5.4 Kalibrační tabulka 20 3.5.5 Graf kalibrační přímka 20 3.5.6 Závěr 20 3.6. Kvadratický spline 21 3.6.1 Podmínky 21 3.6.2 Tabulka porovnání směrodatných odchylek 21 3.6.3 Závěr 21 3.7. Kvadratický spline 4 uzly 22 3.7.1 Podmínky 22 3.7.2 Hodnoty uzlů 22 3.7.3 Graf 22 3.7.4 Analýza reziduí 22 3.7.5 Kalibrační meze 23 3.7.6 Kalibrační tabulka 23 3.7.7 Závěr 23 3.8. Hodnocení 23 Strana 3 z 23

1. Úloha 1: Lineární kalibrace U přímkové kalibrační závislosti vyčíslete bodový a intervalový odhad pro tři neznámé koncentrace a současně vyčíslete i limity její přesnosti. 1.1. Zadání 1.2. Data Stanovení amonných iontů v odpadních vodách se provádí fotometrickou metodou. Určete kalibrační přímku, kde x je koncentrace NH 4 v mg/l a y je absorbance barevné reakce NH 4 s činidly při vlnové délce 690 nm. Z kalibrační křivky pak odhadněte koncentraci NH 4 (x 1, x 2, x 3 ) ve vzorcích, u kterých byla naměřena absorbance y 1 = 1,405, y 2 = 0,081, y 3 = 2,356 bod x (mg/l) y (A) 1 0 0,093 2 0,5 0,423 3 1 0,722 4 1,5 1,019 5 2 1,33 6 2,5 1,605 7 3 1,957 8 3,5 2,217 9 4 2,518 1.3. Program: ADSTAT Kalibrace Řešení 1.4. Kalibrace přímkou metodou nejmenších čtverců Vstup 1.4.1 Podmínky Hladina významnosti alfa :0,050 Počet bodů n :9 Kvantil Studentova rozdělení t (1-alpha, n-m) :2,365 Strana 4 z 23

Výstup 1.4.2 Graf č. 1 Kalibrační přímka koncentrace amonných iontů 1.4.3 Statistické charakteristiky proměnných proměnná průměr směrodatná odchylka variační koeficient x 2.0000 1.3693 68.465 y 1.3204 0.82804 62.709 Součty čtverců Sxx 15.000 Syy 5.4852 Sxy 9.0690 SumX^2 51.000 SumY^2 21.177 Sum XY 32.837 Korelační koeficient 0,99981 1.4.4 Parametry kalibrace Výpočet parametrů sloupcových průměrů μ i, celkového průměru µ i, sloupcových efektů α i, reziduálního rozptylu a diagonálních prvků H ii. Test H 0 : B[j] > 0 T-kritérium Hypotéza Parametr Odhad Směrodatná odchylka H 0 úsek 0.11124 0.010724 10.374 zamítnuta 0.000 směrnice 0.60460 0.0045048 134.21 zamítnuta 0.000 Hladina významnosti Strana 5 z 23

1.4.5 Analýza reziduí Bod i Měřená Hodnota yexp[i] Predikovaná Hodnota yvyp[i] Absolutní Reziduum e[i] Relativní Reziduum er[i] 1 9,3000E-02 1,1124E-01 1,8224E-02 1,9618E+01 2 4,2300E-01 4,1354E-01-9,4555E-03-2,2354E+00 3 7,2200E-01 7,1584E-01-6,1555E-03-8,5257E-01 4 1,0190E+00 1,0181E+00-8,5560E-04-8,3964E-02 5 1,3300E+00 1,3204E+00-9,5556E-03-7,1847E-01 6 1,6050E+00 1,6227E+00 1,7744E-02 1,1056E+00 7 1,9570E+00 1,9250E+00-3,1956E-02-1,6329E+00 8 2,2170E+00 2,2273E+00 1,0344E-02 4,6660E-01 9 2,5180E+00 2,5296E+00 1,1645E-02 4,6245E-01 Reziduální součet čtverců, RSC : 2,1308E-03 Průměr absolutních hodnot reziduí, Me : 1,2884E-02 Průměr relativních reziduí, Mer[%] : 3,020 Odhad reziduálního rozptylu, s^2(e) : 3,0440E-04 Odhad směrodatné odchylky reziduí, s(e) : 1,7447E-02 1.4.6 Kalibrační meze Kritická úroveň yc 1,3660E-01 xc 4,1941E-02 Limita detekce yd 1,6122E-01 xd 8,2666E-02 Mez stanovitelnosti ys 2,0479E-01 xs 1,5473E-01 1.4.7 Kalibrační tabulka Měřená hodnota Přímý odhad Naszodiho odhad Konfindenční interval yexp[i] xvyp[i] xvyp[i] Dolní mez LIxvyp[i] Horní mez Luxvyp[i] 1,4050E+00 2,1399E+00 2,1398E+00 2,0679E+00 2,2118E+00 8,1000E-02-5,0024E-02-4,9910E-02-1,3051E-01 3,0463E-02 2,3560E+00 3,7128E+00 3,7127E+00 3,6348E+00 3,7908E+00 absorbance y 1 = 1,405, y 2 = 0,081, y 3 = 2,35 Strana 6 z 23

1.5. Regresní diagnostika Vstup 1.5.1 Zvolená strategie regresní analýzy Omezení P Transformace Váhy Absolutní člen zahrnut :1,0000E-34 :Ne :Ne :Ano 1.5.2 Podmínky a kvantily pro statistické testy Hladina významnosti alfa :0,050 Počet bodů n :9 Počet parametrů m :2 Kvantil Studentova rozdělení t (1-alpha/2,n-m) :2,365 Kvantil rozdělení Chí-kvadrát Chi-square (1-alpha,m) :5,991 1.5.3 Indikace vlivných bodů Bod i Standardizované Reziduum es[i] Jacknife Reziduum ej[i] Predikované Reziduum ep[i] Diagonální Prvky H[i] 7 2,0199E+00 2,8954E+00 * 3,8865E-02 1,7778E-01 *(indikuje odlehlý nebo vlivný bod) 1.5.4 Vyšetření vlivných bodů pomocí diagnostických grafů Graf č. 2 Graf predikovaných reziduí - koncentrace amonných iontů Strana 7 z 23

V grafu predikovaných reziduí je bod 7 podezřelý z odlehlosti (vzdálen od ostatních). Graf č. 3 Pregibonův graf- koncentrace amonných iontů V Pregibonově grafu nebyl žádný z bodů vyhodnocen jako vlivný. Žádný bod se nenachází nad dolní přímkou (středně vlivné body) ani nad horní přímkou (silně vlivné body). Přesto bod 7 se jeví jako podezřelý. Graf č. 4 Williamsův graf koncentrace amonných iontů Ve Williamsově grafu je bod 7 identifikován jako odlehlý, protože se nachází nad vodorovnou linií. Žádný z bodů nebyl vyhodnocen jako extrém (za svislou linií) Strana 8 z 23

Graf č. 5 McCulloh-Meeterův graf - koncentrace amonných iontů McCullooh Meeterově grafu je bod 7 vyhodnocen jako odlehlý, protože se nachází nad vodorovnou linií. Žádný bod není také vyhodnocen jako extrém, protože neleží za svislou linií. Body 1, 2, 6, 8 a 9 jsou podezřelé, protože leží v oblasti ohraničené všemi třemi liniemi. Graf č. 6 L-R graf - koncentrace amonných iontů Podle vyhodnocení L R grafu jsou body 1 a 7 odlehlé (nachází se nad křivkou oddělující oblast odlehlých bodů). Strana 9 z 23

1.5.5 Závěr vyšetření vlivných bodů pomocí diagnostických grafů: V datech se vyskytuje podezřelý bod č. 1. Odlehlý bod č. 7 ze souboru odstraníme a z takto upravených dat získáme kalibrační přímku a vypočteme limitu detekce a neznámé koncentrace x 1, x 2, x 3. 1.6. Kalibrace přímkou metodou nejmenších čtverců Vstup 1.6.1 Podmínky Hladina významnosti alfa :0,050 Počet bodů n :8 Kvantil Studentova rozdělení t (1-alpha,n-m) :2,447 1.6.2 Data bod x (mg/l) y (A) 1 0 0,093 2 0,5 0,423 3 1 0,722 4 1,5 1,019 5 2 1,330 6 2,5 1,605 8 3,5 2,217 9 4 2,518 1.6.3 Graf č. 7 Kalibrační přímka - koncentrace amonných iontů Strana 10 z 23

Výstup 1.6.4 Statistické charakteristiky proměnných proměnná průměr směrodatná odchylka variační koeficient x 1,8750 1,4079 75,087 y 1,2409 0,84763 68,309 Součty čtverců Sxx 13,875 Syy 5,0294 Sxy 8,3592 SumX^2 42,000 SumY^2 17,348 Sum XY 26,966 Korelační koeficient 0,99991 1.6.5 Parametry kalibrace Test H 0 : B[j] = 0 vs. H A : B[j] > 0 Parametr Odhad Směrodatná odchylka t-kritérium Hypotéza H 0 Hladina významnosti úsek 0,11211 0,0074870 14,974 zamítnuta 0,000 směrnice 0,60201 0,0032676 184,24 zamítnuta 0,000 1.6.6 Analýza reziduí Bod i Měřená Hodnota yexp[i] Predikovaná Hodnota yvyp[i] Absolutní Reziduum e[i] Relativní Reziduum er[i] 1 9,3000E-02 1,1124E-01 1,9108E-02 2,0546E+01 2 4,2300E-01 4,1314E-01-9,8874E-03-2,3374E+00 3 7,2200E-01 7,1414E-01-7,8829E-03-1,0918E+00 4 1,0190E+00 1,0151E+00-3,8784E-03-3,8061E-01 5 1,3300E+00 1,3161E+00-1,3874E-02-1,0432E+00 6 1,6050E+00 1,6171E+00 1,2131E-02 7,5580E-01 7 2,2170E+00 2,2191E+00 2,1396E-03 9,6509E-02 8 2,5180E+00 2,5201E+00 2,1442E-03 8,5156E-02 Reziduální součet čtverců, RSC : 8,8888E-04 Průměr absolutních hodnot reziduí, Me : 8,8806E-03 Průměr relativních reziduí, Mer[%] : 3,292 Odhad reziduálního rozptylu, s^2(e) : 1,4815E-04 Odhad směrodatné odchylky reziduí, s(e) : 1,2172E-02 Strana 11 z 23

1.6.7 Kalibrační meze Kritická úroveň yc 1,3043E-01 xc 3.0432E-02 Limita detekce yd 1,4836E-01 xd 6.0212E-02 Mez stanovitelnosti ys 1,4290E-01 xs 5.1147E-02 1.6.8 Kalibrační tabulka Měřená hodnota Přímý odhad Naszodiho odhad Konfindenční interval yexp[i] xvyp[i] xvyp[i] Dolní mez LIxvyp[i] Horní mez Luxvyp[i] 1,4050E+00 2,1476E+00 2,1476E+00 2,0950E+00 2,2020E+00 8,1000E-02-5,1674E-02-5,1617E-02-1,1005E-01 6,7060E-03 2,3560E+00 3,7273E+00 3,7273E+00 3,6694E+00 3,7853E+00 absorbance y 1 = 1,405, y 2 = 0,081, y 3 = 2,356 1.6.9 Závěr kalibrace přímkou metodou nejmenších čtverců: Odstraněním vlivného bodu č. 7 jsme dosáhli v laboratoři požadovanou limitu detekce yd = 0,1; xd = 0,06. V tabulce jsou uvedeny bodové a intervalové odhady pro tři neznámé koncentrace, které jsme vyčíslili z přímkové kalibrační závislosti. vzorek absorbance Přímý odhad Naszodiho odhad Intervalový odhad / mg/l Dolní mez Horní mez 1 1,405 2,148 2,148 2,095 2,202 2 0,081 0,052 0,052-0,110 0,0067 3 2,356 3,727 3,727 3,669 3,785 Limity přesnosti kalibrační přímky stanovení amonných iontů v odpadních vodách jsou Limita detekce yd 1,4836E-01 xd 6.0212E-02 Mez stanovitelnosti ys 1,4290E-01 xs 5.1147E-02 Strana 12 z 23

2. Úloha 2: Nelineární kalibrace U nelineární (křivkové) kalibrační závislosti vyčíslete bodový a intervalový odhad pro tři neznámé koncentrace a současně vyčíslete i limty přesnosti. 2.1. Zadání Olovo v odpadních vodách se stanovuje metodou AAS. Jedná se o nelineární kalibraci. Vytvořte kalibrační křivku, kde x je koncentrace olova v µg/l a y je absorbance. Z kalibrační křivky pak odhadněte koncentraci olova x (x 1, x 2, x 3 ) ve vzorcích, u kterých byla naměřena absorbance y 1 = 0,085, y 2 = 0,408, y 3 = 0,927 2.2. Data Pb (µg/l) bod x (µg/l) y (A) 1 0 0,006 2 10 0,087 3 40 0,206 4 80 0,362 5 120 0,537 6 160 0,676 7 200 0,807 8 320 1,128 9 480 1,481 10 640 1,851 11 800 2,126 2.3. Program ADSTAT Kalibrace Kvadratický spline Vstup 2.4. Kvadratický spline 2.4.1 Podmínky Počet bodů, n 11 Počet uzlů, m 2 Strategie výběru uzlů Konstatntní uzlové intervaly 2.4.2 Hodnoty uzlů a :0,000000 E+00 k[1] :2,666667 E+02 k[1] :5,333333E+02 b :8,000000 E+02 Strana 13 z 23

2.4.3 Graf č. 8 Kvadratický spline graf stanovení olova Výstup 2.4.4 Parametry kalibrace Koeficienty rovnice: f[i]*x^2 + g[i]*x + h[i] pro k[i-1] x = k[i] k[i] f[i] g[i] h[i] 2,6667E+02-4,5164E-06 4.8373E-03 1.8831E-02 5.3333E+02-2.5803E-07 2.5661E-03 3.2165E-01 8.0000E+02-1.4175E-06 3.8029E-03-8.1603E-03 2.4.5 Analýza reziduí Bod i Měřená Hodnota yexp[i] Predikovaná Hodnota yvyp[i] Absolutní Reziduum e[i] Relativní Reziduum er[i] 1 6.0000E-03 1.8831E-02 1.2831E-02 6.8138E+01 2 8.7000E-02 6.6752E-02-2.0248E-02-3.0332E+01 3 2.0600E-01 2.0510E-01-9.0432E-04-4.4093E-01 4 3.6200E-01 3.7691E-01 1.4907E-02 3.9552E+00 5 5.3700E-01 5.3427E-01-2.7336E-03-5.1166E-01 6 6.7600E-01 6.7717E-01 1.1728E-03 1.7319E-01 7 8.0700E-01 8.0563E-01-1.3734E-03-1.7048E-01 8 1.1280E+00 1.1164E+00-1.1615E-02-1.0404E+00 9 1.4810E+00 1.4939E+00 1.2935E-02 8.6582E-01 10 1.8510E+00 1.8451E+00-5.9194E-03-3.2082E-01 11 2.1260E+00 2.1269E+00 9.4711E-04 4.4529E-02 Strana 14 z 23

Reziduální součet čtverců, RSC : 1.1465E-03 Průměr absolutních hodnot reziduí, Me : 7.7806E-03 Průměr relativních reziduí, Mer[%] : 9.636 Odhad reziduálního rozptylu, s^2(e) : 1.9109E-04 Odhad směrodatné odchylky reziduí, s(e) : 1.3824E-02 2.4.6 Analýza derivací a integrálů Bod i Predikovaná Hodnota yvyp[i] První derivace der1[i] Druhá derivace der2 [i] Integrál int [i] 1 1.8831E-02 4.8373E-03-9.0329E-06 0.0000E+00 2 6.6752E-02 4.7469E-03-9.0329E-06 4.2867E-01 3 2.0510E-01 4.4759E-03-9.0329E-06 4.5267E+00 4 3.7691E-01 4.1146E-03-9.0329E-06 1.6215E+01 5 5.3427E-01 3.7533E-03-9.0329E-06 3.4487E+01 6 6.7717E-01 3.3920E-03-9.0329E-06 5.8764E+01 7 8.0563E-01 3.0307E-03-9.0329E-06 8.8468E+01 8 1.1164E+00 2.4010E-03-5.1607E-07 2.0458E+02 9 1.4939E+00 2.3184E-03-5.1607E-07 4.1358E+02 10 1.8451E+00 1.9885E-03-2.8351E-06 6.8146E+02 11 2.1269E+00 1.5394E-03-2.8351E-06 1.0002E+03 2.4.7 Kalibrační meze Kritická y c 4.130952E-02 x c 4.667205E+00 úroveň Limita detekce y d 6.149809E-02 x d 8.894280E+00 2.4.8 Kalibrační tabulka Měřená hodnota Inverzní odhad Konfindenční interval yexp[i] xvyp[i] Dolní mez LIxvyp[i] Horní mez Luxvyp[i] 8.500000E-02 1.385824E+01 9.628024E+00 1.774294E+01 4.080000E-01 8.762035E+01 8.401861E+01 9.135279E+01 9.270000E-01 2.427748E+02 2.359466E+02 2.498797E+02 2.4.9 Závěr V tabulce jsou uvedeny bodové a intervalové odhady pro tři neznámé koncentrace, které jsme vyčíslili z kalibrační závislosti. Vzorek Absorbance Odhad ug/l Intervalový odhad ug/l Dolní mez Horní mez 1 0,085 13,86 9,63 17,74 2 0,408 87,62 84,02 91,35 3 0,927 242,77 235,95 249,88 Limity přesnosti kalibrační křivky stanovení olova v odpadních vodách jsou Limita detekce y d 0,061 x d 8,89 Strana 15 z 23

3. Úloha 3:Rozlišení mezi lineární a nelineární kalibrací 3.1. Zadání Při stanovení obsahu dusičnanů ve vzorcích vod metodou iontové chromatografie je proměřována závislost plochy píku y na koncentraci x. Úkolem je nalézt kalibrační model. Vypočtěte bodový a intervalový odhad pro naměřené odezvy 6,1357; 18,0771 a 36,5092 tří neznámých koncentrací. 3.2. Data bod c(dusičnany) mg/l Odezva mv 1 0,5 0,3298 2 10 6,2407 3 20 12,3961 4 30 18,7431 5 40 25,0808 6 50 31,2239 7 60 37,9005 8 70 44,1843 3.3. Program ADSTAT: Kalibrace, Lineární regrese Řešení 3.4. Regresní diagnostika Vstup 3.4.1 Zvolená strategie regresní analýzy Omezení, P Transformace Váhy Absolutní člen zahrnut : 1.000000E-34 : Ne : Ne : Ano 3.4.2 Podmínky a kvantily pro statistické testy Hladina významnosti alfa : 0,05 Počet bodů, n : 8 Počet parametrů, m : 2 Kvantil Studentova rozdělení t (1-alpha,n-m) : 2,447 Kvantil rozd. Chí-kvadrát Chi-square (1-alpha,m) : 5,991 Strana 16 z 23

3.4.3 Indikace vlivných bodů - stanovení dusičnanů Bez odlehlých bodů 3.4.4 Vyšetření vlivných bodů pomocí diagnostických grafů Graf č. 9 Graf predikovaných reziduí stanovení dusičnanů V grafu predikovaných reziduí je bod 9 podezřelý z odlehlosti. Graf č. 10 Pregibonův graf stanovení dusičnanů V Pregibonově grafu je bod 9 vyhodnocen jako středně vlivný. Strana 17 z 23

Graf č. 11 Williamsův graf stanovení dusičnanů Ve Williamsově grafu je bod 9 vyhodnocen jako extrém. Graf č. 12 McCulloh-Meeterův graf stanovení dusičnanů V McCullooh Meeterově grafu není žádný bod vyhodnocen jako odlehlý, protože se nenachází nad vodorovnou linií. Bod 9 je vyhodnocen jako extrém, protože leží za svislou linií. Body 1, 2, 5 a 6 jsou podezřelé, protože leží v oblasti ohraničené všemi třemi liniemi. Strana 18 z 23

Graf č. 13 L-R graf stanovení dusičnanů V L-R grafu je bod 9 odlehlý (nachází se nad křivkou oddělující oblast odlehlých bodů). Závěr vyšetření vlivných bodů pomocí diagnostických grafů: Bod 9 byl 1x vyhodnocen jako odlehlý, 2x jako extrém, 1x jako středně vlivný a 1x jako podezřelý z odlehlosti, proto ho odstraňovat nebudeme. 3.5. Kalibrace přímkou metodou nejmenších čtverců 3.5.1 Parametry kalibrace Test H 0 : B[j] = 0 vs. H A : B[j] > 0 Parametr Odhad Směrodatná odchylka T-kritérium Hypotéza H 0 Hladina významnosti úsek -1.2394E-01 9.2694E-02 1.3371E+00 akceptována 0,230 směrnice 6.3134E-01 2.2158E-03 2.8493E+02 zamítnuta 0,000 3.5.2 Analýza reziduí Reziduální součet čtverců, RSC : 1.2270E-01 Průměr absolutních hodnot reziduí, Me : 1.1197E-01 Průměr relativních reziduí, Mer[%] : 5.684 Odhad reziduálního rozptylu, s^2(e) : 2.0450E-02 Odhad směrodatné odchylky reziduí, s(e) : 1.4300E-01 Strana 19 z 23

3.5.3 Kalibrační meze Kritická úroveň y c 1.0288E-01 x c 3.5926E-01 Limita detekce y d 3.2646E-01 x d 7.1340E-01 Mez stanovitelnosti y s 1.7042E+00 x s 2.8956E+00 3.5.4 Kalibrační tabulka Měřená hodnota Inverzní odhad Naszodiho odhad Konfindenční interval yexp[i] xvyp[i] xvyp[i] Dolní mez LIxvyp[i] Horní mez Luxvyp[i] 6.1357E+00 9.9149E+00 9.9152E+00 9.2886E+00 1.0541E+01 1.8077E+01 2.8829E+01 2.8829E+01 2.8239E+01 2.9420E+01 3.6509E+01 5.8024E+01 5.8024E+01 5.7404E+01 5.8645E+01 3.5.5 Graf č. 14 Kalibrační přímka stanovení dusičnanů 3.5.6 Závěr kalibrace přímkou metodou nejmenších čtverců Navržený model kalibrace metodou nejmenších čtverců není vhodný pro iontovou chromatografii v proměřovaných odezvách. Strana 20 z 23

3.6. Kalibrace kvadratický spline Postupně volíme počet uzlů (0-7) a hledáme přijatelnou těsnost proložení tak, že sledujeme vzhled kalibrační křivky a porovnáváme odhady směrodatné odchylky reziduí. Vstup 3.6.1 Podmínky Počet bodů, n : 8 Počet uzlů, m : 0-7 Strategie výběru uzlů : Konstantní uzlové intervaly Grafické porovnání kalibračních křivek Graf č. 15 Graf č.16 Kvadratický spline 0 uzlů Kvadratický spline 3 uzly 3.6.2 Tabulka porovnání směrodatných odchylek s(e) Počet uzlů Odhad směrodatné odchylky 0 9.7483E-02 1 1.0866E-01 2 1.2558E-01 3 1.4276E-01 4 5.3265E-02 5 0.0000E+00 3.6.3 Závěr Postupně jsme v kvadratickém splinu volili 0-5 uzlů a hledali jsme přijatelnou těsnost proložení. Nejvhodnější je model se 4 uzly. Strana 21 z 23

3.7. Kalibrace kvadratický spline 4 uzly Vstup 3.7.1 Podmínky Počet bodů, n : 8 Počet uzlů, m : 4 Strategie výběru uzlů : Konstantní uzlové intervaly 3.7.2 Hodnoty uzlů a b : 5.0000E-01 :7.0000E+01 k[1] k[2] k[3] k[4] : 1.4400E+01 : 2.8300E+01 : 4.2200E+01 : 5.6100E+01 3.7.3 Graf č. 17 Kvadratický spline stanovení dusičnanů Výstup 3.7.4 Analýza reziduí Reziduální součet čtverců, RSC : 2.8372E-03 Průměr absolutních hodnot reziduí, Me : 1.3835E-02 Průměr relativních reziduí, Mer[%] : 0.094 Odhad reziduálního rozptylu, s^2(e) : 2.8372E-03 Odhad směrodatné odchylky reziduí, s(e) : 5.3265E-02 Strana 22 z 23

3.7.5 Kalibrační meze Kritická úroveň y c 7.527960E-01 x c 1.171460E+00 Limita detekce y d 1.314368E+00 x d 2.063837E+00 3.7.6 Kalibrační tabulka Měřená hodnota Inverzní odhad Konfindenční interval yexp[i] xvyp[i] Dolní mez LIxvyp[i] Horní mez Luxvyp[i] 6.135700E+00 9.821033E+00 8.711427E+00 1.088785E+01 1.807710E+01 2.891933E+01 2.813904E+01 2.971933E+01 3.650920E+01 5.791085E+01 5.706647E+01 5.887030E+01 3.7.7 Závěr V tabulce jsou bodové a intervalové odhady pro tři neznámé koncentrace Vzorek Odezva Odhad mg/l Intervalový odhad ug/l Dolní mez Horní mez 1 6.1357 9.82 8,71 10.89 2 18.0771 28.92 28.14 29.72 3 36.5092 57.91 57.07 58.87 Limity přesnosti kalibrační křivky stanovení dusičnanů v odpadních vodách jsou Limita detekce y d 1.31 x d 2.06 3.8. Hodnocení Pro kalibrační závislost stanovení dusičnanů v odpadních vodách metodou iontové chromatografie byla zvolena závislost MNČ. Strana 23 z 23