UNIVERZITA PARDUBICE Fakulta chemicko-technologická Katedra analytické chemie Vedoucí studia a odborný garant: Prof. RNDr. Milan Meloun, DrSc. Vyučující: Prof. RNDr. Milan Meloun, DrSc. Autor práce: ANDRII ZAIKA
OBSAH Úloha 1. Lineární kalibrace... 1.1 Předběžná analýza dat... 1.2 Statistické testy a charakteristiky regrese. 1.3 Kalibrace. 1.3.1 Grafický výstup programu ADSTAT.. 1.3.2 Kalibrační e a tabulka.. Úloha 2. Nelineární kalibrace 2.1 Kalibrační e a tabulka kvadratický spline bez uzlových bodů. 2.2 Grafický výstup programu ADSTAT... 2.3 Parametry kalibračního modelu kvadratický spline bez uzlových bodů 2.4 Kalibrační e a tabulka kvadratický spline s 4 uzlovými body.. 2.5 Grafický výstup programu QC-Expert 2.6 Závěr... Úloha 3. Rozlišení i lineární a nelineární kalibrací. 3.1 Statistická analýza lineární kalibrace. 3.2 Statistická analýza nelineární kalibrace. 3.3 Porovnání výsledků ze dvou Použitých kalibračních modelů 3.3.1 Grafické porovnání... 3.3.2 Statistické porovnání... 3 3 4 5 5 6 7 7 8 8 8 9 10 11 11 12 13 13 15 2
Úloha 1. Lineární kalibrace Zadání Při stanovení množství fosforečnanů ve vzorcích půdy pro archeologickou praxi (chemické sloučeniny obsahující fosforečnanový anion PO4 3-, který vzniká odtržením vodíků z kyseliny trihydrogenfosforečné) metodou absorbční spektroskopie byla proměřovaná kalibrační závislost absorbance y na koncentraci x. Jaké jsou míry přesnosti kalibrace? Data: Koncentrace PO4 3- x [mg * dm -3 ], absorbance y x y 1 0,197 2 0,244 4 0,339 6 0,460 8 0,555 10 0,630 1.1 Předběžná analýza dat Obr. 1 Pregibonův graf Obr. 2 Williamsův graf Obr. 3 McCulloh-Meeterův graf Obr. 4 L-R graf 3
Závěr ke grafickému výstupu programu ADSTAT: Grafická analýza daných vykazuje jenom na dvou grafech jeden odlehlý bod (č. 6). Vzhledem k tomu, že naměřených bodů je málo, tak nic se odstraňovat nebude. 1.2 Statistické testy a charakteristiky regrese 4
Závěr předběžné analýzy dat Z grafických diagnostik plyne, že žádný bod se odstraňovat ne bude, a navržený model je významný. 1.3 Kalibrace 1.3.1 Grafický výstup programu ADSTAT Obr. 5 Kalibrační přímka pro stanovení množství fosforečnanů ve vzorcích půdy metodou absorbční spektroskopie. 5
1.3.2 Kalibrační e a tabulka Závěr Kalibrační závislost má tvar y = 0,0495(±0,00153)x + 0,148(±0,00931) Přesnost použité metody vyjádřena jako stanovitelnosti ys je 0,1516 (tomu odpovídá hodnota koncentrace fosforečnanů mg * dm -3 ). Limita detekce yd stanoví 0,1966 a kritická úroveň yc je 0,1742. S 95% statistickou jistotou lze tvrdit, že koncentrace fosforečnanů u neznámých vzorků vykazujících signály 0,168, 0,372 a 0,487 leží respektive v intervalech (nestanovitelné měřená hodnota je menši než limita detekce), (3,790; 5,244) a (6,101; 7,578) mg * dm -3. 6
Úloha 2. Nelineární kalibrace Zadání Naměřené kalibrační hodnoty jsou uvedeny tak, že hodnoty x představují známé obsahy kalibrační látky albuminu, v gramech na litr, a hodnoty y odpovídají jejich naměřené absorbance. Z naměřené závislosti určete, jaká koncentrace odpovídá absorbanci 0,061, 0,479 a 0,642. Data: Koncentrace albuminu x [g / L], absorbance y x y x y 0,00 0,000 0,50 0,515 0,05 0,050 0,60 0,568 0,10 0,114 0,70 0,616 0,20 0,218 0,80 0,651 0,30 0,320 0,90 0,670 0,40 0,415 1,00 0,683 2.1 Kalibrační e a tabulka kvadratický spline bez uzlových bodů Analýza reziduí Reziduální součet čtverců : 0,0008986 Půměrné absolutní reziduum : 0,0069483 Korelační koeficient : 0,9993653 Kalibrační e Metoda Yc Yd Yq Xc Xd Xq Metoda podle ISO 11843-2 0,15955-0,51747 0,33251 3,34130 2,40372 6,68261 Přímá metoda analytu 0,00749 0,02610 0,04376 0,01564 0,02976 0,04335 Přímá metoda signálu, IUPAC 0,00749 0,02715 0,04570 0,01564 0,03057 0,04486 Kombinovaná metoda Ebel,Kamm 0,00631 0,02604 0,04370 0,01475 0,02972 0,04331 Metoda K*Sigma z regrese 0,00749 0,02840 0,04932 0,01564 0,03153 0,04767 Metoda K*Sigma, ACS 0,01656 0,04654 0,07651 0,02250 0,04550 0,06906 Kalibrační tabulka Číslo vzorku Zpětný odhad Spodní Horní Nepřímý odhad Naměřené hodnoty 1 0,05680 0,04301 0,06948 0 0,061 2 0,47323 0,45367 0,49361 0 0,479 3 0,77632 0,74068 0,82054 0 0,642 7
2.2 Grafický výstup programu ADSTAT Obr. 6 Kvadratický spline bez uzlových bodů Obr. 7 Kvadratický spline s 1 uzlovým bodem Obr. 8 Kvadratický spline s 4 uzlovými body 2.3 Parametry kalibračního modelu kvadratický spline bez uzlových bodů Parametr Odhad Sm. odchylka Spodní Horní Abs. -0,01342 0,00647-0,02806 0,00122 X 1,34704 0,03272 1,27301 1,42106 X 2-0,64764 0,03258-0,72135-0,57392 2.4 Kalibrační e a tabulka kvadratický spline s 4 uzlovými body Porovnací tabulka analýzy reziduí Uzlové body RSČ Me Mer, % σe XD 0 8,986E-04 6,9483E-03 10,176 9,9924E-03 2,1078E-02 1 4,893E-04 4,9405E-03 9,979 7,8203E-03 2,0349E-02 2 2,107E-04 3,1021E-03 9,930 5,4868E-03 1,7915E-02 3 2,392E-04 3,3513E-03 9,879 6,3137E-03 2,1729E-02 4 1,285E-04 2,7103E-03 9,750 5,0694E-03 1,8108E-02 5 1,815E-04 2,9851E-03 9,809 6,7360E-03 2,5880E-02 8
Kalibrační tabulka Číslo vzorku Zpětný odhad Spodní Horní Naměřené hodnoty 1 0,05608 0,04957 0,06225 0,061 2 0,47200 0,45546 0,48854 0,479 3 0,77520 0,74715 0,80321 0,642 2.5 Grafický výstup programu QC-Expert Obr. 9 Kalibrační křivka Obr. 10 Graf reziduí 9
Obr. 11 Graf absolutních reziduí 2.6 Závěr Za nejlepší kalibrační model se považuje takový, který má nejnižší limitu detekce a rovněž nejnižší odhad směrodatné odchylky reziduí při nejnižším počtu uzlových bodů. V daném případě takové proložení představuje kvadratický spline s 2 uzlovými body a taky s 4 uzlovými body. Na základě dalších statistik analýzy reziduí byl vybrán model s 4 uzlovými body. Kalibrační závislost vystihuje kalibrační nelineární křivka Y = a*x 2 + b*x +c S 95% statistickou jistotou lze tvrdit, že pro absorbance 0,061, 0,479 a 0,642 budou odpovídat koncentrací v intervalu respektive (0,0496; 0,0623), (0,4555; 0,4885) a (0,7472; 0,8032) gram na litr. 10
Úloha 3. Rozlišení i lineární a nelineární kalibrací Zadání Naměřené kalibrační hodnoty jsou uvedeny tak, že hodnoty x představují známé obsahy kalibrační látky albuminu, v gramech na litr, a hodnoty y odpovídají jejich naměřené absorbance. Z naměřené závislosti určete, jaká koncentrace odpovídá absorbanci 0,078, 0,384, 0,500 a 0,616. Data: Koncentrace albuminu x [g / L], absorbance y x y x y 0,00 0,000 0,50 0,515 0,05 0,050 0,60 0,568 0,10 0,114 0,70 0,616 0,20 0,218 0,80 0,651 0,30 0,320 0,90 0,670 0,40 0,415 1,00 0,683 3.1 Statistická analýza lineární kalibrace Počet dat: 12 Hladina významnosti : 0,05 Volba kalibračního modelu : Manuální Použitý kalibrační model : Lineární Vhodnost použitého modelu : Nevyhovuje Použita vážená regrese : Ne Parametry kalibračního modelu Parametr Odhad Sm. odchylka Spodní Horní Abs. 0,06834 0,03174-0,00238 0,13906 X 0,72070 0,05602 0,59589 0,84551 Zvolený faktor K : 1,95996 Vypočítaná sm. odch. slepého signálu : 0,06352 Kalibrační e Metoda Yc Yd Yq Xc Xd Xq Metoda podle ISO 11843-2 0,48856 0,58149 0,90877 0,58307 0,71202 1,16613 Přímá metoda analytu 0,16370 0,23161 0,29233 0,13231 0,22654 0,31079 Přímá metoda signálu, IUPAC 0,16370 0,24195 0,30848 0,13231 0,24089 0,33319 Kombinovaná metoda Ebel,Kamm 0,14905 0,22977 0,29065 0,11199 0,22398 0,30846 Metoda K*Sigma z regrese 0,16370 0,25906 0,35442 0,13231 0,26463 0,39694 Metoda K*Sigma, ACS 0,19283 0,31732 0,44181 0,17273 0,34546 0,51820 11
Kalibrační tabulka Číslo vzorku Zpětný odhad Spodní Horní Nepřímý odhad Naměřené hodnoty 1 0,01340 Nestanovitelné 0,50487 0,078 2 0,43799 0,35773 0,51541 0,73697 0,384 3 0,59894 0,52128 0,69234 0,81494 0,500 4 0,75990 0,66946 0,88464 0,89013 0,616 3.2 Statistická analýza nelineární kalibrace Počet dat: 12 Hladina významnosti : 0,05 Volba kalibračního modelu : Manuální Použitý kalibrační model : Kvadratický Vhodnost použitého modelu : Vyhovuje Použita vážená regrese : Ne Parametry kalibračního modelu Parametr Odhad Sm. odchylka Spodní Horní Abs. -0,01342 0,00647-0,02806 0,00122 X 1,34704 0,03272 1,27301 1,42106 X 2-0,64764 0,03258-0,72135-0,57392 Zvolený faktor K : 1,95996 Vypočítaná sm. odch. slepého signálu : 0,00999 Kalibrační e Metoda Yc Yd Yq Xc Xd Xq Metoda podle ISO 11843-2 0,15955-0,51747 0,33251 3,34130 2,40372 6,68261 Přímá metoda analytu 0,00749 0,02610 0,04376 0,01564 0,02976 0,04335 Přímá metoda signálu, IUPAC 0,00749 0,02715 0,04570 0,01564 0,03057 0,04486 Kombinovaná metoda Ebel,Kamm 0,00631 0,02604 0,04370 0,01475 0,02972 0,04331 Metoda K*Sigma z regrese 0,00749 0,02840 0,04932 0,01564 0,03153 0,04767 Metoda K*Sigma, ACS 0,00617 0,02575 0,04533 0,01464 0,02950 0,04457 Kalibrační tabulka Číslo vzorku Zpětný odhad Spodní Horní Nepřímý odhad Naměřené hodnoty 1 0,07024 0,05697 0,08254 0 0,078 2 0,35595 0,34083 0,37185 0 0,384 3 0,50259 0,48190 0,52407 0 0,500 4 0,70883 0,67903 0,74064 0 0,616 12
3.3 Porovnání výsledků ze dvou Použitých kalibračních modelů 3.3.1 Grafické porovnání Obr. 12 Kalibrační přímka lineární kalibrační model Obr. 13 Kalibrační křivka nelineární kalibrační model Kalibrační křivky znázorňují i odhady naměřených veličin. Vodorovné přerušované přímky představují naměřenou hodnotu Y a svislé přerušované přímky jsou zpětné odhady. 13
Obr. 14 Graf rezidují lineární kalibrační model Obr. 15 Graf rezidují nelineární kalibrační model 14
3.3.2 Statistické porovnání Analýza reziduí Pro lineární model Pro nelineární model Reziduální součet čtverců : 0,04034 0,00090 Průměrné absolutní reziduum : 0,05036 0,00695 Korelační koeficient : 0,97110 0,99937 Kalibrační hodnoty Lineární model Nelineární model Zpětný odhad Spodní Horní Naměřené hodnoty (g / L) (g / L) (g / L) 0,078 0,01340 Nestanovitelné 0,384 0,43799 0,35773 0,51541 0,500 0,59894 0,52128 0,69234 0,616 0,75990 0,66946 0,88464 0,078 0,07024 0,05697 0,08254 0,384 0,35595 0,34083 0,37185 0,500 0,50259 0,48190 0,52407 0,616 0,70883 0,67903 0,74064 Závěr: Kalibrační závislost je nelineární. Lineární model kalibrační závislosti byl zamítnut. Lineární model poskytuje výsledky se širším intervalem spolehlivosti. 15