UNIVERZITA PARDUBICE Òkolní rok 000/001 Fakulta chemicko-technologická, Katedra analytické chemie LICEN NÍ STUDIUM STATISTICKÉ ZPRACOVÁNÍ DAT PÌI MANAGEMENTU JAKOSTI P EDM T:. Kalibrace a limity její p esnosti Vypracoval: Ing. Adolf Goebel, Ph.D. VPÍerov,.záÍí 000
..1 Lineární kalibrace Stanovení obsahu K O v pigmentovém oxidu titaničitém Pro stanovení obsahu K O v pigmentovém oxidu titaničitém metodou rentgenové fluorescenční analýzy bylo připraveno 7 standardních vzorků s odstupňovaným obsahem oxidu draselného. Koncentrace K O ve standardech byla stanovena metodou atomové absorpční spektrometrie - metoda standardního přídavku bez korekce pozadí pro obsahy do 0,1 % K O; pro obsahy nad 0,1 % K O metoda kalibrační přímky, plamen vzduch-acetylen při vlnové délce λ = 766,5 nm. Výsledky stanovení pro kalibrační závislost jsou uvedeny v tabulce I. U jednotlivých standardů byla změřena intenita vrcholu draslíku za použití rentgenového fluorescenčního spektrometru Philips PW 1480. Vyhodnocení kalibrační závislosti bylo provedeno počítačovým programem ADSTAT, Trilobyte Pardubice metodou nejmenších čtverců. Tabulka I - Koncentrace K O ve standardech Koncentrace K O [%] Intenzita vrcholu [kcp/s] 0,001 0,0343 0,045 0,718 0,10 1,7556 0,00,919 0,40 3,4641 0,450 6,741 0,486 6,7943
Vyhodnocení I. Regresní diagnostika Zvolená strategie regresní analýzy: Omezení, P: 1.10-34 Transformace: Ne Váhy: Ne Absolutní člen zahrnut: Ano Podmínky a kvantily pro statistické testy: Hladina významnosti, α: 0,050 Počet bodů, n: 7 Počet parametrů, m: Kvantil Studentova rozdělení t(1-α/, n-m):,571 Kvantil rozdělení χ (1-α, m): 5,991 Odhady parametrů a testy významnosti: Test H : B = 0 vs. H : B U 0 0 j A j Parametr Odhad Směrodatná odchylka t-kritérium hypotéza H je 0 B 0,0897 0,0310,8915 Zamítnuta 0 B 13,830 0,1104 15,31 Zamítnuta 1 Statistické charakteristiky regrese: Vícenásobný korelační koeficient, R: 0,9998 Koeficient determinace, R : 0,9997 Predikovaný korelační koeficient, R p : 0,9997 Střední kvadratická chyba predikce, MEP: 0,0037 Akaikeho informační kritérium, AIC: - 40,034 Odhad reziduálního rozptylu, σ (e): 0,095 Testování regresního tripletu (data + model + metoda): Fisher-Snedocorův test významnosti regrese,f: 1,570.10 4 Tabulkový kvantil, F(1-α, m-1, n-m): 6,6079 Závěr: Navržený model je přijat jako významný Scottovo kriterium multikolinearity, M: -1,1469.10-14 Závěr: Navržený model je korektní 3
Cook-Weisbergův test heteroskedasticity, S : 7,607 f Tabulkový kvantil, χ (1-α, 1): 3,8415 Závěr: Rezidua vykazují heteroskedasticitu Jarque-Berraův test normality reziduí, L(e): 0,3700 Tabulkový kvantil, χ (1-α,): 5,9915 Závěr: Normalita je přijata Waldův test autokorelace, W : 0,1188 a Tabulkový kvantil, χ (1-α, 1): 3,8415 Závěr: Rezidua nejsou autokorelována Znaménkový test, D : 0,788 t Tabulkový kvantil, N(1-α/): 1,6449 Závěr: Rezidua nevykazují trend Ze závěru testování plyne, že regresní model je použitelný pro kalibraci. II. Kalibrace Parametry kalibrace: Test H : B = 0 vs. H : B U 0 0 j A j Parametr Odhad Směrodatná odchylka t-kritérium hypotéza H je 0 B 0,0897 0,0310,8915 Zamítnuta 0 B 13,830 0,1104 15,31 Zamítnuta 1 Tabulka II - Kalibrační meze Signál [kcp/s] Koncentrace K O [%] Kritická úroveň, y c: 0,169 x c: 0,0058 Limita detekce, y d: 0,47 x d: 0,0114 Mez stanovitelnosti, y s: 0,596 x s: 0,0366 4
Obr. 1 Tabulka III -Kalibrační tabulka Měřená hodnota Přímý odhad Konfidenční interval [kcp/s] % K O dolnímez hornímez 0,6430 0,040 0,09 0,051,876 0,159 0,149 0,169 4,5410 0,3 0,31 0,33 Závěr: Stanovení obsahu draslíku v pigmentovém oxidu titaničitém má pro zamýšlené použití dostatečnou citlivost a nízkou limitu detekce. Metoda je použitelná pro účely mezioperační a výstupní kontroly výroby pigmentového oxidu titaničitéhoiproúčely výzkumu. 5
Příklad Nelineární kalibrace Stanovení p-dichlorbenzenu v chlorbenzenu Stanovení p-dichlorbenzenu v chlorbenzenu se provádí metodou plynové chromatografie na vnitřní standard toluen. Proměřením kalibračních roztoků byla získána závislost poměru ploch p-dichlorbenzenu a vnitřního standardu na procentickém obsahu p-dichlorbenzenu. Proměřením dvou vzorků chlorbenzenu byly získány odezvy 0,04 a 0,048. Úkolem je posoudit vhodný tvar kalibrační závislosti a zjistit obsah p-dichlorbenzenu v obou vzorcích. Tabulka I - Koncentrace p-dichlorbenzenu v chlorbenzenu, standardy Obsah p-dichlorbenzenu [%] Naměřená odezva 0,01 0,013 0,0 0,07 0,03 0,040 0,04 0,048 0,05 0,053 0,08 0,070 0,10 0,090 0,15 0,10 0,0 0,150 0,30 0,0 0,40 0,70 0,50 0,30 6
Vyhodnocení I. Lineární kalibrace I.3 Regresní diagnostika Zvolená strategie regresní analýzy: Omezení, P: 1.10-34 Transformace: Ne Váhy: Ne Absolutní člen zahrnut: Ano Podmínky a kvantily pro statistické testy: Hladina významnosti, α: 0,050 Počet bodů, n: 1 Počet parametrů, m: Kvantil Studentova rozdělení t(1-α/, n-m):,8 Kvantil rozdělení χ (1-α, m): 5,991 Odhady parametrů a testy významnosti: Test H : B = 0 vs. H : B U 0 0 j A j Parametr Odhad Směrodatná odchylka t-kritérium hypotéza H je 0 - -3 B0,0905.10 3,978.10 6,339 Zamítnuta -3 - B1 6,41.10 1,4944.10 41,651 Zamítnuta Statistické charakteristiky regrese: Vícenásobný korelační koeficient, R: 0,9971 Koeficient determinace, R : 0,9943 Predikovaný korelační koeficient, R p : 0,9945 Střední kvadratická chyba predikce, MEP: 1,0378.10-4 Akaikeho informační kritérium, AIC: -113,93 Odhad reziduálního rozptylu, σ (e): -5 6,4731.10 Testování regresního tripletu (data + model + metoda): Fisher-Snedocorův test významnosti regrese,f: 1734,8 Tabulkový kvantil, F(1-α, m-1, n-m): 4,9646 Závěr: Navržený model je přijat jako významný Scottovo kriterium multikolinearity, M: -4,5873.10-16 Závěr: Navržený model je korektní 7
Cook-Weisbergův test heteroskedasticity, S : 6,15 f Tabulkový kvantil, χ (1-α, 1): 3,84 Závěr: Rezidua vykazují heteroskedasticitu Jarque-Berraův test normality reziduí, L(e): 0,570 Tabulkový kvantil, χ (1-α,): 5,99 Závěr: Normalita je přijata Waldův test autokorelace, W :,4896 a Tabulkový kvantil, χ (1-α, 1): 3,84 Závěr: Rezidua jsou autokorelována Znaménkový test, D : -0,5749 t Tabulkový kvantil, N(1-α/): 1,645 Závěr: Rezidua nevykazují trend II. Nelineární kalibrace Další možností je použití spline pro danou kalibrační závislost. Postupně jsou vyhodnoceny lineární, kvadratický a kubický spline vždy s jedním, dvěmi a třemi uzlovými body - tabulka II. Jako výsledek hodnocení je srovnávána limita detekce koncentrace x a odhad směrodatné D odchylky reziduí σ e. Za nejlepší kalibrační model se považuje takový, který má nejnižší limitu detekce koncentrace x a odhad směrodatné odchylky reziduí σ při nejnižším počtu uzlových bodů. D Tabulka II - Vyhodnocení kalibrační závislosti pomocí spline a) lineární spline e Parametry lineární spline uzlové body 1 3 - - - x D [%] 1,43.10 1,615.10 1,87.10-3 -3-3 σe 4,66.10 4,73.10. 4,986.10 8
b) kvadratický spline Parametry kvadratický spline uzlové body 1 3 - - x D [%] 1,61.10 1,87.10-3 -3 σe 4,493.10 4,698.10 1,490.10-3,780.10-3 c) kubický spline Parametry kubický spline uzlové body 1 3 - x D [%] 1,831.10 1,331.10 1,579.10 - - -3 σe 4,587.10 3,44.10 3,6.10-3 -3 Z tabulky II c) plyne použití kubického spline se dvěma uzlovými body jako nejlepšího kalibračního modelu. Kalibrační rovnice má tvar: 3 Y = a.x + bx + cx + d pro k[i-1] < x k[i] Koeficienty kalibrační rovnice jsou uvedeny v tabulce III a graf rovnice je uveden na obr.1. Tabulka III - Koeficienty kalibrační rovnice bod k[i] a b c d 0,173 10,561-4,45 1,154 5,14.10-3 0,337-6,431 4,593-0,378 0,0936 0,500 9,89-11,830 5,15-0,57 9
Tabulka IV Kalibrační tabulka Měřená hodnota Inverzní odhad Konfidenční interval koncentrace [%] koncentrace [%] y [i] x [i] dolní mez Llx [i] horní mez Lux [i] exp vyp vyp vyp 0,04 0,017 0,01 0,0 0,048 0,043 0,039 0,048 Obr. 1 Závěr Ze statistické analýzy různých kalibračních modelů se jeví jako nejlepší model kubický spline s dvěma uzlovými body. U tohoto modelu je limita detekce x D = 0,0133 % p- dichlorbenzenu. Vzorku se signálem 0,04 je možné přiřadit inverzní odhad koncentrace 0,017 % [0,01;0,0], vzorku se signálem 0,048 odhad 0,043 [0,039;0,048]. 10
Tabulka III Kalibrační tabulka Měřená hodnota Přímý odhad Konfidenční interval [kcp/s] % ZnO dolnímez hornímez 1,789 0,074 0,058 0,089 5,9407 0,46 0,30 0,61 11,66 0,483 0,467 0,498 Závěr: Stanovení obsahu zinku v pigmentovém oxidu titaničitém má dostatečnou citlivost a nízkou limitu detekce. Metoda je použitelná pro účely mezioperační a výstupní kontroly výroby pigmentového oxidu titaničitého. 11