2.2 Kalibrace a limity její p esnosti

Podobné dokumenty
Úloha 1: Lineární kalibrace

UNIVERZITA PARDUBICE Fakulta chemicko-technologická Katedra analytické chemie Nám. Čs. Legií 565, Pardubice

Stanovení manganu a míry přesnosti kalibrace ( Lineární kalibrace )

Kalibrace a limity její přesnosti

Kalibrace a limity její přesnosti

Fakulta chemicko technologická Katedra analytické chemie licenční studium Management systému jakosti Kalibrace a limity její přesnosti

Závislost obsahu lipoproteinu v krevním séru na třech faktorech ( Lineární regresní modely )

Kalibrace a limity její přesnosti

KALIBRACE A LIMITY JEJÍ PŘESNOSTI. Semestrální práce UNIVERZITA PARDUBICE. Fakulta chemicko-technologická Katedra analytické chemie

UNIVERZITA PARDUBICE FAKULTA CHEMICKO-TECHNOLOGICKÁ

Kalibrace a limity její přesnosti

Univerzita Pardubice

Příloha č. 1 Grafy a protokoly výstupy z adstatu

Semestrální práce. 2. semestr

Fakulta chemicko technologická Katedra analytické chemie

Tvorba lineárních regresních modelů

Tvorba nelineárních regresních modelů v analýze dat

Inovace bakalářského studijního oboru Aplikovaná chemie

UNIVERZITA PARDUBICE

Univerzita Pardubice SEMESTRÁLNÍ PRÁCE. Tvorba lineárních regresních modelů. 2015/2016 RNDr. Mgr. Leona Svobodová, Ph.D.

UNIVERZITA PARDUBICE

6. Lineární regresní modely

Semestrální práce. 2. semestr

KALIBRACE A LIMITY JEJÍ PŘESNOSTI 2015

Tvorba lineárních regresních modelů při analýze dat

Tabulka č. 1 95%ní intervaly Úsek Směrnice model L1 L2 L1 L2 Leco1-0, , , ,15618 OES -0, , , ,21271

TVORBA LINEÁRNÍCH REGRESNÍCH MODELŮ PŘI ANALÝZE DAT. Semestrální práce UNIVERZITA PARDUBICE. Fakulta chemicko-technologická Katedra analytické chemie

Univerzita Pardubice Fakulta chemicko-technologická Katedra analytické chemie

Tvorba nelineárních regresních modelů v analýze dat

UNIVERZITA PARDUBICE

Semestrální práce str. 1. Semestrální práce. 2.1 Tvorba lineárních regresních modelů při analýze dat. 2.3 Kalibrace a limity její přesnosti

Licenční studium Galileo: Statistické zpracování dat. Tvorba lineárních regresních modelů při analýze dat. Semestrální práce

Tvorba nelineárních regresních

Semestrální práce. 3.3 Tvorba nelineárních regresních modelů v analýze dat

Univerzita Pardubice Fakulta chemicko technologická Katedra analytické chemie Licenční studium chemometrie

Aproximace a vyhlazování křivek

Semestrální práce z CHEMOMETRIE I Statistické zpracování jednorozměrných dat

Licenční studium Galileo: Statistické zpracování dat. Kalibrace a limity její přesnosti. Semestrální práce

Univerzita Pardubice Fakulta chemicko technologická Katedra analytické chemie Licenční studium Management systému jakosti

Univerzita Pardubice SEMESTRÁLNÍ PRÁCE. Tvorba nelineárních regresních modelů v analýze dat. 2015/2016 RNDr. Mgr. Leona Svobodová, Ph.D.

6. Lineární regresní modely

UNIVERZITA PARDUBICE Fakulta chemicko-technologická Katedra analytické chemie. Nám. Čs. Legií 565, Pardubice. Semestrální práce ANOVA 2015

http: //meloun.upce.cz,

UNIVERZITA PARDUBICE Fakulta chemicko-technologická Katedra analytické chemie Nám. Čs. Legií 565, Pardubice

Posouzení linearity kalibrační závislosti

Posouzení linearity kalibraèní závislosti

Tvorba lineárních regresních modelů při analýze dat

Univerzita Pardubice Fakulta chemicko-technologická. Licenční studium Statistické zpracování dat

Semestrální práce. 2. semestr

FAKULTA CHEMICKO-TECHNOLOGICKÁ KATEDRA ANALYTICKÉ CHEMIE. Semestrální práce z CHEMOMETRE. TOMÁŠ SYROVÝ 4.ročník

Univerzita Pardubice Chemicko-technologická fakulta Katedra analytické chemie

ANOVA. Semestrální práce UNIVERZITA PARDUBICE. Fakulta chemicko-technologická Katedra analytické chemie

UNIVERZITA PARDUBICE Fakulta chemicko-technologická Katedra analytické chemie

Analýza rozptylu ANOVA

Univerzita Pardubice Fakulta chemicko technologická Katedra analytické chemie Licenční studium Management systému jakosti

6. Lineární regresní modely

S E M E S T R Á L N Í

Tvorba modelu sorpce a desorpce 85 Sr na krystalických horninách za dynamických podmínek metodou nelineární regrese

UNIVERZITA PARDUBICE

Plánování experimentu

PRAVDĚPODOBNOST A STATISTIKA

Statistická analýza jednorozměrných dat

SEMESTRÁLNÍ PRÁCE UNIVERZITA PARDUBICE. Fakulta chemicko - technologická Katedra analytické chemie

KALIBRACE. Definice kalibrace: mezinárodní metrologický slovník (VIM 3)

III. Semestrální práce

LINEÁRNÍ REGRESE. Lineární regresní model

Aproximace křivek a vyhlazování křivek

UNIVERZITA PARDUBICE

Statistická analýza jednorozměrných dat

vzorek vzorek

Univerzita Pardubice Chemicko-technologická fakulta Katedra analytické chemie

přesnost (reprodukovatelnost) správnost (skutečná hodnota)? Skutečná hodnota použití různých metod

PRAVDĚPODOBNOST A STATISTIKA

Testování hypotéz o parametrech regresního modelu

Testování hypotéz o parametrech regresního modelu

Úloha E301 Čistota vody v řece testem BSK 5 ( Statistická analýza jednorozměrných dat )

12. licenční studium Statistické zpracování dat při managementu jakosti. Lenka Hromádková

Statistická analýza jednorozměrných dat

Tvorba nelineárních regresních modelů v analýze dat

Univerzita Pardubice Fakulta chemicko-technologická Katedra analytické chemie ANOVA. Semestrální práce

UNIVERZITA PARDUBICE Fakulta chemicko-technologická Katedra analytické chemie Nám. Čs. Legií 565, Pardubice

Univerzita Pardubice

Regresní analýza. Eva Jarošová

PYTHAGORAS Statistické zpracování experimentálních dat

POLYNOMICKÁ REGRESE. Jedná se o regresní model, který je lineární v parametrech, ale popisuje nelineární závislost mezi proměnnými.

Tabulka 1 Příklad dat pro kalibraci

UNIVERZITA PARDUBICE. 4.4 Aproximace křivek a vyhlazování křivek

Lineární regrese. Komentované řešení pomocí MS Excel

6. Lineární regresní modely

Pravděpodobnost a matematická statistika

UNIVERZITA PARDUBICE CHEMICKO-TECHNOLOGICKÁ FAKULTA KATEDRA ANALYTICKÉ CHEMIE

Úloha 1. Napište matici pro případ lineárního regresního spline vyjádřeného přes useknuté

Univerzita Pardubice. Fakulta chemicko-technologická Katedra analytické chemie. Licenční studium Statistické zpracování dat

Regresní a korelační analýza

Pravděpodobnost v závislosti na proměnné x je zde modelován pomocí logistického modelu. exp x. x x x. log 1

Statistická analýza jednorozměrných dat

Univerzita Pardubice Fakulta chemicko-technologická Katedra analytické chemie STATISTICKÉ ZPRACOVÁNÍ EXPERIMENTÁLNÍCH DAT

Regresní a korelační analýza

Viktor Kanický Kurs ICP Přírodovědecká fakulta Masarykovy univerzity

Úlohy. Kompendium 2012, Úloha B8.01a, str. 785, Model y = P1 * exp( P2/(B801x + P3)

Transkript:

UNIVERZITA PARDUBICE Òkolní rok 000/001 Fakulta chemicko-technologická, Katedra analytické chemie LICEN NÍ STUDIUM STATISTICKÉ ZPRACOVÁNÍ DAT PÌI MANAGEMENTU JAKOSTI P EDM T:. Kalibrace a limity její p esnosti Vypracoval: Ing. Adolf Goebel, Ph.D. VPÍerov,.záÍí 000

..1 Lineární kalibrace Stanovení obsahu K O v pigmentovém oxidu titaničitém Pro stanovení obsahu K O v pigmentovém oxidu titaničitém metodou rentgenové fluorescenční analýzy bylo připraveno 7 standardních vzorků s odstupňovaným obsahem oxidu draselného. Koncentrace K O ve standardech byla stanovena metodou atomové absorpční spektrometrie - metoda standardního přídavku bez korekce pozadí pro obsahy do 0,1 % K O; pro obsahy nad 0,1 % K O metoda kalibrační přímky, plamen vzduch-acetylen při vlnové délce λ = 766,5 nm. Výsledky stanovení pro kalibrační závislost jsou uvedeny v tabulce I. U jednotlivých standardů byla změřena intenita vrcholu draslíku za použití rentgenového fluorescenčního spektrometru Philips PW 1480. Vyhodnocení kalibrační závislosti bylo provedeno počítačovým programem ADSTAT, Trilobyte Pardubice metodou nejmenších čtverců. Tabulka I - Koncentrace K O ve standardech Koncentrace K O [%] Intenzita vrcholu [kcp/s] 0,001 0,0343 0,045 0,718 0,10 1,7556 0,00,919 0,40 3,4641 0,450 6,741 0,486 6,7943

Vyhodnocení I. Regresní diagnostika Zvolená strategie regresní analýzy: Omezení, P: 1.10-34 Transformace: Ne Váhy: Ne Absolutní člen zahrnut: Ano Podmínky a kvantily pro statistické testy: Hladina významnosti, α: 0,050 Počet bodů, n: 7 Počet parametrů, m: Kvantil Studentova rozdělení t(1-α/, n-m):,571 Kvantil rozdělení χ (1-α, m): 5,991 Odhady parametrů a testy významnosti: Test H : B = 0 vs. H : B U 0 0 j A j Parametr Odhad Směrodatná odchylka t-kritérium hypotéza H je 0 B 0,0897 0,0310,8915 Zamítnuta 0 B 13,830 0,1104 15,31 Zamítnuta 1 Statistické charakteristiky regrese: Vícenásobný korelační koeficient, R: 0,9998 Koeficient determinace, R : 0,9997 Predikovaný korelační koeficient, R p : 0,9997 Střední kvadratická chyba predikce, MEP: 0,0037 Akaikeho informační kritérium, AIC: - 40,034 Odhad reziduálního rozptylu, σ (e): 0,095 Testování regresního tripletu (data + model + metoda): Fisher-Snedocorův test významnosti regrese,f: 1,570.10 4 Tabulkový kvantil, F(1-α, m-1, n-m): 6,6079 Závěr: Navržený model je přijat jako významný Scottovo kriterium multikolinearity, M: -1,1469.10-14 Závěr: Navržený model je korektní 3

Cook-Weisbergův test heteroskedasticity, S : 7,607 f Tabulkový kvantil, χ (1-α, 1): 3,8415 Závěr: Rezidua vykazují heteroskedasticitu Jarque-Berraův test normality reziduí, L(e): 0,3700 Tabulkový kvantil, χ (1-α,): 5,9915 Závěr: Normalita je přijata Waldův test autokorelace, W : 0,1188 a Tabulkový kvantil, χ (1-α, 1): 3,8415 Závěr: Rezidua nejsou autokorelována Znaménkový test, D : 0,788 t Tabulkový kvantil, N(1-α/): 1,6449 Závěr: Rezidua nevykazují trend Ze závěru testování plyne, že regresní model je použitelný pro kalibraci. II. Kalibrace Parametry kalibrace: Test H : B = 0 vs. H : B U 0 0 j A j Parametr Odhad Směrodatná odchylka t-kritérium hypotéza H je 0 B 0,0897 0,0310,8915 Zamítnuta 0 B 13,830 0,1104 15,31 Zamítnuta 1 Tabulka II - Kalibrační meze Signál [kcp/s] Koncentrace K O [%] Kritická úroveň, y c: 0,169 x c: 0,0058 Limita detekce, y d: 0,47 x d: 0,0114 Mez stanovitelnosti, y s: 0,596 x s: 0,0366 4

Obr. 1 Tabulka III -Kalibrační tabulka Měřená hodnota Přímý odhad Konfidenční interval [kcp/s] % K O dolnímez hornímez 0,6430 0,040 0,09 0,051,876 0,159 0,149 0,169 4,5410 0,3 0,31 0,33 Závěr: Stanovení obsahu draslíku v pigmentovém oxidu titaničitém má pro zamýšlené použití dostatečnou citlivost a nízkou limitu detekce. Metoda je použitelná pro účely mezioperační a výstupní kontroly výroby pigmentového oxidu titaničitéhoiproúčely výzkumu. 5

Příklad Nelineární kalibrace Stanovení p-dichlorbenzenu v chlorbenzenu Stanovení p-dichlorbenzenu v chlorbenzenu se provádí metodou plynové chromatografie na vnitřní standard toluen. Proměřením kalibračních roztoků byla získána závislost poměru ploch p-dichlorbenzenu a vnitřního standardu na procentickém obsahu p-dichlorbenzenu. Proměřením dvou vzorků chlorbenzenu byly získány odezvy 0,04 a 0,048. Úkolem je posoudit vhodný tvar kalibrační závislosti a zjistit obsah p-dichlorbenzenu v obou vzorcích. Tabulka I - Koncentrace p-dichlorbenzenu v chlorbenzenu, standardy Obsah p-dichlorbenzenu [%] Naměřená odezva 0,01 0,013 0,0 0,07 0,03 0,040 0,04 0,048 0,05 0,053 0,08 0,070 0,10 0,090 0,15 0,10 0,0 0,150 0,30 0,0 0,40 0,70 0,50 0,30 6

Vyhodnocení I. Lineární kalibrace I.3 Regresní diagnostika Zvolená strategie regresní analýzy: Omezení, P: 1.10-34 Transformace: Ne Váhy: Ne Absolutní člen zahrnut: Ano Podmínky a kvantily pro statistické testy: Hladina významnosti, α: 0,050 Počet bodů, n: 1 Počet parametrů, m: Kvantil Studentova rozdělení t(1-α/, n-m):,8 Kvantil rozdělení χ (1-α, m): 5,991 Odhady parametrů a testy významnosti: Test H : B = 0 vs. H : B U 0 0 j A j Parametr Odhad Směrodatná odchylka t-kritérium hypotéza H je 0 - -3 B0,0905.10 3,978.10 6,339 Zamítnuta -3 - B1 6,41.10 1,4944.10 41,651 Zamítnuta Statistické charakteristiky regrese: Vícenásobný korelační koeficient, R: 0,9971 Koeficient determinace, R : 0,9943 Predikovaný korelační koeficient, R p : 0,9945 Střední kvadratická chyba predikce, MEP: 1,0378.10-4 Akaikeho informační kritérium, AIC: -113,93 Odhad reziduálního rozptylu, σ (e): -5 6,4731.10 Testování regresního tripletu (data + model + metoda): Fisher-Snedocorův test významnosti regrese,f: 1734,8 Tabulkový kvantil, F(1-α, m-1, n-m): 4,9646 Závěr: Navržený model je přijat jako významný Scottovo kriterium multikolinearity, M: -4,5873.10-16 Závěr: Navržený model je korektní 7

Cook-Weisbergův test heteroskedasticity, S : 6,15 f Tabulkový kvantil, χ (1-α, 1): 3,84 Závěr: Rezidua vykazují heteroskedasticitu Jarque-Berraův test normality reziduí, L(e): 0,570 Tabulkový kvantil, χ (1-α,): 5,99 Závěr: Normalita je přijata Waldův test autokorelace, W :,4896 a Tabulkový kvantil, χ (1-α, 1): 3,84 Závěr: Rezidua jsou autokorelována Znaménkový test, D : -0,5749 t Tabulkový kvantil, N(1-α/): 1,645 Závěr: Rezidua nevykazují trend II. Nelineární kalibrace Další možností je použití spline pro danou kalibrační závislost. Postupně jsou vyhodnoceny lineární, kvadratický a kubický spline vždy s jedním, dvěmi a třemi uzlovými body - tabulka II. Jako výsledek hodnocení je srovnávána limita detekce koncentrace x a odhad směrodatné D odchylky reziduí σ e. Za nejlepší kalibrační model se považuje takový, který má nejnižší limitu detekce koncentrace x a odhad směrodatné odchylky reziduí σ při nejnižším počtu uzlových bodů. D Tabulka II - Vyhodnocení kalibrační závislosti pomocí spline a) lineární spline e Parametry lineární spline uzlové body 1 3 - - - x D [%] 1,43.10 1,615.10 1,87.10-3 -3-3 σe 4,66.10 4,73.10. 4,986.10 8

b) kvadratický spline Parametry kvadratický spline uzlové body 1 3 - - x D [%] 1,61.10 1,87.10-3 -3 σe 4,493.10 4,698.10 1,490.10-3,780.10-3 c) kubický spline Parametry kubický spline uzlové body 1 3 - x D [%] 1,831.10 1,331.10 1,579.10 - - -3 σe 4,587.10 3,44.10 3,6.10-3 -3 Z tabulky II c) plyne použití kubického spline se dvěma uzlovými body jako nejlepšího kalibračního modelu. Kalibrační rovnice má tvar: 3 Y = a.x + bx + cx + d pro k[i-1] < x k[i] Koeficienty kalibrační rovnice jsou uvedeny v tabulce III a graf rovnice je uveden na obr.1. Tabulka III - Koeficienty kalibrační rovnice bod k[i] a b c d 0,173 10,561-4,45 1,154 5,14.10-3 0,337-6,431 4,593-0,378 0,0936 0,500 9,89-11,830 5,15-0,57 9

Tabulka IV Kalibrační tabulka Měřená hodnota Inverzní odhad Konfidenční interval koncentrace [%] koncentrace [%] y [i] x [i] dolní mez Llx [i] horní mez Lux [i] exp vyp vyp vyp 0,04 0,017 0,01 0,0 0,048 0,043 0,039 0,048 Obr. 1 Závěr Ze statistické analýzy různých kalibračních modelů se jeví jako nejlepší model kubický spline s dvěma uzlovými body. U tohoto modelu je limita detekce x D = 0,0133 % p- dichlorbenzenu. Vzorku se signálem 0,04 je možné přiřadit inverzní odhad koncentrace 0,017 % [0,01;0,0], vzorku se signálem 0,048 odhad 0,043 [0,039;0,048]. 10

Tabulka III Kalibrační tabulka Měřená hodnota Přímý odhad Konfidenční interval [kcp/s] % ZnO dolnímez hornímez 1,789 0,074 0,058 0,089 5,9407 0,46 0,30 0,61 11,66 0,483 0,467 0,498 Závěr: Stanovení obsahu zinku v pigmentovém oxidu titaničitém má dostatečnou citlivost a nízkou limitu detekce. Metoda je použitelná pro účely mezioperační a výstupní kontroly výroby pigmentového oxidu titaničitého. 11