UNIVERZITA PARDUBICE FAKULTA CHEMICKO-TECHNOLOGICKÁ

UNIVERZITA PARDUBICE FAKULTA CHEMICKO-TECHNOLOGICKÁ SEMESTRÁLNÍ PRÁCE Kalibrace a limity její přesnosti Precheza a.s. Přerov 2005 Ing. Miroslav Štrajt

1. Zadání Úloha 1. Lineární kalibrace: u přímkové kalibrační závislosti vyčíslete bodový a intervalový odhad pro tři neznámé koncentrace a současně vyčíslete i limity přesnosti. Úloha 2. Nelineární kalibrace: u nelineární (křivkové) kalibrační závislosti vyčíslete bodový a intervalový odhad pro tři neznámé koncentrace a současně vyčíslete i limity přesnosti. Úloha 3. Rozlišení mezi lineární a nelineární kalibrací: u experimentální kalibrační závislosti rozhodněte o počtu uzlových bodů, typu splinové závislosti a současně vyčíslete bodový a intervalový odhad pro tři neznámé koncentrace a současně i limity přesnosti. 2. Zpracované úlohy 2.1. Lineární kalibrace 2.1.1. Zadání příkladu U suspenze TiO 2 je měřena koncentrace suspendovaných částic pomocí nefelometru. Proložte naměřené údaje vhodnou kalibrační křivkou a proveďte stanovení koncentrace z křivky pro hodnoty rozptylu:2100, 3200, 5200 FNU (formaline nefelometric unit). Data: (software Qc-Expert 2.5) c (g/dm 3 ) 0 0,005 0,0125 0,025 0,05 0,1 0,125 0,2 0,25 0,3 0,35 FNU 1,8 112 269 540 1070 2000 2834 4538 5481 6632 7956 c (g/dm 3 ) 0,25 0,3 0,35 FNU 5481 6632 7956 2.1.2. Řešení příkladu Z charakteru dat je zřejmé, že jde o lineární závislost. Pokusíme se naměřené hodnoty proložit pomocí metody nejmenších čtverců. Před tím provedeme ověření předpokladů použití této metody a testování významnosti parametrů modelu. 2.1.2.1. Předběžný průzkum dat Pomocí metody nejmenších čtverců byly stanoveny parametry regresního modelu a jeho základní statistické charakteristiky (viz. tab. č.1). tabulka 1: Parametry modelu se statistickým testem Proměnná Odhad Směr.odchylka Závěr Pravděpodobnost Spodní mez Horní mez Úsek -47,0622 43,55719553 Nevýznamný 0,301171-141,965 47,84082 Směrnice 22507,73 207,1584829 Významný 0 22056,37 22959,09 Ve výše uvedené tabulce je testována hypotéza, zda se odhad hodnoty úseku, resp. směrnice statisticky významně odlišuje od nuly. Součásti tabulky je 95% interval spolehlivosti a vzhledem k tomu, že v případě úseku obsahuje nulu, je úsek nevýznamný. To potvrzuje i hodnota P, která v tomto případě vyšla vyšší než 0,05. 2

V tabulce číslo 2 je proveden pro doplnění test významnosti modelu pomocí analýzy rozptylu. tabulka 2: ANOVA test významnosti modelu Zdroj variability St. volnosti SS MS F krit. P Regrese 1 1,19E+08 1,19E+08 11804,78 2,48E-19 Reziduální variabilita 12 121174,9 10097,91 Celková variabilita 13 1,19E+08 - SS suma čtverců a MS je příslušná suma čtverců vydělená stupněm volnosti Hodnota testovacího kriteria F krit. je 11804,78 a je větši než hodnota kvantilu F (1-alfa, m-1, n- m), která je 4,7472. Zvolený model je významný. V tabulce je to dokázáno hodnotou P (pravděpodobnost), která je menší než 0,05. tabulka 3:Statistické charakteristiky regrese Vícenásobný korelační koeficient R 0,999492 Koeficient determinace R 2 0,998984 Predikovaný korelační koeficient Rp 0,997264 Střední kvadratická chyba predikce MEP : 11665,82 Akaikeho informační kritérium : 130,9231 Vhodnost zvoleného modelu potvrzují i vysoké hodnoty v tabulce č.3. Koeficient determinace je 0,9989, což znamená že cca 99,9% bodu leží na kalibrační křivce. Dále provedeme soubor testů, ve kterých ověříme, zda jsou splněny předpoklady použití metody nejmenších čtverců. Fisher-Snedecorův test významnosti modelu Hodnota kritéria F : 11804,78411 Kvantil F (1-alfa, m-1, n-m) : 4,747225347 Pravděpodobnost : 2,475100229E-019 Závěr : Model je významný Scottovo kritérium multikolinearity Hodnota kritéria SC : 0,3332893823 Závěr : Model vykazuje multikolinearitu! Cook-Weisbergův test heteroskedasticity Hodnota kritéria CW : 0,5654330198 Kvantil Chi^2(1-alfa,1) : 3,841458829 Pravděpodobnost : 0,4520794415 Závěr : Rezidua vykazují homoskedasticitu. Jarque-Berrův test normality Hodnota kritéria JB : 0,8671237868 Kvantil Chi^2(1-alfa,2) : 5,991464547 Pravděpodobnost : 0,6481961723 Závěr : Rezidua mají normální rozdělení. 3

Waldův test autokorelace Hodnota kritéria WA : 0,5914480413 Kvantil Chi^2(1-alfa,1) : 3,841458829 Pravděpodobnost : 0,4418597158 Závěr : Autokorelace je nevýznamná Durbin-Watsonův test autokorelace Hodnota kritéria DW : -1 Kritické hodnoty DW 0 Závěr : Negativní autokorelace reziduí není prokázána. Znaménkový test reziduí Hodnota kritéria Sg : 0,2031885063 Kvantil N(1-alfa/2) : 1,959963999 Pravděpodobnost : 0,8389876961 Závěr : V reziduích není trend. Model vykazuje multikolinaritu. Multikolinearita sama o sobě není porušením předpokladů použití metody nejmenších čtverců. Vede pouze při určování parametrů modelu (směrnice a úsek) k vysokým hodnotám rozptylu. V tomto případě ale nedosahuje kritické hranice. Závěrem tedy je, že použití metody nejmenších čtverců vhodné. Dále provedeme identifikaci případných odlehlých bodů. Nejprve pomocí hodnot rezidui uvedených v následující tabulce. tabulka 4: Analýza reziduí Index Standardní Jackknife Predikované Diag(Hii) Diag(H*ii) Cookova vzdál. 1 0,539569891 0,5229819 60,1664309 0,187883 0,207586 0,062414807 2 0,511567105 0,4952179 56,8020964 0,180955 0,198817 0,05651116 3 0,379419741 0,3654655 41,8743313 0,17096 0,180906 0,039120866 4 0,263866655 0,2533692 28,8513118 0,155364 0,160265 0,024268148 5-0,088720063-0,0849709-9,5481368 0,128158 0,12873-0,006520769 6-2,124722582-2,5756486-223,78 0,089681 0,432147-0,104660105 7 0,700703243 0,6850328 73,3468379 0,078412 0,116119 0,029809041 8 0,864824767 0,8550826 90,4315317 0,076476 0,134037 0,03580784 9-1,038135391-1,0418226-110,07042 0,101748 0,18242-0,058796492 10-0,789924705-0,7767601-86,010234 0,148269 0,192557-0,068754706 11 1,40890341 1,476564 159,900432 0,216039 0,345719 0,194127924 12-1,038135391-1,0418226-110,07042 0,101748 0,18242-0,058796492 13-0,789924705-0,7767601-86,010234 0,148269 0,192557-0,068754706 14 1,40890341 1,476564 159,900432 0,216039 0,345719 0,194127924 Z hodnot Jackknife reziduí je vidět, že výběr neobsahuje odlehlé body. Je indikována pouze přítomnost významného bodu (č.6). To potvrzují i níže uvedené grafy. Na obrázku 1 je vidět přítomnost jednoho významného nikoliv odlehlého bodu (bod.č.6). Obr. č.3 indukuje přítomnost podezřelého bodu č.6. Bod č.6 je podezřely spolu s bodem č.11 i na obr. 4. Mezi grafy je i Q-Q graf reziduí- ten mimo potvrzeni splnění předpokladů normality reziduí indikuje rovněž přítomnost jednoho odlehlého bodu (bod č.6). 4

obrázek 1: Graf predikce E pred 200 100-0 -100-200 Predikce reziduí - Sheet1-300 -300-200 -100-0 100 200 E obrázek 2: L-R graf E2norm 1.10 1.00 0.90 0.80 0.70 0.60 0.50 0.40 0.30 0.20 0.10 L-R graf - Sheet1-0.00 0.00 0.10 0.20 0.30 0.40 0.50 0.60 0.70 0.80 0.90 1.00 1.10 Hat-diagonal obrázek 3: MCulloh-Meterův graf obrázek 4:Pregibonův graf E std 8 McCulloh-Meterův graf - Sheet1 E2 norm 0.60 Pregibonův graf - Sheet1 6 0.50 4 2 0-2 6 12 9 11 14 0.40 0.30 0.20-4 0.10-6 -3.4-3.2-3.0-2.8-2.6-2.4-2.2-2.0-1.8-1.6-1.4 LN(Hat-diagonal)n 0.00 0.00 0.10 0.20 0.30 Hat-diagonal obrázek 5: Graf normality rezidui Q-rezidua 200 Q-Q graf reziduí - Sheet1 100-0 -100-200 -300-2.0-1.0 0.0 1.0 2.0 Q-teor Předpoklady použití metody nejmenších čtverců jsou splněny. Výběr neobsahuje odlehlé body. Úsek vychází statisticky nevýznamný. 2.1.2.2. Vlastní kalibrace Jako vhodný kalibrační vztah se na základě výše uvedených diagnostik jeví přímka s nulovým úsekem. Kalibrační rovnice má tvar: y=22331,51(±128,55)x, kde y je signál (FNU) a x je měřená hodnota (koncentrace), v závorce je uvedena hodnota směrodatné odchylky. 5

tabulka 5:Statistické charakteristiky regrese u zpřesněného modelu Vícenásobný korelační koeficient R 0,999443 Koeficient determinace R 2 0,998886 Predikovaný korelační koeficient Rp 0,997226 Střední kvadratická chyba predikce MEP 11830,06 Akaikeho informační kritérium 130,2228 Pro úplnost uvádím výsledky testování regresního tripletu u zpřesněného modelu. Fisher-Snedecorův test významnosti modelu Hodnota kritéria F : 11653,54479 Kvantil F (1-alfa, m-1, n-m) : 4,667192732 Pravděpodobnost : 1,387847358E-020 Závěr : Model je významný Cook-Weisbergův test heteroskedasticity Hodnota kritéria CW : 0,8684316812 Kvantil Chi^2(1-alfa,1) : 3,841458829 Pravděpodobnost : 0,3513898517 Závěr : Rezidua vykazují homoskedasticitu. Jarque-Berrův test normality Hodnota kritéria JB : 1,29422329 Kvantil Chi^2(1-alfa,2) : 5,991464547 Pravděpodobnost : 0,52355581 Závěr : Rezidua mají normální rozdělení. Waldův test autokorelace Hodnota kritéria WA : 0,3824124053 Kvantil Chi^2(1-alfa,1) : 3,841458829 Pravděpodobnost : 0,5363149773 Závěr : Autokorelace je nevýznamná Durbin-Watsonův test autokorelace Hodnota kritéria DW : -1 Kritické hodnoty DW 0 2 Závěr : Negativní autokorelace reziduí není prokázána. Znaménkový test reziduí Hodnota kritéria Sg : 0,2031885063 Kvantil N(1-alfa/2) : 1,959963999 Pravděpodobnost : 0,8389876961 Závěr : V reziduích není trend. V následující tabulce č.6 jsou uvedeny hodnoty kalibračních mezí. Kde Y je signál a X je měřená hodnota (koncentrace). Indexy mají následující význam- c-kritická úroveň (co je pod ní zaniká v šumu měření), d označuje limitu detekce (hodnota X d udává minimální koncentraci, kterou lze ještě s pravděpodobnosti 1-α odlišit od nulové hodnoty). Z hodnot v tabulce je patrné, že je možné pro naměřené hodnoty rozptylu provést určení koncentrace. 6

tabulka 6: Kalibrační meze Metoda Yc Yd Yq Xc Xd Metoda podle ISO 11843-2 111,1683 146,4122 269,3988 0,00703 0,008596 Přímá metoda analytu 81,88559 205,4886 326,5838 0,005729 0,011221 Přímá metoda signálu, IUPAC 81,88559 208,0858 331,6346 0,005729 0,011336 Kombinovaná metoda Ebel,Kamm 79,19492 205,4521 326,548 0,005609 0,011219 Přistupme tedy k určení koncentrací. V tabulce č.7 jsou uvedeny jejich hodnoty spolu s příslušnými intervalovými odhady. tabulka 7:Kalibrační tabulka (95% intervaly spolehlivosti) Číslo vzorku Zpětný odhad Spodní mez Horní mez Naměřené hodnoty 1 0,095392201 0,091321934 0,09935824 2100 2 0,144264295 0,140667462 0,147829518 3200 3 0,233122645 0,22918742 0,237158301 5200 obrázek 6: Kalibrační křivka FNU 8000 7000 6000 5000 4000 3000 2000 1000 Regresní křivka - Sheet1 0 0.00 0.10 0.20 0.30 0.40 c (g/dm3) 2.1.3. Závěr Jde o lineární závislost. Byly splněny předpoklady použití metody nejmenších čtverců. Výběr neobsahuje odlehlé body a všechny naměřené hodnoty leží nad hodnotami kalibračních mezí. Určené koncentrace jsou uvedeny v tabulce č.7 2.2. Nelineární kalibrace 2.2.1. Zadání příkladu Byly naměřeny následující data: X 2,8 9,7 17,3 27,8 36,9 43,5 53,7 Y 96,3 229,9 347,6 513,4 625,7 711,2 764,7 X 65,6 75 80,4 88,4 Y 828,9 844,9 844,9 855,6 Naměřené hodnoty mají jasně nelineární charakter. Proveďte nelineární kalibraci a určete hodnoty veličiny X pro tyto tři úrovně signálu Y:300, 450, 710. Software: Qc-expert 2.5 7

2.2.2. Vlastní kalibrace Jako nejvýhodnější se jeví kvadratický model popsaný rovnicí y=a.x 2 +b.x+c, kde a, b a c jsou konstanty modelu. Jejich hodnoty s 95% intervaly spolehlivosti jsou uvedeny v následující tabulce: tabulka 8:Parametry kvadratického modelu Parametr Odhad Sm. odchylka Spodní mez Horní mez c 38,91113 8,8426547 18,5199272 59,30232383 b 20,71041 0,4653154 19,6373882 21,78342688 a -0,13144 0,0049389 0,14283204 0,120053731 Z tabulky č.8 je patrné,že jde o dobré odhady vzhledem k nízkým hodnotám směrodatných odchylek. Intervalový odhad úseku neobsahuje nulu a tedy úsek je významný. Dále byly určeny hodnoty kalibračních mezí, které vypovídají o přesnosti měření a vhodnosti zvoleného modelu. tabulka 9: Kalibrační meze Kritická úroveň Yc: 67,83827021 Xc: 1,409350618 Limita detekce Yd: 93,48531682 Xd: 2,680718517 Z výše uvedených hodnot je patrné, že je možné provést určení hodnot pro zadané úrovně signálu. Dále uvádím kalibrační tabulku, ve které bylo provedeny nepřímé odhady x pro tři úrovně signálu Y. Součástí tabulky jsou 95% intervaly spolehlivosti. tabulka 10: Kalibrační tabulka Číslo vzorku Signál Zpětný odhad Spodní mez Horní mez 1 300 13,81857325 12,84560608 14,74935301 2 450 23,29282931 22,33020145 24,27511756 3 710 45,60130368 43,76216142 47,54913333 Obrázek 7: Kalibrační křivka Y 900 800 700 600 500 400 300 200 100 Kalibrační závislost - Sheet1 0 0 10 20 30 40 50 60 70 80 90 X 2.2.3. Závěr Byl zvolen kalibrační model y=38,9(±8,84)-0,1314(±0,005).x 2 +20,71(±0,465).x. V závorce jsou uvedeny sm. odchylky. Pro úrovně signálu 300, 450 a 710 byly určené příslušné hodnoty x, které jsou uvedeny v tabulce č.10.. 8

2.3. Rozlišení mezi lineární a nelineární kalibrací 2.3.1. Zadání příkladu Na kontrolní filtraci na provoze Titanové běloby bylo provedeno proměření závislosti mezi výškou hladiny v produkčním žlabu kalolisů a průtokem titanového roztoku (viz. tabulka níže). Proložte naměřené body pomocí vhodné kalibrační závislosti a v případě nelinearity naměřených dat proveďte volbu optimálního typu splinu a v hodného počtu uzlových bodů. Data: Hladina (cm) 5,000 6,000 7,250 8,305 9,110 9,805 10,305 10,780 Průtok (m 3 /h) 7 8 10 12 14 16 18 20 Hladina (cm) 11,220 11,610 11,944 Průtok (m 3 /h) 22 24 26 Software: ADSTAT 1.25 2.3.2. Řešení příkladu Z charakteru dat je zřejmé, že se nejedná o lineární závislost. To názorně potvrzuje uvedeny graf reziduí (viz. obr.8). Na obr.č.8 je dobře patrný významný trend v reziduích. Nelineární charakter dat dokresluje i prosté zobrazení naměřených bodu na obr.9. Obrázek 8: Graf reziduí R e z i d u a 3 2 1-1 0-2 -3 0 5 10 15 Hladina (cm) Obrázek 9: Závislost průtoku tit. roztoku průtok (m 3 /h) 30 25 20 15 10 5 0 4 6 8 10 12 14 hladina (cm) V další fázi řešení provedeme rozhodnutí o tom zda použijeme při kalibraci lineární, kvadratický či kubický spline určíme optimální počet uzlových bodů. Za nejlepší kalibrační model se považuje takový, který má nejnižší limitu detekce koncentrace a odhad směrodatné odchylky reziduí při nejnižším počtu uzlových bodů. a) lineární spline parametry lineární spline uzlové body 1 2 3 x c 3,750 2,655 3,3757 σe 0,57863 0,25878 0,19732 9

b)kvadratický spline parametry kvadratický spline uzlové body 1 2 3 x D 6,4145 8,0024 10,217 σe 0,080569 0,08875 0,075817 c) kubický spline parametry kubický spline uzlové body 1 2 3 x D 9,213 15,084 - σ(e) 0,08676 0,07086 0,07969 Na základě výše uvedených údajů se jeví jako nejvýhodnější model použití kvadratického splinu s jedním uzlovým bodem. Kalibrační rovnice má následující tvar: y=a x 2 +b x+c pro k[i-1] x k[i] Koeficienty rovnice jsou uvedeny v tabulce č.11. V tabulce č.12 jsou uvedeny hodnoty kalibračních mezí. V tabulce č.13 je uveden inverzní odhad pro hodnoty 9, 10 a 11 spolu s příslušnými intervalovými odhady. Tabulka 11:Hodnoty koeficientů kalibrační rovnice bod k[i] a b c 8,472 0,16902-0,72811 6,3727 11,944 0,51086-6,5202 30,908 Reziduální součet čtverců, RSC 0,04544 Průměr absolutních hodnot reziduí, Me 0,05648 Průměr relativních reziduí, Mer[%] 0,406 Odhad reziduálního rozptylu, s 2 (e) 0,006491 Odhad směrodatné odchylky reziduí, s(e) 0,080569 Tabulka 12:Hodnoty kalibračních mezí Kritická úroveň yc: 8,533547 xc: 6,328039 Limita detekce yd: 8,656854 xd: 6,414529 Tabulka 13:Kalibrační tabulka Měřená hodnota Inverzní odhad koncentrace Konfidenční interval y exp [i] x vyp [i] dolní mez Llxvyp[i] horní mez Luxvyp[i] 9 6,646461 6,562115 6,73155 10 7,262658 7,184305 7,339218 11 7,812142 7,746743 7,874532 10

2.3.3. Závěr Na základě provedených statistických analýz se jako nejvhodnější model jeví kubický spline s jedním uzlovým bodem. U tohoto modelu je limita detekce 6,41 cm výšky hladiny titanového roztoku. Byl proveden inverzní odhad pro tři různé hodnoty určení intervalů spolehlivosti, viz. tabulka č.10 11

Obsah 1. Zadání... 2 2. Zpracované úlohy... 2 2.1. Lineární kalibrace... 2 2.1.1. Zadání příkladu... 2 2.1.2. Řešení příkladu... 2 2.1.2.1. Předběžný průzkum dat... 2 2.1.2.2. Vlastní kalibrace... 5 2.1.3. Závěr... 7 2.2. Nelineární kalibrace... 7 2.2.1. Zadání příkladu... 7 2.2.2. Vlastní kalibrace... 8 2.2.3. Závěr... 8 2.3. Rozlišení mezi lineární a nelineární kalibrací... 9 2.3.1. Zadání příkladu... 9 2.3.2. Řešení příkladu... 9 2.3.3. Závěr... 11 12