UNIVERZITA PARDUBICE FAKULTA CHEMICKO-TECHNOLOGICKÁ

Transkript

1 UNIVERZITA PARDUBICE FAKULTA CHEMICKO-TECHNOLOGICKÁ SEMESTRÁLNÍ PRÁCE Kalibrace a limity její přesnosti Precheza a.s. Přerov 2005 Ing. Miroslav Štrajt

2 1. Zadání Úloha 1. Lineární kalibrace: u přímkové kalibrační závislosti vyčíslete bodový a intervalový odhad pro tři neznámé koncentrace a současně vyčíslete i limity přesnosti. Úloha 2. Nelineární kalibrace: u nelineární (křivkové) kalibrační závislosti vyčíslete bodový a intervalový odhad pro tři neznámé koncentrace a současně vyčíslete i limity přesnosti. Úloha 3. Rozlišení mezi lineární a nelineární kalibrací: u experimentální kalibrační závislosti rozhodněte o počtu uzlových bodů, typu splinové závislosti a současně vyčíslete bodový a intervalový odhad pro tři neznámé koncentrace a současně i limity přesnosti. 2. Zpracované úlohy 2.1. Lineární kalibrace Zadání příkladu U suspenze TiO 2 je měřena koncentrace suspendovaných částic pomocí nefelometru. Proložte naměřené údaje vhodnou kalibrační křivkou a proveďte stanovení koncentrace z křivky pro hodnoty rozptylu:2100, 3200, 5200 FNU (formaline nefelometric unit). Data: (software Qc-Expert 2.5) c (g/dm 3 ) 0 0,005 0,0125 0,025 0,05 0,1 0,125 0,2 0,25 0,3 0,35 FNU 1, c (g/dm 3 ) 0,25 0,3 0,35 FNU Řešení příkladu Z charakteru dat je zřejmé, že jde o lineární závislost. Pokusíme se naměřené hodnoty proložit pomocí metody nejmenších čtverců. Před tím provedeme ověření předpokladů použití této metody a testování významnosti parametrů modelu Předběžný průzkum dat Pomocí metody nejmenších čtverců byly stanoveny parametry regresního modelu a jeho základní statistické charakteristiky (viz. tab. č.1). tabulka 1: Parametry modelu se statistickým testem Proměnná Odhad Směr.odchylka Závěr Pravděpodobnost Spodní mez Horní mez Úsek -47, , Nevýznamný 0, ,965 47,84082 Směrnice 22507,73 207, Významný , ,09 Ve výše uvedené tabulce je testována hypotéza, zda se odhad hodnoty úseku, resp. směrnice statisticky významně odlišuje od nuly. Součásti tabulky je 95% interval spolehlivosti a vzhledem k tomu, že v případě úseku obsahuje nulu, je úsek nevýznamný. To potvrzuje i hodnota P, která v tomto případě vyšla vyšší než 0,05. 2

3 V tabulce číslo 2 je proveden pro doplnění test významnosti modelu pomocí analýzy rozptylu. tabulka 2: ANOVA test významnosti modelu Zdroj variability St. volnosti SS MS F krit. P Regrese 1 1,19E+08 1,19E ,78 2,48E-19 Reziduální variabilita , ,91 Celková variabilita 13 1,19E+08 - SS suma čtverců a MS je příslušná suma čtverců vydělená stupněm volnosti Hodnota testovacího kriteria F krit. je 11804,78 a je větši než hodnota kvantilu F (1-alfa, m-1, n- m), která je 4,7472. Zvolený model je významný. V tabulce je to dokázáno hodnotou P (pravděpodobnost), která je menší než 0,05. tabulka 3:Statistické charakteristiky regrese Vícenásobný korelační koeficient R 0, Koeficient determinace R 2 0, Predikovaný korelační koeficient Rp 0, Střední kvadratická chyba predikce MEP : 11665,82 Akaikeho informační kritérium : 130,9231 Vhodnost zvoleného modelu potvrzují i vysoké hodnoty v tabulce č.3. Koeficient determinace je 0,9989, což znamená že cca 99,9% bodu leží na kalibrační křivce. Dále provedeme soubor testů, ve kterých ověříme, zda jsou splněny předpoklady použití metody nejmenších čtverců. Fisher-Snedecorův test významnosti modelu Hodnota kritéria F : 11804,78411 Kvantil F (1-alfa, m-1, n-m) : 4, Pravděpodobnost : 2, E-019 Závěr : Model je významný Scottovo kritérium multikolinearity Hodnota kritéria SC : 0, Závěr : Model vykazuje multikolinearitu! Cook-Weisbergův test heteroskedasticity Hodnota kritéria CW : 0, Kvantil Chi^2(1-alfa,1) : 3, Pravděpodobnost : 0, Závěr : Rezidua vykazují homoskedasticitu. Jarque-Berrův test normality Hodnota kritéria JB : 0, Kvantil Chi^2(1-alfa,2) : 5, Pravděpodobnost : 0, Závěr : Rezidua mají normální rozdělení. 3

4 Waldův test autokorelace Hodnota kritéria WA : 0, Kvantil Chi^2(1-alfa,1) : 3, Pravděpodobnost : 0, Závěr : Autokorelace je nevýznamná Durbin-Watsonův test autokorelace Hodnota kritéria DW : -1 Kritické hodnoty DW 0 Závěr : Negativní autokorelace reziduí není prokázána. Znaménkový test reziduí Hodnota kritéria Sg : 0, Kvantil N(1-alfa/2) : 1, Pravděpodobnost : 0, Závěr : V reziduích není trend. Model vykazuje multikolinaritu. Multikolinearita sama o sobě není porušením předpokladů použití metody nejmenších čtverců. Vede pouze při určování parametrů modelu (směrnice a úsek) k vysokým hodnotám rozptylu. V tomto případě ale nedosahuje kritické hranice. Závěrem tedy je, že použití metody nejmenších čtverců vhodné. Dále provedeme identifikaci případných odlehlých bodů. Nejprve pomocí hodnot rezidui uvedených v následující tabulce. tabulka 4: Analýza reziduí Index Standardní Jackknife Predikované Diag(Hii) Diag(H*ii) Cookova vzdál. 1 0, , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , ,78 0, , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , , Z hodnot Jackknife reziduí je vidět, že výběr neobsahuje odlehlé body. Je indikována pouze přítomnost významného bodu (č.6). To potvrzují i níže uvedené grafy. Na obrázku 1 je vidět přítomnost jednoho významného nikoliv odlehlého bodu (bod.č.6). Obr. č.3 indukuje přítomnost podezřelého bodu č.6. Bod č.6 je podezřely spolu s bodem č.11 i na obr. 4. Mezi grafy je i Q-Q graf reziduí- ten mimo potvrzeni splnění předpokladů normality reziduí indikuje rovněž přítomnost jednoho odlehlého bodu (bod č.6). 4

5 obrázek 1: Graf predikce E pred Predikce reziduí - Sheet E obrázek 2: L-R graf E2norm L-R graf - Sheet Hat-diagonal obrázek 3: MCulloh-Meterův graf obrázek 4:Pregibonův graf E std 8 McCulloh-Meterův graf - Sheet1 E2 norm 0.60 Pregibonův graf - Sheet LN(Hat-diagonal)n Hat-diagonal obrázek 5: Graf normality rezidui Q-rezidua 200 Q-Q graf reziduí - Sheet Q-teor Předpoklady použití metody nejmenších čtverců jsou splněny. Výběr neobsahuje odlehlé body. Úsek vychází statisticky nevýznamný Vlastní kalibrace Jako vhodný kalibrační vztah se na základě výše uvedených diagnostik jeví přímka s nulovým úsekem. Kalibrační rovnice má tvar: y=22331,51(±128,55)x, kde y je signál (FNU) a x je měřená hodnota (koncentrace), v závorce je uvedena hodnota směrodatné odchylky. 5

6 tabulka 5:Statistické charakteristiky regrese u zpřesněného modelu Vícenásobný korelační koeficient R 0, Koeficient determinace R 2 0, Predikovaný korelační koeficient Rp 0, Střední kvadratická chyba predikce MEP 11830,06 Akaikeho informační kritérium 130,2228 Pro úplnost uvádím výsledky testování regresního tripletu u zpřesněného modelu. Fisher-Snedecorův test významnosti modelu Hodnota kritéria F : 11653,54479 Kvantil F (1-alfa, m-1, n-m) : 4, Pravděpodobnost : 1, E-020 Závěr : Model je významný Cook-Weisbergův test heteroskedasticity Hodnota kritéria CW : 0, Kvantil Chi^2(1-alfa,1) : 3, Pravděpodobnost : 0, Závěr : Rezidua vykazují homoskedasticitu. Jarque-Berrův test normality Hodnota kritéria JB : 1, Kvantil Chi^2(1-alfa,2) : 5, Pravděpodobnost : 0, Závěr : Rezidua mají normální rozdělení. Waldův test autokorelace Hodnota kritéria WA : 0, Kvantil Chi^2(1-alfa,1) : 3, Pravděpodobnost : 0, Závěr : Autokorelace je nevýznamná Durbin-Watsonův test autokorelace Hodnota kritéria DW : -1 Kritické hodnoty DW 0 2 Závěr : Negativní autokorelace reziduí není prokázána. Znaménkový test reziduí Hodnota kritéria Sg : 0, Kvantil N(1-alfa/2) : 1, Pravděpodobnost : 0, Závěr : V reziduích není trend. V následující tabulce č.6 jsou uvedeny hodnoty kalibračních mezí. Kde Y je signál a X je měřená hodnota (koncentrace). Indexy mají následující význam- c-kritická úroveň (co je pod ní zaniká v šumu měření), d označuje limitu detekce (hodnota X d udává minimální koncentraci, kterou lze ještě s pravděpodobnosti 1-α odlišit od nulové hodnoty). Z hodnot v tabulce je patrné, že je možné pro naměřené hodnoty rozptylu provést určení koncentrace. 6

7 tabulka 6: Kalibrační meze Metoda Yc Yd Yq Xc Xd Metoda podle ISO , , ,3988 0, , Přímá metoda analytu 81, , ,5838 0, , Přímá metoda signálu, IUPAC 81, , ,6346 0, , Kombinovaná metoda Ebel,Kamm 79, , ,548 0, , Přistupme tedy k určení koncentrací. V tabulce č.7 jsou uvedeny jejich hodnoty spolu s příslušnými intervalovými odhady. tabulka 7:Kalibrační tabulka (95% intervaly spolehlivosti) Číslo vzorku Zpětný odhad Spodní mez Horní mez Naměřené hodnoty 1 0, , , , , , , , , obrázek 6: Kalibrační křivka FNU Regresní křivka - Sheet c (g/dm3) Závěr Jde o lineární závislost. Byly splněny předpoklady použití metody nejmenších čtverců. Výběr neobsahuje odlehlé body a všechny naměřené hodnoty leží nad hodnotami kalibračních mezí. Určené koncentrace jsou uvedeny v tabulce č Nelineární kalibrace Zadání příkladu Byly naměřeny následující data: X 2,8 9,7 17,3 27,8 36,9 43,5 53,7 Y 96,3 229,9 347,6 513,4 625,7 711,2 764,7 X 65, ,4 88,4 Y 828,9 844,9 844,9 855,6 Naměřené hodnoty mají jasně nelineární charakter. Proveďte nelineární kalibraci a určete hodnoty veličiny X pro tyto tři úrovně signálu Y:300, 450, 710. Software: Qc-expert 2.5 7

8 Vlastní kalibrace Jako nejvýhodnější se jeví kvadratický model popsaný rovnicí y=a.x 2 +b.x+c, kde a, b a c jsou konstanty modelu. Jejich hodnoty s 95% intervaly spolehlivosti jsou uvedeny v následující tabulce: tabulka 8:Parametry kvadratického modelu Parametr Odhad Sm. odchylka Spodní mez Horní mez c 38, , , , b 20, , , , a -0, , , , Z tabulky č.8 je patrné,že jde o dobré odhady vzhledem k nízkým hodnotám směrodatných odchylek. Intervalový odhad úseku neobsahuje nulu a tedy úsek je významný. Dále byly určeny hodnoty kalibračních mezí, které vypovídají o přesnosti měření a vhodnosti zvoleného modelu. tabulka 9: Kalibrační meze Kritická úroveň Yc: 67, Xc: 1, Limita detekce Yd: 93, Xd: 2, Z výše uvedených hodnot je patrné, že je možné provést určení hodnot pro zadané úrovně signálu. Dále uvádím kalibrační tabulku, ve které bylo provedeny nepřímé odhady x pro tři úrovně signálu Y. Součástí tabulky jsou 95% intervaly spolehlivosti. tabulka 10: Kalibrační tabulka Číslo vzorku Signál Zpětný odhad Spodní mez Horní mez , , , , , , , , , Obrázek 7: Kalibrační křivka Y Kalibrační závislost - Sheet X Závěr Byl zvolen kalibrační model y=38,9(±8,84)-0,1314(±0,005).x 2 +20,71(±0,465).x. V závorce jsou uvedeny sm. odchylky. Pro úrovně signálu 300, 450 a 710 byly určené příslušné hodnoty x, které jsou uvedeny v tabulce č

9 2.3. Rozlišení mezi lineární a nelineární kalibrací Zadání příkladu Na kontrolní filtraci na provoze Titanové běloby bylo provedeno proměření závislosti mezi výškou hladiny v produkčním žlabu kalolisů a průtokem titanového roztoku (viz. tabulka níže). Proložte naměřené body pomocí vhodné kalibrační závislosti a v případě nelinearity naměřených dat proveďte volbu optimálního typu splinu a v hodného počtu uzlových bodů. Data: Hladina (cm) 5,000 6,000 7,250 8,305 9,110 9,805 10,305 10,780 Průtok (m 3 /h) Hladina (cm) 11,220 11,610 11,944 Průtok (m 3 /h) Software: ADSTAT Řešení příkladu Z charakteru dat je zřejmé, že se nejedná o lineární závislost. To názorně potvrzuje uvedeny graf reziduí (viz. obr.8). Na obr.č.8 je dobře patrný významný trend v reziduích. Nelineární charakter dat dokresluje i prosté zobrazení naměřených bodu na obr.9. Obrázek 8: Graf reziduí R e z i d u a Hladina (cm) Obrázek 9: Závislost průtoku tit. roztoku průtok (m 3 /h) hladina (cm) V další fázi řešení provedeme rozhodnutí o tom zda použijeme při kalibraci lineární, kvadratický či kubický spline určíme optimální počet uzlových bodů. Za nejlepší kalibrační model se považuje takový, který má nejnižší limitu detekce koncentrace a odhad směrodatné odchylky reziduí při nejnižším počtu uzlových bodů. a) lineární spline parametry lineární spline uzlové body x c 3,750 2,655 3,3757 σe 0, , ,

10 b)kvadratický spline parametry kvadratický spline uzlové body x D 6,4145 8, ,217 σe 0, , , c) kubický spline parametry kubický spline uzlové body x D 9,213 15,084 - σ(e) 0, , ,07969 Na základě výše uvedených údajů se jeví jako nejvýhodnější model použití kvadratického splinu s jedním uzlovým bodem. Kalibrační rovnice má následující tvar: y=a x 2 +b x+c pro k[i-1] x k[i] Koeficienty rovnice jsou uvedeny v tabulce č.11. V tabulce č.12 jsou uvedeny hodnoty kalibračních mezí. V tabulce č.13 je uveden inverzní odhad pro hodnoty 9, 10 a 11 spolu s příslušnými intervalovými odhady. Tabulka 11:Hodnoty koeficientů kalibrační rovnice bod k[i] a b c 8,472 0, , , ,944 0, , ,908 Reziduální součet čtverců, RSC 0,04544 Průměr absolutních hodnot reziduí, Me 0,05648 Průměr relativních reziduí, Mer[%] 0,406 Odhad reziduálního rozptylu, s 2 (e) 0, Odhad směrodatné odchylky reziduí, s(e) 0, Tabulka 12:Hodnoty kalibračních mezí Kritická úroveň yc: 8, xc: 6, Limita detekce yd: 8, xd: 6, Tabulka 13:Kalibrační tabulka Měřená hodnota Inverzní odhad koncentrace Konfidenční interval y exp [i] x vyp [i] dolní mez Llxvyp[i] horní mez Luxvyp[i] 9 6, , , , , , , , ,

11 Závěr Na základě provedených statistických analýz se jako nejvhodnější model jeví kubický spline s jedním uzlovým bodem. U tohoto modelu je limita detekce 6,41 cm výšky hladiny titanového roztoku. Byl proveden inverzní odhad pro tři různé hodnoty určení intervalů spolehlivosti, viz. tabulka č.10 11

12 Obsah 1. Zadání Zpracované úlohy Lineární kalibrace Zadání příkladu Řešení příkladu Předběžný průzkum dat Vlastní kalibrace Závěr Nelineární kalibrace Zadání příkladu Vlastní kalibrace Závěr Rozlišení mezi lineární a nelineární kalibrací Zadání příkladu Řešení příkladu Závěr