KALIBRACE A LIMITY JEJÍ PŘESNOSTI 2015

Transkript

1 UNIVERZITA PARDUBICE Fakulta chemicko-technologická Katedra analytické chemie Nám. Čs. Legií 565, Pardubice 15. licenční studium INTERAKTIVNÍ STATISTICKÁ ANALÝZA DAT Semestrální práce KALIBRACE A LIMITY JEJÍ PŘESNOSTI 2015 Vedoucí studia a odborný garant: Prof. RNDr. Milan Meloun, DrSc. Vyučující: Prof. RNDr. Milan Meloun, DrSc. Prosinec 2015 Autor práce: Mgr. Veronika Pilařová

2 OBSAH ÚLOHA 1: LINEÁRNÍ KALIBRACE... 3 Zadání... 3 Data... 3 Program... 3 Řešení... 3 Závěr... 9 ÚLOHA 2: NELINEÁRNÍ KALIBRACE Zadání Data Program Řešení Závěr ÚLOHA 3: ROZLIŠENÍ MEZI LINEÁRNÍ A NELINEÁRNÍ KALLIBRACÍ Zadání Data Program Řešení Závěr... 21

3 ÚLOHA 1: LINEÁRNÍ KALIBRACE Zadání U pacientů s podezřením na nízkou hladinu vitaminu E, velmi důležitého antioxidantu, jehož nedostatek může zvýšit riziko nádorových onemocnění či aterosklerózy, byla změřena hladina nejvíce biologicky aktivního isomeru tohoto vitamínu v séru (α-tokoferolu) metodou SFC-MS. Pro kvantitativní stanovení bylo nutné změřit řadu kalibračních roztoků o různé koncentraci. Koncentrace α-tokoferolu je vyjádřena v µg/ml lidského séra. U pěti vzorků pacientů určete koncentraci α-tokoferolu v séru (odezva plocha píku): Data Vzorek č. Koncentrace α-tokoferolu [µg/ml] Plocha píku K K K K K K K K K Pacient č. 1? Pacient č. 2? Pacient č. 3? Pacient č. 4? Pacient č. 5? Program QC.Expert 3.3 Linerární regrese QC.Expert Kalibrace Řešení Regresní diagnostika dat: Návrh modelu: Použijeme lineární regresní model y = β0 + β1x, kde x odpovídá koncentraci α-tokoferolu a y ploše píku zmíněného isomeru. Odhad parametrů a testy významnosti: Metodou nejmenších čtverců byly určeny odhady parametrů β0 a β1 na hladině významnosti Odhady parametrů Proměnná Odhad Směr.Odch. Závěr Pravděpodobnost Spodní mez Horní mez β , ,99743 Nevýznamný 0, , ,6701 β , ,29041 Významný 1, E , ,071

4 Absolutní člen lineárního regresního modelu je na základě testu intervalem spolehlivosti vyhodnocen jako nevýznamný, neboť interval vymezený horní a spodní mezí obsahuje 0, hodnota p-testu je vyšší než zadaná hladina významnosti 0,05. Hodnota směrnice je vyhodnocena jako významná, 0 neleží v intervalu spolehlivosti a p-hodnota je nižší než zadaná hladina významnosti 0,05. y - plocha píku 3.0E07 Regresní křivka - Sheet1 2.0E07 1.0E07 0.0E07-1.0E x - koncentrace Testování vlivných bodů pomocí diagnostických grafů: Z uvedených grafů je patrné, že v datech nalezneme 2 vlivné body bod 8 a 9. Z Pregibonova grafu vyplývá, že bod 8 je považován ze vlivný bod (pod červenou linkou) a bod 9 za velmi vlivný bod (na červené lince). Williamsův graf ukazuje, že bod 8 je bodem vybočujícím (nad vodorovnou linkou), bod 9 silně vlivným vybočujícím extrémem (nad vodorovnou a za svislou linkou). McCulloh-Meterův graf označuje bod 8 za vlivný (nad červenou linkou) a bod 9 za silně vlivný (nad červenou a za svislou linkou). L-R graf označuje bod 8 za vlivný (v oblasti křivek zobrazujících sílu vlivu) a bod 9 za silně vlivný (na linii nad hyperbolickými křivkami)

5 Grafická analýza ukazuje, že body 8 a 9 jsou odlehlé a je třeba je vyloučit a model opravit. Kritika modelu a metody: Statistické testy: Fisher-Snedecorův test významnosti Hodnota kritéria F: 25138,67584 Kvantil F (1-alfa, m-1, n-m): 5, Pravděpodobnost: 1, E-013 Závěr: Model je významný Scottovo kritérium multikolinearity Hodnota kritéria SC: 0, Závěr: Model vykazuje multikolinearitu! Cook-Weisbergův test heteroskedasticity Hodnota kritéria CW: 3, Kvantil Chi^2(1-alfa,1): 3, Pravděpodobnost: 0, Závěr: Rezidua vykazují homoskedasticitu. Jarque-Berrův test normality Hodnota kritéria JB: 5, Kvantil Chi^2(1-alfa,2): 5, Pravděpodobnost: 0, Závěr: Rezidua mají normální rozdělení. Waldův test autokorelace Hodnota kritéria WA: 0, Kvantil Chi^2(1-alfa,1): 3, Pravděpodobnost: 0, Závěr: Autokorelace je nevýznamná Durbin-Watsonův test autokorelace Hodnota kritéria DW: -1 Kritické hodnoty DW 0 2 Závěr: Negativní autokorelace reziduí není prokázána. Znaménkový test reziduí Hodnota kritéria Sg: 1, Kvantil N(1-alfa/2): 1, Pravděpodobnost: 0, Závěr: V reziduích není trend. Základní statistické charakteristiky: Vícenásobný korelační koeficient R (optimálně co nejblíže 1): 0, Koeficient determinace R 2 (optimálně co nejblíže 1): 0, Predikovaný korelační koeficient Rp(optimálně co nejblíže 1): 0, Střední kvadratická chyba predikce MEP (optimálně co nejnižší číslo): 1, E+011 Akaikeho informační kritérium (optimálně co nejnižší číslo): 217,

6 Vysoká hodnota vícenásobného korelačního koeficientu ukazuje, že navržený lineární regresní model je statisticky významný. Koeficient determinace ukazuje, že model vystihuje data v 99, 97 %. Střední kvadratická chyba predikce MEP a Akaikeho informační kritérium AIC slouží pro optimalizaci modelu (optimálním modelem se jeví ten model, který dosahuje co nejnižších hodnot pro MEP i AIC). Opravený model: Z výsledků předchozí regresní analýzy byl pro další tvorbu modelu odebrán bod č. 8 a 9 (vlivné odlehlé body). Odhady parametrů Proměnná Odhad Směr.Odch. Závěr Pravděpodobnost Spodní mez Horní mez β , , Nevýznamný 0, , ,2923 β , ,58877 Významný 1, E , ,608 Absolutní člen lineárního regresního modelu je na základě testu intervalem spolehlivosti vyhodnocen jako nevýznamný, neboť interval vymezený horní a spodní mezí obsahuje 0, hodnota p-testu je vyšší než zadaná hladina významnosti 0,05. Hodnota směrnice je vyhodnocena jako významná, 0 neleží v intervalu spolehlivosti a p-hodnota je nižší než zadaná hladina významnosti 0,05.

7 Statistické testy: Fisher-Snedecorův test významnosti Hodnota kritéria F: 28259,18207 Kvantil F (1-alfa, m-1, n-m): 6, Pravděpodobnost: 1, E-010 Závěr: Model je významný Scottovo kritérium multikolinearity Hodnota kritéria SC: 0, Závěr: Model vykazuje multikolinearitu! Cook-Weisbergův test heteroskedasticity Hodnota kritéria CW: 0, Kvantil Chi^2(1-alfa,1): 3, Pravděpodobnost: 0, Závěr: Rezidua vykazují homoskedasticitu. Jarque-Berrův test normality Hodnota kritéria JB: 0, Kvantil Chi^2(1-alfa,2): 5, Pravděpodobnost: 0, Závěr: Rezidua mají normální rozdělení. Waldův test autokorelace Hodnota kritéria WA: 0, Kvantil Chi^2(1-alfa,1): 3, Pravděpodobnost: 0, Závěr: Autokorelace je nevýznamná Durbin-Watsonův test autokorelace Hodnota kritéria DW: -1 Kritické hodnoty DW 0 2 Závěr: Negativní autokorelace reziduí není prokázána. Znaménkový test reziduí Hodnota kritéria Sg: 0, Kvantil N(1-alfa/2): 1, Pravděpodobnost: 0, Závěr: V reziduích není trend. Základní statistické charakteristiky: Vícenásobný korelační koeficient R (optimálně co nejblíže 1): 0, Koeficient determinace R 2 (optimálně co nejblíže 1): 0, Predikovaný korelační koeficient Rp(optimálně co nejblíže 1): 0, Střední kvadratická chyba predikce MEP (optimálně co nejnižší číslo): ,1 Akaikeho informační kritérium (optimálně co nejnižší číslo): 136, Závěr testů předpokladů MNČ: Předpoklady MNČ jsou splněny, ač model dle Scottova kritéria vykazuje multikolinearitu, vzhledem k nevýznamnosti absolutního členu je tento závěr přijatelný a MNČ lze použít. Kalibrace: Pro kalibraci byla použita zpřesněná data s vyloučenými body 8 a 9. Pro kalibraci bylo použito 7 bodů, byla provedena lineární kalibrace na hladině významnosti 0,05. Parametry kalibračního modelu Parametr Odhad Směr.Odch. Spodní mez Horní mez β , , , ,2923 β , , , ,608 Významnost absolutního členu β 0 Hodnota Spodní mez Horní mez Závěr -1432, , ,2923 Nevýznamný

8 Validace směrnice Hodnota Spodní mez Horní mez Směrnice = , , ,608 Ne Absolutní člen je nevýznamný, znamená to, že kalibrační křivka prochází počátkem souřadnic. Absolutní člen nemůže být vyloučen z modelu, došlo by k deformaci intervalu spolehlivosti predikce pro x=0 a nebyly by spočítány kalibrační meze. y - plocha píku 3.0E06 Kalibrační závislost - Sheet1 2.0E06 1.0E06 0.0E06-1.0E x - koncentrace Korelační koeficient: 0, Kalibrační meze: Metoda Yc Yd Yq Xc Xd Xq Metoda podle ISO , , ,44 0, , , Přímá metoda analytu 21227, , ,96 0, , ,02471 Přímá metoda signálu, IUPAC 21227, , ,53 0, , , Kombinovaná metoda Ebel,Kamm 20982, , ,96 0, , , Metoda K*Sigma z regrese 21227, , ,53 0, , , Metoda K*Sigma, ACS 27894, , ,68 0, , , yc kritická hodnota y, nejnižší hodnota rozeznatelná od šumu (hodnoty nižší jsou šum) yd mez detekce y, hodnota, nad kterou můžeme bezpečně měřit hodnotu yq mez kvantifikace, hodnota, nad níž můžeme stanovit skutečnou hodnotu y s relativní chybou menší než α xc kritická úroveň x, hodnota odpovídající yc podle kalibračního modelu xd mez detekce x, minimální hodnota x, detekovatelná danou kalibrační metodou

9 xq mez kvantifikace x, minimální hodnota x, kterou lze stanovit s relativní chybou menší než α Určení vzorků: Číslo vzorku Naměřené hodnoty Bodový odhad Intervalový odhad Spodní mez Horní mez , , , , , , , , , , , , , , , Závěr Závislost je lineární. Stanovení má dostatečnou citlivost. Byly vypočteny bodové a intervalové odhady koncentrace isomeru vitaminu E v lidském séru. Výsledky jsou uvedeny v tabulce.

10 ÚLOHA 2: NELINEÁRNÍ KALIBRACE Zadání Pro stanovení hydralazinu (vazodilatans)bylo připraveno 9 kalibračních vzorků. Lidská plasma byla obohacena standardem hydralazinu a upravena mikroextrakční metodou společně s reálnými vzorky. Vzorky byly následně změřeny pomocí LC-MS metody. Vyčíslete bodový a intervalový odhad pro neznámé koncentrace. Data Koncentrace hydralazinu [ng/ml] Plocha píku 50,00 294,33 75,00 732,67 100, ,00 250, ,33 500, ,33 750, , , , , , , ,67? 5098,39? 51385,09? 962,10 Program QC.Expert 3.3 Linerární regrese QC.Expert Kalibrace Řešení Regresní diagnostika dat: Návrh modelu: Použijeme lineární regresní model y = β0 + β1x, kde x odpovídá koncentraci hydralazinu a y ploše píku. Odhad parametrů a testy významnosti: Metodou nejmenších čtverců byly určeny odhady parametrů β0 a β1 na hladině významnosti Odhady parametrů Proměnná Odhad Směr.Odch. Závěr Pravděpodobnost Spodní mez Horní mez β , ,67393 Nevýznamný 0, , , β 1 14, , Významný 1, E , , Absolutní člen lineárního regresního modelu je na základě testu intervalem spolehlivosti vyhodnocen jako nevýznamný, neboť interval vymezený horní a spodní mezí obsahuje 0,

11 hodnota p-testu je vyšší než zadaná hladina významnosti 0,05. Hodnota směrnice je vyhodnocena jako významná, 0 neleží v intervalu spolehlivosti a p-hodnota je nižší než zadaná hladina významnosti 0,05. plocha - y 8.0E04 Regresní křivka - Sheet1 7.0E04 6.0E04 5.0E04 4.0E04 3.0E04 2.0E04 1.0E04 0.0E04-1.0E koncentrace - x Testování vlivných bodů pomocí diagnostických grafů a grafů reziduí: Z Q-Q grafu je patrné, že data mají normální rozdělení. Graf heteroskedasticity ukazuje, že v datech heteroskedasticita není přítomná, a je přítomný jeden podezřelý bod (vzdálený od ostatních) bod 9. Z uvedených grafů je patrné, že v datech nalezneme 2 vlivné body bod 8 a 9. Z Pregibonova grafu vyplývá, že oba body jsou považovány za vlivné (pod červenou linkou). Williamsův graf ukazuje, že bod 8 je bodem vybočujícím (nad vodorovnou linkou), bod 9 silně vlivným vybočujícím extrémem (nad vodorovnou a za svislou linkou). McCulloh-Meterův graf označuje

12 bod 8 za vlivný (nad červenou linkou) a bod 9 za silně vlivný (nad červenou a za svislou linkou). L-R graf označuje body 8 a 9 za vlivné body (v oblasti křivek zobrazujících sílu vlivu) Grafická analýza ukazuje, že body 8 a 9 jsou velmi vlivné a je třeba je vyloučit a model opravit. Kritika modelu a metody: Statistické testy: Fisher-Snedecorův test významnosti Hodnota kritéria F: 445, Kvantil F (1-alfa, m-1, n-m): 5, Pravděpodobnost: 1, E-007 Závěr: Model je významný Scottovo kritérium multikolinearity Hodnota kritéria SC: 0, Závěr: Model vykazuje multikolinearitu! Cook-Weisbergův test heteroskedasticity Hodnota kritéria CW: 2, Kvantil Chi^2(1-alfa,1): 3, Pravděpodobnost: 0, Závěr: Rezidua vykazují homoskedasticitu. Jarque-Berrův test normality Hodnota kritéria JB: 2, Kvantil Chi^2(1-alfa,2): 5, Pravděpodobnost: 0, Závěr: Rezidua mají normální rozdělení. Waldův test autokorelace Hodnota kritéria WA: 0, Kvantil Chi^2(1-alfa,1): 3, Pravděpodobnost: 0, Závěr: Autokorelace je nevýznamná Durbin-Watsonův test autokorelace Hodnota kritéria DW: -1 Kritické hodnoty DW 0 2 Závěr: Pozitivní autokorelace reziduí není prokázána. Znaménkový test reziduí Hodnota kritéria Sg: 0, Kvantil N(1-alfa/2): 1, Pravděpodobnost: 0,

13 Závěr: V reziduích není trend. Základní statistické charakteristiky: Vícenásobný korelační koeficient R (optimálně co nejblíže 1): 0, Koeficient determinace R 2 (optimálně co nejblíže 1): 0, Predikovaný korelační koeficient Rp(optimálně co nejblíže 1): 0, Střední kvadratická chyba predikce MEP (optimálně co nejnižší číslo): ,29 Akaikeho informační kritérium (optimálně co nejnižší číslo): 146, Opravený model: Z výsledků předchozí regresní analýzy byl pro další tvorbu modelu odebrán bod č. 8 a 9 (vlivné odlehlé body). Odhady parametrů Proměnná Odhad Směr.Odch. Závěr Pravděpodobnost Spodní mez Horní mez β 0 332, , Nevýznamný 0, , , β 1 11, , Významný 0, , , Absolutní člen lineárního regresního modelu je na základě testu intervalem spolehlivosti vyhodnocen jako nevýznamný, neboť interval vymezený horní a spodní mezí obsahuje 0, hodnota p-testu je vyšší než zadaná hladina významnosti 0,05. Hodnota směrnice je vyhodnocena jako významná, 0 neleží v intervalu spolehlivosti a p-hodnota je nižší než zadaná hladina významnosti 0,05. plocha - y 1.60E04 Regresní křivka - Sheet1 1.40E E E E E E E E E koncentrace - x

14 Statistické testy: Fisher-Snedecorův test významnosti Hodnota kritéria F: 73, Kvantil F (1-alfa, m-1, n-m): 6, Pravděpodobnost: 0, Závěr: Model je významný Scottovo kritérium multikolinearity Hodnota kritéria SC: 0, Závěr: Model vykazuje multikolinearitu! Cook-Weisbergův test heteroskedasticity Hodnota kritéria CW: 0, Kvantil Chi^2(1-alfa,1): 3, Pravděpodobnost: 0, Závěr: Rezidua vykazují homoskedasticitu. Jarque-Berrův test normality Hodnota kritéria JB: 0, Kvantil Chi^2(1-alfa,2): 0, Pravděpodobnost: 0, Závěr: Rezidua mají normální rozdělení. Waldův test autokorelace Hodnota kritéria WA: 0, Kvantil Chi^2(1-alfa,1): 3, Pravděpodobnost: 0, Závěr: Autokorelace je nevýznamná Durbin-Watsonův test autokorelace Hodnota kritéria DW: -1 Kritické hodnoty DW 0 2 Závěr: Pozitivní autokorelace reziduí není prokázána. Znaménkový test reziduí Hodnota kritéria Sg: 0, Kvantil N(1-alfa/2): 1, Pravděpodobnost: 0, Závěr: V reziduích není trend. Základní statistické charakteristiky: Vícenásobný korelační koeficient R (optimálně co nejblíže 1): 0, Koeficient determinace R 2 (optimálně co nejblíže 1): 0, Predikovaný korelační koeficient Rp(optimálně co nejblíže 1): 0, Střední kvadratická chyba predikce MEP (optimálně co nejnižší číslo): ,339 Akaikeho informační kritérium (optimálně co nejnižší číslo): 101, Závěr testů předpokladů MNČ: Předpoklady MNČ jsou splněny, ač model dle Scottova kritéria vykazuje multikolinearitu, vzhledem k nevýznamnosti absolutního členu je tento závěr přijatelný a MNČ lze použít. Z regresní přímky je patrné, že se nejedná o lineární závislost. Odebráním vlivných bodů došlo ke zhoršení hodnot základních statistických parametrů. Kalibrace: Pro kalibraci byla použita zpřesněná data s vyloučenými body 8 a 9. Pro kalibraci bylo použito 7 bodů, byla provedena nelineární kalibrace (kvadratická) na hladině významnosti 0,05. Parametry kalibračního modelu Parametr Odhad Směr.Odch. Spodní mez Horní mez Abs , , , , X 23, , , , X 2-0, , , ,

15 Významnost absolutního členu β 0 Hodnota Spodní mez Horní mez Závěr -1093, , , Významný Validace směrnice Hodnota Spodní mez Horní mez Směrnice = 1 23, , , Ne plocha - y 1.20E04 Kalibrační závislost - Sheet1 1.00E E E E E E E koncentrace - x Korelační koeficient: 0, Křivka grafu reziduí (zakřivenost) svědčí o nelinearitě kalibrační závislosti:

16 Kalibrační meze: Metoda Yc Yd Yq Xc Xd Xq Metoda podle ISO , , , , , , Přímá metoda analytu -66, , , , , , Přímá metoda signálu, IUPAC -66, , , , , , Kombinovaná metoda, Ebel,Kamm -228, , , , , , Metoda K*Sigma z regrese -66, , , , , , Metoda K*Sigma, ACS -396, , , , , , yc kritická hodnota y, nejnižší hodnota rozeznatelná od šumu (hodnoty nižší jsou šum) yd mez detekce y, hodnota, nad kterou můžeme bezpečně měřit hodnotu yq mez kvantifikace, hodnota, nad níž můžeme stanovit skutečnou hodnotu y s relativní chybou menší než α xc kritická úroveň x, hodnota odpovídající yc podle kalibračního modelu xd mez detekce x, minimální hodnota x, detekovatelná danou kalibrační metodou xq mez kvantifikace x, minimální hodnota x, kterou lze stanovit s relativní chybou menší než α Určení vzorků: Číslo vzorku Naměřené hodnoty Bodový odhad Intervalový odhad Spodní mez Horní mez ,39 166, , , ,09 977, , , ,1 68, , , Závěr Kalibrační závislost vystihuje kalibrační nelineární křivka: y = ax2 + bx +c.

17 ÚLOHA 3: ROZLIŠENÍ MEZI LINEÁRNÍ A NELINEÁRNÍ KALLIBRACÍ Zadání Pro stanovení léčivé látky metaraminol v lidské plasmě (látka stahující cévy, zvyšující krevní tlak a nosní dekongescens) byla vyvinuta LC-MS metoda. Vzorky pacientů měřeny touto metodou jsou kvantifikovány pomocí matricové kalibrační křivky v uvedeném rozmezí. Určete koncentrace léčivé látky u pacientů, kterým byly odebrány vzorky. Data Koncentrace metaraminolu [ng/ml] Plocha píku 50,00 737,00 75, ,00 100, ,00 250, ,33 500, ,00 750, , , , , , , , , ,67? 5098,39? 43071,71? 13031,05 Program QC.Expert Kalibrace Řešení Byla provedena lineární a kvadratická kalibrace a výsledky obou kalibrací porovnány. Lineární kalibrace Lineární kalibrace byla provedena s 10 body na hladině významnosti 0,05. Lineární model dle výsledků nevyhovuje (viz příloha). Parametry kalibračního modelu Parametr Odhad Směr.Odch. Spodní mez Horní mez Abs. 1786, , , ,82664 X 10, , , , Významnost absolutního členu β 0 Hodnota Spodní mez Horní mez Závěr 1786, , ,82664 Nevýznamný

18 Validace směrnice Hodnota Spodní mez Horní mez Směrnice = 1 10, , , Ne Citlivost metody: 10, Zvolený faktor K: 1, Vypočítaná sm.odch. slepého signálu: 2208, Z lineární kalibrační závislosti je patrné, že křivka (přímka) nekopíruje body, korelační koeficient se blíží jedné. Graf reziduí je velmi zakřivený, ukazuje nevhodnost lineární kalibrace. plocha - y 9.0E04 Kalibrační závislost - Sheet1 8.0E04 7.0E04 6.0E04 5.0E04 4.0E04 3.0E04 2.0E04 1.0E04 0.0E04-1.0E koncentrace - x Korelační koeficient: 0,

19 Kalibrační meze: Metoda Yc Yd Yq Xc Xd Xq Metoda podle ISO , , , , , , Přímá metoda analytu 4452, , , , , , Přímá metoda signálu, IUPAC 4452, , , , , , Kombinovaná metoda, Ebel,Kamm 4332, , , , , , Metoda K*Sigma z regrese 4452, , , , , , Metoda K*Sigma, ACS 6114, , , , , , yc kritická hodnota y, nejnižší hodnota rozeznatelná od šumu (hodnoty nižší jsou šum) yd mez detekce y, hodnota, nad kterou můžeme bezpečně měřit hodnotu yq mez kvantifikace, hodnota, nad níž můžeme stanovit skutečnou hodnotu y s relativní chybou menší než α xc kritická úroveň x, hodnota odpovídající yc podle kalibračního modelu xd mez detekce x, minimální hodnota x, detekovatelná danou kalibrační metodou xq mez kvantifikace x, minimální hodnota x, kterou lze stanovit s relativní chybou menší než α Určení vzorků: Číslo vzorku Naměřené hodnoty Bodový odhad Intervalový odhad Spodní mez Horní mez ,39 71, , , , , , , ,05 442, , ,52255 Kvadratická kalibrace Kvadratická kalibrace byla provedena s 10 body na hladině významnosti 0,05. Kvadratický model dle výsledků vyhovuje (viz příloha). Parametry kalibračního modelu Parametr Odhad Směr.Odch. Spodní mez Horní mez Abs. 336, , , ,02086 X 13, , , , X 2-0, , E-005-0, , Významnost absolutního členu β 0 Hodnota Spodní mez Horní mez Závěr 336, , ,02086 Nevýznamný Validace směrnice Hodnota Spodní mez Horní mez Směrnice = 1 13, , , Ne

20 Citlivost v nule: 13, Citlivost v počátku: 13, Citlivost ve středu: 10, Citlivost na konci: 7, Zvolený faktor K: 1, Vypočítaná sm.odch. slepého signálu: 865, Z kvadratické kalibrační závislosti je patrné, že křivka prokládá body těsněji, než přímka v lineární kalibrační závislosti, korelační koeficient se blíží jedné a je vyšší hodnoty, než korelační koeficient u kalibrace lineární. Znamená to, že křivka prokládá body přesněji (větší počet kalibračních bodů leží na křivce). Graf reziduí je velmi zakřivený, ukazuje vhodné použití kvadratické kalibrace. plocha - y 9.0E04 Kalibrační závislost - Sheet1 8.0E04 7.0E04 6.0E04 5.0E04 4.0E04 3.0E04 2.0E04 1.0E04 0.0E04-1.0E koncentrace - x Korelační koeficient: 0, Reziduum 2000 Graf reziduí - Sheet koncentrace - x

21 Kalibrační meze: Metoda Yc Yd Yq Xc Xd Xq Metoda podle ISO , , , , , , Přímá metoda analytu 1675, , , , , , Přímá metoda signálu, IUPAC 1675, , , , , , Kombinovaná metoda, Ebel,Kamm 1591, , , , , , Metoda K*Sigma z regrese 1675, , , , , , Metoda K*Sigma, ACS 2033, , , , , , yc kritická hodnota y, nejnižší hodnota rozeznatelná od šumu (hodnoty nižší jsou šum) yd mez detekce y, hodnota, nad kterou můžeme bezpečně měřit hodnotu yq mez kvantifikace, hodnota, nad níž můžeme stanovit skutečnou hodnotu y s relativní chybou menší než α xc kritická úroveň x, hodnota odpovídající yc podle kalibračního modelu xd mez detekce x, minimální hodnota x, detekovatelná danou kalibrační metodou xq mez kvantifikace x, minimální hodnota x, kterou lze stanovit s relativní chybou menší než α Určení vzorků: Číslo vzorku Naměřené hodnoty Bodový odhad Intervalový odhad Spodní mez Horní mez ,39 163, , , , , , , ,05 460, , ,18 Závěr Po porovnání lineární a kvadratické kalibrace byla zvolena jako správná kalibrační metoda metoda kvadratická. Kvadratická kalibrační závislost lépe prokládá kalibrační body, má vyšší hodnotu korelačního koeficientu, tudíž i výsledky z analýzy vzorků odebraných pacientům budou přesněji vyhodnoceny kvadratickou kalibrací. Kalibrační křivka má tedy obecný tvar: y = ax2 + bx +c.