UNIVERZITA PARDUBICE Fakulta chemicko-technologická Katedra analytické chemie Nám. Čs. Legií 565, 532 10 Pardubice 15. licenční studium INTERAKTIVNÍ STATISTICKÁ ANALÝZA DAT Semestrální práce KALIBRACE A LIMITY JEJÍ PŘESNOSTI 2015 Vedoucí studia a odborný garant: Prof. RNDr. Milan Meloun, DrSc. Vyučující: Prof. RNDr. Milan Meloun, DrSc. Prosinec 2015 Autor práce: Mgr. Veronika Pilařová
OBSAH ÚLOHA 1: LINEÁRNÍ KALIBRACE... 3 Zadání... 3 Data... 3 Program... 3 Řešení... 3 Závěr... 9 ÚLOHA 2: NELINEÁRNÍ KALIBRACE... 10 Zadání... 10 Data... 10 Program... 10 Řešení... 10 Závěr... 16 ÚLOHA 3: ROZLIŠENÍ MEZI LINEÁRNÍ A NELINEÁRNÍ KALLIBRACÍ... 17 Zadání... 17 Data... 17 Program... 17 Řešení... 17 Závěr... 21
ÚLOHA 1: LINEÁRNÍ KALIBRACE Zadání U pacientů s podezřením na nízkou hladinu vitaminu E, velmi důležitého antioxidantu, jehož nedostatek může zvýšit riziko nádorových onemocnění či aterosklerózy, byla změřena hladina nejvíce biologicky aktivního isomeru tohoto vitamínu v séru (α-tokoferolu) metodou SFC-MS. Pro kvantitativní stanovení bylo nutné změřit řadu kalibračních roztoků o různé koncentraci. Koncentrace α-tokoferolu je vyjádřena v µg/ml lidského séra. U pěti vzorků pacientů určete koncentraci α-tokoferolu v séru (odezva plocha píku): Data Vzorek č. Koncentrace α-tokoferolu [µg/ml] Plocha píku K1 0.001 1645 K2 0.005 15194 K3 0.01 26819 K4 0.05 116251 K5 0.1 267778 K6 0.5 1375631 K7 1 2689384 K8 5 13353438 K9 10 25757948 Pacient č. 1? 1008702 Pacient č. 2? 87904 Pacient č. 3? 345290 Pacient č. 4? 29563 Pacient č. 5? 46534 Program QC.Expert 3.3 Linerární regrese QC.Expert 3.3 - Kalibrace Řešení Regresní diagnostika dat: Návrh modelu: Použijeme lineární regresní model y = β0 + β1x, kde x odpovídá koncentraci α-tokoferolu a y ploše píku zmíněného isomeru. Odhad parametrů a testy významnosti: Metodou nejmenších čtverců byly určeny odhady parametrů β0 a β1 na hladině významnosti 0.05. Odhady parametrů Proměnná Odhad Směr.Odch. Závěr Pravděpodobnost Spodní mez Horní mez β 0 50281,06918 61165,99743 Nevýznamný 0,4381522965-94353,53171 194915,6701 β 1 2589197,071 16330,29041 Významný 1,048050535E-013 2550582,07 2627812,071
Absolutní člen lineárního regresního modelu je na základě testu intervalem spolehlivosti vyhodnocen jako nevýznamný, neboť interval vymezený horní a spodní mezí obsahuje 0, hodnota p-testu je vyšší než zadaná hladina významnosti 0,05. Hodnota směrnice je vyhodnocena jako významná, 0 neleží v intervalu spolehlivosti a p-hodnota je nižší než zadaná hladina významnosti 0,05. y - plocha píku 3.0E07 Regresní křivka - Sheet1 2.0E07 1.0E07 0.0E07-1.0E07 0 1 2 3 4 5 6 7 8 9 10 x - koncentrace Testování vlivných bodů pomocí diagnostických grafů: Z uvedených grafů je patrné, že v datech nalezneme 2 vlivné body bod 8 a 9. Z Pregibonova grafu vyplývá, že bod 8 je považován ze vlivný bod (pod červenou linkou) a bod 9 za velmi vlivný bod (na červené lince). Williamsův graf ukazuje, že bod 8 je bodem vybočujícím (nad vodorovnou linkou), bod 9 silně vlivným vybočujícím extrémem (nad vodorovnou a za svislou linkou). McCulloh-Meterův graf označuje bod 8 za vlivný (nad červenou linkou) a bod 9 za silně vlivný (nad červenou a za svislou linkou). L-R graf označuje bod 8 za vlivný (v oblasti křivek zobrazujících sílu vlivu) a bod 9 za silně vlivný (na linii nad hyperbolickými křivkami). 8 9 8 9
8 9 8 9 Grafická analýza ukazuje, že body 8 a 9 jsou odlehlé a je třeba je vyloučit a model opravit. Kritika modelu a metody: Statistické testy: Fisher-Snedecorův test významnosti Hodnota kritéria F: 25138,67584 Kvantil F (1-alfa, m-1, n-m): 5,591447851 Pravděpodobnost: 1,047612396E-013 Závěr: Model je významný Scottovo kritérium multikolinearity Hodnota kritéria SC: 0,3333213863 Závěr: Model vykazuje multikolinearitu! Cook-Weisbergův test heteroskedasticity Hodnota kritéria CW: 3,432982418 Kvantil Chi^2(1-alfa,1): 3,841458829 Pravděpodobnost: 0,06390659693 Závěr: Rezidua vykazují homoskedasticitu. Jarque-Berrův test normality Hodnota kritéria JB: 5,029772765 Kvantil Chi^2(1-alfa,2): 5,991464547 Pravděpodobnost: 0,08087210018 Závěr: Rezidua mají normální rozdělení. Waldův test autokorelace Hodnota kritéria WA: 0,3101413713 Kvantil Chi^2(1-alfa,1): 3,841458829 Pravděpodobnost: 0,5775934472 Závěr: Autokorelace je nevýznamná Durbin-Watsonův test autokorelace Hodnota kritéria DW: -1 Kritické hodnoty DW 0 2 Závěr: Negativní autokorelace reziduí není prokázána. Znaménkový test reziduí Hodnota kritéria Sg: 1,224744871 Kvantil N(1-alfa/2): 1,959963999 Pravděpodobnost: 0,2206713619 Závěr: V reziduích není trend. Základní statistické charakteristiky: Vícenásobný korelační koeficient R (optimálně co nejblíže 1): 0,9998608014 Koeficient determinace R 2 (optimálně co nejblíže 1): 0,9997216221 Predikovaný korelační koeficient Rp(optimálně co nejblíže 1): 0,9964333811 Střední kvadratická chyba predikce MEP (optimálně co nejnižší číslo): 1,268748521E+011 Akaikeho informační kritérium (optimálně co nejnižší číslo): 217,3749475
Vysoká hodnota vícenásobného korelačního koeficientu ukazuje, že navržený lineární regresní model je statisticky významný. Koeficient determinace ukazuje, že model vystihuje data v 99, 97 %. Střední kvadratická chyba predikce MEP a Akaikeho informační kritérium AIC slouží pro optimalizaci modelu (optimálním modelem se jeví ten model, který dosahuje co nejnižších hodnot pro MEP i AIC). Opravený model: Z výsledků předchozí regresní analýzy byl pro další tvorbu modelu odebrán bod č. 8 a 9 (vlivné odlehlé body). Odhady parametrů Proměnná Odhad Směr.Odch. Závěr Pravděpodobnost Spodní mez Horní mez β 0-1432,276925 6828,247592 Nevýznamný 0,8421359199-18984,84615 16120,2923 β 1 2702717,85 16077,58877 Významný 1,413318351E-010 2661389,093 2744046,608 Absolutní člen lineárního regresního modelu je na základě testu intervalem spolehlivosti vyhodnocen jako nevýznamný, neboť interval vymezený horní a spodní mezí obsahuje 0, hodnota p-testu je vyšší než zadaná hladina významnosti 0,05. Hodnota směrnice je vyhodnocena jako významná, 0 neleží v intervalu spolehlivosti a p-hodnota je nižší než zadaná hladina významnosti 0,05.
Statistické testy: Fisher-Snedecorův test významnosti Hodnota kritéria F: 28259,18207 Kvantil F (1-alfa, m-1, n-m): 6,607890974 Pravděpodobnost: 1,413319162E-010 Závěr: Model je významný Scottovo kritérium multikolinearity Hodnota kritéria SC: 0,3333326414 Závěr: Model vykazuje multikolinearitu! Cook-Weisbergův test heteroskedasticity Hodnota kritéria CW: 0,5624755472 Kvantil Chi^2(1-alfa,1): 3,841458829 Pravděpodobnost: 0,4532645231 Závěr: Rezidua vykazují homoskedasticitu. Jarque-Berrův test normality Hodnota kritéria JB: 0,5850492127 Kvantil Chi^2(1-alfa,2): 5,991464547 Pravděpodobnost: 0,7463768792 Závěr: Rezidua mají normální rozdělení. Waldův test autokorelace Hodnota kritéria WA: 0,4527001917 Kvantil Chi^2(1-alfa,1): 3,841458829 Pravděpodobnost: 0,5010554578 Závěr: Autokorelace je nevýznamná Durbin-Watsonův test autokorelace Hodnota kritéria DW: -1 Kritické hodnoty DW 0 2 Závěr: Negativní autokorelace reziduí není prokázána. Znaménkový test reziduí Hodnota kritéria Sg: 0,06063390626 Kvantil N(1-alfa/2): 1,959963999 Pravděpodobnost: 0,9516507699 Závěr: V reziduích není trend. Základní statistické charakteristiky: Vícenásobný korelační koeficient R (optimálně co nejblíže 1): 0,9999115449 Koeficient determinace R 2 (optimálně co nejblíže 1): 0,9998230977 Predikovaný korelační koeficient Rp(optimálně co nejblíže 1): 0,9982212724 Střední kvadratická chyba predikce MEP (optimálně co nejnižší číslo): 804322056,1 Akaikeho informační kritérium (optimálně co nejnižší číslo): 136,2310976 Závěr testů předpokladů MNČ: Předpoklady MNČ jsou splněny, ač model dle Scottova kritéria vykazuje multikolinearitu, vzhledem k nevýznamnosti absolutního členu je tento závěr přijatelný a MNČ lze použít. Kalibrace: Pro kalibraci byla použita zpřesněná data s vyloučenými body 8 a 9. Pro kalibraci bylo použito 7 bodů, byla provedena lineární kalibrace na hladině významnosti 0,05. Parametry kalibračního modelu Parametr Odhad Směr.Odch. Spodní mez Horní mez β 0-1432,276925 6828,247592-18984,84615 16120,2923 β 1 2702717,85 16077,58877 2661389,093 2744046,608 Významnost absolutního členu β 0 Hodnota Spodní mez Horní mez Závěr -1432,276925-18984,84615 16120,2923 Nevýznamný
Validace směrnice Hodnota Spodní mez Horní mez Směrnice = 1 2702717,85 2661389,093 2744046,608 Ne Absolutní člen je nevýznamný, znamená to, že kalibrační křivka prochází počátkem souřadnic. Absolutní člen nemůže být vyloučen z modelu, došlo by k deformaci intervalu spolehlivosti predikce pro x=0 a nebyly by spočítány kalibrační meze. y - plocha píku 3.0E06 Kalibrační závislost - Sheet1 2.0E06 1.0E06 0.0E06-1.0E06 0.00 0.10 0.20 0.30 0.40 0.50 0.60 0.70 0.80 0.90 1.00 x - koncentrace Korelační koeficient: 0,9999115449 Kalibrační meze: Metoda Yc Yd Yq Xc Xd Xq Metoda podle ISO 11843-2 18053,58183 23425,69 37539,44 0,00721 0,009197 0,014419 Přímá metoda analytu 21227,99251 43404,36 65352,96 0,008384 0,016589 0,02471 Přímá metoda signálu, IUPAC 21227,99251 43640,64 65814,53 0,008384 0,016677 0,024881 Kombinovaná metoda Ebel,Kamm 20982,9984 43398,29 65346,96 0,008294 0,016587 0,024708 Metoda K*Sigma z regrese 21227,99251 43888,26 66548,53 0,008384 0,016769 0,025153 Metoda K*Sigma, ACS 27894,04128 57220,36 86546,68 0,010851 0,021701 0,032552 yc kritická hodnota y, nejnižší hodnota rozeznatelná od šumu (hodnoty nižší jsou šum) yd mez detekce y, hodnota, nad kterou můžeme bezpečně měřit hodnotu yq mez kvantifikace, hodnota, nad níž můžeme stanovit skutečnou hodnotu y s relativní chybou menší než α xc kritická úroveň x, hodnota odpovídající yc podle kalibračního modelu xd mez detekce x, minimální hodnota x, detekovatelná danou kalibrační metodou
xq mez kvantifikace x, minimální hodnota x, kterou lze stanovit s relativní chybou menší než α Určení vzorků: Číslo vzorku Naměřené hodnoty Bodový odhad Intervalový odhad Spodní mez Horní mez 1 1008702 0,187138949-3,234997517 3,607238 2 87904 0,016792458-0,287910493 0,316118 3 345290 0,064408786-1,110949113 1,233082 4 29563 0,005999804-0,101919804 0,111641 5 46534 0,009139606-0,155963013 0,170885 Závěr Závislost je lineární. Stanovení má dostatečnou citlivost. Byly vypočteny bodové a intervalové odhady koncentrace isomeru vitaminu E v lidském séru. Výsledky jsou uvedeny v tabulce.
ÚLOHA 2: NELINEÁRNÍ KALIBRACE Zadání Pro stanovení hydralazinu (vazodilatans)bylo připraveno 9 kalibračních vzorků. Lidská plasma byla obohacena standardem hydralazinu a upravena mikroextrakční metodou společně s reálnými vzorky. Vzorky byly následně změřeny pomocí LC-MS metody. Vyčíslete bodový a intervalový odhad pro neznámé koncentrace. Data Koncentrace hydralazinu [ng/ml] Plocha píku 50,00 294,33 75,00 732,67 100,00 1077,00 250,00 3595,33 500,00 8203,33 750,00 9936,00 1000,00 10550,67 2500,00 27697,33 5000,00 72715,67? 5098,39? 51385,09? 962,10 Program QC.Expert 3.3 Linerární regrese QC.Expert 3.3 - Kalibrace Řešení Regresní diagnostika dat: Návrh modelu: Použijeme lineární regresní model y = β0 + β1x, kde x odpovídá koncentraci hydralazinu a y ploše píku. Odhad parametrů a testy významnosti: Metodou nejmenších čtverců byly určeny odhady parametrů β0 a β1 na hladině významnosti 0.05. Odhady parametrů Proměnná Odhad Směr.Odch. Závěr Pravděpodobnost Spodní mez Horní mez β 0-1005,753228 1278,67393 Nevýznamný 0,4573368256-4029,336614 2017,830157 β 1 14,06886152 0,6663222847 Významný 1,344928287E-007 12,49325969 15,64446336 Absolutní člen lineárního regresního modelu je na základě testu intervalem spolehlivosti vyhodnocen jako nevýznamný, neboť interval vymezený horní a spodní mezí obsahuje 0,
hodnota p-testu je vyšší než zadaná hladina významnosti 0,05. Hodnota směrnice je vyhodnocena jako významná, 0 neleží v intervalu spolehlivosti a p-hodnota je nižší než zadaná hladina významnosti 0,05. plocha - y 8.0E04 Regresní křivka - Sheet1 7.0E04 6.0E04 5.0E04 4.0E04 3.0E04 2.0E04 1.0E04 0.0E04-1.0E04 0 1000 2000 3000 4000 5000 koncentrace - x Testování vlivných bodů pomocí diagnostických grafů a grafů reziduí: Z Q-Q grafu je patrné, že data mají normální rozdělení. Graf heteroskedasticity ukazuje, že v datech heteroskedasticita není přítomná, a je přítomný jeden podezřelý bod (vzdálený od ostatních) bod 9. Z uvedených grafů je patrné, že v datech nalezneme 2 vlivné body bod 8 a 9. Z Pregibonova grafu vyplývá, že oba body jsou považovány za vlivné (pod červenou linkou). Williamsův graf ukazuje, že bod 8 je bodem vybočujícím (nad vodorovnou linkou), bod 9 silně vlivným vybočujícím extrémem (nad vodorovnou a za svislou linkou). McCulloh-Meterův graf označuje
bod 8 za vlivný (nad červenou linkou) a bod 9 za silně vlivný (nad červenou a za svislou linkou). L-R graf označuje body 8 a 9 za vlivné body (v oblasti křivek zobrazujících sílu vlivu). 8 8 9 9 8 9 8 10 9 Grafická analýza ukazuje, že body 8 a 9 jsou velmi vlivné a je třeba je vyloučit a model opravit. Kritika modelu a metody: Statistické testy: Fisher-Snedecorův test významnosti Hodnota kritéria F: 445,8094124 Kvantil F (1-alfa, m-1, n-m): 5,591447851 Pravděpodobnost: 1,344928287E-007 Závěr: Model je významný Scottovo kritérium multikolinearity Hodnota kritéria SC: 0,3327168368 Závěr: Model vykazuje multikolinearitu! Cook-Weisbergův test heteroskedasticity Hodnota kritéria CW: 2,286324758 Kvantil Chi^2(1-alfa,1): 3,841458829 Pravděpodobnost: 0,1305186571 Závěr: Rezidua vykazují homoskedasticitu. Jarque-Berrův test normality Hodnota kritéria JB: 2,814684574 Kvantil Chi^2(1-alfa,2): 5,991464547 Pravděpodobnost: 0,2447930089 Závěr: Rezidua mají normální rozdělení. Waldův test autokorelace Hodnota kritéria WA: 0,004806063336 Kvantil Chi^2(1-alfa,1): 3,841458829 Pravděpodobnost: 0,9447303081 Závěr: Autokorelace je nevýznamná Durbin-Watsonův test autokorelace Hodnota kritéria DW: -1 Kritické hodnoty DW 0 2 Závěr: Pozitivní autokorelace reziduí není prokázána. Znaménkový test reziduí Hodnota kritéria Sg: 0,6744532734 Kvantil N(1-alfa/2): 1,959963999 Pravděpodobnost: 0,5000231832
Závěr: V reziduích není trend. Základní statistické charakteristiky: Vícenásobný korelační koeficient R (optimálně co nejblíže 1): 0,9922403728 Koeficient determinace R 2 (optimálně co nejblíže 1): 0,9845409574 Predikovaný korelační koeficient Rp(optimálně co nejblíže 1): 0,831349916 Střední kvadratická chyba predikce MEP (optimálně co nejnižší číslo): 42419012,29 Akaikeho informační kritérium (optimálně co nejnižší číslo): 146,3936087 Opravený model: Z výsledků předchozí regresní analýzy byl pro další tvorbu modelu odebrán bod č. 8 a 9 (vlivné odlehlé body). Odhady parametrů Proměnná Odhad Směr.Odch. Závěr Pravděpodobnost Spodní mez Horní mez β 0 332,3483416 715,1100141 Nevýznamný 0,6616455822-1505,900471 332,3483416 β 1 11,76619876 1,375093517 Významný 0,0003591219358 8,231408339 11,76619876 Absolutní člen lineárního regresního modelu je na základě testu intervalem spolehlivosti vyhodnocen jako nevýznamný, neboť interval vymezený horní a spodní mezí obsahuje 0, hodnota p-testu je vyšší než zadaná hladina významnosti 0,05. Hodnota směrnice je vyhodnocena jako významná, 0 neleží v intervalu spolehlivosti a p-hodnota je nižší než zadaná hladina významnosti 0,05. plocha - y 1.60E04 Regresní křivka - Sheet1 1.40E04 1.20E04 1.00E04 0.80E04 0.60E04 0.40E04 0.20E04 0.00E04-0.20E04 0 100 200 300 400 500 600 700 800 900 1000 koncentrace - x
Statistické testy: Fisher-Snedecorův test významnosti Hodnota kritéria F: 73,21631916 Kvantil F (1-alfa, m-1, n-m): 6,607890974 Pravděpodobnost: 0,0003591219358 Závěr: Model je významný Scottovo kritérium multikolinearity Hodnota kritéria SC: 0,3320234759 Závěr: Model vykazuje multikolinearitu! Cook-Weisbergův test heteroskedasticity Hodnota kritéria CW: 0,8256739155 Kvantil Chi^2(1-alfa,1): 3,841458829 Pravděpodobnost: 0,3635264518 Závěr: Rezidua vykazují homoskedasticitu. Jarque-Berrův test normality Hodnota kritéria JB: 0,3751960798 Kvantil Chi^2(1-alfa,2): 0,8289478442 Pravděpodobnost: 0,508869263 Závěr: Rezidua mají normální rozdělení. Waldův test autokorelace Hodnota kritéria WA: 0,1467499732 Kvantil Chi^2(1-alfa,1): 3,841458829 Pravděpodobnost: 0,7016607514 Závěr: Autokorelace je nevýznamná Durbin-Watsonův test autokorelace Hodnota kritéria DW: -1 Kritické hodnoty DW 0 2 Závěr: Pozitivní autokorelace reziduí není prokázána. Znaménkový test reziduí Hodnota kritéria Sg: 0,7882407814 Kvantil N(1-alfa/2): 1,959963999 Pravděpodobnost: 0,430555879 Závěr: V reziduích není trend. Základní statistické charakteristiky: Vícenásobný korelační koeficient R (optimálně co nejblíže 1): 0,9675095459 Koeficient determinace R 2 (optimálně co nejblíže 1): 0,9360747213 Predikovaný korelační koeficient Rp(optimálně co nejblíže 1): 0,6640764584 Střední kvadratická chyba predikce MEP (optimálně co nejnižší číslo): 3254921,339 Akaikeho informační kritérium (optimálně co nejnižší číslo): 101,5278166 Závěr testů předpokladů MNČ: Předpoklady MNČ jsou splněny, ač model dle Scottova kritéria vykazuje multikolinearitu, vzhledem k nevýznamnosti absolutního členu je tento závěr přijatelný a MNČ lze použít. Z regresní přímky je patrné, že se nejedná o lineární závislost. Odebráním vlivných bodů došlo ke zhoršení hodnot základních statistických parametrů. Kalibrace: Pro kalibraci byla použita zpřesněná data s vyloučenými body 8 a 9. Pro kalibraci bylo použito 7 bodů, byla provedena nelineární kalibrace (kvadratická) na hladině významnosti 0,05. Parametry kalibračního modelu Parametr Odhad Směr.Odch. Spodní mez Horní mez Abs. -1093,126639 275,5733972-1858,241049-328,012229 X 23,93668974 1,641361656 19,3795392 28,49384027 X 2-0,01224761337 0,001604539245-0,0167025285-0,007792698236
Významnost absolutního členu β 0 Hodnota Spodní mez Horní mez Závěr -1093,126639-1858,241049-328,012229 Významný Validace směrnice Hodnota Spodní mez Horní mez Směrnice = 1 23,93668974 19,3795392 28,49384027 Ne plocha - y 1.20E04 Kalibrační závislost - Sheet1 1.00E04 0.80E04 0.60E04 0.40E04 0.20E04 0.00E04-0.20E04 0 100 200 300 400 500 600 700 800 900 1000 koncentrace - x Korelační koeficient: 0,9979445338 Křivka grafu reziduí (zakřivenost) svědčí o nelinearitě kalibrační závislosti:
Kalibrační meze: Metoda Yc Yd Yq Xc Xd Xq Metoda podle ISO 11843-2 -804,4011364-719,6898172-515,675634 12,07440422 15,72758632 24,14880845 Přímá metoda analytu -66,13798184 664,4877803 1324,574784 43,89001379 76,41541589 106,8451302 Přímá metoda signálu, IUPAC -66,13798184 771,637396 1488,962476 43,89001379 81,28469325 114,5902666 Kombinovaná metoda, Ebel,Kamm -228,1547318 636,8178847 1299,09785 36,8298648 75,16226309 105,6509429 Metoda K*Sigma z regrese -66,13798184 960,8506751 1987,839332 43,89001379 89,94850656 138,532673 Metoda K*Sigma, ACS -396,3534248 300,4197893 997,1930033 29,55597425 60,06393838 91,62227469 yc kritická hodnota y, nejnižší hodnota rozeznatelná od šumu (hodnoty nižší jsou šum) yd mez detekce y, hodnota, nad kterou můžeme bezpečně měřit hodnotu yq mez kvantifikace, hodnota, nad níž můžeme stanovit skutečnou hodnotu y s relativní chybou menší než α xc kritická úroveň x, hodnota odpovídající yc podle kalibračního modelu xd mez detekce x, minimální hodnota x, detekovatelná danou kalibrační metodou xq mez kvantifikace x, minimální hodnota x, kterou lze stanovit s relativní chybou menší než α Určení vzorků: Číslo vzorku Naměřené hodnoty Bodový odhad Intervalový odhad Spodní mez Horní mez 1 5098,39 166,3436164-1551,841328-649899,3303 2 51385,09 977,1945-7025,015699-649899,3303 3 962,1 68,20723021-388,1169671 742,9004506 Závěr Kalibrační závislost vystihuje kalibrační nelineární křivka: y = ax2 + bx +c.
ÚLOHA 3: ROZLIŠENÍ MEZI LINEÁRNÍ A NELINEÁRNÍ KALLIBRACÍ Zadání Pro stanovení léčivé látky metaraminol v lidské plasmě (látka stahující cévy, zvyšující krevní tlak a nosní dekongescens) byla vyvinuta LC-MS metoda. Vzorky pacientů měřeny touto metodou jsou kvantifikovány pomocí matricové kalibrační křivky v uvedeném rozmezí. Určete koncentrace léčivé látky u pacientů, kterým byly odebrány vzorky. Data Koncentrace metaraminolu [ng/ml] Plocha píku 50,00 737,00 75,00 1239,00 100,00 1594,00 250,00 3659,33 500,00 7814,00 750,00 9969,00 1000,00 13020,00 2500,00 33274,00 5000,00 56647,33 7500,00 79317,67? 5098,39? 43071,71? 13031,05 Program QC.Expert 3.3 - Kalibrace Řešení Byla provedena lineární a kvadratická kalibrace a výsledky obou kalibrací porovnány. Lineární kalibrace Lineární kalibrace byla provedena s 10 body na hladině významnosti 0,05. Lineární model dle výsledků nevyhovuje (viz příloha). Parametry kalibračního modelu Parametr Odhad Směr.Odch. Spodní mez Horní mez Abs. 1786,30075 867,0955353-213,2251395 3785,82664 X 10,68594203 0,2900112801 10,01717482 11,35470924 Významnost absolutního členu β 0 Hodnota Spodní mez Horní mez Závěr 1786,30075-213,2251395 3785,82664 Nevýznamný
Validace směrnice Hodnota Spodní mez Horní mez Směrnice = 1 10,68594203 10,01717482 11,35470924 Ne Citlivost metody: 10,68594203 Zvolený faktor K: 1,959963999 Vypočítaná sm.odch. slepého signálu: 2208,194764 Z lineární kalibrační závislosti je patrné, že křivka (přímka) nekopíruje body, korelační koeficient se blíží jedné. Graf reziduí je velmi zakřivený, ukazuje nevhodnost lineární kalibrace. plocha - y 9.0E04 Kalibrační závislost - Sheet1 8.0E04 7.0E04 6.0E04 5.0E04 4.0E04 3.0E04 2.0E04 1.0E04 0.0E04-1.0E04 0 1000 2000 3000 4000 5000 6000 7000 8000 koncentrace - x Korelační koeficient: 0,9970667436
Kalibrační meze: Metoda Yc Yd Yq Xc Xd Xq Metoda podle ISO 11843-2 3086,810355 3399,107062 4387,319959 121,7028504 150,9278552 243,4057007 Přímá metoda analytu 4452,33527 6890,13458 9241,365501 249,4898917 477,6213285 697,6516183 Přímá metoda signálu, IUPAC 4452,33527 6992,808284 9426,561714 249,4898917 487,2296254 714,9824453 Kombinovaná metoda, Ebel,Kamm 4332,148924 6877,997196 9229,625832 238,2427461 476,4855013 696,5530096 Metoda K*Sigma z regrese 4452,33527 7118,36979 9784,40431 249,4898917 498,9797834 748,4696751 Metoda K*Sigma, ACS 6114,28299 10442,26523 14770,24747 405,0164437 810,0328875 1215,049331 yc kritická hodnota y, nejnižší hodnota rozeznatelná od šumu (hodnoty nižší jsou šum) yd mez detekce y, hodnota, nad kterou můžeme bezpečně měřit hodnotu yq mez kvantifikace, hodnota, nad níž můžeme stanovit skutečnou hodnotu y s relativní chybou menší než α xc kritická úroveň x, hodnota odpovídající yc podle kalibračního modelu xd mez detekce x, minimální hodnota x, detekovatelná danou kalibrační metodou xq mez kvantifikace x, minimální hodnota x, kterou lze stanovit s relativní chybou menší než α Určení vzorků: Číslo vzorku Naměřené hodnoty Bodový odhad Intervalový odhad Spodní mez Horní mez 1 5098,39 71,43911574-4798,359583 4671,759848 2 43071,71 1848,274508-37661,00896 41371,32701 3 13031,05 442,7054008-11648,99899 12297,52255 Kvadratická kalibrace Kvadratická kalibrace byla provedena s 10 body na hladině významnosti 0,05. Kvadratický model dle výsledků vyhovuje (viz příloha). Parametry kalibračního modelu Parametr Odhad Směr.Odch. Spodní mez Horní mez Abs. 336,8783551 402,661228-615,2641499 1289,02086 X 13,61536442 0,450931006 12,54908203 14,68164681 X 2-0,000418709916 6,237103814E-005-0,0005661939853-0,0002712258466 Významnost absolutního členu β 0 Hodnota Spodní mez Horní mez Závěr 336,8783551-615,2641499 1289,02086 Nevýznamný Validace směrnice Hodnota Spodní mez Horní mez Směrnice = 1 13,61536442 12,54908203 14,68164681 Ne
Citlivost v nule: 13,61536442 Citlivost v počátku: 13,57349343 Citlivost ve středu: 10,49597554 Citlivost na konci: 7,334715678 Zvolený faktor K: 1,959963999 Vypočítaná sm.odch. slepého signálu: 865,5661629 Z kvadratické kalibrační závislosti je patrné, že křivka prokládá body těsněji, než přímka v lineární kalibrační závislosti, korelační koeficient se blíží jedné a je vyšší hodnoty, než korelační koeficient u kalibrace lineární. Znamená to, že křivka prokládá body přesněji (větší počet kalibračních bodů leží na křivce). Graf reziduí je velmi zakřivený, ukazuje vhodné použití kvadratické kalibrace. plocha - y 9.0E04 Kalibrační závislost - Sheet1 8.0E04 7.0E04 6.0E04 5.0E04 4.0E04 3.0E04 2.0E04 1.0E04 0.0E04-1.0E04 0 1000 2000 3000 4000 5000 6000 7000 8000 koncentrace - x Korelační koeficient: 0,999606149 Reziduum 2000 Graf reziduí - Sheet1 1000 0-1000 -2000 0 1000 2000 3000 4000 5000 6000 7000 8000 koncentrace - x
Kalibrační meze: Metoda Yc Yd Yq Xc Xd Xq Metoda podle ISO 11843-2 857,1646513 985,3543435 1377,450947 38,21552495 47,69821679 76,4310499 Přímá metoda analytu 1675,626499 2856,584596 3982,245288 98,62541187 186,1288414 269,9807677 Přímá metoda signálu, IUPAC 1675,626499 2925,051991 4102,360105 98,62541187 191,2165677 278,9542568 Kombinovaná metoda, Ebel,Kamm 1591,559363 2846,241409 3972,343495 92,41449112 185,3603922 269,2412532 Metoda K*Sigma z regrese 1675,626499 3014,374643 4353,122787 98,62541187 197,8564447 297,7043941 Metoda K*Sigma, ACS 2033,356873 3729,835391 5426,313908 125,08144 251,1402234 378,1996243 yc kritická hodnota y, nejnižší hodnota rozeznatelná od šumu (hodnoty nižší jsou šum) yd mez detekce y, hodnota, nad kterou můžeme bezpečně měřit hodnotu yq mez kvantifikace, hodnota, nad níž můžeme stanovit skutečnou hodnotu y s relativní chybou menší než α xc kritická úroveň x, hodnota odpovídající yc podle kalibračního modelu xd mez detekce x, minimální hodnota x, detekovatelná danou kalibrační metodou xq mez kvantifikace x, minimální hodnota x, kterou lze stanovit s relativní chybou menší než α Určení vzorků: Číslo vzorku Naměřené hodnoty Bodový odhad Intervalový odhad Spodní mez Horní mez 1 5098,39 163,3440199-3457,592622 4235,634635 2 43071,71 1639,75014-21854,44266-45512571,18 3 13031,05 460,4291794-8066,133521-45512571,18 Závěr Po porovnání lineární a kvadratické kalibrace byla zvolena jako správná kalibrační metoda metoda kvadratická. Kvadratická kalibrační závislost lépe prokládá kalibrační body, má vyšší hodnotu korelačního koeficientu, tudíž i výsledky z analýzy vzorků odebraných pacientům budou přesněji vyhodnoceny kvadratickou kalibrací. Kalibrační křivka má tedy obecný tvar: y = ax2 + bx +c.