Univerzita Pardubice Fakulta chemicko-technologická Katedra analytické chemie STATISTICKÉ ZPRACOVÁNÍ EXPERIMENTÁLNÍCH DAT

Transkript

1 Univerzita Pardubice Fakulta chemicko-technologická Katedra analytické chemie STATISTICKÉ ZPRACOVÁNÍ EXPERIMENTÁLNÍCH DAT Seminární práce Tvorba grafů v programu ORIGIN 3.3. Tvorba nelineárních regresních modelů v analýze dat květen 2016 Mgr. Kateřina Neudertová Hellebrandová, Ph.D Výzkumný ústav lesního hospodářství a myslivosti, v.v.i

2 Obsah Obsah 2.4. Tvorba grafů v programu ORIGIN... 3 Úloha 1. Využití předdefinovaných témat při úpravě grafu... 4 Úloha 2. Nelineární modely - nelineární prokládání v Origin... 5 Úloha 3. Lineární regrese v Origin... 9 Úloha 4. Vytvořte vícevrstvový graf s propojenými osami Úloha 5. Grafy exploratorní analýzy Krabicový graf Diagram rozptýlení Maticový graf Tvorba nelineárních regresních modelů v analýze dat Úloha 1. Nalezení vhodného růstového modelu Zadání Řešeni Návrh modelu Odhady parametrů Graf regresní křivky Základní statistické charakteristiky regrese Numerická analýza reziduí Konstrukce zpřesněného modelu Závěr Úloha 2. Nalezení parametrů alometrické funkce Zadání Řešeni Návrh modelu Odhady parametrů Graf regresní křivky Základní statistické charakteristiky regrese Analýza reziduí Konstrukce zpřesněného modelu Závěr... 36

3 2.4. Tvorba grafů v programu ORIGIN 2.4. Tvorba grafů v programu ORIGIN 3

4 2.4. Tvorba grafů v programu ORIGIN Úloha 1 Úloha 1. Pomocí Import Wizard naimportujte data Origin8/Samples/Import and Export/F2.dat. Z načtených dat vytvořte bodový graf tak, aby měl body velikosti 8 a prázdná kolečka, chybové úsečky tvořené sloupcem C, všechny 4 osy, pouze dolní X a levá Y budou popsány, všechny záseky Tick uvnitř, popisky grafu písmem Time New Roman, černé pozadí grafu. Využijte k tomu předdefinovaná témata a specifikujte, která jste použili. Řešení: Graf byl vytvořen dle zadání, následně byla použita tato předdefinovaná témata: Night Sky, Times New Roman font. Oposite lines, Ticks All in. Výsledný graf je zobrazen na obrázku 1. Obr. 1. Graf vytvoření pomocí předdefinovaných témat 4

5 2.4. Tvorba grafů v programu ORIGIN Úloha 2 Úloha 2. Načtěte data Origin8/Samples/Import and Export/S dat a vytvořte z nich bodový graf tak, aby na levé ose Y byla data Magnetic Field a na pravé ose Y data Position. Jednotlivé grafy od sebe barevně rozlište, body utvořte z prázdných koleček velikosti 5. Nelineárním prokládáním se pokuste nalézt alespoň dva nelineární modely pro každou křivku a uveďte, který z nich je lepší a vysvětlete také proč. Řešení: Graf obou křivek byl vytvořen pomocí příkazů Plot Multi Curve Double Y (obr. 2.1.). Obr Graf se dvěma osami Y Následně byly pomocí dialogového okna NonLinear Curve Fit vyhledány vhodné nelineární modely pro každou křivku z předdefinovaných funkcí. První křivka (Magnetic Field) byla proložena předefinovanými nelinárními funkcemi Boltzmann, Logistic a Slogistic1. Proložení je znázorněno na obrázku

6 2.4. Tvorba grafů v programu ORIGIN Úloha 2 Obr Nelineární modely pro data Magnetic Field Statistické charakteristiky a hodnota parametrů jsou pro všechny tři modely uvedeny v tabulce 2.1. U Logistického modelu a modelu Slogistic1 jsou všechny parametry statisticky významné. U Boltzmanova modelu byl parametr A1 označen jako statisticky nevýznamný (P=0,78). Jeho hodnota je ,84277 a směrodatná odchylka ,405. U zbývající dvou modelů (Logistic a Slogistic 1) překračuje regresní rabat 99%. Hodnota sumy reziduálního součtu čtverců i směrodatné odchylky je výrazně nižší u modelu Slogistic1. Tabulka 2.1. Statistické charakteristiky a parametry modelů pro data Magnetic Field Logistic y=a2+(a1-a2)/(1+(x/x0)^p) Boltzman y=a2+(a1-a2)/(1 + exp((x-x0)/dx)) Slogistic 1 y = a/(1 + exp(-k*(x-xc))) Statistické charakteristiky modelu: R 2 0, , ,9986 s(e) 0, , ,24501 RSC 169, , ,9993 Chi-sq 0, ,16942E-4 0,06003 Parametry modelu: A 99,92515 (0,00878) A1 63,99881 (0,125) ,84277 (414467,405) A2 100,45201 (0,021) 100,00286 (7,778E-4) x0 0,49593 (0,003) -4,95379 (2,229) p 1,84721 (0,012) dx xc 0,62153 (3,741E-4) -0,25216 (0,00168) k 1,97251 (0,00485) 6

7 2.4. Tvorba grafů v programu ORIGIN Úloha 2 Druhá křivka (Position) byla proložena předefinovanými nelinárními funkcem Gauss, Pearson VII a Bigaussian (obr. 2.3.) Obr Nelineární modely pro data Position Tabulka 2.2. Statistické charakteristiky a parametry modelů pro data Position Gauss y=y0+ (A/(w*sqrt(PI/2)))*exp(- 2*((x-xc)/w)^2) Statistické charakteristiky modelu: PearsonVII y = y0+ A * 2 * gamma(m)*sqrt(2^(1./m)-1) / ( sqrt(pi) * w * gamma(m - 0.5) ) * ( * (2^(1./m)-1) / w^2 * (x - xc)^2 )^(-m) R 2 99,964 99,964 99,965 s(e) 0,5775 0, ,57669 RSC 332, , ,9086 Chi-sq 0, ,3349 0,33257 Parametry modelu: Bigaussian if (x < xc) y = y0 + H*exp(-(x - xc)^2/(2*w1^2)); else y = y0 + H*exp(-(x - xc)^2/(2*w2^2)); y0 100,94887 (0,02305) 100,94252 (0,02511) 100,94882 (0,02304) xc 3,99931 (5,13431E-4) 3,99931 (5,15308E-4) 4,00168 (0,00131) w 1,40123 (0,00112) 1,64915 (0,00168) A 175,63329 (0,14072) 175,69684 (0,17194) m 170 (107,22224) w1 100,0088 (0,06542) w2 0,70271 (0,00119) H 0,69852 (0,00122) 7

8 2.4. Tvorba grafů v programu ORIGIN Úloha 2 Statistické charakteristiky a hodnota parametrů jsou pro všechny tři modely uvedeny v tabulce 2.2. U všech tří modelů jsou všechny parametry statisticky významné. Regresní rabat všech tří modelů překračuje 99%. Statistické charakteristiky modelu Bigaussian ukazují, že tento model má o něco lepší těsnost proložení, než dva zbývající. Závěr: Na základě porovnání statistických charakteristik modelů byl pro data Magnetic Field vybrán z testovaných modelů jako nejlepší model Slogistic 1, pro data Position model Bigaussian. 8

9 2.4. Tvorba grafů v programu ORIGIN Úloha 3 Úloha 3. Užitím příkladu E4.20 z Kompendia vytvořte 6 -ti vrstvý graf závislostí jednotlivých znaků cigaret. Pomocí lineární regrese pak rozhodněte, které znaky spolu korelují a proč. Nacházejí se v datech nějaké odlehlé hodnoty? Jak bude vypadat závislost po jejich odstranění (do stejného grafu)? Vysvětlete obdržené výsledky. Řešení: Šestivrstvý graf závislostí jednotlivých znaků cigaret byl vytvořen pomocí dialogového okna Multiple Panels by Lable. Následně byly jednotlivé vrstvy proloženy lineární funkcí (obr. 3.1.) V tabulce 3.1. jsou uvedeny parametry a statistiky lineárních modelů jednotlivých dvojic sledovaných znaků. Již z grafického znázornění na obrázku 3.1. je patrné, že spolu korelují následující dvojice znaků: TAR-NICOTINE, TAR-CO, NICOTINE-CO. To potvrzují také výsledky lineární regrese. Hodnoty Pearsonova korelačního koeficientu se u těchto tří modelů pohybují od 0,93 do 0,98, modely vysvětlují více než 85% variability v datech. Tabulka 3.1. Parametry a statistiky jednotlivých lineárních modelů Znaky Statistické charakteristiy modelu Všechna data Bez odlehlých hodnot Value St. Error Model Value St.Error Model a) TAR- NICOTINE Residual Sum of Squares 0,1391 Významný 0,1275 Významný Pearson's r 0,9766 0,9599 Adj. R-Square 0,9518 0,9178 Intercept 0,1309 0,0376 0,1653 0,0441 Slope 0,0610 0,0028 0,0577 0,0036 b) TAR-WEIGHT Residual Sum of Squares 0,1402 Významný 0,1335 Nevýznamný Pearson's r 0,4908 0,2835 Adj. R-Square 0,2078 0,0386 Intercept 0,8775 0,0377 0,9036 0,0451 Slope 0,0076 0,0028 0,0051 0,0037 c) TAR-CO Residual Sum of Squares 44,869 Významný 27,530 Významný d) NICOTINE- WEIGHT Pearson's r 0,9575 0,9662 Adj. R-Square 0, ,9304 Intercept 2,7433 0,6752 1,4129 0,6482 Slope 0,801 0,0503 0,9281 0,0528 Residual Sum of Squares 0, Významný 0,1333 Nevýznamný Pearson's r 0,5002 0,2861 Adj. R-Square 0,2176 0,0401 Intercept 0,8617 0,0422 0,8913 0,0531 Slope 0,1240 0,0447 0,0860 0,0611 e) NICOTINE-CO Residual Sum of Squares 76,895 Významný 55,508 Významný Pearson's r 0,9260 0,9305 Adj. R-Square 0,8512 0,8597 Intercept 1,6647 0,9936-0,238 1,0827 Slope 12,395 1, ,860 1,2471 f) WEIGHT-CO Residual Sum of Squares 423,09 Významný 373,94 Nevýznamný Pearson's r 0,4640 0,3102 Adj. R-Square 0,1811 0,0551 Intercept -11,795 9,7216-3,862 10,445 Slope 25,068 9, ,559 10,820 9

10 2.4. Tvorba grafů v programu ORIGIN Úloha 3 Obr Graf vzájemné závislosti jednotlivých znaků cigaret a) TAR-NICOTINE, b) TAR-WEIGHT, c) TAR- CO, d) NICOTINE-WEIGHT, e) NICOTINE-CO, f) WEIGHT-CO 10

11 2.4. Tvorba grafů v programu ORIGIN Úloha 3 Obr Graf vzájemné závislosti jednotlivých znaků cigaret po odstranění vlivného bodu z dat a) TAR- NICOTINE, b) TAR-WEIGHT, c) TAR-CO, d) NICOTINE-WEIGHT, e) NICOTINE-CO, f) WEIGHT-CO 11

12 2.4. Tvorba grafů v programu ORIGIN Úloha 3 U zbývající tři dvojice znaků - TAR-WEIGHT, NICOTINE-WEIGHT, WEIGHT-CO je již z grafů patrné, že korelace mezi nimi nebude významná, body v grafu tvoří neuspořádaný mrak. Regresní modely vysvětlují 18 22% variability v datech, hodnoty Pearsonova korelačního koeficientu se pohybují od 0,46 do 0,50. Směrnice regresních přímek a regresní modely jsou však statisticky významné u všech šesti dvojic znaků. Každý graf však obsahuje jeden vlivný bod (extrém). Po jeho vyloučení se průběh regresní přímky u dvojic znaků TAR-WEIGHT, NICOTINE-WEIGHT, WEIGHT-CO významně změní (obr 3.2.), sníží se hodnota koeficientu determinace a směrnice nové přímky není statisticky významně odlišná od nuly (tabulka 3.1.) Je tedy možné konstatovat, že korelace těchto znaků je výrazně ovlivněna touto jednou extrémní hodnotu v datech. Závěr: znaky TAR-NICOTINE, TAR-CO, NICOTINE-CO jsou spolu významně korelovány. Korelace znaů TAR-WEIGHT, NICOTINE-WEIGHT, WEIGHT-CO je silně ovlivněna jednou extrémní hodnotou v datech, po vypuštění tohoto odlehlého bodu není korelaci v těchto případech statisticky významná. 12

13 2.4. Tvorba grafů v programu ORIGIN Úloha 4 Úloha 4. Vytvořte vícevrstvový graf s propojenými osami. Zadání: V lesních horských povodích Malá Ráztoka, U vodárny a Červík je dlouhodobě sledován chemismus vody odtékající z povodí. Vytvořte graf, znázorňující koncentrace látek, které se podílejí na acidifikaci lesních ekosystémů (N-NH4 +, N-NO3 -, a S-SO4 2- ) v uzávěrovém profilu povodí v letech Řešení: Do programu Origin byla importována data ze sešitu programu excel, obsahující hodnoty koncentrací sledovaných látek v uzávěrovém profilu všech tří povodí. Následně bylo vytvořeno 9 grafů, které byly pomocí dialogového okna Merge graphs windows spojeny do jednoho devítivrstvého grafu s propojenými osami. U jednotlivých vrstev grafu bylo měněno formátování, formáty byly do dalších vrstev přenášeny pomocí příkazů Copy Past format. Výsledný graf je zobrazen na obrázku 4. 13

14 Obr. 4. Devítivrstvý graf s propojenými osami Koncentrace látek, způsobujících acidifikaci lesních ekosystémů v povrchových vodách malých lesních povodí a) Málá Ráztoka, b) Jeseník, c) Červík

15 2.4. Tvorba grafů v programu ORIGIN Úloha 5 Úloha 5. Grafy exploratorní analýzy Grafy exploratorní analýzy byly vytvořeny z hydrologických a hydrochemických dat experimentálního povodí Želivka Krabicový graf Krabicový graf představuje změny odtokového režimu na uzávěrovém profilu experimentálního povodí Želivka v jednotlivých měsících hydrologického roku na základě souhrnných měsíčních průtoků, měřených v letech V grafu jsou krabicemi znázorněny percentily (25 a 75), průměr a medián, vousy pak odlehlé body. U každé krabice jsou zobrazena experimentální data proložená křivkou normálního rozdělení (obr. 5.1.). Obr Odtok na uzávěrovém profilu experimentálního povodí Želivka v jednotlivých měsících hydrologického roku 15

16 2.4. Tvorba grafů v programu ORIGIN Úloha Diagram rozptýlení Diagram rozptýlení představuje průměrnou koncentraci látek rozpuštěných ve vodě na uzávěrovém profilu experimentálního povodí Želivka v roce 2005 (obr. 5.2.). Obr Průměrná koncentraci látek rozpuštěných ve vodě na uzávěrovém profilu experimentálního povodí Želivka v roce

17 2.4. Tvorba grafů v programu ORIGIN Úloha Maticový graf V maticovém grafu jsou znázorněny vztahy mezi koncentracemi bazických kationtů ve vzorcích vody odebíraných v experimentálním povodí Želivka v letech ve formě povrchové vody (stream), podkorunových srážek (troughfall) a srážek na volné ploše (bulk). Na diagonále maticového grafu jsou umístěny histogramy jednotlivých bazických kationtů. Obr Vztahy mezi koncentracemi bazických kationtů ve vzorcích vody odebíraných v experimentálním povodí Želivka v letech

18 3.3. Tvorba nelineárních regresních modelů v analýze dat 3.3. Tvorba nelineárních regresních modelů v analýze dat 18

19 3.3. Tvorba nelineárních regresních modelů v analýze dat Úloha 1 Úloha 1. Nalezení vhodného růstového modelu 1.1. Zadání Růstová funkce je matematickým vyjádřením růstu stromu v čase (závislost růstové veličiny y na čase (věku) t). Jejím grafickým obrazem je růstová křivka, která má typický průběh. V rámci projektu zaměřeného na výzkum výživy smrkových porostů byla v lokalitě Čachnov provedena úplná kmenová analýza šesti vzorníků. Po skácení stromu a odstranění větví byly kmeny vzorníkových stromů po změření celkové výšky stromu rozřezány na sekce o předem stanovené délce. Z každé sekce byl vyříznut kotouč pro další analýzu. Na základě počtu letokruhů na začátku a na konci každé sekce byla interpolací stanovena výška stromu v pětiletých intervalech pro celé období jeho růstu. Pro nalezení vhodného růstového modelu byly použity průměrné výšky pro jednotlivé věkové intervaly. Jaký růstový model nejlépe vystihuje růst smrku na lokalitě Čachnov? Tabulka 1.1. Vstupní data vzorník průměr věk Výška (m)

20 3.3. Tvorba nelineárních regresních modelů v analýze dat Úloha 1 Obr Vstupní data 1.2. Řešení Použitý software: ORIGIN Návrh modelu Byly testovány následující růstové funkce, běžně užívané v lesnictví: Gompertzova: y = Ae be ct Michailovova: y = Ae k t Mitscherlichova: y = A(1 e c t) m Logistická: y = A(1 + ce bt ) Chapmann-Richardsova: y = A(1 e (1 n)bt ) Korfova: y = Ae k (1 n)t n n 20

21 3.3. Tvorba nelineárních regresních modelů v analýze dat Úloha Odhadování parametrů Tabulka 1.2: Odhad parametrů regeresních modelů funkce parametr bodový odhad směrodatn á odchylka t - kritérium P dolní mez horní mez Gompertzova: A 28,2941 1, , , ,55251 c 0, , , , ,06627 Michailovova: A 54, , , , ,51441 k 67, , , , ,40954 Mitscherlichova: A 49,6128 2, , ,66134E-16 44, ,31082 c 0,0124 9,85772E-4 12, ,05449E-11 0, ,01445 m 1, , , , ,82069 Logistická: A 33, , , , ,16178 b 0, , , ,99361E-14 0, ,05082 c 15, , , ,67737E-8 11, ,36417 Chapmann- Richardsova: A 49, , , ,44089E-16 44, ,28135 n 0, , , ,05915E-13 0, ,4547 b 0, , , ,64867E-8 0, ,02598 Korfova: A 267, , , , , ,39661 k -5, , , ,1212E-7-7, ,79864 n 0, , , ,93845E-13 0, ,6839 Všechny parametry testovaných modelů splňují Sillenovo pravidlo - odhad parametru je větší než trojnásobek jeho směrodatné odchylky. Žádný z parametrů neobsahuje nulu v intervalu spolehlivosti. Všechny parametry jsou významné (tabulka 1.2) Je však třeba se zamyslet nad fyzikálním smyslem odhadnutých parametrů. Parametr A představuje v růstových funkcích asymptotu a ve fyzikálním smyslu je tedy možné jej hodnotit jako maximální dosaženou možnou výšku dřeviny. Jako maximální dosažitelná výška pro smrk se ve středoevropských podmínkách uvádí m. Z tohoto pohledu se nejreálnější jeví výsledky Mitscherlichova a Chapmann Richardsova modelu Graf regresní křivky Pro grafické posouzení vhodnosti modelů byl použit graf proložení experimentálních dat regresním modelem (obr. 1.2.) a grafy studentizovaných reziduí vynesených v závislosti na predikovaných hodnotách (obr. 1.3.). 21

22 3.3. Tvorba nelineárních regresních modelů v analýze dat Úloha 1 Obr Proložení experimentálních dat testovanými modely 22

23 3.3. Tvorba nelineárních regresních modelů v analýze dat Úloha 1 Obr Studentizovaná rezidua vs. predikce 23

24 3.3. Tvorba nelineárních regresních modelů v analýze dat Úloha 1 Gompertzůva funkce dává v mladším věku příliš nízké hodnoty oproti experimentálním datům. I v literatuře se uvádí, že je vhodné ji používat pro popis růstu stromu a porostu až od věku let, což odpovídá průniku regresní křivky s experimentálními daty na obrázku 1.2. Nízké hodnoty se však objevují i ve starším věku. Mnohem těsnější proložení experimentálními daty přináší funkce Michailovova, která však pro mladší věk rovněž dává nízké hodnoty. Logistický model naopak v mladším věku růst nadhodnocuje. U Mitscherlichova, Chapmann Richardsova a Korfova modelu vypadá průběh regresní křivky obdobně. Na základě grafického zhodnocení se zdá, že průběh horního konce křivky těchto tří modelů je ovlivněn jedním vlivným bodem a tak nedochází k určitému zpolštění křivky, které by odpovídalo pomalejšímu růstu stromů ve vyšším věku. Tento vlivný bod je patrný i v grafech reziduí Základní statistické charakteristiky regrese Tabulka 1.3: Statistické charakteristiky regresních modelů funkce RSC R 2 s(e) e Gompertzova: 180, , , Michailovova: 25, , , Mitscherlichova: 2, , , Logistická: 20, , , Chapmann-Richardsova: 2, , , Korfova: 2, , , Dle hodnot statistických charakteristik popisují experimentální data nejlépe Mitscherlichova a Chapmann- Richardsova funkce (jejichž statistiky jsou shodné) a dále funkce Korfova. Mají nejvyšší regresní rabat (99,99%, nejnižší směrodatnou odchylku i reziduální součet čtverců. Střední hodnota reziduí se blíží nule (tabulka 1.3.) Numerická analýza reziduí Numerická analýza reziduí byla provedena v programu Excel z hodnot studentizovaných reziduí (tab 1.4.) Aby mohla být potvrzena normalita reziduí, měla by se hodnota šikmosti blížit nule a hodnota špičatosti hodnotě tři. Normální rozdělení nevykazují rezidua žádné z testovaných funkcí. Tabulka 1.4: Výsledky numerické analýzy reziduí Směr. funkce odchylka Špičatost Šikmost Gompertzova: Michailovova: Mitscherlichova: Logistická: Chapmann-Richardsova: Korf:

25 3.3. Tvorba nelineárních regresních modelů v analýze dat Úloha Konstrukce zpřesněného modelu Z dat byl vyloučen vlivný bod č. č. 24 a byly odhadnuty parametry zpřesněných modelů. Odhady parametrů zpřesněného modelu Tabulka 1.5: Odhad parametrů zpřesněných regeresních modelů funkce parametr bodový odhad směrodatn á odchylka t - kritérium P dolní mez horní mez Gompertzova: A 27, , , , ,65571 c 0, , , , ,06772 Michailovova: A 53,3147 1, , , ,15124 k 66, , , , ,78157 Mitscherlichova: A 47, , , ,33227E-15 43, ,02834 c 0, , , ,16285E-11 0, ,01534 m 1, , , ,22045E-16 1, ,86749 Logistická: A 32, , , , ,96498 b 0, , , ,32117E-13 0, ,05294 c 16, , , ,99932E-8 12, ,89614 Chapmann- Richardsova: A 47, , , ,11022E-15 43, ,00446 n 0, , , ,00808E-13 0, ,46846 b 0, , , ,57383E-8 0, ,0283 Korfova: A 251, , , , , ,70178 k -5,6144 0, ,3908 3,10147E-6-7, ,78185 n 0,5986 0, , ,82707E-12 0, ,68258 Základní statistické charakteristiky zpřesněného modelu Tabulka 1.6: Statistické charakteristiky regresních modelů funkce RSC R 2 s(e) Gompertzova: 154, , ,71539 Michailovova: 21, , ,02039 Mitscherlichova: 1, , ,29425 Logistická: 16, , ,90238 Chapmann-Richardsova: 1, , ,29425 Korf: 2, , ,343 Po odstranění bodu č. 24 došlo k mírnému zlepšení sledovaných statistických charakteristik u všech modelů, výjimku tvoří R 2 u Korfova modelu. Nové proložení experimentálních dat regresními funkcemi je znázorněno na obrázku

26 3.3. Tvorba nelineárních regresních modelů v analýze dat Úloha 1 Obr Proložení experimentálních dat testovanými modely po odstranění vlivného bodu 26

27 3.3. Tvorba nelineárních regresních modelů v analýze dat Úloha Závěr Závěr: nejlepší proložení dat bylo dosaženo Mitscherlichovou a Chapmann-Richardsovou funkcí Zpřesněný model má tvar Mitscherlichova funkce: y = 47,58469 (±2,13026) (1 e 0,01319 (±0,00103) t ) 1,72205 (±0,06972) Chapmann-Richardsova funkce: y = 47,58697 (±2,11772) (1 e (1 0,41927 (±0,02358))0,02272 (±0,00268) t ) 1 1 n1 0,41927 (±0,02358) 27

28 3.3. Tvorba nelineárních regresních modelů v analýze dat Úloha 2 Úloha 2. Nalezení parametrů alometrické funkce 2.1. Zadání Pro výpočet nadzemní biomasy dřevin se používají tzv. alometrické rovnice, vytvořené na základě destruktivní analýzy dřevin. Jejich nejběžnější matematické formulace mají regresní formu nelineární exponenciální funkce nebo lineární funkce. Nejčastěji se v biometrických studiích používá exponenciální rovnice o dvou parametrech ( 0, 1) vyjadřující závislost pouze na výčetní tloušťce D. Nalezněte parametry alometrické funkce na základě nezávislého souboru empirických dat z 81 vzorníků buku pocházejících z 10 oblastí České republiky. Porovnejte řešení pomocí různého softwaru. Tabulka 2.1: Vstupní data vzorník výčetní tloušťka nadzemní biomasa celkem vzorník výčetní tloušťka nadzemní biomasa celkem 1 22, , ,7 1634, ,7 709,0 61 8,7 28,9 2 20, , ,1 3116, ,5 1024,6 62 8,1 23,5 3 19, , ,4 922, ,7 1004,7 63 8,9 25,0 4 19, , ,9 801, ,4 1368,3 64 8,3 19,9 5 21, , ,8 969, ,0 688, ,2 158,6 6 12,100 79, ,7 475, ,5 693, ,5 199,6 7 12,600 98, ,8 492, ,0 627, ,5 8 12,300 62, ,5 494, ,5 555, ,9 56,5 9 12,600 88, ,2 55, ,4 393, , ,300 51, ,2 55, ,1 491, ,9 57,9 11 9,300 40, ,5 57,7 51 7,5 20, ,4 45,6 12 9,800 41, ,3 526,1 52 7,5 21, ,7 48, ,400 51, ,3 787,8 53 7,4 21, ,5 3098,3 14 8,000 18, ,3 1121, ,6 1025, ,7 2275,9 15 7,300 25, ,7 6, ,2 1166, ,3 2595, ,9 627,3 36 8,1 26, ,1 947, ,3 390, ,5 953, ,0 92, ,2 341, ,2 361, ,7 1404, ,2 525, ,5 367, ,3 355, ,4 1261, ,5 609, ,5 344, ,1 57, ,2 1743, ,3 642,0 60 8,7 21, ,7 64, ,9 60,5 vzorník výčetní tloušťka nadzemní biomasa celkem vzorník výčetní tloušťka nadzemní biomasa celkem 28

29 3.3. Tvorba nelineárních regresních modelů v analýze dat Úloha 2 Obr Vstupní data 2.2. Řešení Použitý software: ORIGIN, ADSTAT, QC.EXPERT Návrh modelu Základní alometrická rovnice: y = AD b Odhadování parametrů Tabulka 2.2: Odhad parametrů regeresního modelu software parametr bodový odhad směrodatn á odchylka dolní mez horní mez ORIGIN a 0, ,0541 0, ,32785 b 2, , , ,46391 ADSTAT a 0, ,05509 b 2,3397 0, QC.EXPERT a 0, , , ,33097 b 2,3386 0, , ,

30 3.3. Tvorba nelineárních regresních modelů v analýze dat Úloha 2 Nalezené parametry modelů splňují Sillenovo pravidlo, tedy že odhad parametru je větší než trojnásobek jeho směrodatné odchylky. Žádný z parametrů neobsahuje nulu v intervalu spolehlivosti. Nalezené parametry jsou významné (tabulka 2.2) Graf regresní křivky Pro grafické posouzení vhodnosti modelů byl použit graf proložení experimentálních dat regresním modelem (obr. 2.2.) a grafy klasických reziduí vynesených v závislosti na predikovaných hodnotách (obr. 2.3.). Obr Proložení experimentálních dat alometrickou funkcí v programu Origin, ADStat a QC.Expert 30

31 3.3. Tvorba nelineárních regresních modelů v analýze dat Úloha 2 Obr 2.3. Rezidua vs. Predikce v programu Origin, ADStat a QC.Expert 31

32 3.3. Tvorba nelineárních regresních modelů v analýze dat Úloha Základní statistické charakteristiky regrese tabulka 2.3: Statistické charakteristiky regresních modelů software RSC R 2 s(e) AIC MEP ORIGIN 1,37E+06 0, ,7083 ADSTAT 1,37E+06 0, ,61 792, QC.EXPERT 1,37E+06 0, , , Dle hodnot statistických charakteristik regrese se výsledky získaných z jednotlivých programů nepatrně liší Analýza reziduí Numerická analýza reziduí Aby mohla být potvrzena normalita reziduí, měla by se hodnota šikmosti blížit nule a hodnota špičatosti hodnotě tři. Předpoklad normality však rezidua nesplňují. tabulka 2.4: Výsledky numerické analýzy reziduí Směr. software odchylka Špičatost Šikmost ORIGIN 1, , , ADSTAT 8,2685 0,97434 QC.EXPERT 8,1609 0, Cook-Weisbergův test heteroskedasticity Hodnota kritéria CW : 86, Kvantil Chi^2(1-alfa,1) : 3, Pravděpodobnost : 0 Závěr : Rezidua vykazují heteroskedasticitu! Jarque-Berrův test normality Hodnota kritéria JB : 101, Kvantil Chi^2(1-alfa,2) : 5, Pravděpodobnost : 0 Závěr : Rezidua nemají normální rozdělení! Waldův test autokorelace Hodnota kritéria WA : 14, Kvantil Chi^2(1-alfa,1) : 3, Pravděpodobnost : 0 Závěr : Autokorelace je významná Znaménkový test reziduí Hodnota kritéria Sg : 3, Kvantil N(1-alfa/2) : 1, Pravděpodobnost : 0, Závěr : V reziduích je trend! Závěry testů z programu QC.Expert potvrzují, že rezidua nemají normální rozdělení, vykazují heteroskedasticitu a autokorelace v datech je významná. 32

33 3.3. Tvorba nelineárních regresních modelů v analýze dat Úloha 2 Grafická analýza reziduí Obr Grafická analýza reziduí Na základě analýzy reziduí byly v datech identifikovány vlivné body 21,22,73,74,75 a 76, které byly pro konstrukci zpřesněného modelu odstraněny. 33

34 3.3. Tvorba nelineárních regresních modelů v analýze dat Úloha Konstrukce zpřesněného modelu Odhady parametrů zpřesněného modelu Tabulka 2.5: Odhad parametrů zpřesněného modelu software parametr bodový odhad směrodatn á odchylka dolní mez horní mez ORIGIN a 0, , , ,52964 b 2, , , ,38285 ADSTAT a 0,331 0,10127 b 2,2194 0,08528 QC.EXPERT a 0,3307 0, , , b 2,2196 0, , , Základní statistické charakteristiky zpřesněného modelu Tabulka 2.6: Statistické charakteristiky zpřesněného modelu RSC RSC R software nové 2 R 2 s(e)nové s(e) nové ORIGIN 1,37E , , ,71 87,33 AIC AIC nové MEP MEP nové ADSTAT 1,37E , , ,61 87,33 792,5 672, ,2 QC.EXPERT 1,37E , , ,71 87,33 792,6 672, ,1 Odhady parametrů i jejich směrodatné odchylky se opět u všech tří softwarů liší. I statistické charakteristiky regrese vykazují drobné odchylky. Po odstranění vlivných bodů z dat došlo k výraznému zlepšení hodnoty kritérií MEP i AIC, která považujeme za jedny z rozhodujících kritérií při posuzování kvality modelu. U všech tří programů došlo ke zhoršení hodnoty regresního rabatu. Nové proložení experimentálních dat regresní funkcí je znázorněno na obrázku

35 3.3. Tvorba nelineárních regresních modelů v analýze dat Úloha 2 Obr Proložení experimentálních dat alometrickou funkcí - zpřesněný model Vzhledem k tomu, že experimentální data svým charakterem nesplňují předpoklady pro regresi ani po odstranění vlivných bodů (rezidua vykazují heteroskedasticitu a nemají normální rozdělení) byly hodnoty nadzemní biomasy v dalším kroku převedeny na přirozený logaritmus (byl odstraněn ještě vlivný bod č. 35) a znovu testovány v programu QC.Expert. Nové odhady parametrů a statistické charakteristiky regrese pro zlogaritmovaná data jsou uvedeny v tabulce 2.7. a 2.8 Tabulka 2.7: Odhad parametrů zpřesněného modelu pro zlogaritmovaná data software parametr bodový odhad směrodatn á odchylka dolní mez horní mez QC.EXPERT a 0,3307 0, , , b 2,2196 0, , , QC.EXPERT (ln y) a 1, , , , b 0, , , , Tabulka 2.8: Statistické charakteristiky zpřesněného modelu pro zlogaritmovaná data RSC R 2 s(e) AIC MEP software QC.EXPERT , ,33 672,4 8227,1 QC.EXPERT(ln y 4,4041 0,9696 0, ,0631 Došlo k výraznému zlepšení všech statistických charakteristik regrese, rezidua mají nyní normální rozdělení a vykazují homoskedasticitu. 35

36 3.3. Tvorba nelineárních regresních modelů v analýze dat Úloha 2 Výsledné grafické vyjádření regresního modelu je na obrázku 2.6. Obr Proložení zlogaritmovaných experimentálních dat alometrickou funkcí 2.3. Závěr Nejlepší proložení dat bylo dosaženo po zlogaritmování hmotnosti nadzemní biomasy Zpřesněný model má tvar ln y = 1, (±0,043832) D 0,47632 (±0,010768) 36