Univerzita Pardubice Fakulta chemicko-technologická Katedra analytické chemie Licenční studium Statistické zpracování dat Semestrální práce Interpolace, aproximace a spline 2007 Jindřich Freisleben
Obsah 1 VÝPOČET CHARAKTERISTICKÉ HODNOTY C 90... 3 1.1 Výpočet hodnoty C 90 pro ukazatel CHSK Cr (interpolace)... 3 2 KŘIVKA POSTUPOVÝCH DOB PRŮTOKŮ (KPDP)... 4 2.1 Metoda těžišť (aproximace)... 4 2.1.1 Nalezení nových bodů... 6 2.1.2 Grafické zobrazení bodů... 7 2.2 Hledání tvaru KPDP (spline)... 8 2.2.1 Hledání vhodné metody spline a vhodného počtu uzlů... 8 2.2.2 Navržené modely spline... 9 LITERATURA... 11 2
1 Výpočet charakteristické hodnoty C 90 Pro klasifikaci jakosti povrchových vod dle normy ČSN 75 7221 [1] je nutné vypočítat charakteristickou hodnotu C 90. Jedná se o hodnotu s pravděpodobností nepřekročení 90 %. Z definice plyne, že hodnota C 90 je v podstatě výběrovým kvantilem (konkrétně 90-tý percentil či 9-tý decil) s přesně stanoveným postupem výpočtu. Pokud je počet stanovených hodnot sledovaného ukazatele jakosti vody vyšší než 23, pak se při výpočtu C 90 postupuje právě podle přílohy A výše zmíněné normy. Tabulka 1: Data [2] datum odběru CHSK Cr [mg/l] 10.1.2005 15.3 2.2.2005 11.7 7.3.2005 13.3 4.4.2005 13.4 2.5.2005 21.5 7.6.2005 24.5 11.7.2005 24.2 1.8.2005 20.8 5.9.2005 18.4 3.10.2005 11.9 1.11.2005 14.5 5.12.2005 9.4 4.1.2006 12.1 6.2.2006 9.5 6.3.2006 14.9 10.4.2006 16.4 2.5.2006 14.2 5.6.2006 18 10.7.2006 31 1.8.2006 28 4.9.2006 17 2.10.2006 18 6.11.2006 16 4.12.2006 11 1.1 Výpočet hodnoty C 90 pro ukazatel CHSK Cr (interpolace) Vypočítáme charakteristickou hodnotu C 90 pro ukazatel CHSK Cr (Chemická spotřeba kyslíku dichromanem) stanoveném ve vzorcích vody odebraných v letech 2005 až 2006 na říčním profilu Srbsko (řeka Berounka). Pro n = 24 se užívá následujícího výpočtu: n 24 n je četnost stanovení P 90% P je zvolená pravděpodobnost 100 P 100 90 k ( n 0.4) 0.3 (24 0.4) 0.3 2.74 3 100 100 k je pomocná proměnná, která se vyjadřuje hodnotou zaokrouhlenou na celé číslo nahoru 3
100 P 100 90 dp k ( n 0.4) 0.3 3 100 100 (24 0.4) 0.3 0.26 d pomocná proměnná P Ck C 3 24.5 C k je k-tá hodnota v sestupné řadě n dat C C C k 1 je (k 1)-tá hodnota v sestupné řadě n dat k 1 2 28 C ( d C ) (1 d ) C (0.26 28) (1 0.26) 24.5 25.41 p P k 1 P k Cp C 90 25.41 Hledaná charakteristická hodnota C 90 pro stanovení CHSK Cr na řece Berounce v lokalitě Srbsko je rovna 25.41 mg/l. 2 Křivka postupových dob průtoků (KPDP) Při sledování dvou říčních profilů slouží KPDP k vyjádření vztahu mezi vodním stavem H (výškou hladiny) popř. průtokem na horním profilu a postupovou dobou t (čas, který uplyne mezi výskytem vrcholu v horním a dolním profilu). KPDP má charakteristický průběh pro sledovanou řeku či úsek toku, jde o konvexní křivku jejíž tvar je zhruba zobrazen v grafu 1. Graf 1: Křivka postupových dob průtoků [3] 2.1 Metoda těžišť (aproximace) Protože reálné hodnoty postupových dob a říčních stavů v grafu závislosti jednoho na druhém vytváří obvykle velmi rozptýlený mrak bodů, užíval se v hydrologii dříve velmi často způsob redukce bodů metodou těžišť. Jedná se o aproximaci skutečné závislosti křivkou proloženou nově nalezenými body. Nové body: A. Z původních bodů byly vytvořeny dvojice. První dvojici tvořily body s nejmenší vzdáleností (tedy dva nejbližší body). Druhou dvojici body s druhou nejmenší vzdáleností. Třetí dvojici body s třetí nejmenší vzdáleností atd. B. Novými body jsou pak středy úseček nalezených dvojic původních bodů. V případě že nalezneme trojici stejně vzdálených bodů, pak novým bodem je těžiště trojúhelníka. 4
C. Jestliže po spárování bodů jeden zbude, pak je sám jedním z nových bodů, popř. vytvoří trojici s nejbližší dvojicí bodů a hledaný nový bod je opět těžiště trojúhelníka. Tento postup byl nezřídka vícekrát opakován do získání vizuálně snáze odhadnutelné závislosti. Metodu aplikujeme na data získaná v letech 1979 2002 na dvou profilech řeky Úhlavy (Klatovy - Tajanov a Štěnovice). Tabulka 2: Data [3] datum H [cm] t [h] datum H [cm] t [h] datum H [cm] t [h] 1 10.3.1979 216 18.5 41 2.10.1990 73 13 81 16.9.1998 116 7.5 2 12.3.1979 232 18 42 12.8.1991 150 11 82 16.9.1998 118 14.75 3 7.6.1979 126 13.5 43 13.8.1991 47 12 83 2.10.1998 108 15.25 4 18.6.1979 274 15 44 18.8.1991 93 12 84 13.10.1998 141 12.5 5 22.7.1980 277 19 45 18.12.1991 57 17 85 1.11.1998 282 7.5 6 9.12.1981 260 19 46 29.4.1992 149 11.5 86 13.12.1998 143 14 7 31.12.1981 241 17.75 47 21.12.1993 288 13 87 18.12.1998 119 11 8 11.3.1982 113 12 48 1.1.1994 188 23 88 12.1.1999 104 11 9 17.12.1982 164 14.5 49 19.7.1994 72 11.5 89 21.5.1999 117 13 10 31.12.1982 172 14 50 21.7.1994 50 15 90 14.7.1999 154 11 11 1.2.1983 155 15.5 51 4.9.1994 70 14.5 91 4.9.1999 45 16.5 12 7.2.1984 163 12.75 52 9.7.1996 248 24.5 92 4.9.1999 93 14 13 22.5.1984 156 12 53 12.7.1996 230 9.5 93 27.12.1999 193 13 14 28.5.1984 205 17 54 3.8.1996 119 10 94 30.1.2000 148 13.5 15 10.9.1984 172 11.75 55 3.8.1996 127 11.75 95 31.1.2000 91 12 16 16.9.1984 187 12.5 56 21.10.1996 214 16.5 96 31.1.2000 157 8 17 17.9.1984 207 23.75 57 28.10.1996 135 11.5 97 1.3.2000 153 12 18 17.1.1986 174 11.75 58 6.11.1996 96 12 98 31.3.2000 221 13 19 24.1.1986 252 21.5 59 8.11.1996 115 12.25 99 8.10.2000 186 10 20 25.3.1986 190 15.25 60 20.11.1996 133 14.7 100 6.2.2001 192 10 21 22.5.1986 267 10 61 20.12.1996 113 9 101 23.3.2001 276 22 22 23.10.1986 216 25 62 19.3.1997 152 13.25 102 5.4.2001 119 11 23 3.11.1986 89 14.5 63 19.5.1997 100 12.5 103 22.4.2001 288 25 24 19.12.1986 131 23.75 64 21.5.1997 88 11.5 104 18.5.2001 104 12.5 25 19.3.1987 143 12.5 65 20.6.1997 55 14 105 18.8.2001 112 15.5 26 29.3.1987 218 19.5 66 20.6.1997 127 13.75 106 1.9.2001 133 13 27 5.5.1987 114 13.75 67 11.7.1997 150 14.5 107 29.12.2001 184 13 28 5.5.1987 195 11.5 68 18.7.1997 55 15 108 22.3.2002 269 12.5 29 2.7.1987 252 23 69 26.7.1997 165 12.75 109 23.3.2002 284 7 30 10.2.1988 135 11.25 70 8.8.1997 64 12 110 28.5.2002 110 6 31 16.3.1988 281 13.5 71 8.8.1997 158 9.5 111 24.6.2002 238 18 32 26.4.1988 116 10.5 72 9.8.1997 103 11.25 112 16.7.2002 100 9.5 33 3.9.1988 83 13 73 9.8.1997 113 12 113 13.8.2002 362 7 34 5.12.1988 264 25 74 6.9.1997 50 17 114 1.9.2002 282 27 35 18.4.1989 129 10.5 75 6.9.1997 96 14.5 115 23.11.2002 247 7.5 36 8.7.1989 144 18 76 7.9.1997 50 20 116 23.11.2002 265 14 37 16.12.1989 183 10.5 77 17.3.1998 145 11 117 22.12.2002 82 6 38 26.1.1990 140 12.25 78 13.6.1998 103 6.9 118 30.12.2002 270 21 39 27.2.1990 217 18.25 79 12.9.1998 92 13.5 40 23.9.1990 73 16.25 80 15.9.1998 50 16 5
2.1.1 Nalezení nových bodů Tabulka 3: Nové body 1. krok 2. krok dvojice bodů nové body dvojice bodů nové body d d H t H t H t H t H t H t 113 12 113 12 0.0000 113 12 157.5 8.75 157.5 8.75 0.0000 157.5 8.75 119 11 119 11 0.0000 119 11 92 12 92 11.75 0.0128 92 11.875 91 12 93 12 0.0063 92 12 136.5 12.625 142 12.5 0.0240 139.25 12.5625 141 12.5 143 12.5 0.0063 142 12.5 147 11.25 152 11 0.0246 149.5 11.125 163 12.75 165 12.75 0.0063 164 12.75 92.5 14.5 93.5 15 0.0259 93 14.75 172 11.75 174 11.75 0.0063 173 11.75 128 11.125 135 11.375 0.0321 131.5 11.25 153 12 156 12 0.0095 154.5 12 113 12 116 12.625 0.0344 114.5 12.3125 135 11.25 135 11.5 0.0119 135 11.375 99 6.75 106.5 6.45 0.0351 102.75 6.6 103 11.25 104 11 0.0123 103.5 11.125 117.5 10.25 119 11 0.0389 118.25 10.625 126 13.5 127 13.75 0.0123 126.5 13.625 216.5 18.375 225 18.75 0.0406 220.75 18.5625 216 18.5 217 18.25 0.0123 216.5 18.375 47.5 16.25 53.5 17 0.0459 50.5 16.625 100 12.5 104 12.5 0.0126 102 12.5 146.5 14.25 150 13.375 0.0471 148.25 13.8125 150 11 154 11 0.0126 152 11 189 10 189 11 0.0512 189 10.5 238 18 241 17.75 0.0152 239.5 17.875 154.5 12 164 12.75 0.0554 159.25 12.375 50 15 55 15 0.0158 52.5 15 125.5 14.725 126.5 13.625 0.0564 126 14.175 108 15.25 112 15.5 0.0173 110 15.375 52.5 15 62.5 14.25 0.0570 57.5 14.625 148 13.5 152 13.25 0.0173 150 13.375 168 14.25 172.5 15.375 0.0606 170.25 14.8125 186 10 192 10 0.0189 189 10 102 12.5 103.5 11.125 0.0706 102.75 11.8125 50 17 57 17 0.0221 53.5 17 78 13 92.5 13.75 0.0721 85.25 13.375 89 14.5 96 14.5 0.0221 92.5 14.5 173 11.75 185.5 12.75 0.0734 179.25 12.25 92 13.5 93 14 0.0240 92.5 13.75 269.5 14.5 284.5 13.25 0.0899 277 13.875 282 7.5 284 7 0.0246 283 7.25 252 22.25 273 21.5 0.0964 262.5 21.875 116 10.5 119 10 0.0256 117.5 10.25 239.5 17.875 268.5 19 0.1350 254 18.4375 184 13 187 12.5 0.0256 185.5 12.75 256 24.75 285 26 0.1378 270.5 25.375 145 11 149 11.5 0.0269 147 11.25 204.5 9.5 238.5 8.5 0.1520 221.5 9 45 16.5 50 16 0.0286 47.5 16.25 207 13 209.5 16.75 0.1921 208.25 14.875 73 13 83 13 0.0315 78 13 97 19 110 15.375 0.1933 103.5 17.1875 143 14 150 14.5 0.0325 146.5 14.25 68 11.75 106.5 9.25 0.2065 87.25 10.5 281 13.5 288 13 0.0325 284.5 13.25 268 11.25 283 7.25 0.2141 275.5 9.25 64 12 72 11.5 0.0347 68 11.75 159.5 23.375 211.5 24.375 0.2248 185.5 23.875 88 11.5 96 12 0.0347 92 11.75 164 14.5 172 14 0.0347 168 14.25 115 12.25 117 13 0.0363 116 12.625 H vodní stav (výška hladiny) v cm 205 17 214 16.5 0.0371 209.5 16.75 t postupová doba v h 133 13 140 12.25 0.0420 136.5 12.625 d vzdálenost bodů 118 14.75 133 14.7 0.0474 125.5 14.725 100 9.5 113 9 0.0474 106.5 9.25 2 2 103 6.9 110 6 0.0482 106.5 6.45 H1 H2 t1 t 270 21 276 22 0.0512 273 21.5 2 d 55 14 70 14.5 0.0530 62.5 14.25 Hmax Hmin tmax tmin 260 19 277 19 0.0536 268.5 19 265 14 274 15 0.0554 269.5 14.5 248 24.5 264 25 0.0558 256 24.75 127 11.75 129 10.5 0.0599 128 11.125 H1 H2 t1 t2 H 3 t 183 10.5 195 11.5 0.0608 189 11 3 2 2 207 23.75 216 25 0.0659 211.5 24.375 252 21.5 252 23 0.0714 252 22.25 157 8 158 9.5 0.0715 157.5 8.75 index 1 jeden bod z nalezené dvojice 218 19.5 232 18 0.0840 225 18.75 index 2 druhý bod z nalezené dvojice 193 13 221 13 0.0883 207 13 index 3 nový bod 282 27 288 25 0.0971 285 26 max maximální hodnota ze všech bodů 230 9.5 247 7.5 0.1093 238.5 8.5 min minimální hodnota ze všech bodů 155 15.5 190 15.25 0.1111 172.5 15.375 267 10 269 12.5 0.1192 268 11.25 82 6 116 7.5 0.1289 99 6.75 73 16.25 114 13.75 0.1758 93.5 15 131 23.75 188 23 0.1833 159.5 23.375 50 20 144 18 0.3114 97 19 47 12 362 7 1.0218 204.5 9.5 6
2.1.2 Grafické zobrazení bodů Graf 2: KPDP (Úhlava) původní body [4] Graf 3: KPDP (Úhlava) body po 1. kroku [4] 7
Graf 4: KPDP (Úhlava) body po 2. kroku [4] Po dvojím opakování postupu metody těžišť dostáváme body blíže u sebe, snížil se vliv extrémů. Rovněž lze lépe odhadnout pravděpodobný tvar křivky prokládající body. Tato metoda nacházela uplatnění zejména v dřívějších dobách, kdy byl tvar křivky KPDP hledán bez využití výpočetní techniky a bylo tudíž žádoucí zredukovat počet bodů z důvodu snazšího prokládání křivky metodou nejmenších čtverců. 2.2 Hledání tvaru KPDP (spline) Pokusíme se metodou spline nalézt křivku nejlépe prokládající body získané po druhém kroku metody těžišť z předchozího příkladu. Kvadratický (resp. Kubický) spline je proložení bodů více polynomy druhého (resp. třetího) stupně, spojenými v uzlových bodech 2.2.1 Hledání vhodné metody spline a vhodného počtu uzlů Tabulka 4: Charakteristiky regrese [5] Metoda Počet uzlů RSC Me Mer [%] S 2 (e) S(e) 0 457.10 2.9049 20.104 16.930 4.1146 1 430.72 2.7644 19.185 16.566 4.0701 Kvadratická 2 430.99 2.7259 18.994 17.240 4.1521 3 423.52 2.6223 18.438 17.647 4.2008 4 398.02 2.5538 18.188 17.305 4.1600 0 428.12 2.7273 19.014 16.466 4.0579 Kubická 1 424.97 2.6918 18.773 16.999 4.1230 2 412.20 2.5283 17.940 17.175 4.1443 3 381.61 2.5125 17.989 16.592 4.0733 RSC Reziduální suma čtverců Me Průměr absolutních hodnot reziduí Mer [%] Průměr relativních reziduí S 2 (e) Odhad reziduálního rozptylu S(e) Odhad směrodatné odchylky reziduí 8
Rozhodčím kritériem pro určení nejvhodnější metody a optimálního počtu uzlů je průměr relativních reziduí (Mer). Bohužel na nevhodnost modelů s nižšími hodnotami Mer poukazovala skutečnost, že predikční pásy okolo kalibrační křivky jsou méně plynulé s častým výskytem prudkých změn jejich šířky (špatná predikční schopnost modelů). Jako nejvhodnější model byl proto vybrán kubický spline bez uzlových bodů (tedy prostý polynom 3. stupně) z důvodu minimální hodnoty odhadu reziduálního rozptylu S 2 (e). Obdobně dobré proložení vykazuje i kvadratický spline s 1 uzlovým bodem. 2.2.2 Navržené modely spline Kvadratický spline s 1 uzlovým bodem Pro H = 50.5 až 163.72 Y = 8.6956E-04 X 2 2.1208E-01 X + 2.4589E+01 Pro H = 163.72 až 277 Y = 3.4223E-04 X 2 + 1.8478E-01 X 7.9043E+00 Graf 5: Kvadratický spline s 1 uzlovým bodem [5] 9
Kubický spline, bez uzlových bodů (prostý polynom 3. stupně) Pro H = 50.5 až 277 Y = 3.9797E-06 X 3 + 2.2236E-03 X 2 3.5539E-01 X + 2.9225E+01 Graf 6: Kubický spline bez uzlových bodů (prostý polynom 3. stupně) [5] Nalezený tvar křivky, co by polynomu 3. stupně, sice nekoresponduje přesně s teoretickou představou tvaru KPDP (Graf 1), ale je ve shodě s obvyklým tvarem regresí získávaných modelů a to včetně lokálního maxima na pravém konci křivky. Minimum na křivce značí vylití řeky ze břehů, čímž logicky následuje snížení rychlosti toku, protože část vody zaplavuje okolí. Po zaplavení okolí výškově blízkého výši břehů vedou další přírůstky množství vody k opětovnému zvyšování průtoku, což odpovídá lokálnímu maximu na pravé straně křivky. 10
Literatura [1] ČSN 75 7221: Jakost vod Klasifikace jakosti povrchových vod [2] Český hydrometeorologický ústav databáze jakosti vody (http://hydro.chmi.cz/ojv) [3] Němečková S.: Analýza faktorů působících na postupovou dobu průtoků na vodních tocích v povodí Berounky a Sázavy. Univerzita Karlova v Praze, Přírodovědecká fakulta, magisterská práce, Praha 2005. [4] Microsoft Excel (http://www.microsoft.com/cze) [5] ADSTAT 1.25 (http://www.trilobyte.cz) [6] Meloun M., Militký J.: Kompendium statistického zpracování dat. Academia, Praha 2002. [7] Meloun M., Militký J.: Statistické zpracování dat. East publishing, Praha 1998. 11